AutoFair

Συμβατή με τον Άνθρωπο Τεχνητή Νοημοσύνη με Εγγυήσεις
Ενεργό
Eρευνητικό Έργο - Ευρωπαϊκό
  • Υπεύθυνος ΙΠΣΥ: Ιωάννης Εμίρης
  • Ημερομηνία έναρξης: 01-10-2022
  • Διάρκεια: 36 μήνες
  • Πρόγραμμα: Horizon Europe
  • Χρηματοδότηση: 3.3 M Euro
  • Χρηματοδότηση ΙΠΣΥ: 496 K Euro
  • Ιστοσελίδα έργου: https://humancompatible.org/
  • Συνεργάτες: CESKE VYSOKE UCENI TECHNICKE V PRAZE ATHINA-EREVNITIKO KENTRO KAINOTOMIAS STIS TECHNOLOGIES TIS PLIROFORIAS, TON EPIKOINONION KAI TIS GNOSIS IBM IRELAND LIMITED TECHNION - ISRAEL INSTITUTE OF TECHNOLOGY WORKABLE SOFTWARE SINGLE MEMBER PRIVATE COMPANY ETHNIKO KAI KAPODISTRIAKO PANEPISTIMIO ATHINON DATEIO S.R.O IMPERIAL COLLEGE OF SCIENCE TECHNOLOGY AND MEDICINE
Το AutoFair καταπιάνεται με τη σχεδίαση και υλοποίηση δίκαιων, εξηγήσιμων και διάφανων αλγορίθμων. Στόχος του είναι να παραγάγει μεθόδους οι οποίες θα μπορούν να εγγυηθούν ότι αλγόριθμοι Τεχνητής Νοημοσύνης (ΤΝ) δεν ευνοούν κανέναν. Η λήψη αποφάσεων εμπεριέχει διάφορα ρίσκα όταν οι αλγόριθμοι ΤΝ χρησιμοποιούνται ως μαύρα κουτιά: μπορεί να ικανοποιούν μία μεγάλη μερίδα ανθρώπων, αλλά ταυτόχρονα να αποδίδουν πολύ άσχημα για μικρότερες ομάδες. Το AutoFair οραματίζεται τη βελτίωση των αλγορίθμων, αλλά ταυτόχρονα και την εκπαίδευση των χρηστών πάνω στις θεματικές του. Για αυτό το σκοπό, αξιοποιεί γνώση από τις επιστήμες των υπολογιστών και των δεδομένων, τη θεωρία ελέγχου, τη βελτιστοποίηση, καθώς και άλλες επιστημονικές περιοχές, συμπεριλαμβανομένων της ηθικής και της νομοθεσίας. Τρεις περιπτώσεις χρήσης θα εξεταστούν, οι οποίες θα αξιολογήσουν τα αποτελέσματα του έργου στην αυτοματοποίηση του ελέγχου δικαιοσύνης σε διαδικασίες πρόσληψης, στην εξάλειψη της προκατάληψης στη διαφήμιση, και στην εξάλειψη της προκατάληψης στους πελάτων τραπεζικών προϊόντων.