Αλγόριθμοι αναγνωρίζουν σεξουαλικές προτιμήσεις και καλυμμένα πρόσωπα. Controversial AI Beats Humans at Detecting Sexual Orientation

Φόβοι για παραβίαση της ιδιωτικότητας. An algorithm deduced the sexuality of people on a dating site with up to 91% accuracy, raising tricky ethical questions. An illustrated depiction of facial analysis technology similar to that used in the experiment. Illustration: Alamy

Δύο νέοι αλγόριθμοι αποδεικνύονται ικανότεροι του ανθρώπου στην αναγνώριση προσώπων. Ο ένας μπορεί να διακρίνει τις σεξουαλικές προτιμήσεις του ατόμου και ο άλλος τα χαρακτηριστικά του προσώπου ακόμα κι αν είναι καλυμμένα από μάσκα.

Το πρώτο σύστημα τεχνητής νοημοσύνης δημιουργήθηκε από ερευνητές του Πανεπιστημίου Στάνφορντ με επικεφαλής τον Μάικλ Κοζίνσκι και παρουσιάστηκε στο Journal of Personality and Social Psychology.

Aggregate appearances and composite faces created by the researchers of feature classified as "most and least likely to be gay." Credit: Michael Kosinski/Yilun Wang

Το σύστημα βασίζεται στην παραδοχή ότι συχνά οι ομοφυλόφιλοι άνδρες έχουν ορισμένα χαρακτηριστικά και εκφράσεις προσώπου διαφορετικά από τους ετεροφυλόφιλους, όπως μεγαλύτερη θηλυκότητα, πιο στενό σαγόνι, πιο μακριά μύτη, μεγαλύτερο μέτωπο κ.α. Από την πλευρά τους, οι ομοφυλόφιλες γυναίκες έχουν συχνότερα μεγαλύτερη γνάθο και μικρότερο μέτωπο σε σχέση με τις ετεροφυλόφιλες.

Τα πειράματα έδειξαν ότι ο αλγόριθμος μπορεί να αναλύσει φωτογραφίες προσώπων και να διακρίνει τους ομοφυλόφιλους από τους ετεροφυλόφιλους με ποσοστό επιτυχίας 81% στους άνδρες και 74% στις γυναίκες. Όταν μάλιστα το λογισμικό «διάβασε» όχι μία αλλά πέντε φωτογραφίες του ίδιου προσώπου, τότε τα ποσοστά επιτυχίας του ανέβηκαν σε 91% και 83%.

 

Deep neural networks were used to extract features. Credit: Michael Kosinski/Yilun Wang

Συγκριτικά, άνθρωποι που μελέτησαν τα ίδια πρόσωπα είχαν αντίστοιχα ποσοστά επιτυχίας 61% και 54%. Σύμφωνα με τους ερευνητές, «τα πρόσωπα περιέχουν πολύ περισσότερες πληροφορίες σχετικά με το σεξουαλικό προσανατολισμό από όσες είναι δυνατό να αντιληφθεί και να ερμηνεύσει ο ανθρώπινος εγκέφαλος».

Να σημειωθεί ότι στο πείραμα δεν συμπεριλήφθηκαν αμφισεξουαλικά και διεμφυλικά άτομα. Όμως, οι νέες δυνατότητες της τεχνητής νοημοσύνης ήδη γεννούν ανησυχίες για την πιθανή κατάχρησή τους, είτε για ευρεία παραβίαση της ιδιωτικότητας των ανθρώπων, είτε για διακρίσεις από αυταρχικές κυβερνήσεις και εταιρείες σε βάρος της κοινότητας των ΛΟΑΤ.

Ο κίνδυνος, μεταξύ άλλων, είναι να καθιερωθεί η δημιουργία ενός αυτόματου ψυχολογικού «προφίλ» των ανθρώπων, που θα περιλαμβάνει εκτιμήσεις του υπολογιστή για το σεξουαλικό προσανατολισμό τους, αλλά και για άλλα πράγματα, από τα στοιχεία-κλειδιά της προσωπικότητάς τους και τις πιθανές εγκληματικές τάσεις τους έως τις πολιτικές πεποιθήσεις του καθενός (οπότε θα μπορεί να συλλαμβάνεται προληπτικά).

Ο δεύτερος αλγόριθμος καταφέρνει να αναγνωρίσει κάποιον ακόμη κι αν αυτός φοράει μαύρα γυαλιά, μαντήλι στο στόμα, κατεβασμένο καπέλο ή απλή μάσκα.

It's now possible to use AI to identify protesters who are masked or otherwise wear disguises.

Οι δοκιμές με 2.000 φωτογραφίες ατόμων που φορούσαν καπέλα, γυαλιά, σηκωμένα φουλάρια και ψεύτικα μούσια, έδειξαν ότι ο αλγόριθμος μηχανικής μάθησης έχει ποσοστό επιτυχίας 77% για όσους φοράνε μαντήλι, 69% για όσους φοράνε μαντήλι και καπέλο και 55% για όσους φοράνε μαντήλι, καπέλο και μαύρα γυαλιά.

Οι ερευνητές του Πανεπιστημίου του Κέιμπριτζ, με επικεφαλής τον Αμαρτζότ Σινγκ, έκαναν ήδη μια προδημοσίευση και πρόκειται να παρουσιάσουν επίσημα το νέο σύστημα αναγνώρισης προσώπου στη Διεθνή Συνδιάσκεψη για την Υπολογιστική Όραση στην Ιταλία τον Οκτώβριο, σύμφωνα με το New Scientist.

Το σύστημα, που βασίζεται στην ανάλυση 14 χαρακτηριστικών-κλειδιών του προσώπου, θα μπορούσε να βρει πολλές χρήσεις, από τον εντοπισμό εγκληματιών έως ανεπιθύμητων διαδηλωτών. Αρκεί στον αλγόριθμο να «διαβάσει» έστω ένα μέρος από αυτά τα 14 χαρακτηριστικά, ιδίως γύρω από τα μάτια και το στόμα, για να μαντέψει την ταυτότητα του ανθρώπου.

«Κατ' ουσίαν το σύστημα μπορεί να δει διαμέσου της μάσκας», εξηγεί ο Δρ Σινγκ, ο οποίος προσθέτει ότι οι έρευνες θα επεκταθούν για να μελετηθεί κατά πόσο το σύστημα μπορεί να γίνει ικανό να αναγνωρίσει κάποιον που φορά άκαμπτη πλαστική μάσκα.

Παραδέχεται πάντως, ότι το σύστημα «κατά κάποιο τρόπο παραβιάζει την ιδιωτικότητα των ανθρώπων» και μπορεί να αξιοποιηθεί δεόντως από αυταρχικές κυβερνήσεις.

Όλο και περισσότερες υπηρεσίες ασφαλείας ανά τον κόσμο καταφεύγουν σε λογισμικά αυτόματης αναγνώρισης προσώπου τόσο μέσα από φωτογραφίες όσο και από βίντεο. Προς το παρόν, κανένα σύστημα διεθνώς (από όσα τουλάχιστον είναι γνωστά) δεν θεωρείται τέλειο.

Πηγές: https://osf.io/zn79k/ - https://arxiv.org/pdf/1708.09317.pdf - http://www.tovima.gr/science/article/?aid=899601