Modele AI przenoszą ludzkie uprzedzenia. Badanie o ocenie twarzy
Cztery duże modele językowe oceniały kompetencje i wiarygodność na podstawie twarzy tak jak ludzie, a wnioski były błędne.
Modele sztucznej inteligencji powielają ludzkie uprzedzenia dotyczące wyglądu, a w badaniu z udziałem czterech dużych modeli językowych wszystkie cztery popełniły te same błędy w ocenie kompetencji i wiarygodności. Wynik opublikowano w sierpniu 2026 roku w czasopiśmie PNAS Nexus.
Skąd wzięło się to badanie?
Punktem wyjściowym były eksperymenty przeprowadzone w 2006 roku przez Janine Willis i Alexandra Todorova z Uniwersytetu Princeton. Pokazywały one, że ludzie wyrabiają sobie opinię o nieznajomych już po ułamku sekundy. Oceny wystawiano po 1/10 sekundy oglądania twarzy, a wydłużenie czasu patrzenia nie zmieniało samych ocen, lecz zwiększało pewność, z jaką je wystawiano.
Nowe badanie sprawdziło, czy podobne mechanizmy pojawiają się w systemach AI. Naukowcy przetestowali cztery duże modele językowe i porównali ich wybory z ocenami ludzi.
Jak modele oceniały twarze?
Modele wybierały twarze, które ludzie uznawali za bardziej kompetentne, oraz te, które oceniano jako bardziej wiarygodne. Innymi słowy, system nie miał dostępu do wiedzy o danej osobie, a mimo to kierował się tym, jak twarz wygląda w oczach przeciętnego obserwatora.
Najbardziej niepokojące jest to, że wszystkie cztery modele wyciągały błędne wnioski o kompetencji i wiarygodności. Wygląd został potraktowany jako wskazówka tam, gdzie nie powinien być żadną podstawą do decyzji.
| Kontekst decyzji | Zachowanie modeli |
|---|---|
| Wybór rektora | Częstszy wybór kandydatów o twarzach uznawanych za kompetentne |
| Finansowanie start-upu | Częstszy wybór kandydatów o twarzach uznawanych za kompetentne |
| Zarządzanie oszczędnościami emerytalnymi | Częstszy wybór kandydatów o twarzach uznawanych za kompetentne |
| Pytanie o osobę mogącą popełnić poważne przestępstwo | Wskazywanie twarzy oceniwanej jako mniej wiarygodna |
Dlaczego to ma znaczenie w praktyce?
Wymienione scenariusze to decyzje o dużej wadze: od obsadzania stanowisk akademickich, przez przydział kapitału, po zarządzanie pieniędzmi na emeryturę. Jeśli narzędzie AI wspiera takie wybory, a jego rekomendacje oparte są na powierzchownych cechach, uprzedzenia mogą być powielane na dużą skalę i wyglądać przy tym na obiektywne.
Badacze zwrócili też uwagę na przykład podejrzenia handlu ludźmi. Pokazuje on, jak groźne mogą być skutki takiego błędu, gdy w grę wchodzi ocena człowieka pod kątem poważnego zarzutu.
Czy wszystkie systemy AI tak działają?
Badanie nie dowodzi, że każdy system analizujący obrazy zachowuje się identycznie. Wyniki dotyczą konkretnych modeli językowych przetestowanych w tym eksperymencie. Nie oznacza to jednak, że problem jest wyolbrzymiony. Wskazuje raczej, że ocena wiarygodności modelu wymaga sprawdzenia, a nie zakładania jego neutralności.
Co to oznacza dla Ciebie?
Jeśli korzystasz z AI przy rekrutacji, ocenie wniosków, doradztwie finansowym lub weryfikacji ludzi, nie traktuj rekomendacji modelu jako rozstrzygającej. Warto zapytać dostawcę, na jakich danych model był trenowany i czy ktoś testował go pod kątem uprzedzeń związanych z wyglądem. Przy decyzjach o dużym znaczeniu człowiek powinien mieć ostatnie słowo, a sam wygląd kandydata nie powinien być podstawą oceny.
Na podstawie: Holistic News. Tekst opracowany redakcyjnie.