Sztuczna inteligencja a zagrożenia: błędne rozumienie i oszukiwanie AI
Michał Lidzbarski z Krajowego Centrum Badań Sztucznej Inteligencji wskazuje główne ryzyka AI.
Według Michała Lidzbarskiego, założyciela Krajowego Centrum Badań Sztucznej Inteligencji, najpoważniejszym zagrożeniem związanym z AI jest to, że system może źle zinterpretować polecenia człowieka, a dodatkowo da się go wprowadzić w błąd. Ten problem wykracza poza kwestie techniczne i dotyczy zaufania, z jakim podchodzimy do narzędzi opartych na sztucznej inteligencji.
Dlaczego AI może źle zrozumieć człowieka?
Systemy AI nie rozumieją poleceń tak jak ludzie. Model przetwarza tekst lub dane i dąży do najbardziej prawdopodobnego lub najlepiej punktowanego wyniku, a nie do pełnego zrozumienia tego, czego użytkownik faktycznie chciał. Rozbieżność między tym, co napisaliśmy, a tym, co mieliśmy na myśli, bywa niewielka, ale przy zadaniach wykonywanych automatycznie może prowadzić do poważnych konsekwencji.
Warto zwrócić uwagę na jedną różnicę. W rozmowie z człowiekiem nieporozumienie zwykle da się szybko wyjaśnić. Gdy jednak system działa samodzielnie, np. porządkuje dokumenty czy wysyła wiadomości, błąd interpretacji może zostać wykonany, zanim ktokolwiek go zauważy.
Czy sztuczną inteligencję da się oszukać?
Tak. Lidzbarski wskazuje, że systemy AI są podatne na manipulację. Dla zwykłego użytkownika oznacza to, że odpowiedź brzmiąca pewnie i rzeczowo nie jest gwarancją poprawności. Dotyczy to także sytuacji, w których ktoś celowo konstruuje dane wejściowe tak, aby system podjął pożądane przez tę osobę działanie.
Jak pisze w swoim materiale Gazeta Prawna, rozmówca zestawia tę podatność z ryzykiem błędnego zrozumienia, co pokazuje, że oba problemy są ze sobą powiązane: system, który łatwo źle odczytać, łatwiej też zmanipulować.
Jakie ograniczenia proponuje ekspert?
Lidzbarski formułuje dwa postulaty, które można potraktować jako zasady projektowania bezpiecznych systemów AI. Oba opierają się na tej samej logice: im mniejsze skutki błędu, tym mniejsze ryzyko.
| Postulat | Na czym polega | Dlaczego chroni użytkownika |
|---|---|---|
| Działanie samodzielne tylko przy odwracalnym wyniku | AI wykonuje zadania autonomicznie wyłącznie wtedy, gdy błąd można cofnąć | Pomyłkę da się naprawić, zanim wyrządzi trwałą szkodę |
| Brak wychodzenia poza komputer użytkownika | Zadania AI nie obejmują działań poza urządzeniem użytkownika | Ograniczony zasięg ogranicza skutki błędu lub manipulacji |
Odwracalność jako kryterium
Odwracalność to najprostsze kryterium oceny ryzyka. Zmiana nazwy pliku czy przeniesienie wiadomości do szkicu jest łatwa do cofnięcia. Trwałe usunięcie danych albo wysłanie wiadomości do wielu odbiorców już nie. Postulat sugeruje, że o autonomii systemu powinien decydować rodzaj skutków, a nie wyłącznie jego zdolności techniczne.
Granica komputera użytkownika
Drugi postulat dotyczy zasięgu działania. System ograniczony do lokalnego komputera użytkownika ma mniejszą możliwość wyrządzenia szkody w świecie zewnętrznym niż system połączony z wieloma usługami i kontami. Dla firm wdrażających AI oznacza to konieczność starannego określenia, do jakich zasobów system ma dostęp.
Co to oznacza dla Ciebie?
Dla przeciętnego użytkownika wnioski są praktyczne. Po pierwsze, warto formułować polecenia precyzyjnie i sprawdzać, czy wynik odpowiada zamierzeniu, zwłaszcza gdy chodzi o dane, płatności lub korespondencję. Po drugie, przy narzędziach działających samodzielnie należy zachować kontrolę nad zatwierdzaniem nieodwracalnych operacji. Po trzecie, nie warto przyjmować odpowiedzi AI za pewną tylko dlatego, że brzmi przekonująco.
Dla firm wnioski są podobne, ale dotyczą większej skali. Wdrożenie systemu AI z szerokimi uprawnieniami i dostępem do wielu zewnętrznych usług zwiększa potencjalne straty. Postulaty Lidzbarskiego mogą stać się punktem wyjścia do oceny, które procesy można bezpiecznie zautomatyzować, a które wymagają nadzoru człowieka.
Najważniejszy wniosek jest prosty: skuteczność AI nie powinna być mierzona wyłącznie tym, co potrafi zrobić, ale także tym, jak bezpiecznie może się mylić.
Na podstawie: Gazeta Prawna. Tekst opracowany redakcyjnie.