18 lis 2026
Regulacje i Etyka

Sztuczna inteligencja a zagrożenia: błędne rozumienie i oszukiwanie AI

Michał Lidzbarski z Krajowego Centrum Badań Sztucznej Inteligencji wskazuje główne ryzyka AI.

Autor: Zuzanna Podgórska, 31 października 2026
An asian boy sitting on the floor, interacting with a white robot, showcasing innovation and technology.
Fot. Pavel Danilyuk / Pexels · Pexels License

Według Michała Lidzbarskiego, założyciela Krajowego Centrum Badań Sztucznej Inteligencji, najpoważniejszym zagrożeniem związanym z AI jest to, że system może źle zinterpretować polecenia człowieka, a dodatkowo da się go wprowadzić w błąd. Ten problem wykracza poza kwestie techniczne i dotyczy zaufania, z jakim podchodzimy do narzędzi opartych na sztucznej inteligencji.

Dlaczego AI może źle zrozumieć człowieka?

Systemy AI nie rozumieją poleceń tak jak ludzie. Model przetwarza tekst lub dane i dąży do najbardziej prawdopodobnego lub najlepiej punktowanego wyniku, a nie do pełnego zrozumienia tego, czego użytkownik faktycznie chciał. Rozbieżność między tym, co napisaliśmy, a tym, co mieliśmy na myśli, bywa niewielka, ale przy zadaniach wykonywanych automatycznie może prowadzić do poważnych konsekwencji.

Warto zwrócić uwagę na jedną różnicę. W rozmowie z człowiekiem nieporozumienie zwykle da się szybko wyjaśnić. Gdy jednak system działa samodzielnie, np. porządkuje dokumenty czy wysyła wiadomości, błąd interpretacji może zostać wykonany, zanim ktokolwiek go zauważy.

Czy sztuczną inteligencję da się oszukać?

Tak. Lidzbarski wskazuje, że systemy AI są podatne na manipulację. Dla zwykłego użytkownika oznacza to, że odpowiedź brzmiąca pewnie i rzeczowo nie jest gwarancją poprawności. Dotyczy to także sytuacji, w których ktoś celowo konstruuje dane wejściowe tak, aby system podjął pożądane przez tę osobę działanie.

Jak pisze w swoim materiale Gazeta Prawna, rozmówca zestawia tę podatność z ryzykiem błędnego zrozumienia, co pokazuje, że oba problemy są ze sobą powiązane: system, który łatwo źle odczytać, łatwiej też zmanipulować.

Jakie ograniczenia proponuje ekspert?

Lidzbarski formułuje dwa postulaty, które można potraktować jako zasady projektowania bezpiecznych systemów AI. Oba opierają się na tej samej logice: im mniejsze skutki błędu, tym mniejsze ryzyko.

PostulatNa czym polegaDlaczego chroni użytkownika
Działanie samodzielne tylko przy odwracalnym wynikuAI wykonuje zadania autonomicznie wyłącznie wtedy, gdy błąd można cofnąćPomyłkę da się naprawić, zanim wyrządzi trwałą szkodę
Brak wychodzenia poza komputer użytkownikaZadania AI nie obejmują działań poza urządzeniem użytkownikaOgraniczony zasięg ogranicza skutki błędu lub manipulacji

Odwracalność jako kryterium

Odwracalność to najprostsze kryterium oceny ryzyka. Zmiana nazwy pliku czy przeniesienie wiadomości do szkicu jest łatwa do cofnięcia. Trwałe usunięcie danych albo wysłanie wiadomości do wielu odbiorców już nie. Postulat sugeruje, że o autonomii systemu powinien decydować rodzaj skutków, a nie wyłącznie jego zdolności techniczne.

Granica komputera użytkownika

Drugi postulat dotyczy zasięgu działania. System ograniczony do lokalnego komputera użytkownika ma mniejszą możliwość wyrządzenia szkody w świecie zewnętrznym niż system połączony z wieloma usługami i kontami. Dla firm wdrażających AI oznacza to konieczność starannego określenia, do jakich zasobów system ma dostęp.

Co to oznacza dla Ciebie?

Dla przeciętnego użytkownika wnioski są praktyczne. Po pierwsze, warto formułować polecenia precyzyjnie i sprawdzać, czy wynik odpowiada zamierzeniu, zwłaszcza gdy chodzi o dane, płatności lub korespondencję. Po drugie, przy narzędziach działających samodzielnie należy zachować kontrolę nad zatwierdzaniem nieodwracalnych operacji. Po trzecie, nie warto przyjmować odpowiedzi AI za pewną tylko dlatego, że brzmi przekonująco.

Dla firm wnioski są podobne, ale dotyczą większej skali. Wdrożenie systemu AI z szerokimi uprawnieniami i dostępem do wielu zewnętrznych usług zwiększa potencjalne straty. Postulaty Lidzbarskiego mogą stać się punktem wyjścia do oceny, które procesy można bezpiecznie zautomatyzować, a które wymagają nadzoru człowieka.

Najważniejszy wniosek jest prosty: skuteczność AI nie powinna być mierzona wyłącznie tym, co potrafi zrobić, ale także tym, jak bezpiecznie może się mylić.

Na podstawie: Gazeta Prawna. Tekst opracowany redakcyjnie.