Chatboty to nie inteligencja: co naprawdę robią systemy AI

Chatboty takie jak ChatGPT nie myślą i nie uczą się — generują najbardziej prawdopodobne ciągi słów na podstawie wzorców znalezionych w danych treningowych. To kluczowa różnica między marketingowym opisem sztucznej inteligencji a jej rzeczywistym funkcjonowaniem.

Jak naprawdę działają chatboty?

Chatboty to programy, które wykonują zadania wymagające od człowieka inteligencji, ale robią to zupełnie innym sposobem. Zamiast rozumieć znaczenie słów czy myśleć przyczynowo-skutkowo, algorytm przewiduje, które słowo powinno pojawić się następne, bazując na statystycznych wzorcach z materiałów treningowych.

Proces ten opiera się na danych treningowych — zbiorach wybranych informacji, które algorytm wykorzystuje do formułowania modelowych odpowiedzi. Problem polega na tym, że dostęp do tych danych jest ograniczony i powierzchowny. Chatboty nie mają dostępu do większości publikacji naukowych, szczególnie tych niearchiwizowanych w Internecie. Ich wiedza o zasobach dostępnych online jest również fragmentaryczna.

Dlaczego chatboty wymyślają informacje?

Gdy chatbot nie ma dostępu do konkretnej informacji, nie odpowiada „nie wiem”. Zamiast tego — na podstawie prawdopodobieństwa — generuje zmyśloną odpowiedź, która brzmi wiarygodnie. Oznacza to, że może cytować nieistniejące publikacje naukowe, zmyślać bibliografie, a nawet wymyślać ustawy.

Instytut Spraw Obywatelskich zwraca uwagę, że proces generowania wniosków przez chatboty jest odwrotny do ludzkiego myślenia przyczynowo-skutkowego. Zamiast analizować różnorodne informacje na dany temat, chatboty budują wnioski na podstawie najczęściej powtarzających się danych. To tworzy gotowe modele interpretacji, które mogą być błędne, ale brzmią przekonująco.

Aspekt	Ludzkie myślenie	Działanie chatbota
Proces uczenia się	Obejmuje wyobraźnię, kreatywność, przyczynowość	Zbieranie informacji i formułowanie wzorców
Dostęp do danych	Dynamiczny, weryfikujący	Ograniczony do danych treningowych
Generowanie odpowiedzi	Analiza wielorakich źródeł	Przewidywanie najbardziej prawdopodobnego tekstu
Obsługa braków wiedzy	Przyznanie się do niewiedzy	Zmyślenie wiarygodnie brzmiącej odpowiedzi
Świadomość	Obecna	Nieobecna (deklarowana przez producenta)

Brak jednolitej definicji to problem

W polskim i zagranicznym prawodawstwie sztuczna inteligencja nie ma jednolitej definicji. To ułatwia wprowadzenie podejścia promocyjnego. Zamiast precyzyjnych opisów naukowych, pojawiają się określenia takie jak „system umożliwiający realizację zadań wymagających procesu uczenia się” czy „dziedzina symulująca ludzkie myślenie i świadomość”.

Takie sformułowania wykorzystują pojęcia niosące pozytywne skojarzenia — „inteligencja”, „uczenie się”, „świadomość” — ale opisują coś zupełnie innego. Z perspektywy psychologii społecznej to budowanie stereotypów: wartościujących wyobrażeń opartych na sloganach, a nie faktach, które przyjmuje się bezkrytycznie.

Personalizacja odpowiedzi a prawo

Chatboty mogą dostosowywać swoje odpowiedzi do danych użytkownika. Robią to na podstawie monitoringu aktywności w sieci, a także śledzenia biometrycznego — wspomaganego przez kamery i czytniki w urządzeniach. Prawo UE zabrania tego rodzaju praktyk, ale — jak zwraca uwagę Instytut Spraw Obywatelskich — brakuje narzędzi do egzekucji tych przepisów.

Co to oznacza dla użytkownika?

Gdy korzystasz z chatbota, powinieneś pamiętać, że nie otrzymujesz odpowiedzi opartej na rzeczywistej analizie faktów. Otrzymujesz tekst, który statystycznie pasuje do Twojego pytania. Jeśli chatbot nie zna źródła, które cytuje, zmyśli je. Jeśli ma ograniczony dostęp do informacji na dany temat, wygeneruje odpowiedź na podstawie najpopularniejszych wzorców, które mogą być błędne.

To szczególnie ważne w kontekście decyzji opartych na informacjach z AI — od wyboru leczenia, przez decyzje zawodowe, po zagadnienia prawne. Chatboty mogą brzmieć pewnie, ale ta pewność nie odzwierciedla rzeczywistej wiedzy ani zrozumienia problemu.

Producenci chatbotów określają błędne informacje mianem „halucynacji modeli językowych” — eufemizmu, który zmniejsza wagę problemu. Jednak jeśli chatbot nie jest świadomy (jak deklarują producenci), to odpowiedzialność za rozpowszechnianie fałszywych informacji spada na osoby i organizacje, które go programują i wdrażają.