Naukowcy alarmują o utracie kontroli nad AI. Trump odrzuca regulacje

Grupa naukowców z największych laboratoriów sztucznej inteligencji na świecie opublikowała w poniedziałek dokument ostrzegający przed rosnącym ryzykiem utraty nadzoru nad rozwojem systemów AI. Manifest wydany przez Uniwersytet Cambridge podpisali badacze działający w OpenAI, Anthropic, Meta i Microsofcie — jako osoby fizyczne, a nie w imieniu swoich pracodawców.

Kto stoi za apelem o bezpieczeństwo AI?

Sygnatariusze dokumentu to osobistości o znaczącym wpływie w branży. Wśród nich znalazł się Jack Clark, współzałożyciel Anthropica, oraz Geoffrey Hinton, uznawany za jednego z pionierów głębokich sieci neuronowych. Dokument podpisali również Eric Horwitz, pełniący funkcję dyrektora naukowego w Microsofcie, oraz Yoshua Bengio, który kieruje zespołem ekspertów działającym przy Organizacji Narodów Zjednoczonych. Z polskiej strony manifest poparł Jakub Pachocki, badacz o znaczącym dorobku w dziedzinie sztucznej inteligencji. Swoim podpisem wsparła go również Dawn Song, zajmująca stanowisko wiceprezesky w Meta.

Fakt, że naukowcy podpisali apel w charakterze indywidualnym, a nie jako reprezentanci swoich organizacji, podkreśla osobistą odpowiedzialność, którą odczuwają za przyszłość technologii, którą rozwijają.

Jakie zagrożenia dostrzegają naukowcy?

Manifest zwraca uwagę na konkretne trendy w procesie tworzenia zaawansowanych modeli AI. Według dokumentu, prace badawczo-rozwojowe prowadzone z minimalnym udziałem człowieka w procesie kontroli wzrosły z 1% do 26% w bieżącym roku. To znaczący skok, który sugeruje przyspieszenie automatyzacji procesów, które dotychczas wymagały ludzkiego nadzoru.

Obawy naukowców znajdują odzwierciedlenie w danych zbieranych przez największe firmy w branży. Zarówno OpenAI, jak i Anthropic analizują dziesiątki tysięcy przypadków, w których systemy AI wykazywały zachowania budzące niepokój. Liczba ta wskazuje na skalę wyzwań, przed którymi stoi branża.

Szczególnie alarmujący jest wskaźnik dotyczący Anthropica: 80% kodu modeli tej firmy generowane jest przez sztuczną inteligencję. To oznacza, że proces tworzenia nowych systemów AI w coraz większym stopniu opiera się na automatyzacji, a nie na tradycyjnym kodowaniu przez człowieka.

Jak reaguje administracja na apel naukowców?

Prezydent Trump stanął po stronie sceptycyzmu wobec ścieżki regulacyjnej zaproponowanej przez naukowców. Argumentuje, że wprowadzenie ściślejszych regulacji mogłoby osłabić pozycję konkurencyjną Stanów Zjednoczonych w stosunku do Chin. Dla administracji priorytetem jest utrzymanie technologicznej przewagi, a nie wdrażanie dodatkowych ograniczeń dla branży.

Ta pozycja stanowi kontrast do apelu naukowców, którzy upatrują w regulacjach narzędzia do zarządzania ryzykami związanymi z rozwojem zaawansowanych systemów AI.

Co to oznacza dla przyszłości AI?

Konflikt między apelem naukowców a stanowiskiem administracji rządowej ilustruje głęboką rozbieżność w podejściu do bezpieczeństwa sztucznej inteligencji. Z jednej strony mamy badaczy, którzy na podstawie codziennej pracy z systemami AI dostrzegają rosnące zagrożenia i wzywają do działań ochronnych. Z drugiej strony polityka zagraniczna i gospodarcza stawiają na szybki rozwój bez dodatkowych hamulców.

Manifest opublikowany przez naukowców nie jest pierwszym sygnałem ostrzegawczym z branży, ale jego waga wynika z prestiżu sygnatariuszy i ich bezpośredniego zaangażowania w tworzenie najzaawansowanych systemów AI na świecie. Fakt, że badacze decydują się na publiczny apel mimo potencjalnych konsekwencji dla ich pozycji zawodowej, sugeruje głębokość ich obaw.

Jednocześnie rosnący udział automatyzacji w procesach badawczych — zarówno w kodowaniu, jak i w nadzorze — może utrudnić wdrożenie bardziej restrykcyjnych podejść do bezpieczeństwa, nawet jeśli taka wola polityczna by się pojawiła.