OpenAI i NASK razem badają bezpieczeństwo modeli AI
OpenAI i NASK podpisały porozumienie o wspólnych badaniach bezpieczeństwa modeli AI. Sprawdź, co obejmuje współpraca i jakie ma ograniczenia.
Porozumienie między OpenAI a Naukową i Akademicką Siecią Komputerową (NASK) dotyczy wspólnych badań nad bezpieczeństwem modeli sztucznej inteligencji, a jego realizatorem jest Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK. Umowę ogłoszono 23 października.
Kto prowadzi badania i jaki ma to status?
Po stronie polskiej zadanie realizuje Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji działający w ramach NASK. Pełni on rolę polskiego instytutu AI Safety Institute, czyli jednostki zajmującej się sprawdzaniem bezpieczeństwa zaawansowanych systemów AI.
Warto podkreślić jedno rozróżnienie. Porozumienie ma charakter badawczy, a nie administracyjny. NASK nie zyskuje dzięki niemu możliwości regulowania rynku ani zatwierdzania modeli OpenAI przed ich udostępnieniem. Jego rola sprowadza się do analizy i rekomendacji.
Czego dotyczą wspólne badania?
Współpraca koncentruje się na trzech obszarach: podatnościach modeli, ich potencjalnych nadużyciach oraz ograniczaniu zagrożeń. Badacze zamierzają analizować przypadki wykorzystania AI do oszustw, manipulowania informacją i ataków na systemy komputerowe.
Osobnym wątkiem są różnice w zachowaniu modeli zależnie od języka. Zespół sprawdzi, czy odpowiedzi systemu w języku polskim i angielskim różnią się pod względem bezpieczeństwa. Dla polskich użytkowników to kwestia praktyczna, bo większość testów modeli odbywa się głównie w języku angielskim.
Jakie wcześniejsze doświadczenia stoją za umową?
Współpraca nie zaczyna się od zera. Od lipca NASK oraz CERT Polska mają dostęp do modelu GPT-5.5 Cyber, wyspecjalizowanego w zadaniach związanych z cyberbezpieczeństwem.
Efekty tej pracy są już widoczne. CERT Polska zidentyfikował sześć podatności w systemie MikroTik RouterOS. Część z nich pozwalała przejąć urządzenie bez wcześniejszego logowania, co w praktyce oznaczało poważne ryzyko dla sieci. Producent MikroTik wydał poprawki, a polscy specjaliści potwierdzili, że działają one skutecznie.
| Element | Dane |
|---|---|
| Ogłoszenie porozumienia | 23 października |
| Jednostka realizująca | Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK |
| Status jednostki | polski instytut AI Safety Institute |
| Dostęp do GPT-5.5 Cyber | od lipca, dla NASK i CERT Polska |
| Zidentyfikowane podatności w MikroTik RouterOS | sześć |
| Obszary badań | podatności, nadużycia, ograniczanie zagrożeń |
Czy OpenAI współpracuje z innymi krajami?
Według przekazanych informacji podobne partnerstwa OpenAI działają z instytucjami w Wielkiej Brytanii i Stanach Zjednoczonych. Umowa z NASK ma być jednak, zgodnie z przekazem NASK, jedyną tego typu w Unii Europejskiej, co wyróżnia ją na tle innych europejskich państw.
Jak pisze w swoim materiale Spider’s Web, przedstawiciel OpenAI odpowiedzialny za politykę publiczną w regionie EMEA, Tom Duff Gordon, uzasadnia taki model współpracy słowami: „spojrzenie badaczy spoza firmy pomaga kwestionować przyjęte założenia i udoskonalać zabezpieczenia”.
Czego jeszcze nie wiadomo?
Część szczegółów pozostaje niejawna. Nie ujawniono budżetu partnerstwa, harmonogramu badań ani zasad, na jakich polscy specjaliści otrzymają dostęp do modeli. Te kwestie będą decydować o tym, jak szeroko efekty współpracy zostaną wykorzystane.
Co to oznacza dla Ciebie?
Dla przeciętnego użytkownika najważniejsze jest to, że badania prowadzone w Polsce obejmują także zachowanie AI w języku polskim. Jeśli korzystasz z chatbotów do pracy w języku ojczystym, zyskujesz potencjalnie lepiej przetestowane narzędzia, choć na razie nie wiadomo, jak szybko wyniki przełożą się na konkretne zmiany.
Dla firm i administratorów sieci wniosek jest prostszy. Przykład MikroTik pokazuje, że luki w popularnym sprzęcie mogą być wykrywane z pomocą AI, a skuteczna aktualizacja oprogramowania pozostaje podstawową ochroną. Warto regularnie sprawdzać, czy urządzenia w sieci mają zainstalowane najnowsze poprawki.
Na podstawie: Spider's Web. Tekst opracowany redakcyjnie.