AI Act obowiązuje od sierpnia. Kiedy oznaczać treści generowane przez AI?

Od 2 sierpnia 2024 roku obowiązują nowe przepisy unijnego AI Act, które nakładają obowiązek oznaczania treści wygenerowanych lub zmodyfikowanych przez sztuczną inteligencję. Przepisy zaczęły obowiązywać jeszcze przed powołaniem organu nadzorczego, co oznacza, że każda treść opublikowana po tej dacie bez wymaganych oznaczeń może zostać objęta postępowaniem po rozpoczęciu działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.

Czym dokładnie jest deepfake?

Pojęcie deepfake’a jest znacznie szersze niż powszechnie się uważa. Nie chodzi tylko o oszustwa lub dezinformację, lecz o każdy materiał, który może wywołać w odbiorcy poczucie autentyczności poprzez manipulację rzeczywistością. Jak wyjaśnia Olga Zabolewicz, główna specjalistka ds. legislacji w NASK, kluczowe znaczenie ma kontekst i cel wykorzystania materiału.

Nawet pozornie niewielkie zmiany obrazu mogą podlegać nowym przepisom, jeśli przedstawiają realne przedmioty w zmieniony sposób i mogą wpłynąć na sposób ich odbioru. Definicja deepfake’a nie jest zatem czarno-biała — wszystko zależy od tego, czy materiał może wprowadzić odbiorców w błąd.

Kiedy oznaczanie jest obowiązkowe, a kiedy nie?

Przepisy AI Act nie są zero-jedynkowe. Samo użycie sztucznej inteligencji nie oznacza automatycznie obowiązku oznaczania treści. Oznaczanie jest wymagane wyłącznie wtedy, gdy sztuczna inteligencja zmienia przekaz lub może wpłynąć na sposób odbioru materiału.

Scenariusz	Oznaczanie wymagane?	Uzasadnienie
Poprawa stylistyki tekstu	NIE	AI służy jedynie do korekty błędów i stylu
Delikatny retusz zdjęcia autora	NIE	Drobne kosmetyczne zmiany nie zmieniają przekazu
Odmłodzenie twarzy w reklamie kremu	TAK	Zmienia percepcję efektywności produktu
Zmiana wyrazu twarzy na zdjęciu	TAK	Może wpłynąć na interpretację emocji i intencji
Generacja całkowicie nowego obrazu	TAK	Materiał może być odbierany jako autentyczny

Dobrym przykładem jest reklama kosmetyków. Jeśli AI jedynie delikatnie retuszuje zdjęcie, nie jest wymagane oznaczenie. Jednak gdy sztuczna inteligencja odmładza twarz osoby reklamującej krem przeciwzmarszczkowy, materiał może wprowadzić odbiorców w błąd co do rzeczywistych efektów produktu — w tym przypadku oznaczenie jest obowiązkowe.

Kogo dotyczą nowe przepisy?

Nowe obowiązki związane z oznaczaniem treści wygenerowanych przez AI dotyczą szerokiego grona podmiotów:

• Redakcje i media — wszystkie publikujące treści mogące wpływać na opinię publiczną
• Twórcy internetowi i influencerzy — osoby publikujące materiały na platformach społecznościowych
• Agencje reklamowe — podmioty tworzące kampanie marketingowe
• Przedsiębiorstwa — wszystkie podmioty publikujące treści mogące wpłynąć na opinię publiczną
• Użytkownicy indywidualni — w przypadku publikacji materiałów mogących być odbieranymi jako autentyczne

Przepisy obowiązują niezależnie od tego, czy dany podmiot jest dużą korporacją czy małym twórcą internetowym. Brak formalnego organu nadzorczego w okresie przejściowym nie zwalnia z obowiązku stosowania regulacji.

Jakie sankcje grożą za naruszenia?

Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która rozpocznie działalność od 12 października 2024 roku, będzie mieć szerokie uprawnienia do egzekwowania nowych przepisów. Organ będzie mógł:

• Rozpatrywać skargi od użytkowników
• Prowadzić kontrole podmiotów publikujących treści
• Nakładać sankcje za naruszenia

Za brak oznaczenia treści wygenerowanych przez AI przedsiębiorstwa mogą otrzymać kary finansowe na poziomie do 15 mln euro lub 3 procent rocznego obrotu — w zależności od tego, która kwota będzie wyższa. To znaczące sankcje, które powinny motywować podmioty do zgodności z przepisami.

Edukacja i narzędzia do detekcji

Choć sztuczna inteligencja rozwija się błyskawicznie, równolegle powstają narzędzia umożliwiające wykrywanie treści wygenerowanych przez AI. Już dziś istnieją rozwiązania pomagające rozpoznawać deepfake’i czy analizować pochodzenie tekstów.

NASK i Ministerstwo Cyfryzacji podjęły się zadania edukacji społeczeństwa. Wypuściły dwa poradniki dotyczące głównie cyberbezpieczeństwa twórców internetowych i dziennikarzy, gdzie zwracają uwagę na nowe wyzwania związane ze sztuczną inteligencją.

Eksperci podkreślają, że równie ważna jest świadomość odbiorców. Nawet tam, gdzie przepisy formalnie nie wymagają oznaczania materiału, użytkownicy internetu coraz częściej chcą wiedzieć, czy oglądają treść stworzoną przez człowieka czy przez algorytm. Edukacja społeczeństwa będzie jednym z kluczowych zadań nowego organu nadzorczego.

Co to oznacza dla twórców i mediów?

Nowe przepisy oznaczają, że każdy twórca internetowy, redakcja czy agencja reklamowa musi teraz dokładnie przeanalizować, w jaki sposób wykorzystuje sztuczną inteligencję. Nie chodzi o całkowite porzucenie narzędzi AI, lecz o świadome i odpowiedzialne ich stosowanie z wyraźnym oznaczeniem tam, gdzie jest to wymagane.

Dla influencerów oznacza to konieczność przejrzenia swoich materiałów — szczególnie tych, w których wykorzystywana jest AI do edycji, retuszu czy generacji treści. Dla agencji reklamowych to wymóg wprowadzenia procedur weryfikacji, czy materiały kampanii wymagają oznaczenia.

Dla redakcji to wyzwanie związane z utrzymaniem zaufania czytelników poprzez przejrzystość w kwestii wykorzystania AI. Materiały opublikowane bez wymaganych oznaczeń mogą być przedmiotem skargi i postępowania administracyjnego.