AI Act w samorządach: obowiązki i ryzyka dla urzędów

Sztuczna inteligencja już dziś wspiera pracę samorządów, ale większość urzędów nie traktuje jej jako odrębnego obszaru wymagającego świadomego nadzoru i zarządzania. Wraz z wejściem w życie AI Act — unijnego rozporządzenia (UE) 2024/1689, które weszło w życie 1 sierpnia 2024 r. — korzystanie z algorytmów w administracji lokalnej przestaje być wyłącznie kwestią organizacyjną i staje się źródłem konkretnych obowiązków prawnych, zarządczych i etycznych.

Gdzie AI już działa w urzędach, a nikt tego nie widzi

Wiele jednostek samorządu terytorialnego korzysta z rozwiązań opartych na sztucznej inteligencji, nie zdając sobie sprawy z tego, że stosują technologię wymagającą odrębnego uregulowania. Narzędzia wykorzystywane do automatyzacji odpowiedzi, analizy dokumentów czy organizacji pracy są dostępne powszechnie i często używane indywidualnie przez pracowników — ale już teraz mogą wpływać na sposób realizacji zadań publicznych.

W praktyce oznacza to, że sekretarze gmin i kierownicy działów IT błędnie zakładają, że ich urząd nie korzysta jeszcze z rozwiązań opartych na AI albo korzysta w stopniu, który nie wymaga odrębnego uregulowania. Tymczasem katalog rzeczywistych zastosowań jest bardzo konkretny:

• Automatyzacja komunikacji z mieszkańcami — chatboty, voiceboty i systemy kategoryzujące zapytania na stronach urzędów
• Automatyczne przygotowywanie odpowiedzi — algorytmy wspierające pracowników w formułowaniu stanowisk
• Analiza i przetwarzanie dokumentów — narzędzia do ekstrakcji danych i organizacji materiałów
• Systemy wspierające decyzje — algorytmy analizujące dane do wsparcia procesów decyzyjnych

Przykładem innowacji jest wdrożenie polskiego modelu językowego PLLuM w Gdyni, gdzie miasto testuje rozwiązanie do usprawnienia pracy urzędu i codziennej komunikacji z mieszkańcami.

AI Act: pierwsza na świecie kompleksowa regulacja sztucznej inteligencji

AI Act to pierwsza na świecie tak kompleksowa regulacja, która traktuje systemy sztucznej inteligencji nie jak zwykłe oprogramowanie IT, lecz jak narzędzia podlegające surowym rygorom prawnym, porównywalnym z wymogami RODO. Jednak w przeciwieństwie do ochrony danych osobowych, gdzie cel i przedmiot ochrony były jasne, regulacja sztucznej inteligencji jest bardziej złożona.

Ustawodawca unijny przyjął pragmatyczne podejście oparte na ryzyku (risk-based approach). Oznacza to, że obowiązki są tym bardziej rygorystyczne, im większy wpływ ma dany system AI na życie i prawa człowieka. Samorządy są traktowane jako tzw. użytkownicy (deployerzy) — gmina, która kupuje gotowe rozwiązanie informatyczne zawierające algorytmy AI, staje się podmiotem stosującym i przejmuje znaczną odpowiedzialność za sposób jego użytkowania.

Harmonogram wdrażania AI Act

Etap wdrażania	Data	Obowiązki
Początkowe wymogi	2 lutego 2025 r.	Przepisy dotyczące systemów zakazanych, obowiązek podnoszenia AI literacy (kompetencji cyfrowych)
Pełne obowiązki operacyjne	2 sierpnia 2026 r.	Wszystkie wymogi dla systemów wysokiego ryzyka, dokumentacja, audyty, monitorowanie

Co to oznacza: Samorządy mają ograniczony czas na przygotowanie się do pełnego wdrożenia. Od lutego 2025 r. już obowiązują pierwsze wymogi, ale najcięższe obowiązki operacyjne wchodzą w życie dopiero w sierpniu 2026 r. To nie oznacza jednak, że można czekać — przygotowania powinny ruszyć natychmiast.

Ryzyka niekontrolowanego korzystania z AI

Najczęstszym zagrożeniem dla osób zarządzających jednostkami samorządu terytorialnego jest niekontrolowane, pozaproceduralne korzystanie z narzędzi AI. Pracownicy mogą korzystać z ogólnodostępnych wersji oprogramowania oraz przekazywać do analizy całości lub fragmenty dokumentów urzędowych — co prędzej czy później może spowodować:

• Wyciek danych osobowych — przekazywanie dokumentów zawierających dane wrażliwe do niezabezpieczonych narzędzi
• Powikłania w funkcjonowaniu systemów wewnętrznych — niespójne dane, błędy w przetwarzaniu
• Naruszenia RODO — niezgodne z prawem przetwarzanie danych
• Odpowiedzialność kierownictwa — włodarze (wójtowie, burmistrzowie, prezydenci miast) mogą być pociągnięci do odpowiedzialności za niezgodne działania

Mit, że “AI, nawet jeśli jest obecne, to bezobjawowo” — jest niebezpieczny. Rzeczywistość pokazuje, że systemy AI już dziś wpływają na funkcjonowanie urzędów, a brak świadomości nie zwalnia z odpowiedzialności.

Nowa filozofia zarządzania: od “wdrażamy nowinkę” do “zarządzamy systemem regulowanym”

Wejście w życie AI Act wymusza na włodarzach zasadniczą zmianę podejścia. Tradycyjny model “wdrażamy nową technologię” musi ustąpić miejsca modelowi “zarządzamy systemem rygorystycznie regulowanym prawnie”. To oznacza:

• Świadomy nadzór — każdy system AI musi być zidentyfikowany, skatalogowany i oceniony pod względem ryzyka
• Ocena ryzyka — określenie, czy system to system zakazany, wysokiego, średniego czy ograniczonego ryzyka
• Dokumentacja — prowadzenie rejestrów, dokumentów zgodności i raportów
• Odpowiedzialność — jasne przypisanie odpowiedzialności za każdy system
• Transparentność — informowanie mieszkańców o używaniu AI w procesach decyzyjnych

Technologia powinna być wykorzystywana możliwie szeroko — zarówno przez podmioty biznesowe, jak i przez samorządy, niezależnie od tego, czy chodzi o urząd miasta liczącego 200 tys. mieszkańców, czy o urząd gminy o populacji poniżej 5 tys. osób. Dostęp do zasobów generowanych przez modele AI jest stosunkowo tani, a zmieniające się wymagania mieszkańców i dostępność zasobów mogą mieć istotny wpływ na funkcjonowanie organów władzy publicznej.

Praktyczne kroki dla samorządów

Unikanie “problemu AI” nie jest dobrą strategią. Podobnie jak założenie “jeżeli pracownicy korzystają, to dobrze, byle nikt tego nie zauważył”. Samorządy powinny:

1. Przeprowadzić audyt — zidentyfikować wszystkie narzędzia i systemy zawierające elementy AI
2. Ocenić ryzyko — sklasyfikować systemy według kategorii ryzyka przewidzianych w AI Act
3. Opracować politykę — stworzyć wewnętrzne wytyczne dotyczące bezpiecznego korzystania z AI
4. Szkolić pracowników — podnoszić świadomość i kompetencje cyfrowe (AI literacy)
5. Przygotować dokumentację — prowadzić rejestry systemów i dokumenty zgodności
6. Monitorować i aktualizować — regularnie sprawdzać zgodność z wymogami AI Act

Proces ten nie musi być skomplikowany, ale musi być świadomy i systematyczny. Samorządy, które zaczną przygotowania teraz, będą lepiej przygotowane do pełnego wdrożenia obowiązków w sierpniu 2026 r. i będą mogą bezpiecznie korzystać z potencjału sztucznej inteligencji do wspierania pracy urzędów i lepszej obsługi mieszkańców.