Sytuacja wyjściowa

Urząd jednostki samorządu terytorialnego, obsługujący mieszkańców jednego powiatu, w ciągu ostatniego roku wdrożył chatbota odpowiadającego na pytania o status wniosków i najczęstsze procedury administracyjne. Równolegle dział świadczeń, pod presją ograniczeń kadrowych i rosnącej liczby wniosków, rozważa narzędzie, które miałoby ustalać kolejność rozpatrywania wniosków o świadczenia na podstawie zgłoszonych danych.

Kierownictwo do tej pory traktowało oba tematy jako odrębne projekty informatyczne, nie jako pytania o zgodność z obowiązkami dla systemów AI. Impuls do przeglądu pojawia się, gdy radny zadaje w komisji pytanie, na jakiej podstawie chatbot informuje mieszkańca, że rozmawia z maszyną, i czy planowane narzędzie do świadczeń będzie podlegało innym regułom niż istniejący system informatyczny.

Co ustalił audyt

W audycie tej kategorii systemy rozdziela się najpierw na dwa, bo należą do różnych reżimów obowiązków. Chatbot podlega obowiązkowi przejrzystości z Art. 50 ust. 1, ale to dostawca chatbota, nie urząd, musi poinformować osobę fizyczną, że rozmawia z systemem AI, chyba że jest to oczywiste z okoliczności.

Urząd występuje tu jako podmiot stosujący i odpowiada za inną rzecz: potwierdzenie w umowie i przy odbiorze wdrożenia, że dostawca ten obowiązek faktycznie wykonuje. Ten obowiązek dostawcy obowiązuje ogólnie od 2 sierpnia 2026 roku, czyli już teraz, niezależnie od tego, czy urząd formalnie to zweryfikował wcześniej.

Drugi system, narzędzie do ustalania kolejności wniosków o świadczenia, trafia do innej kategorii pytań. Załącznik III, punkt 5 lit. a), wymienia systemy AI przeznaczone do wykorzystywania przez organy publiczne w celu oceny kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych, w tym w celu przyznawania, ograniczania, odwoływania lub żądania zwrotu takich świadczeń, jako potencjalnie wysokiego ryzyka.

Ale to, czy funkcja ustalania kolejności rozpatrywania wniosków faktycznie mieści się w tym opisie, zależy od dokładnego opisu tej funkcji i nie jest ustaleniem, które można przyjąć z góry. Audyt zostawia to pytanie otwarte i formułuje je jako pierwszy krok do rozstrzygnięcia przed jakimkolwiek dalszym rozwojem narzędzia.

Decyzje governance

Kierownictwo urzędu podejmuje trzy decyzje przed dalszym rozwojem obu systemów:

  • Po pierwsze, urząd traktuje obowiązek z Art. 50 ust. 1 jako sprawę dostawcy, nie własną: wprowadza go do umowy z dostawcą chatbota jako wymóg kontraktowy oraz do testu odbioru, w którym komunikat informujący o rozmowie z AI musi pojawiać się na każdym punkcie wejścia do rozmowy, nie tylko w stopce regulaminu, a jego brak wstrzymuje odbiór wdrożenia.
  • Po drugie, rozwój narzędzia do priorytetyzacji świadczeń zostaje zatrzymany do czasu formalnej klasyfikacji wobec Załącznika III, a jeśli klasyfikacja wypadnie jako wysokie ryzyko, urząd zobowiązuje się przeprowadzić ocenę skutków dla praw podstawowych przed wdrożeniem, ponieważ ten obowiązek wprost obejmuje podmioty prawa publicznego jako podmioty stosujące.
  • Po trzecie, dla każdego systemu, który zostanie sklasyfikowany jako wysokiego ryzyka, urząd wyznacza osoby z realnym mandatem nadzoru, przeszkolone i uprawnione do zakwestionowania wyniku systemu, oraz zobowiązuje się do przechowywania rejestru zdarzeń przez minimum sześć miesięcy.

Termin, w którym obowiązki dla systemów z Załącznika III zaczynają formalnie obowiązywać, przypada na 2 grudnia 2027 roku, po przesunięciu z pierwotnego 2 sierpnia 2026, co daje urzędowi czas na rozstrzygnięcie klasyfikacji zamiast działania pod presją terminu.

Co zautomatyzowano i dlaczego dopiero teraz

Po ustaleniu tej kolejności urząd automatyzuje wąski, dobrze opisany fragment procesu: wstępną klasyfikację i kierowanie wpływających wniosków do właściwego referatu na podstawie typu dokumentu i kompletności danych, bez ingerencji w samą ocenę zasadności czy kolejności wniosku. Decyzja o zasadności i priorytecie świadczenia zostaje po stronie pracownika, dopóki pytanie klasyfikacyjne z audytu nie zostanie rozstrzygnięte.

Automatyzacja etapu, który dotyka bezpośrednio dostępu do świadczenia, zanim wiadomo, czy ten etap podlega Załącznikowi III, oznaczałaby rozszerzanie ekspozycji zanim ekspozycja została zmapowana. Wstępna klasyfikacja kieruje nowy wniosek od razu do właściwego referatu, zamiast żeby pracownik sekretariatu ręcznie sortował pocztę przychodzącą i decydował, dokąd dany wniosek trafia.

Rezultat

Efekt jest przede wszystkim porządkujący, bo urząd ma udokumentowane potwierdzenie, że dostawca chatbota spełnia obowiązek przejrzystości z Art. 50, nazwane i otwarte pytanie klasyfikacyjne dla narzędzia do świadczeń zamiast domysłu, oraz zautomatyzowany etap procesu, który nie tworzy nowej ekspozycji regulacyjnej.

Dzieje się to w otoczeniu, w którym rząd centralny wyznaczył sobie w Polityce rozwoju sztucznej inteligencji do 2030 roku liczbowy cel podniesienia wykorzystania AI wśród przedsiębiorstw, z miernikami wzrostu odsetka firm korzystających z AI z poziomu bazowego do kilkudziesięciu procent do 2030 roku. To cel dla sektora przedsiębiorstw, nie dla administracji, i przywołany jest tu wyłącznie jako tło tempa, w jakim AI wchodzi do otoczenia, w którym urząd działa, nie jako źródło presji na urząd.

Kolejność, którą stosuje ten scenariusz, najpierw audyt klasyfikacji, potem governance, dopiero na końcu automatyzacja, to ten sam schemat, który opisujemy szerzej na stronach audytów AI, AI governance i automatyzacji AI.

Czego ten scenariusz nie mówi

Długość formalnej klasyfikacji konkretnego narzędzia do świadczeń w tej jednostce nie jest tu podana, bo zależy to od tego, jak szczegółowo opisana jest jego funkcja i jakie dane wykorzystuje. Nie zakłada, że pytanie o Załącznik III zostanie rozstrzygnięte w jedną stronę; to, czy dana funkcja mieści się w kategorii dostępu do świadczeń publicznych, jest oceną, którą w przypadku spornej klasyfikacji ostatecznie rozstrzyga nadzór rynku, nie doradca z zewnątrz.

Nie zastępuje też opinii prawnej tam, gdzie urząd ma własnego radcę prawnego obsługującego tę materię na miejscu. Nie opisuje wreszcie, co się dzieje, gdy jednostka nie ma żadnej osoby zdolnej przejąć nadzór nad systemem po jego wdrożeniu, co bywa osobnym, wcześniejszym tematem do rozwiązania niż samo AI.

Następny krok

Dla kierownictwa jednostki publicznej, które chce sprawdzić, czy działający lub planowany system w obsłudze mieszkańców podlega obowiązkom z Załącznika III albo z Art. 50, punktem wejścia jest rozmowa 30-minutowa przez formularz kontaktowy, prowadzona przez Google Meet, bez gwarancji wyniku regulacyjnego z góry. Dla jednostek, które chcą najpierw samodzielnie zorientować się w skali ekspozycji, dostępny jest też bezpłatny audyt wstępny pod adresem novus-point.pl/audyt.