Sytuacja wyjściowa

Producent komponentów motoryzacyjnych w Bawarii, ok. 320 osób, dostarcza do kilku OEM na kontraktach ramowych, które przewidują karę za wadliwą serię i premiują skrócony czas reakcji na odchylenie jakościowe. Presja na koszt jednostkowy i czas dostawy skłania dział jakości do samodzielnego wdrożenia asystenta generatywnej AI, bez udziału zarządu: narzędzie pomaga inżynierom pisać zgłoszenia reklamacyjne, raporty 8D oraz opisowe części dokumentacji jakościowej, w tym plan kontroli i FMEA składane w pakiecie PPAP, na podstawie korespondencji z dostawcami i danych klienta OEM.

Panel administracyjny dostawcy narzędzia loguje, kto z zespołu ile zgłoszeń przetworzył i w jakim czasie. OEM odsyła raport 8D, gdy w D4 przyczyna wystąpienia nie jest oddzielona od przyczyny niewykrycia, a inżynier i tak dokłada 5 Why oraz diagram Ishikawy ręcznie.

Temat trafia do zarządu, gdy Betriebsrat, dowiadując się o zakresie zbieranego logu z rozmowy z kierownikiem zespołu jakości, pyta formalnie, czy narzędzie w ogóle powinno już działać bez jego zgody.

Co ustalił audyt

Audyt tej kategorii rozdziela dwa pytania, bo dotyczą innych reżimów. Pierwsze: czy sam asystent jest systemem AI wysokiego ryzyka w rozumieniu AI Act. Nie jest: to generatywna AI wspierająca pracowników biurowych przy dokumentacji, nie element bezpieczeństwa produktu objętego unijnym prawodawstwem harmonizacyjnym z Załącznika I, i nie system z Załącznika III, bo nie decyduje o zatrudnieniu, kredycie ani podobnej kategorii wobec osoby fizycznej. Audyt sprawdza to dla konkretnej konfiguracji, nie zakłada wyniku z góry dla każdego kolejnego narzędzia zgłoszonego przez dział.

Skoro asystent nie jest systemem wysokiego ryzyka, obowiązki AI Act, które stosują się już dziś, to nie Załącznik I ani Załącznik III, tylko art. 4: dostawca i podmiot stosujący muszą zapewnić personelowi obsługującemu system odpowiedni poziom kompetencji AI, adekwatny do kontekstu użycia, jako obowiązek starannego działania, nie rezultatu. Do tego dochodzi RODO, bo dane klienta OEM i korespondencja z dostawcami w zgłoszeniach reklamacyjnych to dane osobowe pracowników po obu stronach kontraktu, a nie tylko dane techniczne produktu.

Drugie pytanie jest niezależne od pierwszego i dotyczy prawa niemieckiego: BetrVG § 87 Abs. 1 Nr. 6 daje Betriebsratowi prawo współdecydowania przy wprowadzeniu i stosowaniu technicznych urządzeń przeznaczonych do nadzorowania zachowania lub wydajności pracowników, i stosuje się to niezależnie od tego, czy pracodawca zamierzał nadzorować pracowników: wystarczy, że narzędzie jest obiektywnie zdatne do zbierania danych o zachowaniu lub wydajności pracownika.

Skoro panel administracyjny asystenta wiąże liczbę i czas przetworzonych zgłoszeń z konkretnym inżynierem, audyt ustala, że ten obowiązek już dziś istnieje, niezależnie od tego, że sam asystent nie jest systemem wysokiego ryzyka wobec AI Act.

Audyt odnotowuje też, że OEM nakładają na dostawców własne wymogi poufności i bezpieczeństwa informacji, niezależne od AI Act i BetrVG, np. oceny TISAX oparte na katalogu VDA ISA. To osobny, kontraktowy reżim: sprawdza, czy dane klienta w zgłoszeniach reklamacyjnych i korespondencji z dostawcami są zabezpieczone zgodnie z wymaganiami OEM, niezależnie od klasyfikacji samego asystenta wobec AI Act.

Decyzje governance

Zarząd prowadzi dwa tory równolegle, każdy z własną decyzją. Pierwszy tor: dokumentacja, dlaczego asystent nie jest systemem wysokiego ryzyka wobec AI Act, plus program kompetencji AI dla zespołu jakości zgodnie z art. 4 i zasady dostępu do danych klienta OEM w narzędziu, uwzględniające wymogi poufności nakładane kontraktowo przez OEM. Drugi tor: rozmowa z Betriebsratem o zakresie logu użycia, zanim narzędzie zostanie rozszerzone na kolejne zespoły.

Do czasu uzyskania zgody rady zakładowej na obecny zakres danych, firma ogranicza log użycia do zbiorczej liczby zgłoszeń na zespół, bez przypisania do konkretnego inżyniera, dopóki Betriebsrat nie zgodzi się na szerszy zakres albo sprawa nie trafi do Einigungsstelle. Ta agregacja zmniejsza, ale nie usuwa pytania o współdecydowanie: przy małym zespole zbiorcza liczba bywa i tak przypisywalna do konkretnej osoby, więc ograniczenie zakresu jest uzgadniane z radą zakładową, nie ustalane jednostronnie przez zarząd.

Co zautomatyzowano i dlaczego dopiero teraz

Równolegle, bez czekania na zamknięcie rozmowy z Betriebsratem, firma automatyzuje raportowanie wsadowe do OEM: agregację zgłoszeń reklamacyjnych z całego zespołu w jeden raport zgodności, bez identyfikatora konkretnego inżyniera. Ten proces nie sięga po dane indywidualnych pracowników, więc argument za współdecydowaniem jest słabszy, ale sama agregacja nie przesądza sprawy: przy małym zespole dane zbiorcze bywają przypisywalne, a rada zakładowa ocenia obiektywną zdatność narzędzia do nadzoru, a intencja pracodawcy nie ma tu znaczenia.

Metodę rozdzielania klasyfikacji narzędzia od zgody rady zakładowej opisujemy szerzej w audytach AI, w AI governance i w automatyzacjach AI.

Rezultat

Dokumentacja, dlaczego asystent nie jest systemem wysokiego ryzyka wobec AI Act, i rozmowa z Betriebsratem o zakresie logu użycia są teraz dwa osobno prowadzone, dokumentowane tory, każdy z własnym właścicielem po stronie zarządu, zamiast jednej niejasnej decyzji próbującej odpowiedzieć na obie sprawy naraz. Raportowanie wsadowe do OEM działa od razu, bo nie zależy od wyniku żadnej z tych dwóch rozmów.

Czego ten scenariusz nie mówi

Nie zastępuje opinii niemieckiego prawnika pracy przy ustalaniu, czy konkretny zakres logu wymaga zgody Betriebsratu w tym wypadku: to zależy od konfiguracji narzędzia i od tego, czy dany zakład ma Betriebsrat w ogóle. Nie zakłada wyniku rozmowy z radą zakładową: może się zakończyć zawarciem Betriebsvereinbarung, jej zawarciem z ograniczeniem zakresu danych, albo brakiem porozumienia. Brak porozumienia nie zamyka sprawy: każda ze stron może wtedy uruchomić Einigungsstelle na podstawie § 87 Abs. 2 BetrVG, a jej rozstrzygnięcie zastępuje zgodę rady.

Nie ocenia za regulatora, czy dany asystent w innej konfiguracji mógłby stać się systemem wysokiego ryzyka, i nie zastępuje kontekstu, który musi potwierdzić prawnik klienta w Niemczech, zgodnie z zasadą, że Novus Point nie jest kancelarią. Nie ocenia też, czy konkretny dostawca spełnia wymogi poufności narzucane przez OEM, np. w ramach oceny TISAX: to osobny proces certyfikacyjny między dostawcą i klientem.

Następny krok

Dla zarządu, który podejrzewa, że narzędzie wdrożone przez dział jakości dotyka danych indywidualnych pracowników bez wcześniejszej rozmowy z radą zakładową, punktem wejścia jest rozmowa 30-minutowa przez formularz kontaktowy, prowadzona przez Google Meet, bez gwarancji wyniku regulacyjnego z góry. Kto chce najpierw sam sprawdzić, czy narzędzie mieści się w kategoriach AI Act, może zacząć od bezpłatnego audytu wstępnego pod adresem novus-point.pl/audyt.