Baza wiedzy

Słownik pojęć AI Act

42 pojęcia z Rozporządzenia (UE) 2024/1689 i podstawowej terminologii AI, w porządku alfabetycznym.

Agent AI: System AI zdolny do wykonywania wieloetapowych zadań w imieniu użytkownika, z ograniczoną autonomią decyzyjną w ramach zdefiniowanego procesu, na przykład kwalifikacji leadów albo obsługi klienta na pierwszej linii.; Definicja robocza Novus Point
AI literacy / kompetencje AI (art. 4): Obowiązek zapewnienia dostawcom i podmiotom stosującym, oraz ich personelowi, wystarczającego poziomu kompetencji AI, uwzględniający wiedzę techniczną, doświadczenie i kontekst zastosowania. Obowiązuje od 2 lutego 2025 roku, po Digital Omnibusie jako obowiązek starannego działania.; Rozporządzenie (UE) 2024/1689, art. 4
Audyt AI: Inwentaryzacja i klasyfikacja systemów AI działających w organizacji wobec konkretnych artykułów Rozporządzenia, kończąca się pisemną opinią klasyfikacyjną i tabelą ryzyk z priorytetami.; Metodyka własna oparta na Rozporządzeniu (UE) 2024/1689
Automatyzacja procesu: Zastąpienie lub wsparcie ręcznie wykonywanego procesu operacyjnego przez system AI, projektowane dla jednego, zdefiniowanego procesu naraz, z nadzorem ludzkim i progiem eskalacji.; Definicja robocza Novus Point
Dane treningowe: Zbiór danych użyty do wytrenowania modelu AI. Jakość, reprezentatywność i pochodzenie tych danych wpływają bezpośrednio na jakość i ryzyko wyników systemu.; Definicja techniczna, powszechnie stosowana w branży
Decyzja zautomatyzowana: Decyzja podejmowana bez udziału człowieka na podstawie działania systemu AI lub algorytmu, na przykład automatyczna ocena kredytowa albo wstępna selekcja kandydatów w rekrutacji, podlegająca jednocześnie RODO i, w niektórych sektorach, AI Act.; Synteza RODO art. 22 i Rozporządzenia (UE) 2024/1689
Deepfake: Obraz, dźwięk lub wideo wygenerowane albo zmanipulowane przez AI, przypominające istniejące osoby, miejsca lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne. Art. 50 ust. 4 nakłada na podmiot stosujący obowiązek ujawnienia, wyłączony przy zastosowaniach organów ścigania. Przy utworach wyraźnie artystycznych lub satyrycznych obowiązek zostaje, ograniczony do ujawnienia w sposób nieutrudniający korzystania z utworu.; Rozporządzenie (UE) 2024/1689, art. 3 pkt 60; art. 50 ust. 4
Digital Omnibus na AI: Rozporządzenie (UE) 2026/1744, opublikowane 24 lipca 2026 roku i weszło w życie 27 lipca 2026 roku. Zmieniło m.in. brzmienie art. 4 (kompetencje AI), wprowadziło proporcjonalność art. 17 dla MŚP i przesunęło terminy dla systemów wysokiego ryzyka z Załącznika III i Załącznika I sekcja A.; Rozporządzenie (UE) 2026/1744
Dokumentacja techniczna: Dokumentacja sporządzana przez dostawcę systemu AI wysokiego ryzyka przed wprowadzeniem go do obrotu i aktualizowana na bieżąco, wykazująca zgodność z wymogami Rozporządzenia i zawierająca co najmniej elementy określone w Załączniku IV.; Rozporządzenie (UE) 2024/1689, art. 11 ust. 1
Dostawca: Osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia albo zlecają jego rozwój, i które, odpłatnie lub nieodpłatnie, wprowadzają go do obrotu lub oddają do użytku pod własną nazwą lub znakiem towarowym.; Rozporządzenie (UE) 2024/1689, art. 3 pkt 3
FRIA: Ocena skutków dla praw podstawowych (Fundamental Rights Impact Assessment): obowiązkowa przed wdrożeniem systemów wysokiego ryzyka z Załącznika III przez podmioty prawa publicznego, podmioty prywatne świadczące usługi publiczne oraz podmioty stosujące systemy z Załącznika III pkt 5 lit. b i c (poza pkt 2).; Rozporządzenie (UE) 2024/1689, art. 27 ust. 1
Governance AI: Operacyjny model nadzoru nad systemami AI w organizacji: polityka użycia, macierz odpowiedzialności, rejestr systemów i procedura zgłaszania incydentów, utrzymywany w czasie, nie jednorazowy dokument.; Synteza art. 9, 17, 26 Rozporządzenia (UE) 2024/1689
GPAI: Model AI ogólnego przeznaczenia (General Purpose AI): model wystarczająco uniwersalny, by wykonywać szeroki zakres zadań. Obowiązki dla dostawców takich modeli stały się egzekwowalne 2 sierpnia 2025 roku, a reżim kar z art. 101, wyłączony spod tej daty, jest stosowany od 2 sierpnia 2026 roku.; Rozporządzenie (UE) 2024/1689, Rozdział V; reżim kar z art. 101
Halucynacja: Sytuacja, w której model językowy generuje informację brzmiącą wiarygodnie, ale nieprawdziwą lub niepopartą źródłem: kluczowe ryzyko operacyjne przy wdrażaniu AI bez nadzoru ludzkiego.; Definicja techniczna, powszechnie stosowana w branży
Human-in-the-loop: Model działania systemu AI, w którym decyzja o istotnym znaczeniu wymaga zatwierdzenia przez człowieka przed wykonaniem, w odróżnieniu od systemu w pełni autonomicznego.; Definicja techniczna, powszechnie stosowana w branży
ISO/IEC 42001: Pierwsza międzynarodowa norma określająca wymagania dla systemu zarządzania sztuczną inteligencją (AI Management System) w organizacji dowolnej wielkości, obejmująca zarządzanie ryzykiem i nadzór nad dostawcami zewnętrznymi.; ISO/IEC 42001:2023
Kara administracyjna: Sankcja pieniężna za naruszenie Rozporządzenia: do 35 mln euro albo 7% obrotu za praktyki zakazane, do 15 mln euro albo 3% za inne naruszenia obowiązków operatorów, do 7,5 mln euro albo 1% za podanie organom nieprawidłowych informacji; wyższa z dwóch wartości. Dla MŚP i startupów reguła jest odwrócona na każdym progu, dla małych spółek o średniej kapitalizacji przy dwóch niższych.; Rozporządzenie (UE) 2024/1689, art. 99
KRiBSI: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji: polski organ nadzoru, złożony z przewodniczącego, dwóch zastępców i czterech członków wskazanych przez UOKiK, KNF, KRRiT i UKE. Uprawnienia do kontroli, postępowań i kar zaczynają obowiązywać 28 października 2026 roku.; Ustawa z 3 lipca 2026 r. (Dz.U. 2026 poz. 1003)
Mapa ekspozycji: Uporządkowany obraz systemów AI działających w organizacji wraz z przypisanym poziomem ryzyka regulacyjnego i operacyjnego, będący głównym efektem audytu AI.; Definicja robocza Novus Point
Model językowy: Model AI wytrenowany do przewidywania i generowania tekstu na podstawie wzorców statystycznych wyuczonych z dużego zbioru danych treningowych.; Definicja techniczna, powszechnie stosowana w branży
Nadzór ludzki: Wymóg powierzenia monitorowania i weryfikacji działania systemu AI osobom z odpowiednimi kompetencjami, przeszkoleniem, uprawnieniami i wsparciem, zdolnym rzeczywiście zakwestionować wynik systemu.; Rozporządzenie (UE) 2024/1689, art. 26
NIST AI RMF: Amerykański AI Risk Management Framework (dokument NIST.AI.100-1), opublikowany 26 stycznia 2023 roku, mający lepiej zarządzać ryzykiem AI dla osób, organizacji i społeczeństwa.; NIST, NIST.AI.100-1
Obowiązki przejrzystości (art. 50): Cztery odrębne obowiązki: informowanie osoby o rozmowie z AI, znakowanie treści generatywnych, informowanie o rozpoznawaniu emocji lub kategoryzacji biometrycznej, oraz ujawnianie treści typu deepfake, a osobno tekstu AI publikowanego w celu informowania społeczeństwa o sprawach interesu publicznego.; Rozporządzenie (UE) 2024/1689, art. 50; art. 50 ust. 4
Ocena zgodności: Procedura potwierdzająca zgodność systemu wysokiego ryzyka z wymogami Rozporządzenia przed wprowadzeniem do obrotu. Dla większości systemów z Załącznika III to kontrola wewnętrzna dostawcy; dla systemów biometrycznych z pkt 1 dostawca wybiera między kontrolą wewnętrzną a oceną z udziałem jednostki notyfikowanej.; Rozporządzenie (UE) 2024/1689, art. 43 ust. 1–2
Organ nadzoru rynku: Instytucja uprawniona do kontroli zgodności systemów AI z Rozporządzeniem i do nakładania sankcji za naruszenia. W Polsce tę rolę pełni KRiBSI, z uprawnieniami kontrolnymi od 28 października 2026 roku.; Rozporządzenie (UE) 2024/1689; ustawa krajowa
Oznakowanie CE: Znak potwierdzający zgodność systemu AI wysokiego ryzyka z wymogami Rozporządzenia, umieszczany po pozytywnej ocenie zgodności. Podlega ogólnym zasadom określonym w art. 30 rozporządzenia (WE) nr 765/2008.; Rozporządzenie (UE) 2024/1689, art. 48 ust. 1
Podmiot stosujący: Osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, które wykorzystują system AI pozostający pod ich kontrolą, z wyjątkiem użytku w ramach osobistej działalności pozazawodowej. To rola, w której organizacje najczęściej się znajdują wobec kupionych systemów.; Rozporządzenie (UE) 2024/1689, art. 3 pkt 4
Polityka użycia AI: Dokument określający, jakie systemy AI wolno stosować w organizacji, na jakich zasadach, kto podejmuje decyzję o wdrożeniu i kto odpowiada za nadzór: centralny element governance AI.; Definicja robocza Novus Point
Praktyki zakazane: Katalog zastosowań AI niedopuszczalnych w Unii Europejskiej, obowiązujący od 2 lutego 2025 roku, niezależnie od sektora czy wielkości organizacji. Od 2 grudnia 2026 roku katalog zostaje rozszerzony o dwie nowe praktyki wprowadzone rozporządzeniem (UE) 2026/1744: materiały intymne bez zgody oraz CSAM.; Rozporządzenie (UE) 2024/1689, art. 5; nowe zakazy od 2 grudnia 2026
RACI: Macierz odpowiedzialności wskazująca dla każdego zadania lub decyzji, kto jest odpowiedzialny (Responsible), rozliczany (Accountable), konsultowany (Consulted) i informowany (Informed): stosowana w governance AI do przypisania właścicieli polityk.; Metoda zarządzania projektami, stosowana w naszej metodyce governance
RAG: Retrieval-Augmented Generation: technika łącząca model językowy z wyszukiwaniem informacji w zewnętrznej bazie danych, ograniczająca ryzyko halucynacji przez oparcie odpowiedzi na konkretnym, wskazanym źródle.; Definicja techniczna, powszechnie stosowana w branży
Rejestr zdarzeń: Dokumentacja incydentów i istotnych zdarzeń związanych z działaniem systemu AI, którą podmiot stosujący systemy wysokiego ryzyka musi przechowywać przez minimum sześć miesięcy.; Rozporządzenie (UE) 2024/1689, art. 26
RODO art. 22: Przepis dający osobie prawo niepodlegania decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, jeśli wywołuje ona skutki prawne lub istotnie na nią wpływa, z wyjątkami i zabezpieczeniami wskazanymi w przepisie.; Rozporządzenie (UE) 2016/679, art. 22
Rozporządzenie (UE) 2024/1689 (AI Act): Unijny akt prawny regulujący systemy sztucznej inteligencji, w mocy od 1 sierpnia 2024 roku, wprowadzający obowiązki fazowo według poziomu ryzyka systemu.; Dziennik Urzędowy UE, eur-lex.europa.eu/eli/reg/2024/1689/oj
Rozpoznawanie emocji: System AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie ich danych biometrycznych. Podmiot stosujący taki system musi poinformować o tym osoby, wobec których jest on stosowany, zgodnie z obowiązkiem przejrzystości z art. 50.; Rozporządzenie (UE) 2024/1689, art. 3 pkt 39; obowiązek informacyjny z art. 50
Shadow AI: Systemy i narzędzia AI wdrożone lub używane przez zespoły w organizacji bez centralnej decyzji zarządu ani wiedzy działu IT, najczęstsze źródło niewidocznej ekspozycji wykrywane w audycie gotowości.; Definicja robocza Novus Point
System AI: System maszynowy zaprojektowany do działania z różnym poziomem autonomii po wdrożeniu, mogący wykazywać zdolność adaptacji, który na podstawie danych wejściowych wnioskuje, jak generować wyniki: predykcje, treści, zalecenia lub decyzje wpływające na środowisko fizyczne lub wirtualne.; Rozporządzenie (UE) 2024/1689, art. 3 pkt 1
System wysokiego ryzyka: System AI, który jest związanym z bezpieczeństwem elementem produktu z Załącznika I objętego oceną zgodności strony trzeciej, albo który jest wymieniony w Załączniku III, podlegający pełnemu reżimowi obowiązków: zarządzaniu ryzykiem, dokumentacji technicznej, nadzorowi ludzkiemu.; Rozporządzenie (UE) 2024/1689, art. 6 ust. 1–2
System zarządzania jakością (art. 17): Udokumentowany, pisemny system obejmujący strategię zgodności, techniki projektowania, testowanie, zarządzanie danymi i monitorowanie po wprowadzeniu do obrotu, z wdrożeniem proporcjonalnym do wielkości dostawcy po zmianach Digital Omnibusu.; Rozporządzenie (UE) 2024/1689, art. 17
System zarządzania ryzykiem (art. 9): Ciągły, iteracyjny proces przez cały cykl życia systemu wysokiego ryzyka, wymagający regularnego, systematycznego przeglądu i aktualizacji, nie jednorazowej oceny na dzień wdrożenia.; Rozporządzenie (UE) 2024/1689, art. 9
Ślad audytowy: Zapisany, możliwy do prześledzenia zbiór informacji o działaniu systemu AI: kto go uruchomił, jakie dane przetworzył, kto zatwierdził wynik. Podstawa dowodowa przy kontroli organu nadzoru.; Definicja robocza Novus Point, oparta na wymogach art. 26
Właściciel procesu: Osoba po stronie klienta odpowiedzialna za dany proces operacyjny, będąca głównym sponsorem projektu automatyzacji: w odróżnieniu od działu IT jako jedynego punktu kontaktu technicznego.; Definicja robocza Novus Point
Załącznik III: Lista obszarów, w których system AI kwalifikuje się jako wysokiego ryzyka: między innymi zatrudnienie i zarządzanie pracownikami, kredyt, ubezpieczenia życiowe i zdrowotne, dostęp do podstawowych świadczeń i usług publicznych. Obowiązki dla tych systemów będą stosowane od 2 grudnia 2027 roku.; Rozporządzenie (UE) 2024/1689, Załącznik III pkt 4, pkt 5 lit. a; termin z art. 6 ust. 2