AI Act

AI Act reguluje systemy AI według tego, do czego służą. System AI to system maszynowy, który na podstawie danych wejściowych wnioskuje, jak generować wyniki, np. predykcje, treści, zalecenia lub decyzje (art. 3 pkt 1). Ten sam model może w jednym produkcie mieścić się w kategorii minimalnego ryzyka, a w innym w kategorii wysokiego ryzyka.

Obowiązki zależą od roli. Dostawca rozwija system lub model AI albo zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą. Podmiot stosujący używa systemu AI, nad którym sprawuje kontrolę, w działalności zawodowej (art. 3 pkt 3 i 4). Firma, która buduje własny model scoringowy i sama go używa, jest jednym i drugim.

Podmiot stosujący może też stać się dostawcą. Art. 25 ust. 1 wymienia trzy przypadki: umieszczasz swoją nazwę na systemie wysokiego ryzyka, istotnie go zmieniasz albo zmieniasz przeznaczenie innego systemu tak, że staje się systemem wysokiego ryzyka. Ten ostatni przypadek dotyczy także systemów ogólnego przeznaczenia. Pierwotny dostawca musi wtedy przekazać nowemu dostawcy potrzebną dokumentację i zapewnić mu dostęp techniczny, chyba że zastrzegł, że jego systemu nie wolno przekształcać w system wysokiego ryzyka (art. 25 ust. 2).

Modele AI ogólnego przeznaczenia, np. duże modele językowe w asystentach czatowych, mają osobny rozdział. Ich dostawcy prowadzą dokumentację techniczną, przekazują informacje firmom, które tworzą produkty na bazie modelu, mają politykę przestrzegania praw autorskich i publikują streszczenie treści użytych do trenowania (art. 53). Modele z ryzykiem systemowym mają dodatkowe obowiązki (art. 55).

AI Act wszedł w życie 1 sierpnia 2024 r. i jest stosowany etapami (art. 113). Pakiet Digital Omnibus on AI, czyli rozporządzenie (UE) 2026/1744, wszedł w życie 27 lipca 2026 r. i przesunął terminy dla systemów wysokiego ryzyka. Wiele tekstów sprzed tej zmiany nadal podaje 2 sierpnia 2026 r., czyli pierwotny termin.

Dla pożyczkodawcy najważniejszy jest pkt 5 lit. b załącznika III. Systemy AI przeznaczone do oceny zdolności kredytowej osób fizycznych lub ustalania ich scoringu kredytowego są systemami wysokiego ryzyka. Wyjątkiem są systemy do wykrywania oszustw finansowych. Pkt 5 lit. c dodaje ocenę ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych. Zgodnie z art. 6 ust. 3 system z załącznika III nie jest systemem wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka i np. wykonuje tylko wąskie zadanie proceduralne, poprawia wynik zakończonej już czynności człowieka albo wykonuje zadanie przygotowawcze do oceny. System, który profiluje osoby fizyczne, zawsze jest systemem wysokiego ryzyka.

Większość pracy spada na dostawcę systemu wysokiego ryzyka. Musi mieć system zarządzania ryzykiem, zasady zarządzania danymi treningowymi, walidacyjnymi i testowymi, dokumentację techniczną, automatyczne rejestrowanie zdarzeń, instrukcję obsługi i nadzór człowieka (art. 9-14). System musi też być dokładny, odporny na błędy i ataki oraz bezpieczny (art. 15). Do tego dochodzi ocena zgodności (art. 43) i rejestracja w unijnej bazie danych (art. 49). Pożyczkodawca, który korzysta z narzędzia scoringowego zbudowanego przez kogoś innego, jest podmiotem stosującym i musi (art. 26):

• używać systemu zgodnie z instrukcją dostawcy i powierzyć nadzór ze strony człowieka osobom, które mają do tego kompetencje, przeszkolenie i uprawnienia,
• dopilnować, żeby kontrolowane przez siebie dane wejściowe były adekwatne i wystarczająco reprezentatywne,
• monitorować system i zgłaszać ryzyka oraz poważne incydenty,
• przechowywać kontrolowane przez siebie rejestry zdarzeń co najmniej sześć miesięcy; instytucje finansowe przechowują je w dokumentacji wymaganej przez przepisy o usługach finansowych,
• informować wnioskodawców, że w decyzjach na ich temat używa systemu AI wysokiego ryzyka.

Podmiot stosujący system scoringu kredytowego przed pierwszym użyciem przeprowadza też ocenę skutków dla praw podstawowych (art. 27). Jeśli część zagadnień obejmuje już ocena skutków dla ochrony danych wymagana przez RODO, podmiot stosujący może się do niej odwołać albo przenieść z niej odpowiednie fragmenty (art. 27 ust. 4 w brzmieniu nadanym przez Omnibus). Osoba, wobec której podjęto decyzję na podstawie wyniku systemu, ma prawo do jasnego wyjaśnienia roli, jaką system odegrał (art. 86). W kredycie konsumenckim CCD2 daje dodatkowo prawo do interwencji człowieka po zautomatyzowanej ocenie zdolności kredytowej. Oba zestawy przepisów dotyczą tych samych miejsc w produkcie: możliwości poproszenia o interwencję człowieka, kolejki dla osób, które rozpatrują takie prośby, i zapisu tego, jak zapadła każda decyzja.

Jeśli opierasz produkt na cudzym modelu ogólnego przeznaczenia, obowiązki dotyczące samego modelu zostają u jego dostawcy. Twoje obowiązki zależą od zastosowania. Chatbot musi jasno informować, że użytkownik rozmawia z AI (art. 50 ust. 1). System, który generuje dźwięk, obrazy, wideo lub tekst, musi oznaczać wyniki w formacie do odczytu maszynowego (art. 50 ust. 2). Podmiot stosujący, który publikuje deepfake, musi go oznaczyć (art. 50 ust. 4). Jeśli ten sam model zastosujesz do celu z załącznika III, np. do scoringu kredytowego, stajesz się dostawcą systemu wysokiego ryzyka (art. 25 ust. 1 lit. c).

Od 2 lutego 2025 r. dostawcy i podmioty stosujące muszą dbać o kompetencje swojego personelu w zakresie AI (art. 4). Po zmianie w Omnibusie przepis każe te kompetencje wspierać, ale nie wymaga już zapewnienia określonego poziomu.

• Spisz wszystkie funkcje i modele AI w swoich produktach i narzędziach wewnętrznych, z celem i modelem, który za nimi stoi.
• Przypisz każdą z nich do kategorii: zakazana praktyka, zastosowanie z załącznika III, obowiązek przejrzystości albo minimalne ryzyko, i zapisz uzasadnienie. Jeśli powołujesz się na art. 6 ust. 3, udokumentuj ocenę, zanim wprowadzisz system do obrotu lub oddasz go do użytku, i zarejestruj system w unijnej bazie danych (art. 6 ust. 4 i art. 49 ust. 2). Omnibus utrzymał tę rejestrację i skrócił listę wymaganych informacji (załącznik VIII sekcja B).
• Ustal swoją rolę przy każdym systemie (dostawca, podmiot stosujący albo oba) i sprawdź pod tym kątem umowy z dostawcami modeli i narzędzi.
• Przy zastosowaniu wysokiego ryzyka zaprojektuj rejestrowanie zdarzeń, przegląd przez człowieka i wyjaśnienia już teraz. Później trudno je dobudować.
• Testuj każdą zmianę modelu lub promptu na stałym zestawie ewaluacyjnym z uzgodnionymi kryteriami akceptacji (ewaluacja LLM) i zachowuj wyniki.
• Sprawdź, jakie dane osobowe trafiają do modelu, gdzie model działa (lokalny LLM albo zewnętrzne API) i co jest anonimizowane przed ponownym użyciem (anonimizacja danych).

Art. 99 określa maksymalne kary. Za zakazane praktyki grozi kara do 35 mln EUR albo 7% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Za naruszenie większości pozostałych obowiązków, w tym obowiązków dostawców i podmiotów stosujących systemy wysokiego ryzyka oraz obowiązków przejrzystości z art. 50, grozi kara do 15 mln EUR albo 3%. Za przekazanie organom nieprawidłowych lub wprowadzających w błąd informacji grozi kara do 7,5 mln EUR albo 1%. Dla MŚP, w tym start-upów, obowiązuje niższa z dwóch kwot (art. 99 ust. 6). Digital Omnibus rozszerza tę zasadę na małe przedsiębiorstwa o średniej kapitalizacji (SMC) w dwóch niższych progach, ale nie przy zakazanych praktykach (art. 99 ust. 6a). Komisja może nałożyć na dostawców modeli AI ogólnego przeznaczenia karę do 15 mln EUR albo 3% (art. 101).

Przepisy dotyczące systemów AI egzekwują krajowe organy nadzoru rynku, a modele ogólnego przeznaczenia nadzoruje Urząd ds. AI w Komisji.

AI Act nie wyłącza innych przepisów. Dane osobowe w zbiorach treningowych i w tekstach wysyłanych do modelu nadal podlegają RODO, decyzje kredytowe wobec konsumentów CCD2, a weryfikacja tożsamości przepisom o przeciwdziałaniu praniu pieniędzy (KYC). Dostawcy, którzy stosują normy zharmonizowane przygotowywane przez europejskie organizacje normalizacyjne CEN i CENELEC, będą objęci domniemaniem zgodności z wymogami dla systemów wysokiego ryzyka (art. 40).

W Polsce nadzór nad stosowaniem AI Act reguluje ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz. U. 2026 poz. 1003), która obowiązuje od 11 sierpnia 2026 r. Ustawa tworzy Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), organ nadzoru rynku w zakresie systemów AI i pojedynczy punkt kontaktowy dla instytucji UE. Jednego członka KRiBSI wskazuje KNF, a oba organy współpracują w sprawach, o których mowa w art. 74 ust. 6 AI Act, czyli dotyczących systemów AI wysokiego ryzyka używanych przez instytucje finansowe (art. 5, 19 i 20 ustawy).

Od 28 października 2026 r. KRiBSI może prowadzić kontrole i postępowania oraz nakładać kary (rozdziały 3, 4 i 8 ustawy). Od tego samego dnia firma może poprosić KRiBSI o opinię indywidualną w sprawie stosowania AI Act w jej przypadku (art. 8-18 ustawy).

Budujemy oprogramowanie oparte na modelach językowych i dodajemy funkcje AI do istniejących produktów, zwykle jako osobną usługę, którą wywołuje aplikacja. Na platformie doradczej do zakupu energii, którą zbudowaliśmy dla Enerace, AI pisze wiadomości rynkowe na podstawie bieżących danych z rynku. Na platformie produktowej z branży remontowej utrzymujemy czat AI w aplikacji i agenta wyszukiwania produktów. Dla PSONI budujemy Generator ETR, aplikację webową i mobilną, która za pomocą samodzielnie hostowanego modelu językowego zamienia dokumenty, np. urzędowe pisma, na tekst łatwy do czytania. W takich funkcjach to art. 50 decyduje, co widzi użytkownik: informację, że rozmawia z AI, i oznaczenie wygenerowanych treści.

W branży pożyczkowej budujemy kanał klienta dla pożyczkodawców nadzorowanych przez KNF: aplikację pożyczkową, KYC i integracje z systemem centralnym pożyczkodawcy. W aplikacji wnioskodawca widzi decyzję kredytową. Jeśli scoring pożyczkodawcy jest objęty załącznikiem III, to także w aplikacji wnioskodawca dowiaduje się, że użyto systemu AI wysokiego ryzyka, i prosi o interwencję człowieka oraz wyjaśnienie (art. 26 ust. 11 i art. 86 AI Act, art. 18 CCD2). Decyzje kredytowe, scoring i wycena zostają w systemie centralnym pożyczkodawcy. Prawną kwalifikację każdego systemu potwierdza prawnik klienta.