Powstaje organ, który skontroluje AI w twojej firmie. Nowe obowiązki wchodzą 2 sierpnia

Do stosowania AI Act brakowało nam w Polsce jednego organu

Przyjęcie przez Unię Europejską rozporządzenia 2024/1689, zwanego „AI Act", oznaczało, że stworzenie krajowych rozwiązań było kwestią czasu. Żeby ograniczenia nakładane przez unijne przepisy działały, potrzebowaliśmy organu nadzoru. Do tego zaś niezbędne było uchwalenie ustawy.

Krajowy ustawodawca znowu się nie spieszył. Najwyraźniej taka już jego natura. Pierwsze rozwiązania wdrożone przez AI Act zaczęły obowiązywać od 2 lutego 2025 roku, a kilka miesięcy później weszła w życie ich druga transza. Przez cały ten czas nie brakowało zresztą głosów, że AI Act musi zniknąć, jeśli Europa chce się liczyć w technologicznym wyścigu.

Teraz mamy koniec lipca 2026 roku. Prezydent Karol Nawrocki podpisał ustawę o systemach sztucznej inteligencji, która wprowadza brakujący element układanki w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W samą porę, bo od 2 sierpnia 2026 roku wchodzą w życie następne przepisy AI Act.

Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji to takie UODO od zgodnego z prawem korzystania z AI

Prawdę mówiąc, ustawa sama w sobie nie zawiera nic szczególnie odkrywczego. Ot, Komisja będzie kolejnym ogólnopolskim organem nadzoru z prawem do przeprowadzania kontroli w firmach i nakładania na nie kar administracyjnych.

Przedmiotem działania Komisji będzie egzekwowanie przepisów rozporządzenia 2024/1689, więc przepisy ustawy bez przerwy się do niego odnoszą. Wbrew pozorom nie jest to wcale taki zły model. Dzięki temu nie musimy się martwić, że krajowy ustawodawca ulegnie pokusie dodania do unijnych przepisów czegoś od siebie. Zazwyczaj mamy w końcu do czynienia z krajowym zaostrzaniem europejskich rozwiązań.

W praktyce będziemy mieli do czynienia z kolejnym UODO. To o tyle ważne, że coraz więcej przedsiębiorców przynajmniej rozważa wdrożenie AI w firmie w jakiś sposób. Polacy wydają się co prawda ostrożniejsi od swoich zachodnich kolegów i teraz mają ku temu dodatkowy powód.

Powstanie wykaz systemów AI ukaranych za naruszenie przepisów

Jako pewną ciekawostkę można wspomnieć, że ustawa zakłada także stworzenie wykazu systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie rozporządzenia 2024/1689 lub ustawy. Będzie przypominać nową wersję rejestru decyzji Prezesa UOKiK, do którego trafiają niedozwolone postanowienia umowne.

Już od 2 sierpnia wchodzi w życie nowa transza obowiązków dotyczących korzystania z AI w firmach

W tym momencie warto się zastanowić, na jakie konkretnie naruszenia przepisów powinniśmy zacząć uważać. Jak już wspomniałem, AI Act jest wdrażany etapami. Przy okazji same rozwiązania z zakresu sztucznej inteligencji podzielono na cztery kategorie.

Od 2 sierpnia 2026 roku będzie nas w szczególności interesować jedna z nich, o nazwie „systemy AI wysokiego ryzyka". Chodzi o systemy dopuszczalne, ale równocześnie podlegające szczególnie intensywnemu nadzorowi z wykorzystaniem obowiązków sprawozdawczych, organizacyjnych oraz wyśrubowanych norm.

Innymi słowy: możemy takie systemy wykorzystywać w działalności przedsiębiorstwa, ale będziemy musieli spełnić wymagania określone przez AI Act. Sprowadzają się one do wdrożenia skutecznego systemu zarządzania ryzykiem, zapewnienia nadzoru żywego człowieka, rejestrowania zdarzeń, stałej kontroli jakości i bezpieczeństwa naszego AI oraz rejestracji w unijnej bazie danych.

Na cenzurowanym znalazły się biometria oraz AI wykorzystywana w rekrutacji i ewaluacji pracowników

Do systemów wysokiego ryzyka, które — realistycznie patrząc — możemy stosować w firmie, należy przede wszystkim biometria. Chodzi o systemy zdalnej identyfikacji biometrycznej, wykraczającej poza potwierdzanie, że mamy do czynienia z konkretną osobą fizyczną. W grę wchodzi kategoryzacja biometryczna pod kątem określonych atrybutów lub cech oraz systemy przeznaczone do rozpoznawania emocji.

Za systemy AI wysokiego ryzyka uznano także oprogramowanie wykorzystywane do celów rekrutacji pracowników, wpływające na podejmowanie decyzji dotyczących wszelkich warunków pracy i płacy, przydzielania personelowi zadań oraz monitorowania lub oceny jego wydajności i zachowania.

Jeżeli wdrażamy w naszej firmie któreś z tych rozwiązań, to od 2 sierpnia będziemy podlegać rygorom AI Act i tym samym znajdziemy się w spektrum zainteresowań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.

Zmiany dotyczą także komercyjnego wykorzystywania treści generowanych przez sztuczną inteligencję

To nie koniec. Tego samego dnia wchodzą w życie także przepisy AI Act dotyczące przejrzystości. Mamy do czynienia z kolejnymi obowiązkami dla dostawców i podmiotów stosujących niektóre systemy AI.

Sprowadzają się one przede wszystkim do informowania odbiorców będących osobami fizycznymi, że mają do czynienia ze sztuczną inteligencją. Dotyczy to wszelkich systemów służących do bezpośredniej interakcji z daną osobą, biometrii, generowania syntetycznych dźwięków, obrazów, wideo lub tekstu oraz systemów rozpoznawania emocji. Kierunek nie jest zresztą nowy — od dawna wiadomo, że Komisja Europejska chce oznaczać treści generowane przez AI.

Przepisy te są o tyle ważne, że na dobrą sprawę każdy obrazek czy tekst wygenerowany przez AI na potrzeby działalności gospodarczej, który jest skierowany do konsumentów, będzie trzeba oznaczyć.

Co istotne: stosowne informacje będzie trzeba przekazać odbiorcy w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego zastosowania. Oczywiście wymogi wprowadzane przez AI Act w żadnym wypadku nie przekreślają innych pokrewnych obowiązków, na przykład tych dotyczących ochrony danych osobowych — kary za nieprzestrzeganie RODO obowiązują niezależnie od nowych przepisów.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj