2 sierpnia 2026 r. to data, której przedsiębiorcy korzystający ze sztucznej inteligencji nie mogą zignorować. Tego dnia zaczynają obowiązywać kolejne przepisy AI Act – unijnego rozporządzenia 2024/1689 ustanawiającego pierwsze kompleksowe ramy prawne dla systemów sztucznej inteligencji. Nakładają one nowe obowiązki nie tylko na twórców systemów AI, ale również na przedsiębiorców i instytucje korzystające z takich rozwiązań w codziennej działalności.

Aby odpowiednio przygotować się do stosowania nowych przepisów, warto zwrócić uwagę na kilka kluczowych obszarów.

Sprawdź, czy korzystasz z systemów AI

Każdy z podmiotów powinien dokonać inwentaryzacji posiadanych zasobów informatycznych celem stwierdzenia czy znajdują się tam systemy AI. W przypadku stwierdzenia ich w swoich zasobach, konieczne jest dokonanie ich kategoryzacji, w szczególności ustalenie czy mogą być kwalifikowane jako systemy wysokiego ryzyka. Z tą kategorią wiąże się szereg szczególnych obowiązków, np.:

• przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka;
• podmioty stosujące systemy AI wysokiego ryzyka podejmują odpowiednie środki techniczne i organizacyjne w celu zapewnienia, aby systemy te były wykorzystywane zgodnie z dołączoną do nich instrukcją obsługi.

Kieruj się zasadą przejrzystości

Każdy podmiot stosujący AI niezależnie od kategorii ma obowiązek stosować się do zasady przejrzystości. Co do zasady powinien informować osoby trzecie o wchodzeniu przez nie w kontakt z AI ( chaboty) jak też o wygenerowaniu publikowanych treści  przez AI.

Przyjrzyj się  umowyom z kontrahentami

Coraz więcej usług marketingowych, graficznych czy copywriterskich jak tez innych jest realizowanych przy wykorzystaniu narzędzi AI. Dlatego zawierając umowy, zwłaszcza z agencjami reklamowymi, software house’ami czy dostawcami usług IT, warto jasno określić miedzy innymi:

• czy wykonawca może korzystać z AI,
• w jakim zakresie jest to dopuszczalne,
• kto ponosi odpowiedzialność za zgodność z AI Act,
• jakie są zasady ochrony danych i praw własności intelektualnej.

Brak odpowiednich postanowień może prowadzić do sporów oraz trudności z przypisaniem odpowiedzialności.

Wprowadź wewnętrzną politykę korzystania z AI

Należy rozważyć uregulowanie zasad korzystania z AI przez pracowników /współpracowników i inne podmioty, np. w formie regulaminu. Dokument może zawierać:

• zasady korzystania z narzędzia AI wyłącznie za uprzednią zgodą,
• obowiązku weryfikowania wyników AI,
• ograniczonego i zanonimizowanego wprowadzenia danych do AI.

Pamiętaj o praktykach całkowicie zakazanych

AI Act nie dopuszcza stosowania systemów wykorzystujących lub wspierających praktyki całkowicie zakazane ze względu na ich niezgodność z podstawowymi prawami i wartościami. Do takich zakazanych praktyk zalicza się m. in.:

• stosowanie technik podprogowych, manipulacyjnych lub wprowadzających w błąd – (np. poprzez bodźce dźwiękowe, obrazy, wideo, ingerencję w mózg odbiorcy dzięki odpowiednim interfejsom),
• wykorzystywanie słabości osoby lub grupy osób (np. ich wieku, niepełnosprawności itp.) – np. system zaprojektowany do manipulowania decyzjami finansowymi osób starszych, chatboty agresywnie adresujące reklamowe treści do dzieci lub oferujące nabycie po zwiększonych cenach suplementy mające pomóc osobom znajdującym się w kryzysie psychicznym;
• scoring społeczny – np. ocena lub klasyfikacja na podstawie ich zachowań w odmiennym kontekście sytuacyjnym, cech osobistych lub osobowościowych. Przykładem niedozwolonego scoringu będzie uzależnianie dostępu dzieci do renomowanych szkół od np. weryfikacji wypowiedzi ich rodziców na publicznych forach internetowych czy terminowego uiszczania należności publicznoprawnych.
• tworzenie lub rozbudowywanie baz danych, służących rozpoznawaniu twarzy – system, który zbiera obrazy twarzy obywateli z kamer monitoringu publicznego i tworzy na ich podstawie bazy danych do identyfikacji tych osób w tłumie, wykorzystywane do monitorowania ich zachowania,
• ocena stanu emocjonalnego człowieka w miejscu pracy lub w instytucjach edukacyjnych –  system AI wykorzystywany przez firmy do monitorowania nastroju pracowników na podstawie analizy ich głosu, mimiki itp. w celu dokonania oceny ich zaangażowania,
• kategoryzacja biometryczna –  system wykorzystywany w miejscu pracy, który skanuje odciski palców pracowników w celu monitorowania czasu pracy,
• wykorzystywanie danych biometrycznych w czasie rzeczywistym –  system rozpoznawania twarzy w sklepach, który w czasie rzeczywistym identyfikuje osoby poszukiwane przez policję i powiadamia odpowiednie służby.

Musisz wiedzieć o możliwych karach za naruszenia

• Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa powyżej (art.5), podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.
• Nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa

Podsumowanie

AI Act nie oznacza zakazu korzystania ze sztucznej inteligencji. Wręcz przeciwnie, jego celem jest stworzenie bezpiecznych i przejrzystych zasad jej wykorzystywania. Zgodność z nowymi regulacjami wymaga przeglądu wykorzystywanych narzędzi, oceny ryzyka, odpowiednich zapisów umownych oraz przygotowania wewnętrznych procedur. Organizacje, które potraktują te obowiązki jako element budowania nowoczesnego systemu compliance, zyskają nie tylko bezpieczeństwo prawne. Zwiększą również swoją wiarygodność wobec klientów, pracowników i partnerów biznesowych.

radczyni prawna Katarzyna Pawlak, partner Kancelarii