Szanowni Państwo, Członkowie Związku Pracodawców Polska Miedź

Uprzejmie informuję, że do konsultacji publicznych skierowany został projekt ustawy o systemach sztucznej inteligencji (numer z wykazu UC71).

Przedmiotowy projekt aktu prawnego wraz Uzasadnieniem oraz Oceną Skutków Regulacji dostępny jest na stronach Rządowego Centrum Legislacji pod adresem:

https://legislacja.rcl.gov.pl/projekt/12390551/katalog/13087907#13087907

Uprzejmie proszę o przekazywanie ewentualnych uwag, opinii i stanowisk do projektu w terminie do 13 listopada 2024 roku na adres: kuydowicz@pracodawcy.pl w wersji elektronicznej umożliwiającej edytowanie tekstu.

Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”.

Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji.

Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą się opierały na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim.

Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do:

1) wskazania właściwych organów krajowych, tj.:

– organu lub organów nadzoru rynku,

– organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie;

2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689;

3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie art. 5 rozporządzenia 2024/1689.

Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie.

Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów art. 5 rozporządzenia 2024/1689. Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa.

Projektu ustawy nie stosuje się do: 

1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2024 r. poz. 1370); 

2) w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 5 ust. 1 pkt 1 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812, z późn. zm.); 

3) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt 2 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2024 r. poz. 17, z późn. zm).

1. Właściwe organy krajowe

Organ nadzoru rynku oraz punkt kontaktowy

W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne.

Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania).

Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna.

Pracami Komisji będzie kierował Przewodniczący powoływany przez Prezesa Rady Ministrów w drodze otwartego i konkurencyjnego naboru, spośród osób posiadających obywatelstwo polskie, cieszących się nieposzlakowaną opinią, jak również posiadających wykształcenie wyższe i tytuł zawodowy magistra lub magistra inżyniera lub wyższy oraz wyróżniających się wiedzą i posiadających dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji.

W skład Komisji będą także wchodzili Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym:

1) ministra właściwego do spraw informatyzacji;

2) ministra powołanego do koordynowania działalności służb specjalnych, a w przypadku, gdy nie został wyznaczony – Kancelarii Prezesa Rady Ministrów;

3) Prezesa Urzędu Ochrony Danych Osobowych;

4) Prezesa Urzędu Ochrony Konkurencji i Konsumentów;

5) Komisji Nadzoru Finansowego;

6) Rzecznika Praw Obywatelskich;

7) Rzecznika Praw Dziecka;

8) Krajowej Rady Radiofonii i Telewizji;

9) Prezesa Urzędu Komunikacji Elektronicznej.

Dodatkowo, w posiedzeniach Komisji bez prawa głosu będą mogli uczestniczyć przedstawiciele:

1) Kancelarii Prezydenta Rzeczypospolitej Polskiej;

2) Kancelarii Sejmu Rzeczypospolitej Polskiej;

3) Kancelarii Senatu Rzeczypospolitej Polskiej;

4) urzędu obsługującego Ministra Obrony Narodowej;

5) urzędu obsługującego ministra właściwego do spraw kultury i dziedzictwa narodowego;

6) urzędu obsługującego ministra właściwego do spraw gospodarki

7) Polskiego Centrum Akredytacji;

8) Polskiego Komitetu Normalizacyjnego;

9) Rady Dialogu Społecznego – strony pracowników;

10) Rady Dialogu Społecznego – strony pracodawców;

11) Biura Rzecznika Praw Pacjenta;

12) Biura Rzecznika Finansowego;

13) Biura Rzecznika Małych i Średnich Przedsiębiorców;

14) Państwowej Inspekcji Pracy;

15) Urzędu Patentowego Rzeczpospolitej Polskiej;

16) Biura Komisji Rozwoju Sztucznej Inteligencji.

Przepisy uregulują również tryb powoływania i odwoływania członków komisji, ich obowiązków i uprawnień członków komisji, a także sposobu wykonywania zadań.

Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach tzw. piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji.

W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest również utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z siedzibą w Warszawie. 

Zgodnie z rozporządzeniem 2024/1689 właściwy krajowy organ nadzoru nad systemami sztucznej inteligencji ma być organem niezależnym oraz wykonywać swoje uprawnienia w sposób bezstronny i wolny od uprzedzeń. Biorąc to pod uwagę, zaproponowano, aby obsługujące organ Biuro Komisji, również charakteryzował się niezależnością. Jako przykład posłużono się organizacją i funkcjonowaniem Urzędu Komisji Nadzoru Finansowego, który został utworzony jako urząd obsługujący organ nadzoru niezależny od administracji rządowej, co oznacza, że jego pracownicy nie należą do korpusu służby cywilnej. Jednocześnie Urząd Komisji jest organem, do którego nie stosuje się przepisów ustawy z dnia 16 września 1982 r. o pracownikach urzędów państwowych (Dz. U. z 2023 r. poz. 1917). Takie samo rozwiązanie przyjęto w planowanej ustawie.

Biuro Komisji, którego zadaniem będzie zapewnienie obsługi Komisji i Przewodniczącego Komisji, ma mieć status państwowej osoby prawnej. Nadzór nad działalnością Biura sprawować ma Prezes Rady Ministrów, który też nada mu, w drodze zarządzenia, statut. Do pracowników Biura zastosowanie znajdą przepisy ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2023 r. poz. 1465 oraz z 2024 r. poz. 878 i 1222).. Uregulowane zostaną także kwestie dotyczące organizacji pracy pracowników biura, takie jak wydawanie legitymacji upoważniających do udziału w czynnościach kontrolnych.

Zadania nowego organu będą obejmowały, w szczególności:

1) sprawowanie nadzoru nad rynkiem systemów sztucznej inteligencji w zakresie określonym w rozporządzeniu 2024/1689;

2) realizację zadań pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia 2024/1689;

3)współpracę z Prezesem Urzędu Ochrony Danych Osobowych oraz innymi organami w zakresie realizacji zadań określonych rozporządzeniem 2024/1689;

4) współpracę z właściwymi organami i instytucjami Unii Europejskiej oraz państw członkowskich;

5) opiniowanie projektów aktów prawnych związanych z regulacjami sztucznej inteligencji.

Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji, takich jak: 

1) nadzór nad ustanowieniem i działaniem piaskownic regulacyjnych, które mają pozwolić na testowanie innowacyjnych systemów sztucznej inteligencji w bezpiecznych, kontrolowanych warunkach;

2) realizację przez Komisję obowiązku informacyjnego związanego z podejmowanymi działaniami oraz spełnieniem  innych obowiązków ustawowych;

3) działania monitorujące, komunikacyjne i edukacyjne wspierające rozwój sektora sztucznej inteligencji w Polsce.

Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art.7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji.

Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji, a Komisją w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków), zakłada także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe.

W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, której celem będzie ustalenie zgodności działalności podmiotów z ww. przepisami. Komisja będzie przeprowadzała kontrolę na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Domyślnym trybem prowadzenia kontroli, jak również innych czynności wymagających udziału stron, jest forma zdalna za pomocą środków komunikacji elektronicznej.

Kontrola może zostać przeprowadzona przez upoważnionego pracowników Biura Komisji po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli, a także uprawnień i obowiązków kontrolerów i podmiotów kontrolowanych. 

Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689. Postępowania będzie wszczynane z urzędu, na wniosek członka Komisji/ podmiotu uczestniczącego w jej pracach lub na podstawie skargi.

W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe.

W przypadku stwierdzenia naruszenia zakończeniem postępowania przed właściwym organem krajowym ma być wydanie decyzji w przedmiocie naruszenia obowiązków wynikających z rozporządzenia nakazującej zaprzestania naruszeń. 

Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689. W takim wypadku organ obowiązany będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. 

Projekt ustawy przewiduje Społecznej Rady do spraw Sztucznej Inteligencji działającej przy Komisji. Rada będzie organem opiniodawczo-doradczym, który skupi ekspertów i ekspertki o znaczącej wiedzy i dorobku w obszarze sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, zdrowia, prawa nowych technologii czy praw człowieka. Do zadań Rady będzie należało przede wszystkim wydawanie opinii i stanowisk w sprawach przekazanych przez Komisję m.in. projektów dokumentów rządowych i innych dokumentów organów i instytucji UE dotyczących spraw nadzoru nad sztuczną inteligencją oraz wspieranie innowacyjności w tym zakresie. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków.

Organ notyfikujący

Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się, aby wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność oraz jako organ notyfikujący. Dla spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 r. powierzone zostaną Polskiemu Centrum Akredytacji w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854). 

2. Skargi i zgłaszanie poważnych incydentów

W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów. 

Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia, czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów.

Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ.

Ze względu na międzynarodową dostępność produktów i usług wykorzystujących technologię sztucznej inteligencji, rozporządzenie 2024/1689 wprowadza także mechanizm zgłaszania incydentów   o szczególnie dużym ryzyku. W związku z tym, projekt ustawy przewiduje stworzenie trybu postępowania w sytuacji stwierdzenia przez właściwy organ prawdopodobieństwa, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689. W takim wypadku organ obowiązany będzie wszcząć z urzędu postępowanie kontrolne. W przypadku stwierdzenia w ramach dokonywanych czynności w sprawie, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ będzie mógł wydać decyzje o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku, a także o nałożeniu kary administracyjnej. 

Projekt ustawy uwzględnia również tryb zgłaszania poważnych incydentów. Zgodnie z projektem ustawy dostawca systemu sztucznej inteligencji będzie miał obowiązek zgłoszenia do Komisji poważnego incydentu w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689.

3. Administracyjne kary pieniężne

Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby ustawowo określone przypadki, w których właściwy organ może nałożyć w drodze decyzji karę, jak również jej wysokość dotyczyły naruszeń przepisów art. 5 rozporządzenia 2024/1689. Zgodnie z w art. 5 rozporządzenia 2024/1689 kara, o której mowa wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów, co powinno znaleźć wyraz w przepisach ustawy. Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów. 

Dodatkowo, projekt zakłada możliwość osiągnięcia celu zapewnienia bezpieczeństwa i zgodności z prawem stosowanych systemów sztucznej inteligencji środkami innymi niż przez nałożenia kar administracyjnych. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie, w którym może on wskazać rekomendacje dotyczące przywrócenia przez stronę stanu faktycznego i prawnego zgodnego z przepisami prawa. Wywiązanie się przez podmiot z rekomendacji zawartych w ostrzeżeniu może być podstawą do odstąpienia od nałożenia przez Komisję kary.

Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw.

Z wyrazami szacunku