W środowym projekcie ustawy dotyczącym sztucznej inteligencji zaproponowano m.in. utworzenie Komisji Rozwoju Bezpieczeństwa Sztucznej Inteligencji jako krajowego organu nadzoru nad AI, a także wprowadzenie regulacji dotyczących procedur kontrolnych, karnych oraz ochrony praw obywateli na drodze sądowej.
W projekcie ustawy zaplanowano utworzenie nowego organu nadzorującego rynek systemów sztucznej inteligencji – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ministerstwo Cyfryzacji proponuje, by organ miał formę kolegialną, co ma ułatwić efektywną koordynację oraz współpracę między kluczowymi instytucjami. Zaznaczono, że utworzenie takiego organu może być tańsze niż zlecanie tych zadań poszczególnym instytucjom oddzielnie. Pracami Komisji ma kierować przewodniczący wyłoniony w otwartym naborze przez premiera, a jego niezależność będzie chroniona przez ograniczone możliwości jego odwołania.
W projekcie ustawy resort przewiduje, że w skład Komisji Rozwoju Sztucznej Inteligencji wejdą przedstawiciele kluczowych instytucji, takich jak Ministerstwo Cyfryzacji, służby specjalne, UODO, UOKiK, KNF, Rzecznicy Praw Obywatelskich i Dziecka, KRRiT oraz UKE. Ponadto, w obradach komisji, bez prawa głosu, będą mogli uczestniczyć przedstawiciele m.in. kancelarii prezydenta, Sejmu i Senatu, MON, MKiDN, MRiT oraz innych instytucji, takich jak Rada Dialogu Społecznego, PIP czy Urząd Patentowy.
Komisja Rozwoju Bezpieczeństwa Sztucznej Inteligencji będzie współpracować z instytucjami UE i innych krajów, aby rozwijać wiedzę ekspercką i wspierać konkurencyjność europejskiej gospodarki. Premier będzie nadzorować komisję i ustali jej zasady działania.
Nowy organ będzie odpowiedzialny za nadzór nad rynkiem AI, współpracę z UODO i innymi instytucjami w realizacji unijnych przepisów, a także za kontakty z organami UE i państw członkowskich. Będzie również opiniować projekty przepisów dotyczących sztucznej inteligencji. W przyszłości komisja ma zajmować się także nadzorem nad „piaskownicami regulacyjnymi”, umożliwiającymi testowanie nowych systemów AI w kontrolowanych warunkach.
Projekt zakłada, że Komisja będzie rozpatrywać wnioski o pozwolenie na wprowadzenie do obrotu systemów sztucznej inteligencji uznanych przez unijne przepisy za wysokiego ryzyka, takich jak te stosowane w edukacji, infrastrukturze krytycznej, zatrudnieniu czy zarządzaniu migracją. Komisja będzie mogła kontrolować działalność firm zajmujących się AI oraz prowadzić postępowania w sprawach naruszeń unijnych regulacji.
„W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia (…), organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku” – poinformowano w uzasadnieniu projektu.
„Zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne (…) nie będzie możliwości odwołania w ramach procedury administracyjnej” – podkreślono, dodając, że inny organ administracyjny nie zmieni lub nie uchyli takowej decyzji. Natomiast pozostanie możliwość odwołania się do sądu. Będzie nim Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów.
Projekt zakłada utworzenie społecznej rady ds. AI przy komisji, która będzie pełnić funkcję doradczą i opiniotwórczą. W skład rady wejdą eksperci z dużym doświadczeniem w dziedzinie sztucznej inteligencji. Rada będzie wydawać opinie i stanowiska dotyczące dokumentów przekazywanych przez komisję, takich jak projekty rządowych regulacji.
Projekt ustawy przewiduje, że Komisja będzie mogła nakładać kary, w tym pieniężne, zgodnie z unijnymi przepisami. Maksymalna wysokość kar to 35 mln euro lub 7% rocznego światowego obrotu przedsiębiorcy, w zależności od tego, która kwota jest wyższa. Dla małych i średnich firm przewidziane są niższe kary, co powinno być uwzględnione w ustawie. Postępowania będą jednoinstancyjne, z możliwością odwołania do Sądu Ochrony Konkurencji i Konsumentów.
Komisja będzie mogła również wydawać ostrzeżenia, zawierające rekomendacje dotyczące przywrócenia zgodności działań z przepisami prawa. Jeśli strona zastosuje się do tych zaleceń, możliwe będzie odstąpienie od nałożenia kary.
W projekcie przewidziano, że maksymalne wydatki z budżetu państwa związane z wprowadzeniem zmian wyniosą 8 mln zł w 2025 r., 21 mln zł w 2026 r., a w kolejnych latach osiągną 31 mln zł.
Ustawa ma wejść w życie 14 dni po jej ogłoszeniu.
