Komisja od sztucznej inteligencji do poprawki. Spływają uwagi do projektu ustawy

Projekt ustawy o systemach sztucznej inteligencji przez jednych jest krytykowany za nadmierne bariery regulacyjne, przez innych chwalony za bezwzględny zakaz wykorzystywania AI do identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. Eksperci opiniujący proponowane regulacje postulują ponadto modyfikację kształtu nowego organu - Komisji ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI).

Projekt ustawy o systemach sztucznej inteligencji (SSI) został przygotowany przez Ministerstwo Cyfryzacji i ma służyć zapewnieniu odpowiedniego stosowania w Polsce rozporządzenia 2024/1689, czyli aktu w sprawie sztucznej inteligencji (funkcjonującego też pod nazwami: Artificial Intelligence Act, AI Act, akt o AI lub AIA).

Właśnie zakończyły się konsultacje polskich przepisów. Chociaż na stronach Rządowego Centrum Legislacji nie umieszczono jeszcze nadesłanych uwag, niektóre organizacje pochwaliły się w przestrzeni publicznej swoimi stanowiskami.

Przeczytaj także: Więzienie lub wysoka grzywna. Surowe kary w projekcie ustawy o systemach AI

Nowa izba gospodarcza krytykuje AI Act

Wiadomo, że w konsultacjach wzięła udział Chamber AI (Izba AI). To niedawno utworzony podmiot funkcjonujący w formie izby gospodarczej. Jak informuje w komunikacie prasowym, zrzesza już kilkadziesiąt startupów, firm i organizacji zainteresowanych tematyką sztucznej inteligencji. Środowisko to krytykuje unijny AI Act. - Próby regulowania, a więc ograniczenia, rozwoju tak dynamicznie rozwijającej się technologii są co najmniej ryzykowne z punktu widzenia konkurencyjności europejskiej gospodarki, która już obecnie cierpi na deficyt innowacyjności i przeregulowanie – wskazuje Izba AI na wstępie swoich uwag do projektu polskiej ustawy.

Organizacja ma też zastrzeżenia do polskiego projektu. W swojej opinii wytknęła mu:

• nadmierne bariery regulacyjne;
• brak norm odnoszących się do piaskownic regulacyjnych, czyli „przestrzeni prawnych”, w ramach których przedsiębiorstwa mogą bezpiecznie testować nowe rozwiązania i innowacje AI bez ryzykowania poważną odpowiedzialnością. Izba AI przypomina, że według KE państwa członkowskie muszą ustanowić co najmniej jedną krajową piaskownicę do 2 sierpnia 2026;
• powielanie przepisów z innych aktów prawnych, przede wszystkim z ustawy o nadzorze rynku finansowego. - Sztuczna inteligencja, jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu – zwraca uwagę Izba AI w komunikacie;
• niewłaściwy skład Komisji ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Zdaniem izby, projektowane przepisy nie zapewniają właściwej reprezentacji sektora gospodarczego i naukowego;
• niejasne regulacje o podmiotach nadzorujących i udzielaniu dostępu do informacji. Izba krytykuje umożliwienie zlecania kontroli podmiotom trzecim, podnosząc, że powinien wykonywać ją wyłącznie pracownik KRiBSI. Ponadto izba sprzeciwia się wprowadzaniu niejasnych podstaw prawnych, mogących być interpretowanych jako upoważnienie in blanco do przekazywania informacji - bez wyraźnego celu i potrzeby - funkcjonariuszom organów ścigania.

Ustawa o SSI - uwagi Fundacji Panoptykon

- Przede wszystkim cieszymy się w niej z tego, że Ministerstwo Cyfryzacji nie wprowadziło wyjątków od przewidzianego w rozporządzeniu zakazu „wykorzystywania systemów zdalnej identyfikacji biometrycznej”, czyli np. systemów rozpoznawania twarzy w czasie rzeczywistym – czytamy na stronie internetowej Fundacji Panoptykon, która również poinformował o udziale w konsultacjach.

Fundacja ma jednak także uwagi krytyczne do projektu. Po pierwsze, jej zdaniem zmian wymaga koncepcja działania Komisji ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W tym zakresie Fundacja Panoptykon:

• dziwi się, że przedstawiciela w KRiBSI ma mieć minister – koordynator służb specjalnych, natomiast nie będzie go miał minister spraw wewnętrznych i administracji, który jest operatorem bazy PESEL.;
• postuluje większą przejrzystość wyborów przewodniczącego oraz doprecyzowanie reguły rozstrzygania konfliktu interesów;
• chce, by kandydatów do Społecznej Rada ds. Sztucznej Inteligencji (działającej przy KRiBSI) mogły zgłaszać nie tylko fundacje i stowarzyszenia zajmujące się rozwojem AI, ale też organizacje zajmujące się ochroną praw człowieka;
• proponuje też, by członkowie rady społecznej otrzymywali diety oraz zwrot kosztów dojazdów.

Zobacz w LEX: Sztuczna inteligencja w HR a AI Act >

Kolejna uwaga dotyczy wykazu organów i instytucji publicznych zajmujących się ochroną praw podstawowych, które będą miały prawo uzyskać dostęp do dokumentacji systemów AI. Fundacja uważa, że obok Rzecznika Praw Dziecka, Rzecznika Praw Pacjenta i Państwowej Inspekcji Pracy, powinien się w nim znaleźć także Rzecznik Praw Obywatelskich, którego zabrakło w projekcie.

Zobacz w LEX: Akt w sprawie sztucznej inteligencji - komentarz praktyczny >

Lewiatan o kompetencjach KRiBSI

Kolejną organizacją, która wzięła udział w konsultacjach, jest Konfederacja Lewiatan. W przesłanym mediom stanowisku zwróciła uwagę, że uprawnienia Komisji ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie mogą być zbyt szerokie.

- Nasze wątpliwości odnoszą się do rzeczywistego zakresu kompetencji krajowego organu nadzorczego, szczególnie w odniesieniu do przedsiębiorców zagranicznych, wobec których organy nadzoru w różnych państwach członkowskich mogą równocześnie prowadzić kontrole i postępowania administracyjne – mówi cytowana w komunikacie Eliza Turkiewicz, ekspertka Konfederacji Lewiatan. 

Jej zdaniem niejasności pojawiają się zwłaszcza w przypadku działań podejmowanych przez polski organ, takich jak stosowanie określonych środków wobec przedsiębiorców mających siedziby w innych państwach, szczególnie gdy na terytorium Polski działają odrębne spółki - utworzone na podstawie prawa polskiego - lub oddziały tych przedsiębiorców. - W sytuacji, gdy przedsiębiorca prowadzi działalność objętą globalnymi regulacjami, istotne staje się rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej powinien prowadzić działania krajowy organ nadzoru – wobec przedsiębiorcy głównego, jego lokalnej spółki lub oddziału, czy może wobec kilku podmiotów jednocześnie – oraz jak pogodzić kompetencje krajowego organu z organami innych państw – dodaje Eliza Turkiewicz.

Wątpliwości Lewiatana budzi też zakres przetwarzania danych przez KRiBS, a konkretnie danych objętych tajemnicą komunikacji elektronicznej, które są szczególnie chronione w polskim systemie prawnym. 

-------------------------------------------------------------------------------------------------------------------

Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.