Przepisy chroniące przed nadużywaniem sztucznej inteligencji

Apel o przepisy chroniące przed nadużywaniem sztucznej inteligencji

Źródło: iStock

Organizacje społeczne, w tym Fundacja Panoptykon, apelują do europosłów i europosłanek o przyjęcie rozwiązań chroniących ludzi przed zagrożeniami związanymi z wykorzystaniem sztucznej inteligencji. Głosowanie w Parlamencie Europejskim – wkrótce. Koalicja European Digital Rights (EDRi), do której należy Fundacja Panoptykon, opublikowała list otwarty w tej sprawie.

Organizacje społeczne wzywają europosłów do zagłosowania za poprawkami do aktu o sztucznej inteligencji, które ograniczą negatywny wpływ sztucznej inteligencji na życie nas wszystkich i będą nas chronić np. przed niesprawiedliwym ograniczeniem dostępu do edukacji, systemu sprawiedliwości, zatrudnienia czy usług socjalnych.

Czytaj też: Sztuczna inteligencja dużo może, także rozpowszechnić firmowe tajemnice>>

Ryzyko ograniczenia praw i wolności

Systemy oparte na sztucznej inteligencji znajdują coraz szersze zastosowanie także w dziedzinach, w których niosą za sobą ryzyko ograniczenia praw i wolności ludzi. Biometryczna identyfikacja w przestrzeni publicznej, kontrola pod kątem przeszłości kryminalnej, rozpatrywanie wniosków o azyl, ale też rozpoznawanie emocji czy kategoryzowanie ludzi względem ich słabości - to tylko wybrane przykłady zastosowań AI, które w istotny sposób mogą wpływać na nasze codzienne życie.

Czytaj w LEX: RODO w IT: sztuczna inteligencja a dane osobowe - czy RODO definiuje AI oraz ML? >>

Przejrzystości i odpowiedzialności w stosowaniu AI

Organizacje domagają się się m.in. wprowadzenia zakazu stosowania opartych na AI systemów, które niosą nadmierne ryzyko dla praw podstawowych.

Czytaj w LEX: Czy unijna regulacja odpowiedzialności cywilnej za sztuczną inteligencję jest potrzebna? >>

Zakaz powinien objąć m.in.:

systemy biometrycznej identyfikacji osób w przestrzeni publicznej w czasie rzeczywistym przez podmioty prywatne i publiczne – bez wyjątków;
systemy predykcji kryminalnej i profilowania ludzi przez organy ścigania;
wykorzystania AI w kontekście migracji, np. do profilowania ludzi w celu ograniczania ich prawa do migracji;
oddziałujące na stany emocjonalne i psychiczne systemy rozpoznawania emocji, funkcjonujące w oparciu o dane psychologiczne, fizjologiczne, behawioralne i biometryczne.

Postulaty obejmują m.in. nałożenie obowiązku przeprowadzenia oceny ryzyka dla praw podstawowych przed wprowadzeniem systemu do użycia i rejestrowania systemów wysokiego ryzyka w ogólnoeuropejskiej bazie.

Czytaj w LEX: Pułapki sztucznej inteligencji >>

Przyznania praw dla osób pod działaniem AI

Osoby te powinny być informowane o tym, że są poddane działaniu takiego systemu, i o przysługujących im prawach. Powinny też mieć możliwość wniesienia skargi do odpowiedniego organu oraz odwołania się od decyzji, z którą się nie zgadzają.

Czytaj w LEX: Użycki Dariusz - Czym grozi sztuczna inteligencja? >>>

Mamy nadzieję, że europosłowie i europosłanki zagłosują za rozwiązaniami, które sprawią, że nowa regulacja wzmocni prawa podstawowe i sprawiedliwość społeczną.