(Pełny tekst niniejszej opinii jest dostępny w wersji angielskiej, francuskiej i niemieckiej na stronie internetowej EIOD https://edps.europa.eu)18 sierpnia 2022 r. Komisja Europejska wydała zalecenie dotyczące decyzji Rady w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji (AI), praw człowieka, demokracji i praworządności (zwanej dalej "konwencją") zgodnie z art. 218 TFUE.
Mając na uwadze "transgraniczny" charakter sztucznej inteligencji, EIOD z zadowoleniem przyjmuje ogólny cel realizowany przez Radę Europy, jakim jest opracowanie pierwszego prawnie wiążącego, międzynarodowego instrumentu dotyczącego sztucznej inteligencji, opartego na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności. W związku z tym EIOD popiera podjęcie negocjacji w imieniu Unii dotyczących konwencji i z zadowoleniem przyjmuje rolę Unii w promowaniu wiarygodnej sztucznej inteligencji, zgodnej z unijnymi wartościami.
EIOD przyjmuje do wiadomości fakt, że przedmiot konwencji będzie regulowany w UE proponowanym aktem w sprawie sztucznej inteligencji, i uznaje cel Komisji, jakim jest zapewnienie zgodności konwencji z proponowanym aktem w sprawie sztucznej inteligencji, z uwzględnieniem przyszłych zmian podczas procesu legislacyjnego. EIOD uważa jednak, że konwencja stanowi ważną okazję do uzupełnienia proponowanego aktu w sprawie sztucznej inteligencji o wzmocnienie poziomu ochrony praw podstawowych wszystkich osób, na które systemy sztucznej inteligencji mają wpływ, i w związku z tym opowiada się za tym, by konwencja zapewniała jasne i solidne gwarancje dla osób, na które systemy sztucznej inteligencji mają wpływ.
W związku z powyższym EIOD sformułował cztery główne zalecenia dotyczące wytycznych negocjacyjnych:
- ogólne cele negocjacji w sprawie konwencji powinny nadać większe znaczenie gwarancjom i prawom, które należy zapewnić osobom fizycznym - i grupom osób - podlegającym systemom sztucznej inteligencji, zgodnie z głównym zainteresowaniem i celami Rady Europy;
- w szczegółowej wytycznej należy zawrzeć wyraźne odniesienie do zgodności konwencji z istniejącymi ramami prawnymi UE w zakresie ochrony danych;
- zgodnie z podejściem opartym na analizie ryzyka należy wprowadzić zakaz stosowania systemów sztucznej inteligencji stwarzających niedopuszczalne ryzyko;
- konwencja powinna promować przyjęcie podejścia polegającego na stosowaniu zasady ochrony danych w fazie projektowania i domyślnej ochrony danych na każdym etapie cyklu życia systemów sztucznej inteligencji.
Ponadto w opinii przedstawiono dalsze zalecenia dotyczące włączenia do konwencji minimalnych gwarancji proceduralnych oraz minimalnych wymogów dotyczących przejrzystości, wyjaśnialności i weryfikowalności, zgodności i mechanizmów kontroli, a także zalecenia dotyczące współpracy transgranicznej między właściwymi organami wyznaczonymi przez strony konwencji do celów nadzoru nad gwarancjami i prawami, które mają być zapewnione zgodnie z konwencją.
1. WPROWADZENIE
1. 18 sierpnia 2022 r. Komisja Europejska wydała zalecenie dotyczące decyzji Rady w sprawie upoważnienia do podjęcia
negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji (AI), praw człowieka, demokracji i praworządności 1 zgodnie z art. 218 TFUE (zwane dalej "zaleceniem").
2. Celem zalecenia jest upoważnienie do podjęcia negocjacji w imieniu Unii dotyczących przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności (zwanej dalej "konwencją"), przyjęcie wytycznych negocjacyjnych i wyznaczenie Komisji jako negocjatora Unii 2 .
3. W uzasadnieniu 3 Komisja podkreśla, że negocjacje w sprawie konwencji dotyczą kwestii wchodzących w zakres wyłącznych kompetencji Unii, również ze względu na fakt, że pierwszy projekt konwencji przekazany przez Komitet ds. Sztucznej Inteligencji (CAI) Rady Europy z jednej strony oraz wniosek Komisji dotyczący rozporządzenia w sprawie sztucznej inteligencji (zwany dalej "proponowanym aktem w sprawie sztucznej inteligencji") 4 z drugiej strony, pokrywają się pod względem zakresu i treści 5 .
4. W uzasadnieniu 6 zalecenia podkreślono, że w pierwszym projekcie zaproponowano uwzględnienie następujących postanowień:
- cel i zakres konwencji (ramowej);
- definicje systemu sztucznej inteligencji, cyklu życia, dostawcy, użytkownika i "podmiotu, wobec którego stosuje się sztuczną inteligencję";
- pewne podstawowe zasady, w tym gwarancje proceduralne i prawa dotyczące podmiotów, wobec których stosuje się sztuczną inteligencję, mające mieć zastosowanie do wszystkich systemów sztucznej inteligencji, niezależnie od przypisanego im poziomu ryzyka;
- dodatkowe środki dotyczące sektora publicznego, jak również systemów sztucznej inteligencji stwarzających "niedopuszczalne" i "znaczne" ryzyko, określone na podstawie metodyki oceny ryzyka i wpływu (która zostanie przedstawiona w załączniku do konwencji);
- mechanizm działań następczych i współpracy między stronami;
- postanowienia końcowe, w tym możliwość stosowania przez państwa członkowskie UE prawa unijnego we wzajemnych stosunkach w sprawach objętych konwencją oraz możliwość przystąpienia Unii do konwencji.
5. W motywie 6 i 7 zalecenia stwierdzono, że zawarcie konwencji może mieć wpływ na istniejące i przewidywalne zasady unijne. Aby chronić integralność prawa Unii i zapewnić spójność między przepisami prawa międzynarodowego a prawem Unii, należy upoważnić Komisję do negocjowania konwencji w imieniu Unii.
6. Niniejszą opinię EIOD wydano w odpowiedzi na konsultacje przeprowadzone przez Komisję 18 sierpnia 2022 r., zgodnie z art. 42 ust. 1 EUDPR 7 . EIOD z zadowoleniem przyjmuje odniesienie się do tych konsultacji w motywie 8 zalecenia.
8. WNIOSKI
49. W świetle powyższego EIOD wydaje następujące zalecenia:
(1) nadanie większego znaczenia celowi "zapewnienia wysokiego poziomu ochrony praw człowieka i wartości europejskich", zgodnie z charakterem i mandatem Rady Europy;
(2) skreślenie słowa "w tym" po słowach "z prawem Unii dotyczącym jednolitego rynku oraz z innymi obszarami prawa" w wytycznych 5 i 11, aby lepiej odzwierciedlić wzajemne oddziaływanie między zasadami ogólnymi i prawami podstawowymi z jednej strony a prawem wtórnym (prawem UE dotyczącym jednolitego rynku oraz innych obszarów prawa) z drugiej strony;
(3) dodanie specjalnej wytycznej przypominającej o konieczności znalezienia właściwej równowagi między interesem publicznym a interesami osób podlegających systemom sztucznej inteligencji, aby zapewnić pełną zgodność z prawem do prywatności i ochrony danych osobowych, a także z innymi odnośnymi prawami podstawowymi, w szczególności z prawem do domniemania niewinności i prawem do rzetelnego procesu sądowego, prawem do dobrej administracji i zasadą niedyskryminacji;
(4) doprecyzowanie w wytycznej, że konwencja powinna zapewniać pewne minimalne gwarancje proceduralne i prawa dla osób, na które systemy sztucznej inteligencji mają wpływ;
(5) uściślenie w wytycznej, że konwencja powinna przewidywać minimalne wymogi dotyczące przejrzystości, wyjaśnialności i weryfikowalności systemów sztucznej inteligencji;
(6) dookreślenie w wytycznej 14, że należy również ocenić i ograniczyć ryzyko społeczne/grupowe stwarzane przez systemy sztucznej inteligencji;
(7) określenie w wytycznych negocjacyjnych, że niektóre systemy sztucznej inteligencji stwarzające niedopuszczalne ryzyko powinny być zakazane oraz przedstawienie orientacyjnego wykazu takich systemów sztucznej inteligencji;
(8) dodanie wytycznej negocjacyjnej, zgodnie z którą konwencja powinna promować przyjęcie podejścia polegającego na stosowaniu zasady ochrony danych w fazie projektowania i domyślnej ochrony danych na każdym etapie cyklu życia systemów sztucznej inteligencji;
(9) sprecyzowanie treści wytycznej 17 w następujący sposób:
- w przypadku sztucznej inteligencji wysokiego ryzyka należy przeprowadzić ocenę zgodności ex ante przez osobę trzecią;
- systemy sztucznej inteligencji wysokiego ryzyka powinny podlegać nowej procedurze oceny zgodności w każdym przypadku wystąpienia istotnej zmiany;
- określić przedmiot i skutek prawny certyfikacji;
- uściślić, że z jednej strony normy techniczne mogą mieć pozytywny wpływ na harmonizację produktów i usług, a z drugiej strony ich zadaniem jest zapewnienie specyfikacji technicznych przepisów już ustanowionych na mocy prawa.
(10) dodanie wytycznej, zgodnie z którą konwencja powinna przewidywać, że właściwym organom nadzorczym należy przyznać odpowiednie uprawnienia dochodzeniowe i wykonawcze;
(11) dodanie wytycznej negocjacyjnej mającej na celu zapewnienie, by konwencja ułatwiała i stymulowała współpracę transgraniczną między właściwymi organami.
Brukseli, 13 października 2022 r.
