P9_TA(2021)0238Rezolucja Parlamentu Europejskiego z dnia 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym (2020/2017(INI))
(2022/C 15/04)
(Dz.U.UE C z dnia 12 stycznia 2022 r.)
Parlament Europejski,
- uwzględniając Kartę praw podstawowych Unii Europejskiej (zwaną dalej,"kartą"),
- uwzględniając art. 165, 166 i 167 Traktatu o funkcjonowaniu Unii Europejskiej,
- uwzględniając konkluzje Rady z dnia 9 czerwca 2020 r. w sprawie kształtowania cyfrowej przyszłości Europy 1 ,
- uwzględniając opinię Europejskiego Komitetu Ekonomiczno-Społecznego z dnia 19 września 2018 r. w sprawie przepaści cyfrowej między kobietami a mężczyznami 2 ,
- uwzględniając wniosek Komisji z dnia 6 czerwca 2018 r. dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego program "Cyfrowa Europa" na lata 2021-2027 (COM(2018)0434),
- uwzględniając komunikat Komisji z dnia 30 września 2020 r. w sprawie Planu działania w dziedzinie edukacji cyfrowej 2021-2027: Nowe podejście do kształcenia i szkolenia w epoce cyfrowej (COM(2020)0624),
- uwzględniając komunikat Komisji z dnia 30 września 2020 r. w sprawie urzeczywistnienia europejskiego obszaru edukacji do 2025 r. (COM(2020)0625),
- uwzględniając sprawozdanie Komisji z dnia 19 lutego 2020 r. na temat wpływu sztucznej inteligencji, internetu rzeczy i robotyki na bezpieczeństwo i odpowiedzialność (COM(2020)0064),
- uwzględniając białą księgę Komisji z dnia 19 lutego 2020 r. w sprawie sztucznej inteligencji - "Europejskie podejście do doskonałości i zaufania" (COM(2020)0065),
- uwzględniając komunikat Komisji z dnia 19 lutego 2020 r. zatytułowany "Europejska strategia w zakresie danych" (COM(2020)0066),
- uwzględniając komunikat Komisji z dnia 25 kwietnia 2018 r. zatytułowany "Sztuczna inteligencja dla Europy" (COM(2018)0237),
- uwzględniając komunikat Komisji z dnia 17 stycznia 2018 r. w sprawie Planu działania w dziedzinie edukacji cyfrowej (COM(2018)0022),
- uwzględniając sprawozdanie grupy ekspertów wysokiego szczebla KE ds. sztucznej inteligencji z dnia 8 kwietnia 2019 r. pt. "Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji",
- uwzględniając swoją rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki 3 ,
- uwzględniając swoją rezolucję z dnia 11 września 2018 r. w sprawie równości językowej w erze cyfrowej 4 ,
- uwzględniając swoją rezolucję z dnia 12 czerwca 2018 r. w sprawie modernizacji edukacji w UE 5 ,
- uwzględniając swoją rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki 6 ,
- uwzględniając swoją rezolucję z dnia 1 czerwca 2017 r. w sprawie cyfryzacji europejskiego przemysłu 7 ,
- uwzględniając briefing Departamentu Tematycznego ds. Polityki Strukturalnej i Polityki Spójności z maja 2020 r. na temat wykorzystania sztucznej inteligencji w sektorze kultury i sektorze kreatywnym,
- uwzględniając szczegółową analizę Departamentu Tematycznego ds. Polityki Strukturalnej i Polityki Spójności z maja 2020 r. w sprawie wykorzystania sztucznej inteligencji w sektorze audiowizualnym,
- uwzględniając badanie Departamentu Tematycznego ds. Praw Obywatelskich i Spraw Konstytucyjnych z kwietnia 2020 r. w sprawie kształcenia i zatrudnienia kobiet w naukach ścisłych, technologii i gospodarce cyfrowej, w tym sztucznej inteligencji i jej wpływu na równouprawnienie płci,
- uwzględniając art. 54 Regulaminu,
- uwzględniając opinie Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych, Komisji Rynku Wewnętrznego i Ochrony Konsumentów, Komisji Prawnej oraz Komisji Praw Kobiet i Równouprawnienia,
- uwzględniając sprawozdanie Komisji Kultury i Edukacji (A9-0127/2021),
A. mając na uwadze, że technologie związane ze sztuczną inteligencją (AI), które mogą mieć bezpośredni wpływ na nasze społeczeństwa, rozwijają się w szybkim tempie i coraz częściej znajdują zastosowanie w prawie wszystkich dziedzinach życia, w tym w sektorze edukacji i kultury oraz w sektorze audiowizualnym; mając na uwadze, że AI zgodna z zasadami etyki może przyczynić się do poprawy wydajności pracy i przyspieszenia wzrostu gospodarczego;
B. mając na uwadze, że przy rozwijaniu, wprowadzaniu i stosowaniu AI, w tym oprogramowania, algorytmów i wykorzystywanych lub wytwarzanych przez nie danych, należy kierować się etycznymi zasadami przejrzystości, wytłumaczalności, sprawiedliwości, rozliczalności i odpowiedzialności;
C. mając na uwadze, że Unia pozostaje w znacznej mierze w tyle za innymi dużymi gospodarkami pod względem inwestycji publicznych w AI; mając na uwadze, że niewystarczające inwestycje w AI prawdopodobnie wpłyną na konkurencyjność Unii we wszystkich sektorach;
D. mając na uwadze, że zintegrowane podejście do AI oraz dostępność, gromadzenie i interpretacja wysokiej jakości, wiarygodnych, uczciwych, przejrzystych, niezawodnych, bezpiecznych i kompatybilnych danych mają zasadnicze znaczenie dla rozwoju etycznej AI;
E. mając na uwadze, że art. 21 karty zakazuje dyskryminacji z wielu powodów; mając na uwadze, że przy rozwijaniu, wprowadzaniu i stosowaniu systemów AI nie należy powielać wielorakich form dyskryminacji;
F. mając na uwadze, że równouprawnienie płci jest podstawową zasadą Unii zapisaną w Traktatach i powinno znaleźć odzwierciedlenie we wszystkich unijnych strategiach politycznych, szczególnie w sektorach edukacji, kultury i sektorze audiowizualnym, a także w rozwoju technologii takich jak AI;
G. mając na uwadze, że dotychczasowe doświadczenia, zwłaszcza w dziedzinach technicznych, pokazały, że rozwój i innowacje często opierają się głównie na danych dotyczących mężczyzn i że potrzeby kobiet nie są w pełni odzwierciedlone; mając na uwadze, że walka z takimi uprzedzeniami wymaga większej czujności, rozwiązań technicznych oraz opracowania jasnych wymogów dotyczących uczciwości, odpowiedzialności i przejrzystości;
H. mając na uwadze, że niekompletne i niedokładne zestawy danych, brak danych z podziałem na płeć oraz nieprawidłowe algorytmy mogą wypaczyć rozumowanie systemu AI i zagrozić osiągnięciu równości płci w społeczeństwie; mając na uwadze, że dane dotyczące grup w niekorzystnej sytuacji i międzysektorowych form dyskryminacji są z reguły niekompletne albo nawet nie istnieją;
I. mając na uwadze, że różnice w traktowaniu kobiet i mężczyzn, stereotypy i dyskryminacja mogą również powstawać i być powielane za pomocą języka i obrazów rozpowszechnianych przez media oraz aplikacje opierające się na AI; mając na uwadze, że edukacja, programy kulturalne i treści audiowizualne mają znaczny wpływ na kształtowanie przekonań i wartości ludzi oraz stanowią podstawowe narzędzie zwalczania stereotypów związanych z płcią, zmniejszania przepaści cyfrowej między kobietami a mężczyznami i tworzenia silnych wzorów do naśladowania; mając na uwadze, że należy wprowadzić ramy etyczne i regulacyjne przed wdrożeniem zautomatyzowanych rozwiązań dla tych kluczowych obszarów w społeczeństwie;
J. mając na uwadze, że nauka i innowacje mogą przynieść radykalne zmiany z korzyścią dla obywateli, zwłaszcza dla tych, którzy najbardziej pozostają w tyle, na przykład dla kobiet i dziewcząt mieszkających w regionach oddalonych; mając na uwadze, że edukacja w dziedzinie nauk ścisłych jest istotna dla zdobycia umiejętności, godziwej pracy i przyszłościowych zawodów, a także dla przełamania stereotypów dotyczących płci, według których dziedzina ta jest stereotypowo męska; mając na uwadze, że nauka i naukowy sposób myślenia są kluczowe dla kultury demokratycznej, która z kolei ma zasadnicze znaczenie dla umacniania równości płci;
K. mając na uwadze, że w Unii co dziesiąta kobieta powyżej 15 roku życia doświadczyła już jakiejś formy cyberprzemocy, a cybernękanie nadal stanowi problem w rozwoju AI, w tym w dziedzinie edukacji; mając na uwadze, że cyberprzemoc jest często skierowana przeciwko kobietom uczestniczącym w życiu publicznym, takim jak aktywistki, kobiety zajmujące się polityką i inne osoby publiczne; mając na uwadze, że AI i inne powstające technologie mogą odegrać ważną rolę w zapobieganiu cyberprzemocy wobec kobiet i dziewcząt oraz w edukowaniu społeczeństwa;
L. mając na uwadze, że Unia i jej państwa członkowskie są szczególnie odpowiedzialne za wykorzystanie, promowanie i wzmocnienie wartości dodanej płynącej z technologii związanych z AI, a także za dopilnowanie, by technologie te były bezpieczne, przyczyniały się do dobrostanu Europejczyków i działały w ich interesie ogólnym; mając na uwadze, że technologie te mogą w ogromnym stopniu przyczynić się do osiągnięcia naszego wspólnego celu, jakim jest polepszenie życia obywateli i wspieranie dobrobytu w Unii, ponieważ mogą one pomóc opracować lepsze strategie i innowacje w wielu dziedzinach, a mianowicie w edukacji, kulturze i sektorze audiowizualnym;
M. mając na uwadze, że większość technologii AI opiera się na oprogramowaniu otwartym, co oznacza, że można kontrolować, modyfikować i ulepszać kod źródłowy;
N. mając na uwadze, że konieczne może być dostosowanie obowiązujących szczególnych instrumentów prawnych UE w celu odzwierciedlenia transformacji cyfrowej i sprostania nowym wyzwaniom związanym z korzystaniem z technologii AI w sektorach edukacji, kultury i sektorze audiowizualnym, takim jak ochrona danych osobowych i prywatności, przeciwdziałanie dyskryminacji, promowanie równości płci, przestrzeganie praw własności intelektualnej, ochrona środowiska i prawa konsumenta;
O. mając na uwadze, że w celu zapewnienia równych warunków działania należy zapewnić sektorowi audiowizualnemu dostęp do danych pochodzących z globalnych platform i od głównych podmiotów;
P. mając na uwadze, że AI i jej przyszłe zastosowania lub wynalazki dokonane przy pomocy AI mogą mieć dwojaki charakter, podobnie jak każda inna technologia; mając na uwadze, że AI i związane z nią technologie budzą wiele obaw natury etycznej, a także obaw dotyczących przejrzystości ich rozwijania, wprowadzania i stosowania, a w szczególności gromadzenia, wykorzystywania i rozpowszechniania danych; mając na uwadze, że należy dokładnie ocenić korzyści i zagrożenia związane z wykorzystaniem technologii AI w tych sektorach edukacji, kultury i audiowizualnym, a jej wpływ na wszelkie aspekty społeczeństwa musi być dokładnie i stale analizowany, nie osłabiając jednak ich potencjału;
Q. mając na uwadze, że edukacja służy osiągnięciu potencjału ludzkiego, kreatywności i autentycznych zmian społecznych, podczas gdy niewłaściwe stosowanie systemów AI opartych na danych może utrudniać rozwój ludzki i społeczny;
R. mając na uwadze, że kształcenie i możliwości edukacyjne są jednym z praw podstawowych; mając na uwadze, że rozwijanie, wprowadzanie i stosowanie technologii związanych z AI w sektorze edukacji należy uznać za działania wysokiego ryzyka i powinny one podlegać bardziej surowym wymaganiom pod względem bezpieczeństwa, przejrzystości, sprawiedliwości i rozliczalności;
S. mając na uwadze, że wysokiej jakości, szybka, bezpieczna i powszechnie dostępna łączność, sieci szerokopasmowe o dużej przepustowości, specjalistyczna wiedza informatyczna, umiejętności cyfrowe, sprzęt cyfrowy i infrastruktura cyfrowa, a także akceptacja społeczna oraz ukierunkowane i sprzyjające ramy polityczne to niektóre z warunków koniecznych dla powszechnego i pomyślnego wprowadzenia AI w Unii; mając na uwadze, że ważne jest, by taka infrastruktura i sprzęt zostały wprowadzone równomiernie w całej Unii w celu zlikwidowania utrzymującej się przepaści cyfrowej między jej regionami a obywatelami;
T. mając na uwadze, że w celu zapewnienia równej i sprawiedliwej reprezentacji całego społeczeństwa przy opracowywaniu, wdrażaniu i wykorzystywaniu technologii AI, w tym oprogramowania, algorytmów oraz wykorzystywanych i wytwarzanych przez nie danych, bezwzględnie konieczne jest zlikwidowanie luki między kobietami a mężczyznami w dziedzinie nauk przyrodniczych, technologii, inżynierii, sztuki i matematyki (STEAM);
U. mając na uwadze, że należy zadbać o to, aby od najmłodszych lat wszyscy obywatele Unii zdobywali niezbędne umiejętności pozwalające lepiej zrozumieć możliwości i ograniczenia AI, aby lepiej przygotować się na coraz większą obecność AI i powiązanych technologii we wszystkich aspektach działalności człowieka oraz być w stanie w pełni wykorzystać możliwości przez nie oferowane; mając na uwadze, że powszechne nabywanie umiejętności cyfrowych we wszystkich grupach społeczeństwa w Unii jest warunkiem wstępnym osiągnięcia sprawiedliwej transformacji cyfrowej korzystnej dla wszystkich;
V. mając na uwadze, że w tym celu państwa członkowskie muszą zainwestować w edukację cyfrową i medialną, wyposażyć szkoły w odpowiednią infrastrukturę i niezbędne urządzenia końcowe oraz poświęcić więcej uwagi nauce umiejętności i kompetencji cyfrowych w programach nauczania;
W. mając na uwadze, że AI i powiązane z nią technologie można wykorzystać do usprawnienia metod uczenia się i nauczania, w szczególności poprzez wsparcie systemów edukacji w wykorzystywaniu sprawiedliwych danych, aby wyrównać szanse edukacyjne i podnieść jakość oferty edukacyjnej oraz promować przy tym dostosowane programy nauczania, lepszy dostęp do edukacji oraz poprawę i automatyzację niektórych zadań administracyjnych; mając na uwadze, że równy i sprawiedliwy dostęp do technologii cyfrowych i szybkich połączeń jest niezbędny, aby stosowanie AI niosło korzyści całemu społeczeństwu; mając na uwadze, że niezwykle ważne jest zapewnienie dostępu do edukacji cyfrowej całemu społeczeństwu, w tym osobom z mniej uprzywilejowanych środowisk i osobom z niepełnosprawnościami; mając na uwadze, że wyniki kształcenia nie zależą od samej technologii, ale od tego, jak nauczyciele potrafią wykorzystywać technologię w wartościowy pod względem pedagogicznym sposób;
X. mając na uwadze, że AI może w szczególności przynieść rozwiązania pozwalające sprostać codziennym wyzwaniom w sektorze edukacji, takie jak personalizacja nauki, monitorowanie trudności w uczeniu się, automatyzacja treści dotyczących konkretnego przedmiotu lub związanej z nim wiedzy, zapewnianie lepszego szkolenia zawodowego i wspieranie transformacji w kierunku społeczeństwa cyfrowego;
Y. mając na uwadze, że AI można wykorzystać w praktyce do zmniejszania ilości pracy administracyjnej wykonywanej przez wychowawców i instytucje oświatowe, by dać im więcej czasu na podstawowe zadania dotyczące nauczania i uczenia się;
Z. mając na uwadze, że nowe zastosowania w dziedzinie edukacji oparte na AI ułatwiają osiąganie postępów w różnych dyscyplinach takich jak nauka języków i matematyka;
AA. mając na uwadze, że spersonalizowana nauka wspierana przez AI może nie tylko pomóc zwiększyć motywację uczniów i umożliwić im wykorzystanie w pełni własnego potencjału, ale również obniżyć wskaźniki przedwczesnego kończenia nauki;
AB. mając na uwadze, że AI może w coraz większym stopniu pomagać nauczycielom w poprawie skuteczności dzięki lepszemu zrozumieniu metod i stylów uczenia się swoich uczniów, wspieraniu rozpoznawania trudności w uczeniu się i lepszej ocenie indywidualnych postępów;
AC. mając na uwadze, że na cyfrowym rynku pracy Unii brakuje prawie pół miliona ekspertów w dziedzinie dużych zbiorów danych i analizy danych, którzy są niezbędni do opracowywania i wykorzystywania wiarygodnej AI o wysokiej jakości;
AD. mając na uwadze, że stosowanie AI w kształceniu budzi wątpliwości dotyczące etycznego wykorzystywania danych, praw osób uczących się, dostępu do danych i ochrony danych osobowych, a zatem pociąga za sobą ryzyko w dziedzinie praw podstawowych, np. ryzyko tworzenia stereotypowych modeli profili i zachowań osób uczących się, co może prowadzić do dyskryminacji lub wyrządzać szkody wynikające z powielania złych praktyk pedagogicznych;
AE. mając na uwadze, że sektor kultury odgrywa ważną rolę w wykorzystywaniu technologii związanych z AI na dużą skalę, a AI staje się dyscypliną kluczową dla dziedzictwa kulturowego dzięki rozwojowi innowacyjnych technologii i narzędzi oraz ich skutecznemu stosowaniu w odpowiedzi na potrzeby sektora;
AF. mając na uwadze, że technologie AI można wykorzystać do promowania i ochrony dziedzictwa kulturowego, w tym przez stosowanie narzędzi cyfrowych do ochrony obiektów historycznych oraz opracowywania innowacyjnych sposobów łatwiejszego i bardziej powszechnego udostępniania zbiorów danych dotyczących artefaktów kultury przechowywanych przez instytucje kultury w całej Unii, co umożliwi użytkownikom swobodne korzystanie z ogromnych zasobów treści kulturalnych i kreatywnych; mając na uwadze, że kluczową rolę w tym zakresie odgrywa promowanie standardów i ram interoperacyjności;
AG. mając na uwadze, że wykorzystanie technologii AI w odniesieniu do treści kulturalnych i kreatywnych, zwłaszcza zaleceń dotyczących treści medialnych i treści dostosowanych do potrzeb, rodzi problemy związane z ochroną danych, dyskryminacją oraz różnorodnością kulturową i językową, stwarza ryzyko powstania dyskryminujących wyników ze względu na brak obiektywności danych wejściowych i może ograniczać różnorodność opinii i pluralizm mediów;
AH. mając na uwadze, że zalecenia dotyczące zindywidualizowanych treści opartych na AI mogą często lepiej odpowiadać konkretnym potrzebom poszczególnych osób, w tym preferencjom kulturowym i językowym; mając na uwadze, że AI może przyczynić się do promowania różnorodności językowej w Unii oraz do lepszego rozpowszechniania europejskich utworów audiowizualnych, w szczególności za sprawą automatyzacji tworzenia napisów i dubbingu treści audiowizualnych w innych językach; mając na uwadze, że w związku z tym udostępnianie treści medialnych w różnych językach ma zasadnicze znaczenie dla wspierania różnorodności kulturowej i językowej;
AI. mając na uwadze, że AI sprzyja innowacjom w redakcjach wiadomości dzięki automatyzacji szeregu żmudnych zadań, interpretacji danych, a nawet generowania wiadomości takich jak prognoza pogody czy wyniki sportowe;
AJ. mając na uwadze, że europejska różnorodność językowa oznacza, iż wsparcie lingwistyki komputerowej na rzecz opartej na prawach AI oferuje konkretny potencjał innowacji, który można wykorzystać do demokratycznej i wolnej od dyskryminacji ogólnej wymiany kulturalnej i wymiany informacji w erze cyfrowej;
AK. mając na uwadze, że technologie związane z AI mogą nieść korzyści w kształceniu osób o specjalnych potrzebach edukacyjnych oraz wpływać korzystnie na dostępność treści kulturalnych i kreatywnych dla osób z niepełnosprawnościami; mając na uwadze, że AI umożliwia rozwiązania, takie jak rozpoznawanie mowy, wirtualni asystenci i cyfrowe przedstawienie obiektów fizycznych; mając na uwadze, że twórczość cyfrowa już teraz odgrywa rolę w udostępnianiu takich treści osobom z niepełnosprawnościami;
AL. mając na uwadze, że AI jest powszechnie stosowana w sektorze audiowizualnym, szczególnie na platformach treści audiowizualnych;
AM. mając na uwadze, że technologie AI przyczyniają się zatem do tworzenia, planowania, produkowania, dystrybucji i lokalizacji audiowizualnych produktów medialnych, a także do ich wykorzystania i zarządzania nimi;
AN. mając na uwadze, że AI może być wykorzystywana do generowania fałszywych treści, takich jak treści typu "deepfake", które są coraz powszechniejsze i stanowią bezpośrednie zagrożenie dla demokracji, ale jednocześnie może być ona cennym narzędziem do identyfikacji takiej szkodliwej działalności i jej natychmiastowego zwalczania, na przykład poprzez weryfikację faktów lub etykietowanie takich treści w czasie rzeczywistym; mając na uwadze, że większość materiałów typu "deepfake" łatwo zauważyć; mając jednocześnie na uwadze, że narzędzia do wykrywania takich treści wspomagane przez AI zasadniczo skutecznie oznaczają takie treści i filtrują je; mając na uwadze, że brakuje ram prawnych w tej kwestii;
Uwagi ogólne
1. podkreśla, że AI i powiązane z nią technologie mają dla Unii strategiczne znaczenie; podkreśla, że podejście do AI i powiązanych z nią technologii musi koncentrować się na człowieku i opierać się na prawach człowieka i etyce, tak aby AI rzeczywiście stała się instrumentem służącym ludziom, wspólnemu dobru i ogólnemu interesowi obywateli;
2. podkreśla, że rozwijanie, wprowadzanie i stosowanie AI w sektorach edukacji, kultury i sektorze audiowizualnym musi odbywać się w pełnym poszanowaniu podstawowych praw, wolności i wartości, w tym godności ludzkiej, prywatności, ochrony danych osobowych, niedyskryminacji oraz wolności wypowiedzi i informacji, a także różnorodności kulturowej i praw własności intelektualnej, jak zapisano w traktatach UE i w Karcie;
3. podkreśla, że sektory edukacji, kultury oraz sektor audiowizualny to obszary wrażliwe pod względem wykorzystania AI i powiązanych z nią technologii, ponieważ mogą mieć wpływ na zasadnicze aspekty podstawowych praw i wartości naszego społeczeństwa; podkreśla zatem, że przy rozwijaniu, wprowadzaniu i stosowaniu AI i powiązanych technologii w tych sektorach, w tym oprogramowania, algorytmów i danych przez nie wykorzystywanych i generowanych, należy przestrzegać zasad etycznych;
4. przypomina, że algorytmy i AI powinny być projektowane z uwzględnieniem aspektów etycznych, bez utrwalonych uprzedzeń, oraz w sposób gwarantujący maksymalną ochronę praw podstawowych;
5. przypomina o znaczeniu opracowania kompatybilnych i inkluzywnych systemów AI i powiązanych technologii o wysokiej jakości do wykorzystania w procesie głębokiego uczenia maszynowego, z poszanowaniem wartości Unii, zwłaszcza równości płci, wielojęzyczności i warunków niezbędnych do dialogu międzykulturowego, oraz w celu ich ochrony, ponieważ korzystanie z danych, które są niskiej jakości, nieaktualne, niekompletne lub nieprawidłowe, może prowadzić do złych prognoz, a w konsekwencji do dyskryminacji i stronniczości; podkreśla, że kluczowe jest rozwijanie zdolności zarówno na szczeblu krajowym, jak i unijnym, aby poprawić gromadzenie, bezpieczeństwo i systematyzowanie danych oraz możliwość ich przenoszenia bez szkody dla poszanowania prywatności; przyjmuje do wiadomości wniosek Komisji dotyczący utworzenia wspólnej europejskiej przestrzeni danych;
6. przypomina, że AI może być źródłem uprzedzeń, a tym samym różnych form dyskryminacji ze względu na płeć, rasę, kolor skóry, pochodzenie etniczne lub społeczne, cechy genetyczne, język, religię lub przekonania, poglądy polityczne lub wszelkie inne opinie, przynależność do mniejszości narodowej, majątek, urodzenie, niepełnosprawność, wiek lub orientację seksualną; w związku z powyższym przypomina, że należy zagwarantować prawa wszystkich obywateli i że AI i powiązane technologie nie mogą prowadzić do jakiejkolwiek dyskryminacji;
7. podkreśla, że takie uprzedzenia i dyskryminacja mogą wynikać z istniejących już tendencyjnych zbiorów danych odzwierciedlających dyskryminację istniejącą w społeczeństwie; przypomina zatem, że należy zaangażować kluczowe podmioty, w tym społeczeństwo obywatelskie, aby zapobiec niezamierzonemu wprowadzeniu do algorytmów, systemów i zastosowań AI uprzedzeń związanych z płcią oraz uprzedzeń społecznych i kulturowych; podkreśla potrzebę prowadzenia prac nad znalezieniem najskuteczniejszego sposobu ograniczania uprzedzeń w systemach AI, zgodnie z normami etycznymi i dotyczącymi niedyskryminacji; podkreśla, że zbiory danych wykorzystywane do szkolenia AI powinny być jak najszersze, aby reprezentowały jak najlepiej i najdokładniej społeczeństwo, że wyniki należy poddać przeglądowi, aby uniknąć stereotypów, dyskryminacji i wszelkiego rodzaju uprzedzeń, oraz że w stosownych przypadkach należy wykorzystywać AI do identyfikowania i korygowania uprzedzeń ludzkich, tam gdzie występują; wzywa Komisję, by promowała i ułatwiała dzielenie się strategiami eliminowania uprzedzeń w odniesieniu do danych;
8. wzywa Komisję i państwa członkowskie do uwzględnienia aspektów etycznych, w tym z perspektywy płci, przy opracowywaniu polityki i prawodawstwa w dziedzinie AI oraz do dostosowania w razie konieczności obowiązującego prawodawstwa, w tym programów UE i wytycznych etycznych dotyczących stosowania AI;
9. wzywa Komisję i państwa członkowskie do opracowania środków w pełni uwzględniających aspekt płci, takich jak kampanie uświadamiające, szkolenia i programy nauczania, które powinny dostarczać obywatelom informacji na temat sposobu działania algorytmów oraz ich wpływu na codzienne życie obywateli; ponadto wzywa je do wspierania uwzględniających równość płci sposobów myślenia i warunków pracy, które prowadzą do rozwoju produktów technologicznych i środowisk pracy bardziej sprzyjających włączeniu społecznemu; wzywa Komisję i państwa członkowskie, by zapewniły włączenie umiejętności cyfrowych i szkoleń w dziedzinie AI do szkolnych programów nauczania oraz by sprawiły, że będą one dostępne dla wszystkich, jako sposób na wyeliminowanie przepaści cyfrowej między płciami;
10. podkreśla potrzebę szkolenia pracowników i edukatorów w dziedzinie AI w celu promowania zdolności do wykrywania i korygowania praktyk noszących znamiona dyskryminacji ze względu na płeć w miejscu pracy i w edukacji, jak również szkolenia pracowników zajmujących się projektowaniem systemów i zastosowań AI w celu wykrywania i eliminowania dyskryminacji ze względu na płeć w projektowanych przez nich systemach i zastosowaniach AI; wzywa do ustanowienia jasnych obowiązków w przedsiębiorstwach i placówkach oświatowych, by zapewnić wyeliminowanie dyskryminacji ze względu na płeć w miejscu pracy lub w kontekście edukacyjnym; podkreśla, że do celów edukacyjnych i kulturalnych należy wykorzystywać neutralne pod względem płci obrazy AI i robotów, chyba że z jakiegoś powodu płeć stanowi kluczowy czynnik;
11. podkreśla znaczenie rozwijania i opracowywania zastosowań AI w sektorach edukacji, kultury i sektorze audiowizualnym w zakresie gromadzenia danych segregowanych według kryterium płci i innych danych dotyczących równości oraz, w razie potrzeby, stosowania nowoczesnych i bezstronnych technik uczenia się maszyn, aby skorygować stereotypy i uprzedzenia dotyczące płci, które mogą mieć negatywne skutki;
12. wzywa Komisję do uwzględnienia edukacji w ramach regulacyjnych dotyczących zastosowań AI wysokiego ryzyka, z uwagi na to, jak ważne jest zapewnienie, by edukacja nadal służyła dobru publicznemu, oraz ze względu na wysoki stopień wrażliwości danych na temat uczniów, studentów i innych osób uczących się; zwraca uwagę, że aby zapewnić korzystanie z AI w sposób zgodny z założonym celem i etyczny, we wprowadzanie jej do sektora edukacji należy angażować wychowawców, uczniów i ogół społeczeństwa oraz brać pod uwagę ich potrzeby i oczekiwane korzyści;
13. wzywa Komisję, by zachęcała do korzystania z programów unijnych takich jak "Horyzont Europa", "Cyfrowa Europa" i Erasmus+ w celu promowania wielodyscyplinarnych badań, projektów pilotażowych, eksperymentów i rozwoju narzędzi, w tym szkoleń, służących identyfikacji uprzedzeń dotyczących płci w AI, a także w celu prowadzenia kampanii podnoszących świadomość, skierowanych do ogółu społeczeństwa;
14. podkreśla potrzebę utworzenia zróżnicowanych zespołów programistów i inżynierów współpracujących z głównymi podmiotami sektora edukacji, kultury i sektora audiowizualnego, aby zapobiec nieumyślnemu włączeniu do algorytmów, systemów i zastosowań AI uprzedzeń ze względu na płeć lub uprzedzeń społecznych; podkreśla potrzebę przeanalizowania różnych teorii, na podstawie których do tej pory rozwijano AI i które można by udoskonalić w przyszłości;
15. zaznacza, że należyte dbanie o eliminację uprzedzeń i dyskryminacji względem poszczególnych grup, w tym eliminację stereotypów dotyczących płci, nie powinno prowadzić do zahamowania postępu technologicznego;
16. przypomina o znaczeniu praw podstawowych i nadrzędności przepisów dotyczących ochrony danych i prywatności, co jest niezbędne przy stosowaniu takich technologii; przypomina, że AI może mieć szczególny wpływ na ochronę danych i prywatności, zwłaszcza danych dotyczących dzieci; podkreśla, że zasady ustanowione w ogólnym rozporządzeniu o ochronie danych (RODO) 8 są wiążącymi zasadami przy wprowadzaniu AI; przypomina ponadto, że wszystkie zastosowania AI muszą być w pełni zgodne z unijnymi przepisami o ochronie danych, a mianowicie z RODO i dyrektywą o prywatności i łączności elektronicznej 9 ; wskazuje na prawo do uzyskania interwencji człowieka w przypadku stosowania AI i powiązanych z nią technologii;
17. wzywa Komisję i państwa członkowskie do wdrożenia obowiązku przejrzystości i możliwości wyjaśnienia automatycznych decyzji indywidualnych opartych na AI, podejmowanych w ramach prerogatyw władzy publicznej, oraz do stosowania kar w celu egzekwowania takich zobowiązań; wzywa do wdrożenia systemów, w których stosuje się domyślnie weryfikację przez człowieka i interwencję człowieka, oraz do rzetelnego procesu sądowego, w tym prawa do odwołania i zadośćuczynienia oraz do dostępu do środków odwoławczych;
18. zwraca uwagę na potencjalny negatywny wpływ spersonalizowanych reklam, w szczególności mikrotargetowania i reklam behawioralnych, oraz ocen osób fizycznych, zwłaszcza nieletnich, bez ich zgody, poprzez ingerowanie w ich życie prywatne, stawianie pytań dotyczących gromadzenia i wykorzystywania danych wykorzystywanych do personalizacji reklam, oferowania produktów lub usług bądź ustalania cen; w związku z tym wzywa Komisję do wprowadzenia rygorystycznych ograniczeń dotyczących reklamy ukierunkowanej w oparciu o gromadzenie danych osobowych, począwszy od wprowadzenia zakazu reklamy behawioralnej między platformami, jednak bez szkody dla małych i średnich przedsiębiorstw (MŚP); przypomina, że obecnie dyrektywa o prywatności i łączności elektronicznej zezwala na ukierunkowaną reklamę jedynie pod warunkiem wyrażenia zgody na uczestnictwo, gdyż w przeciwnym razie reklama jest niezgodna z prawem; apeluje do Komisji, by zakazała stosowania dyskryminujących praktyk w świadczeniu usług lub dostarczaniu produktów;
19. podkreśla konieczność dopilnowania, by media były informowane o głównych parametrach systemów AI opartych na algorytmach, na których podstawie określa się kolejność i wyniki wyszukiwania wyświetlające się na platformach osób trzecich, oraz by użytkownicy byli informowani o wykorzystaniu AI do podejmowania decyzji w ramach usług oraz uprawnieni do określania swoich ustawień prywatności za pomocą przejrzystych i zrozumiałych środków;
20. podkreśla, że AI może wspierać tworzenie treści w sektorze edukacji, kultury i sektorze audiowizualnym, wraz z platformami informacyjnymi i edukacyjnymi, w tym wykazami różnych rodzajów dóbr kultury i wieloma źródłami danych; zwraca uwagę na ryzyko naruszenia praw własności intelektualnej w przypadku łączenia AI i różnych technologii z wieloma źródłami (dokumenty, zdjęcia, filmy) w celu ulepszenia sposobu wyświetlania, badania i wizualizacji tych danych; apeluje, by stosować AI do zapewniania wysokiego poziomu ochrony praw własności intelektualnej w obowiązujących ramach prawnych, np. przez ostrzeganie osób fizycznych i przedsiębiorstw w sytuacji, gdy istnieje ryzyko nieumyślnego naruszenia przez nie przepisów, lub przez zapewnianie posiadaczom praw własności intelektualnej pomocy w przypadku faktycznego naruszenia przepisów; podkreśla zatem znaczenie posiadania na szczeblu unijnym odpowiednich ram ochrony praw własności intelektualnej w kontekście stosowania AI;
21. podkreśla, że należy znaleźć równowagę między rozwojem systemów AI i ich wykorzystaniem w sektorze edukacji, kultury i sektorze audiowizualnym a środkami mającymi na celu ochronę konkurencji i konkurencyjności rynkowej przedsiębiorstw zajmujących się AI w tych sektorach; podkreśla zatem, że należy zachęcać przedsiębiorstwa do inwestowania w innowacje w zakresie systemów AI wykorzystywanych w tych sektorach, przy jednoczesnym zadbaniu o to, by dostawcy tych zastosowań nie osiągnęli monopolistycznej pozycji na rynku; podkreśla, że należy zwiększyć dostępność AI w sektorach i branżach kultury i kreatywności w całej Europie, aby utrzymać równe warunki działania oraz zapewnić uczciwą konkurencję między wszystkimi zainteresowanymi stronami i podmiotami w Europie; wzywa Komisję i państwa członkowskie, by przy podejmowaniu decyzji w sprawie polityki konkurencji, w tym decyzji dotyczących fuzji, uwzględniały w większej mierze znaczenie danych i algorytmów w koncentracji władzy rynkowej;
22. podkreśla potrzebę systematycznego rozwiązywania społecznych, etycznych i prawnych problemów związanych z rozwijaniem, wprowadzaniem i stosowaniem AI, takich jak przejrzystość i rozliczalność algorytmów, niedyskryminacja, równość szans, wolność i różnorodność opinii, pluralizm mediów, a także własność, gromadzenie, wykorzystywanie i rozpowszechnianie danych i treści; zaleca przyjęcie wspólnych europejskich wytycznych i norm chroniących prywatność przy jednoczesnym skutecznym wykorzystywaniu dostępnych danych; wzywa do przejrzystości w opracowywaniu algorytmów i rozliczalności w ich wykorzystywaniu;
23. wzywa Komisję do przedstawienia kompleksowego zestawu przepisów dotyczących horyzontalnego uregulowania zastosowań AI oraz do uzupełnienia ich przepisami właściwymi dla poszczególnych sektorów, na przykład dla sektora mediów audiowizualnych;
24. podkreśla potrzebę inwestowania w badania naukowe i innowacje w zakresie rozwoju, wprowadzania i stosowania AI i jej zastosowań w edukacji, kulturze i sektorze audiowizualnym; podkreśla znaczenie inwestycji publicznych w te usługi oraz dodatkową wartość dodaną partnerstw publiczno-prywatnych w dążeniu do osiągnięcia tego celu oraz wykorzystania pełnego potencjału AI w tych sektorach, zwłaszcza w sektorze edukacji, z uwagi na znaczną liczbę prywatnych inwestycji podjętych w ostatnich latach; wzywa Komisję do znalezienia dodatkowych środków finansowych na wspieranie badań naukowych i innowacji w zakresie zastosowań AI w tych sektorach;
25. podkreśla, że systemy algorytmiczne mogą przyspieszyć zasypywanie przepaści cyfrowej, ale ich nierówne wprowadzanie może tworzyć nowe podziały lub przyspieszać pogłębianie już istniejących; wyraża zaniepokojenie, że wiedza i infrastruktura nie rozwijają się spójnie w całej UE, co zmniejsza dostępność produktów i usług opartych na AI, zwłaszcza na obszarach słabo zaludnionych i o trudnej sytuacji społeczno-gospodarczej; apeluje do Komisji o zapewnienie spójności w dzieleniu się korzyściami płynącymi z AI i technologii pokrewnych;
26. wzywa Komisję do ustanowienia wymogów dotyczących nabywania i rozwijania AI i powiązanych z nią technologii przez organy sektora publicznego UE w celu zapewnienia zgodności z prawem UE i prawami podstawowymi; podkreśla wartość dodaną narzędzi takich jak konsultacje publiczne i oceny skutków, które należy przeprowadzać przed nabyciem lub wprowadzeniem systemów AI, zgodnie z zaleceniami zawartymi w sprawozdaniu specjalnego sprawozdawcy Zgromadzenia Ogólnego ONZ w sprawie AI i jej wpływu na wolność opinii i wypowiedzi 10 ; zachęca władze publiczne, by zachęcały do opracowywania i wprowadzania AI poprzez finansowanie ich ze środków publicznych i zamówienia publiczne; zaznacza, że należy wzmocnić rynek poprzez umożliwienie MŚP udziału w przetargach na zastosowania AI, by zapewnić zaangażowanie przedsiębiorstw technologicznych niezależnie od ich wielkości, a tym samym zagwarantować odporność i konkurencję;
27. wzywa do regularnego przeprowadzania niezależnych audytów w celu sprawdzenia, czy wykorzystywane zastosowania AI oraz związane z nimi mechanizmy kontroli i równowagi są zgodne z określonymi kryteriami, a także wzywa do nadzorowania tych audytów przez niezależne i wystarczające organy nadzorujące; wzywa do przeprowadzenia specjalnych testów warunków skrajnych w celu wsparcia i wzmocnienia przestrzegania przepisów;
28. zwraca uwagę na korzyści i zagrożenia związane z AI w zakresie cyberbezpieczeństwa, a także na jej potencjał w zwalczaniu cyberprzestępczości, oraz podkreśla, że wszelkie rozwiązania wykorzystujące AI muszą być odporne na cyberataki, a jednocześnie przestrzegać praw podstawowych UE, zwłaszcza w zakresie ochrony danych osobowych i prywatności; podkreśla znaczenie monitorowania bezpiecznego wykorzystywania AI oraz potrzebę ścisłej współpracy między sektorem publicznym i prywatnym w celu eliminowania podatności użytkowników na zagrożenia oraz związanych z tym niebezpieczeństw; wzywa Komisję, by oceniła potrzebę skuteczniejszych działań prewencyjnych w dziedzinie cyberbezpieczeństwa oraz stosowania środków ograniczających ryzyko w tym zakresie;
29. podkreśla, że kryzys związany z pandemią COVID-19 można uznać za okres próbny dla rozwoju, wprowadzania i stosowania technologii cyfrowych i technologii powiązanych z AI w sektorach edukacji i kultury, co widać na przykładzie wielu internetowych platform edukacyjnych i narzędzi internetowych do promowania kultury stosowanych we wszystkich państwach członkowskich; wzywa w związku z tym Komisję do przeanalizowania tych przykładów przy rozważaniu zastosowania wspólnego podejścia UE do częstszego stosowania takich rozwiązań technologicznych;
Edukacja
30. przypomina, że należy doskonalić umiejętności cyfrowe i osiągnąć wysoki poziom umiejętności korzystania z mediów i informacji oraz umiejętności cyfrowych w całej Unii, co jest niezbędnym warunkiem do wykorzystywania AI w edukacji; podkreśla zatem potrzebę zapewnienia w całej UE umiejętności cyfrowych i umiejętności w zakresie AI, zwłaszcza poprzez tworzenie możliwości szkoleniowych dla nauczycieli; zaznacza, że stosowanie technologii AI w szkołach powinno przyczynić się do zmniejszania społecznej i regionalnej przepaści cyfrowej; z zadowoleniem przyjmuje zaktualizowany przez Komisję plan działania w dziedzinie edukacji cyfrowej, który dotyczy wykorzystania AI w edukacji; wzywa zatem Komisję, by priorytetem tego planu uczyniła umiejętności cyfrowe, umiejętności korzystania z mediów, szkolenia oraz umiejętności związane z AI, a jednocześnie by szerzyła świadomość na temat potencjalnych nadużyć i nieprawidłowego działania AI; wzywa w związku z tym Komisję do zwrócenia szczególnej uwagi na dzieci i młode osoby znajdujące się w niepewnej sytuacji, gdyż potrzebują one szczególnego wsparcia w edukacji cyfrowej; wzywa Komisję do należytego uwzględnienia inicjatyw w dziedzinie AI i robotyki w edukacji w przyszłych wnioskach ustawodawczych dotyczących AI; wzywa państwa członkowskie do inwestycji w sprzęt cyfrowy dla szkół z wykorzystaniem unijnych funduszy przeznaczonych na ten cel;
31. podkreśla, że wykorzystanie AI w systemach edukacji stwarza szereg możliwości, szans i narzędzi, dzięki którym edukacja staje się bardziej innowacyjna, włączająca, wydajna i coraz skuteczniejsza dzięki wprowadzeniu nowych metod szybkiego i spersonalizowanego uczenia się, ukierunkowanego na ucznia i charakteryzującego się wysoką jakością; podkreśla jednak, że ze względu na wpływ takich narzędzi na kształcenie i włączenie społeczne należy zapewnić ich dostępność wszystkim grupom społecznym, aby wszyscy mieli równy dostęp do edukacji i uczenia się oraz by nikt nie pozostał bez pomocy, zwłaszcza osoby z niepełnosprawnościami;
32. podkreśla, że aby korzystać z AI zarówno krytycznie, jak i skutecznie, obywatele muszą mieć przynajmniej podstawową wiedzę na temat tej technologii; wzywa państwa członkowskie do uwzględnienia kampanii szerzących wiedzę na temat AI w prowadzonych przez nie działaniach na rzecz umiejętności cyfrowych; wzywa Komisję i państwa członkowskie do promowania planów w zakresie umiejętności cyfrowych oraz forów dyskusyjnych w celu zaangażowania obywateli, rodziców i uczniów w demokratyczny dialog z władzami publicznymi i zainteresowanymi stronami na temat rozwijania, wprowadzania i stosowania technologii związanych z AI w systemach edukacji; podkreśla znaczenie wyposażenia nauczycieli, szkoleniowców i innych osób w odpowiednie narzędzia i wiedzę na temat AI i powiązanych z nią technologii, aby wiadomo było, czym są te technologie, jak się ich używa i jak je wykorzystywać w sposób właściwy i zgodny z prawem, aby uniknąć naruszeń praw własności intelektualnej; podkreśla w szczególności znaczenie umiejętności cyfrowych dla osób pracujących w sektorze edukacji i szkoleń, a także znaczenie poprawy szkoleń rozwijających umiejętności cyfrowe dla osób starszych, mając na uwadze, że młodsze pokolenia, które dorastały w otoczeniu tych technologii, mają już o nich podstawowe pojęcie;
33. zaznacza, że prawdziwym celem AI w naszych systemach edukacji powinno być stworzenie edukacji o jak najbardziej zindywidualizowanym charakterze, oferującej uczniowi spersonalizowaną ścieżkę edukacyjną odpowiednio do jego atutów i słabości oraz materiały dydaktyczne dostosowane do jego cech, przy utrzymaniu jakości edukacji i zasady integracyjnego charakteru naszych systemów edukacji;
34. przypomina o fundamentalnej i wieloaspektowej roli, jaką nauczyciele odgrywają w edukacji i zapewnieniu jej inkluzywności, zwłaszcza we wczesnym dzieciństwie, kiedy nabywa się umiejętności, które pozwalają rozwijać się przez całe życie, takich jak umiejętności interpersonalne, umiejętność uczenia się, empatia i współpraca; podkreśla dlatego, że technologii AI nie można wykorzystywać ze szkodą dla edukacji bezpośredniej lub jej kosztem, ponieważ nauczycieli nie wolno zastępować technologią opartą na AI lub z nią związaną;
35. podkreśla, że dobre efekty uczenia się wynikające z wykorzystywania AI w edukacji będą zależeć nie tylko od samej AI, ale od tego, w jaki sposób nauczyciele będą ją wykorzystywać w cyfrowym środowisku edukacyjnym, aby zaspokajać potrzeby uczniów, studentów i swoje własne; zwraca w związku z tym uwagę na fakt, że programiści specjalizujący się w dziedzinie AI powinni w miarę możliwości angażować społeczności nauczycieli w rozwój, wprowadzanie i stosowanie technologii AI, aby stworzyć środowisko powiązań pozwalające na nawiązanie kontaktów i współpracy między programistami AI, projektantami oprogramowania, przedsiębiorstwami, szkołami, nauczycielami i innymi zainteresowanymi podmiotami sektora publicznego i prywatnego w celu opracowania technologii AI, które sprawdziłyby się w praktyce edukacyjnej, były dostosowane do wieku i potrzeb rozwojowych każdego ucznia oraz spełniały najwyższe standardy etyczne; podkreśla, że instytucje edukacyjne powinny wykorzystywać wyłącznie godne zaufania, etyczne i ukierunkowane na człowieka technologie, które mogą być skontrolowane na każdym etapie ich cyklu życia przez organy publiczne i społeczeństwo obywatelskie; w tym kontekście podkreśla zalety wolnych i otwartych rozwiązań; wzywa do wsparcia szkół i innych placówek edukacyjnych pod względem finansowym i logistycznym, a także pod względem niezbędnej wiedzy specjalistycznej, tak aby mogły wprowadzać rozwiązania na rzecz edukacji przyszłości;
36. ponadto podkreśla potrzebę ciągłego szkolenia nauczycieli, aby mogli przystosować się do realiów edukacji wspieranej sztuczną inteligencją, nabyć wiedzę i umiejętności niezbędne do korzystania z technologii AI w sposób pedagogiczny i konstruktywny, w pełni wykorzystać możliwości oferowane przez AI i zrozumieć jej ograniczenia; apeluje, aby nauczanie cyfrowe było w przyszłości obowiązkowym elementem każdego programu kształcenia nauczycieli i osób zajmujących się kształceniem i szkoleniem, aby kadra nauczycielska mogła przez całe życie dokształcać się w obszarze cyfrowego nauczania; wzywa zatem do opracowania programów szkoleniowych w dziedzinie AI dla nauczycieli wszystkich specjalności w całej Europie; ponadto podkreśla potrzebę reformy programów kształcenia dla nowych pokoleń nauczycieli, które umożliwią im przystosowanie się do realiów edukacji wspieranej sztuczną inteligencją, a także znaczenie opracowania i aktualizacji podręczników i wytycznych dotyczących AI dla nauczycieli,
37. wyraża zaniepokojenie brakiem programów szkolnictwa wyższego w zakresie sztucznej inteligencji oraz brakiem środków publicznych na sztuczną inteligencję we wszystkich państwach członkowskich; uważa, że zagraża to przyszłym ambicjom cyfrowym Europy;
38. wyraża zaniepokojenie niewielką liczbą akademickich pracowników naukowych specjalizujących się w dziedzinie sztucznej inteligencji, spowodowaną tym, że przedsiębiorstwa z branży technologicznej oferują lepsze wynagrodzenia, a prowadzenie dla nich badań wymaga mniejszej biurokracji; uważa, że problem można byłoby rozwiązać, między innymi przeznaczając większe środki publiczne na badania związane ze sztuczną inteligencją na uczelniach;
39. podkreśla, jak ważna jest nauka ogólnych umiejętności cyfrowych od samego dzieciństwa dla zlikwidowania luki w kwalifikacjach oraz lepszej integracji określonych grup społecznych na cyfrowym rynku pracy i w społeczeństwie cyfrowym; zwraca uwagę na coraz większe znaczenie wyszkolenia wykwalifikowanych profesjonalistów ze wszystkich dziedzin w zakresie sztucznej inteligencji, zapewnienia wzajemnego uznawania takich kwalifikacji w Unii oraz podnoszenia kwalifikacji obecnych i przyszłych pracowników, tak aby byli w stanie sprostać przyszłym realiom rynku pracy; zachęca zatem państwa członkowskie, aby oceniły swoją ofertę edukacyjną i w razie potrzeby wzbogaciły ją o umiejętności związane ze sztuczną inteligencją oraz wprowadziły specjalne programy nauczania dla programistów AI, a także włączyły AI do tradycyjnych programów nauczania; podkreśla, że należy zapewnić wzajemne uznawanie kwalifikacji zawodowych w dziedzinie sztucznej inteligencji w całej Unii, ponieważ niektóre państwa członkowskie wzbogacają swoją ofertę edukacyjną o umiejętności związane z AI i wprowadzają specjalne programy nauczania programistów AI; z zadowoleniem przyjmuje starania Komisji o włączenie umiejętności cyfrowych do kwalifikacji wymaganych w niektórych zawodach ujednoliconych na szczeblu Unii na mocy dyrektywy w sprawie uznawania kwalifikacji zawodowych 11 ; podkreśla, że muszą one być zgodne z listą kontrolną wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji, i z zadowoleniem przyjmuje wniosek Komisji w sprawie przekształcenia tej listy w orientacyjny program nauczania dla programistów AI; przypomina o szczególnych potrzebach kształcenia i szkolenia zawodowego (VET) w odniesieniu do AI i wzywa do zastosowania w całej Europie opartego na współpracy podejścia mającego na celu zwiększenie potencjału AI w VET; podkreśla, że należy szkolić wysoko wykwalifikowanych specjalistów w tej dziedzinie, w tym na temat etycznych aspektów programów nauczania, i wspierać grupy niewystarczająco reprezentowane w tej dziedzinie, a także tworzyć zachęty dla tych specjalistów, by szukali pracy w Unii; przypomina, że kobiety są niewystarczająco reprezentowane w dziedzinie AI i że może to powodować znaczne dysproporcje pod względem płci na przyszłym rynku pracy;
40. podkreśla, że rządy i instytucje oświatowe powinny ponownie przemyśleć i przeformułować programy nauczania oraz dostosować je do potrzeb XXI wieku poprzez opracowanie programów z większym naciskiem na przedmioty STEAM, by przygotować uczących się i konsumentów na coraz powszechniejszą obecność AI oraz ułatwić zdobywanie umiejętności poznawczych; podkreśla znaczenie zróżnicowania tego sektora i zachęcania studentów, zwłaszcza kobiet i dziewcząt, do podejmowania studiów w dziedzinach STEAM, w szczególności w dziedzinie robotyki i sztucznej inteligencji; wzywa do zwiększenia zasobów finansowych i naukowych w celu motywowania wykwalifikowanych pracowników do pozostania w Unii oraz w celu przyciągania osób o dużych umiejętnościach z państw trzecich; odnotowuje, że wiele przedsiębiorstw typu startup wykorzystuje sztuczną inteligencję i opracowuje oparte na niej technologie; podkreśla, że MŚP będą wymagać dodatkowego wsparcia i szkoleń związanych ze sztuczną inteligencją w celu zapewnienia zgodności z regulacjami cyfrowymi i związanymi ze sztuczną inteligencją;
41. zauważa, że automatyzacja i rozwój AI mogą drastycznie i nieodwracalnie zmienić zatrudnienie; podkreśla, że priorytetem powinno być dostosowanie umiejętności do potrzeb przyszłego rynku pracy, w szczególności w edukacji oraz w sektorze kultury i sektorze i branżach kreatywnych; podkreśla przy tym potrzebę podnoszenia kwalifikacji przyszłych pracowników; podkreśla również, jak ważne jest wprowadzanie sztucznej inteligencji dla przekwalifikowania i podnoszenia kwalifikacji na europejskim rynku pracy w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach, zwłaszcza sektorze audiowizualnym, na którym kryzys związany z COVID-19 odbił się bardzo poważnie;
42. wzywa Komisję, aby oceniła poziom ryzyka związanego z wprowadzaniem AI w sektorze edukacji, aby ustalić, czy zastosowania AI w edukacji należy uwzględnić w ramach regulacyjnych dotyczących zastosowań wysokiego ryzyka i objąć surowszymi wymogami bezpieczeństwa, przejrzystości, sprawiedliwości i rozliczalności, biorąc pod uwagę, jak ważne jest, by edukacja nadal służyła dobru publicznemu, oraz szczególną wrażliwość danych na temat uczniów, studentów i innych osób uczących się; podkreśla, że aby uniknąć wzmacniania określonych stereotypów i innych uprzedzeń, należy poddać ocenie zbiory danych wykorzystywane do szkolenia sztucznej inteligencji;
43. wzywa Komisję do zaproponowania zachowujących aktualność ram prawnych dla sztucznej inteligencji, aby przewidzieć prawnie wiążące środki i normy zapewniające podstawowe prawa i wolności oraz tworzenie wiarygodnych, etycznych i technicznie niezawodnych zastosowań AI, w tym zintegrowanych narzędzi, usług i produktów cyfrowych, takich jak robotyka i uczenie się maszyn, ze szczególnym uwzględnieniem edukacji; apeluje o dostępność, interoperacyjność i wysoką jakość danych wykorzystywanych w zastosowaniach AI w sektorze edukacji oraz o udostępnianie ich właściwym organom publicznym w sposób przystępny i z poszanowaniem przepisów o prawach autorskich i tajemnicy przedsiębiorstwa; przypomina, że dzieci stanowią grupę szczególnie wrażliwą, która zasługuje na szczególną uwagę i ochronę; podkreśla, że AI można co prawda z korzyścią wykorzystać w edukacji, należy jednak uwzględniać jej aspekty technologiczne, regulacyjne i społeczne, zapewniając odpowiednie zabezpieczenia i podejście ukierunkowane na człowieka, które ostatecznie zagwarantuje, że ludzie będą zawsze w stanie kontrolować i korygować decyzje systemu; w tym kontekście zaznacza, że nauczyciele muszą kontrolować i nadzorować wprowadzanie i stosowanie technologii AI w szkołach i na uczelniach podczas interakcji z uczniami i studentami; przypomina, że nie wolno, by systemy oparte na AI podejmowały bez nadzoru człowieka ostateczne decyzje, które mogłyby mieć wpływ na szanse edukacyjne, takie jak ocena końcowa studentów; przypomina, że jeżeli zautomatyzowane, oparte na profilowaniu decyzje dotyczące osób fizycznych wywołują skutki prawne lub podobne, decyzje te muszą mieć ściśle ograniczony charakter i w każdym wypadku wymagają prawa do interwencji człowieka oraz skorzystania z prawa do ich wyjaśnienia na mocy przepisów rozporządzenia RODO; podkreśla, że należy tego ściśle przestrzegać, zwłaszcza w systemie edukacji, w którym podejmowane są decyzje dotyczące przyszłych szans i możliwości;
44. wyraża poważne zaniepokojenie, że szkoły i inne placówki edukacyjne stają się coraz bardziej zależne od usług technologii edukacyjnej (EDTech), w tym zastosowań sztucznej inteligencji, które oferuje niewielka grupa prywatnych przedsiębiorstw o dominującej pozycji na rynku; uważa, że należy to kontrolować za pośrednictwem unijnych reguł konkurencji; podkreśla w związku z tym, jak ważne jest, by wspierać wprowadzanie AI w MŚP w sektorach edukacji i kultury oraz w sektorze audiowizualnym, z wykorzystaniem odpowiednich zachęt zapewniających równość szans; wzywa zatem do inwestowania w europejskie firmy informatyczne, by rozwijać niezbędne technologie w Unii, zważywszy, że największe firmy oferujące sztuczną inteligencję mają siedziby poza Unią; zdecydowanie przypomina, że dane dotyczące małoletnich są ściśle chronione na mocy RODO i mogą być przetwarzane tylko wówczas, gdy są w pełni zanonimizowane lub gdy uzyskano zgodę lub pozwolenie osoby odpowiedzialnej za opiekę rodzicielską nad dzieckiem, w ścisłej zgodności z zasadami minimalizacji danych i ograniczenia celu; wzywa do zapewnienia bardziej solidnej ochrony i zabezpieczeń w sektorze edukacji w odniesieniu do danych dotyczących dzieci i apeluje do Komisji o podjęcie skuteczniejszych działań w tym zakresie; wzywa do przekazywania dzieciom i ich rodzicom, w tym za pomocą kampanii uświadamiających i informacyjnych, jasnych informacji na temat ewentualnego wykorzystania i przetwarzania danych dotyczących dzieci;
45. podkreśla szczególne ryzyko związane z wykorzystaniem zastosowań sztucznej inteligencji oferujących funkcję automatycznego rozpoznawania, które obecnie szybko się rozwijają; przypomina, że dzieci są grupą szczególnie wrażliwą; zaleca Komisji i państwom członkowskim wprowadzenie zakazu automatycznej identyfikacji biometrycznej, takiej jak rozpoznawanie twarzy, do celów edukacyjnych i kulturalnych, w obiektach edukacyjnych i kulturalnych, chyba że jest to dozwolone prawem;
46. podkreśla potrzebę zwiększenia wyboru dla klienta, pobudzania konkurencji i poszerzenia zakresu usług opartych na technologiach AI oferowanych do celów edukacyjnych; w tym kontekście zachęca władze publiczne, aby motywowały do rozwijania i stosowania technologii AI poprzez finansowanie ich ze środków publicznych i zamówienia publiczne; uważa, że technologie stosowane przez publiczne placówki edukacyjne lub nabywane ze środków publicznych powinny być oparte na technologii otwartego oprogramowania;
47. zauważa, że innowacje w sektorze edukacji należało wprowadzić już wcześniej, co uwidoczniła pandemia COVID-19 i spowodowane nią przejście na e-uczenie się i naukę zdalną; podkreśla, że narzędzia edukacyjne wspomagane przez AI, takie jak narzędzia do oceny i identyfikacji trudności w uczeniu, mogą poprawić jakość i skuteczność e-uczenia się;
48. podkreśla, że infrastruktura cyfrowa nowej generacji i zasięg internetu mają strategiczne znaczenie dla zapewnienia obywatelom Unii edukacji wspieranej sztuczną inteligencją; w świetle kryzysu związanego z COVID-19 wzywa Komisję do opracowania strategii na rzecz europejskiej sieci 5G, która zapewni Europie strategiczną odporność i nie będzie zależna od technologii państw, które nie podzielają naszych wartości;
49. wzywa do stworzenia ogólnoeuropejskiej sieci uniwersyteckiej i badawczej, do której powinny należeć instytucje i eksperci z różnych dziedzin badający wpływ AI na uczenie się i która zajęłaby się kwestią AI w edukacji i opracowaniem rozwiązań zwiększających jej potencjał;
Dziedzictwo kulturowe
50. ponownie podkreśla znaczenie dostępu do kultury dla każdego obywatela w całej Unii; podkreśla w tym kontekście znaczenie wymiany najlepszych praktyk między państwami członkowskimi, placówkami oświatowymi, instytucjami kultury i podobnymi zainteresowanymi stronami; uznaje ponadto za niezwykle istotne, aby zasoby dostępne zarówno na poziomie unijnym, jak i krajowym były wykorzystywane w możliwie największym stopniu na rzecz dalszej poprawy dostępu do kultury; zwraca uwagę, że istnieje wiele możliwości uzyskania dostępu do kultury oraz że należy zbadać wszystkie różnorodne opcje, aby móc określić, która jest najodpowiedniejsza; podkreśla znaczenie zapewnienia zgodności z Traktatem z Marrakeszu;
51. podkreśla, że AI może odgrywać istotną rolę w zachowaniu, odtwarzaniu, dokumentowaniu, analizowaniu i promowaniu materialnego i niematerialnego dziedzictwa kulturowego oraz zarządzaniu nim, w tym poprzez monitorowanie i analizowanie zmian dotyczących obiektów dziedzictwa kulturowego powodowanych przez zagrożenia takie jak zmiana klimatu, klęski żywiołowe i konflikty zbrojne;
52. podkreśla, że technologie związane z AI mogą ułatwić wyeksponowanie różnorodności kulturowej Europy; podkreśla, że technologie te stwarzają nowe możliwości dla instytucji kultury, takich jak muzea, w zakresie tworzenia innowacyjnych narzędzi służących katalogowaniu artefaktów oraz dokumentowaniu i ułatwianiu dostępu do obiektów dziedzictwa kulturowego, w tym przez stosowanie technologii modelowania 3D oraz rozszerzonej rzeczywistości wirtualnej; podkreśla, że AI umożliwi również muzeom i galeriom sztuki wprowadzanie interaktywnych i spersonalizowanych usług dla zwiedzających, którym będzie dostarczać listę sugerowanych pozycji na podstawie ich preferencji wyrażonych osobiście oraz przez internet;
53. podkreśla, że wykorzystanie AI będzie zapowiedzią nowych innowacyjnych podejść, narzędzi i metod umożliwiających pracownikom i badaczom kultury stworzenie jednolitych baz danych z odpowiednimi systemami klasyfikacji oraz metadanymi multimedialnymi, co pozwoli im na powiązanie różnych obiektów dziedzictwa kulturowego, a dzięki temu zwiększy wiedzę na temat dziedzictwa kulturowego i pomoże lepiej je rozumieć;
54. podkreśla, że należy określić dobre praktyki wykorzystywania AI na potrzeby ochrony i dostępu do dziedzictwa kulturowego, w szczególności dla osób z niepełnosprawnościami, i rozpowszechniać je między sieciami kultury w całej Unii, a zarazem wspierać badania nad różnymi zastosowaniami AI w celu promowania wartości, ochrony i dostępności dziedzictwa kulturowego; apeluje do Komisji i państw członkowskich o propagowanie możliwości, jakie stwarza stosowanie AI w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach;
55. podkreśla, że technologie AI można także wykorzystywać do monitorowania nielegalnego handlu dobrami kultury i przypadków ich niszczenia, a także do gromadzenia danych na potrzeby działań związanych z przywracaniem i odbudową zarówno materialnego, jak i niematerialnego dziedzictwa kulturowego; zwraca w szczególności uwagę, że rozwijanie, wprowadzanie i stosowanie AI w procedurach kontroli celnej może pomóc w przeciwdziałaniu nielegalnemu handlowi dziedzictwem kulturowym, zwłaszcza przez uzupełnienie systemów pozwalających organom celnym na ukierunkowanie działań i zasobów na obiekty, z którymi wiąże się największe ryzyko;
56. zauważa, że AI może przynieść korzyści sektorowi badań, w szczególności dzięki wkładowi, jaki analiza predykcyjna może wnieść w poprawę analizy danych, na przykład w odniesieniu do nabywania i obiegu dóbr kultury; podkreśla, że Unia powinna zwiększyć inwestycje i promować partnerstwa między przemysłem a środowiskiem akademickim w celu wzmocnienia doskonałości w zakresie badań na szczeblu europejskim;
57. przypomina, że AI może stanowić rewolucyjne narzędzie promowania turystyki kulturalnej, i podkreśla jej znaczny potencjał w prognozowaniu ruchu turystycznego, co może być pomocne dla miast odwiedzanych przez zbyt dużą liczbę turystów;
Sektor kultury i sektor kreatywny oraz związane z nimi branże
58. z żalem stwierdza, że kultura nie znajduje się wśród priorytetów określonych w wariantach strategicznych i zaleceniach dotyczących AI na szczeblu Unii, w szczególności w białej księdze Komisji z 19 lutego 2020 r. w sprawie sztucznej inteligencji; wzywa do przeglądu tych zaleceń i do uznania kultury za jeden z priorytetów polityki w dziedzinie AI na szczeblu Unii; wzywa Komisję oraz państwa członkowskie do zajęcia się kwestią potencjalnego wpływu rozwijania, wprowadzania i stosowania technologii AI na sektor kultury i sektor kreatywny oraz związane z nimi branże, a także do wykorzystania w jak największym stopniu Europejskiego Instrumentu na rzecz Odbudowy do cyfryzacji tego sektora, aby dopasować się do nowych form konsumpcji w XXI wieku;
59. zwraca uwagę na fakt, że AI dotarła również do sektora kultury i sektora kreatywnego oraz związanych z nimi branż, gdzie przybiera na przykład formę zautomatyzowanego tworzenia tekstów, filmów wideo lub utworów muzycznych; podkreśla, że również osoby pracujące w sektorze kreatywnym i twórcy kultury muszą posiadać niezbędne umiejętności i zdolności cyfrowe, aby móc korzystać z AI i innych technologii cyfrowych; wzywa Komisję i państwa członkowskie, aby propagowały możliwości stosowania AI w sektorze kultury i sektorze kreatywnym, udostępniając większe środki przeznaczone na naukę i badania oraz aby stworzyły centra cyfrowej kreatywności, w których osoby pracujące w sektorze kreatywnym i twórcy kultury będą mogli opracowywać zastosowania AI, uczyć się ich obsługi oraz obsługi innych technologii, oraz je testować;
60. zauważa, że technologie związane z AI mogą potencjalnie zwiększyć liczbę miejsc pracy w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach, czemu sprzyja lepszy dostęp do tych technologii; podkreśla zatem znaczenie podniesienia poziomu umiejętności cyfrowych w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach, tak by technologie te były w tych sektorach bardziej inkluzywne i interaktywne oraz łatwiejsze do stosowania i opanowania,
61. podkreśla, że interakcja między AI a sektorem kultury i sektorem kreatywnym oraz związanymi z nimi branżami jest złożona i wymaga dogłębnej oceny; z zadowoleniem przyjmuje sprawozdanie Komisji z listopada 2020 r. zatytułowane "Tendencje i zmiany w sztucznej inteligencji - wyzwania dla ram praw własności intelektualnej" oraz badanie pt. "Badanie dotyczące praw autorskich i nowych technologii: zarządzanie danymi dotyczącymi praw autorskich i sztuczna inteligencja"; podkreśla znaczenie zapewnienia jasności w odniesieniu do zasad wykorzystywania treści chronionych prawem autorskim jako danych wejściowych (obrazów, muzyki, filmów, baz danych itp.) oraz do produkcji dóbr kultury i materiałów audiowizualnych, niezależnie od tego, czy są tworzone przez ludzi przy pomocy AI, czy są autonomicznie generowane przez technologie AI; zwraca się do Komisji o przeanalizowanie, jaki wpływ AI będzie miała na europejski sektor kreatywny; ponownie podkreśla znaczenie europejskich danych i z zadowoleniem przyjmuje dotyczące tej kwestii oświadczenia Komisji oraz uwzględnienie AI i powiązanych z nią technologii wśród najważniejszych zagadnień;
62. podkreśla potrzebę opracowania na szczeblu unijnym spójnej wizji technologii związanych z AI w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach; wzywa państwa członkowskie, aby zwróciły większą uwagę na kwestie związane z kulturą w krajowych strategiach dotyczących AI w celu zapewnienia wykorzystania innowacji i utrzymania konkurencyjności w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach oraz ochrony i promocji różnorodności kulturowej na szczeblu Unii w nowym kontekście cyfrowym;
63. podkreśla znaczenia stworzenia ogólnounijnego zróżnicowanego środowiska dla technologii AI, które to środowisko będzie sprzyjać różnorodności kulturowej i językowej oraz wspierać mniejszości, oraz jednocześnie wzmocnienia sektora kultury i sektora kreatywnego oraz związanych z nimi branż za pomocą platform internetowych, pozwalających na włączenie obywateli Unii i ich aktywne uczestnictwo;
64. wzywa Komisję i państwa członkowskie do wsparcia demokratycznej debaty na temat technologii AI oraz do stworzenia regularnego forum na potrzeby dyskusji ze społeczeństwem obywatelskim, naukowcami, środowiskiem akademickim i zainteresowanymi stronami w celu podniesienia poziomu wiedzy na temat korzyści płynących z wykorzystywania tej technologii w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach, a także wynikających z tego wyzwań; podkreśla w związku z tym rolę, jaką kultura i sztuka mogą odegrać w przekazywaniu wiedzy o sztucznej inteligencji oraz w debacie publicznej na ten temat, ponieważ za pomocą kultury i sztuki można zobrazować i umożliwić doświadczenie maszynowego uczenia się, na przykład w dziedzinie muzyki;
65. wzywa Komisję i państwa członkowskie do zajęcia się kwestią treści generowanych przez AI i związanymi z tym wyzwaniami dotyczącymi autorstwa i naruszenia praw autorskich; w tym kontekście zwraca się do Komisji o dokonanie oceny wpływu AI i powiązanych z nią technologii na sektor audiowizualny, a także na sektor kultury i sektor kreatywny oraz związane z nimi branże, aby propagować różnorodność kulturową i językową przy jednoczesnym poszanowaniu praw autorów i wykonawców;
66. podkreśla, że czołową rolę w opracowaniu europejskiej strategii w zakresie AI w szkolnictwie, kulturze i sektorze audiowizualnym powinien odgrywać Europejski Instytut Innowacji i Technologii (EIT), w szczególności jego przyszła wspólnota wiedzy i innowacji (WWII), która ma zajmować się sektorem kultury i sektorem kreatywnym i która może pomóc przyspieszyć zastosowanie AI w sektorze i czerpanie z niego korzyści;
67. zauważa, że AI już znalazła się w kreatywnym łańcuchu wartości na poziomie tworzenia, produkcji, rozpowszechniania i konsumpcji i w związku z tym wywiera ogromny wpływ na sektor kultury i sektor kreatywny oraz związane z nimi branże, w tym branżę muzyczną, filmową, sztukę i literaturę, przez wprowadzanie nowych narzędzi, programów i wspomaganie produkcji za pomocą AI, aby ułatwić produkcję, a zarazem inspirować i pozwalać ogółowi społeczeństwa na tworzenie treści;
68. wzywa Komisję do przeprowadzenia badań i rozważenia wariantów strategicznych w celu zaradzenia szkodliwemu wpływowi wykorzystania AI przez internetowe serwisy streamingowe do kontroli transmisji strumieniowych w celu ograniczenia różnorodności lub zwiększenia zysków przez proponowanie lub promowanie pewnych treści w ofertach dla konsumentów, oraz do zbadania, jak wpływa to na różnorodność kulturową i dochody twórców;
69. uważa, że w sektorze kultury i sektorze kreatywnym oraz związanych z nimi branżach AI staje się coraz bardziej przydatna do działań związanych z tworzeniem i produkcją;
70. podkreśla rolę osobowości autora w dawaniu wyrazu swobodnym i twórczym wyborom, które stanowią o oryginalności utworów 12 ; podkreśla znaczenie ograniczeń i wyjątków w odniesieniu do praw autorskich w przypadku wykorzystywania treści jako danych wejściowych, szczególnie w edukacji, środowisku akademickim i obszarze badań naukowych, oraz w produkcji treści kulturalnych i kreatywnych, takich jak treści audiowizualne i treści tworzone przez użytkowników;
71. uważa, że konieczne jest uwzględnienie ochrony twórczości technicznej i artystycznej generowanej przez AI, aby wspierać tę formę tworzenia;
72. podkreśla, że w kontekście gospodarki opartej na danych możliwe jest usprawnienie zarządzania danymi dotyczącymi praw autorskich w celu poprawy wynagrodzeń autorów i wykonawców, w szczególności poprzez umożliwienie szybkiej identyfikacji autorstwa i własności treści, co przyczyni się do zmniejszenia liczby utworów osieroconych; podkreśla ponadto, że rozwiązania technologiczne w dziedzinie AI powinny być stosowane w celu poprawy infrastruktury danych dotyczących praw autorskich i powiązania metadanych w utworach, a także w celu ułatwienia wywiązywania się z obowiązku zapewnienia przejrzystości, o którym mowa w art. 19 dyrektywy (UE) 2019/790 w sprawie prawa autorskiego i praw pokrewnych na jednolitym rynku cyfrowym 13 , w zakresie przedstawiania aktualnych, istotnych i wyczerpujących informacji na temat eksploatacji utworów i wykonań autorów i wykonawców, w szczególności w przypadku istnienia wielu podmiotów praw autorskich i złożonych systemów licencyjnych;
73. wzywa, aby w planie działania dotyczącym własności intelektualnej zapowiedzianym przez Komisję zajęto się kwestią AI i jej wpływem na sektor kreatywny, z uwzględnieniem potrzeby znalezienia równowagi pomiędzy ochroną praw własności intelektualnej a wspieraniem kreatywności w edukacji, kulturze i badaniach naukowych; uważa, że Unia może odgrywać wiodącą rolę w tworzeniu technologii AI, jeśli ustanowi sprawnie funkcjonujące ramy regulacyjne i będzie realizowała aktywną politykę publiczną, w szczególności w odniesieniu do programów szkoleniowych i wsparcia finansowego na rzecz badań naukowych; zwraca się do Komisji o dokonanie oceny wpływu praw własności intelektualnej na badania i rozwój AI i powiązanych technologii, a także na sektor kultury i sektor kreatywny oraz związane z nimi branże, w tym sektor audiowizualny, zwłaszcza w odniesieniu do autorstwa utworów, sprawiedliwego wynagrodzenia autorów i kwestii pokrewnych;
74. wzywa Komisję do uwzględnienia aspektów prawnych produktów powstałych w wyniku zastosowania technologii AI, a także treści kulturowych powstałych w wyniku stosowania AI i powiązanych technologii; uznaje za istotne wspieranie produkcji treści kulturalnych; przypomina jednak o znaczeniu ochrony jednolitych unijnych ram praw własności intelektualnej i dopilnowania, by wszelkie zmiany były wprowadzane z należytą starannością, tak aby nie zaburzyć delikatnej równowagi; wzywa Komisję do dokonania dogłębnej oceny dotyczącej ewentualnej osobowości prawnej treści wytwarzanych przez AI, a także stosowania praw własności intelektualnej do treści generowanych przez AI oraz do treści tworzonych z wykorzystaniem narzędzi opartych na AI;
75. wzywa również Komisję do rozważenia możliwości opracowania, w ścisłej współpracy z państwami członkowskimi i zainteresowanymi stronami, mechanizmów lub systemów weryfikacji dla wydawców, autorów, twórców itp., aby pomóc im w sprawdzaniu, z jakich treści mogą korzystać, oraz ułatwić ustalanie, co podlega ochronie na mocy prawa własności intelektualnej;
76. wzywa Komisję do ustanowienia przepisów zapewniających skuteczną interoperacyjność danych, tak aby treści nabyte na platformie były dostępne za pośrednictwem dowolnego instrumentu cyfrowego, niezależnie od jego marki;
Sektor audiowizualny
77. zwraca uwagę, że AI jest często wykorzystywana w zautomatyzowanych algorytmach podejmowania decyzji w celu rozpowszechniania treści kulturalnych i kreatywnych i ustalania kolejności, w jakiej są one prezentowane użytkownikom; podkreśla, że te algorytmy to "czarna skrzynka" dla użytkowników; podkreśla, że algorytmy wykorzystywane przez dostawców usług medialnych, platformy udostępniania plików wideo oraz muzyczne serwisy streamingowe powinny być opracowywane tak, aby nie traktowały w sposób uprzywilejowany konkretnych utworów poprzez ograniczenie "spersonalizowanych" rekomendacji do najbardziej popularnych treści, do targetowania reklam, do celów komercyjnych lub w celu osiągnięcia jak największego zysku; apeluje, by algorytmy rekomendacji i spersonalizowane materiały reklamowe były w miarę możliwości wytłumaczalne i przejrzyste, by dać konsumentom dokładny i pełny wgląd w te procesy i treści oraz dopilnować, aby usługi spersonalizowane były niedyskryminujące i zgodne z przyjętymi niedawno rozporządzeniem o stosunkach między platformami internetowymi a przedsiębiorstwami 14 oraz dyrektywą zbiorczą o nowym ładzie dla konsumentów 15 ; wzywa Komisję, aby zajęła się sposobem optymalizacji algorytmów moderacji treści pod kątem większego zaangażowania ich użytkowników oraz przedstawiła propozycje zaleceń mających na celu zwiększenie kontroli użytkowników nad treścią, którą widzą, poprzez zagwarantowanie i właściwe wdrożenie prawa użytkowników do rezygnacji z polecanych i spersonalizowanych usług; podkreśla również, że konsumentów należy informować, kiedy mają do czynienia ze zautomatyzowanym procesem decyzyjnym, a ich wybory i działania nie mogą być ograniczane; zaznacza, że trzeba przeciwdziałać wykorzystywaniu mechanizmów AI do nadzoru komercyjnego nad konsumentami, nawet w przypadku "usług bezpłatnych", przez zapewnienie pełnej zgodności takich praktyk z prawami podstawowymi i RODO; podkreśla, że wszystkie zmiany regulacyjne muszą uwzględniać wpływ na konsumentów podatnych na zagrożenia;
78. podkreśla, że to, co jest nielegalne poza internetem, powinno być nielegalne w internecie; zwraca uwagę, że narzędzia opierające się na sztucznej inteligencji mają potencjał zwalczania nielegalnych treści w internecie i są już stosowane w tym celu, w kontekście aktu prawnego o usługach cyfrowych, który ma zostać wkrótce przyjęty, przypomina jednak z mocą, że narzędzia takie muszą zawsze być zgodne z prawami podstawowymi, a zwłaszcza z wolnością wypowiedzi i informacji, i nie powinny prowadzić do ogólnego obowiązku monitorowania internetu ani do usuwania legalnych treści rozpowszechnianych w celach edukacyjnych, dziennikarskich, artystycznych lub badawczych; podkreśla, że podczas moderacji treści algorytmy powinny być stosowane wyłącznie jako mechanizm sygnalizujący podlegający interwencji człowieka, ponieważ sztuczna inteligencja nie jest w stanie niezawodnie odróżniać treści legalnych, nielegalnych i szkodliwych; zwraca uwagę, że w warunkach dotyczących korzystania należy zawsze uwzględniać wytyczne społeczności, jak również procedurę odwoławczą;
79. przypomina w związku z tym, że zgodnie z art. 15 dyrektywy o handlu elektronicznym 16 nie należy prowadzić nadzoru ogólnego, a nadzorowanie konkretnych treści w audiowizualnych usługach medialnych powinno być zgodne z wyjątkami zapisanymi w prawodawstwie unijnym; przypomina, że zastosowania AI muszą być zgodne z wewnętrznymi i zewnętrznymi protokołami bezpieczeństwa, które powinny być technicznie precyzyjne i solidne; uważa, że zasada ta powinna dotyczyć działania zarówno w normalnych warunkach, jak i w sytuacjach nieznanych i nieprzewidywalnych;
80. podkreśla ponadto, że wykorzystywanie AI do rekomendowania treści na podstawie algorytmów przez dostawców usług medialnych takich jak VoD i platformy udostępniania plików wideo może mieć poważny wpływ na różnorodność kulturową i językową, w szczególności w odniesieniu do obowiązku eksponowania utworów europejskich zgodnie z art. 13 dyrektywy o audiowizualnych usługach medialnych (dyrektywa (UE) 2018/1808 17 ); zauważa, że ten sam problem dotyczy również muzycznych serwisów streamingowych, i wzywa do opracowania wskaźników oceny różnorodności kulturowej i promowania europejskich utworów w takich serwisach;
81. wzywa Komisję i państwa członkowskie do większego wsparcia finansowego rozwijania, wprowadzania i stosowania AI w ramach zautomatyzowanej realizacji napisów i dubbingu europejskich utworów audiowizualnych w celu zwiększenia różnorodności kulturowej i językowej w Unii oraz poprawy rozpowszechnienia europejskich treści audiowizualnych i dostępu do nich;
82. wzywa Komisję do ustanowienia jasnych ram etycznych dotyczących stosowania technologii AI w mediach w celu zapobiegania wszelkim formom dyskryminacji oraz zapewnienia na szczeblu UE dostępu do treści zróżnicowanych kulturowo i językowo, opartych na przejrzystych, rozliczalnych i inkluzywnych algorytmach, przy jednoczesnym poszanowaniu indywidualnych wyborów i preferencji;
83. zwraca uwagę, że sztuczna inteligencja może odgrywać istotną rolę w szybkim rozpowszechnianiu dezinformacji; w związku z tym podkreśla, że w ramach tych należy również uwzględnić kwestię niewłaściwego wykorzystywania AI do rozpowszechniania w internecie nieprawdziwych informacji, informacji wprowadzających w błąd i dezinformacji, a jednocześnie uniknąć cenzury; wzywa zatem Komisję do oceny zagrożeń związanych z możliwością wykorzystywania sztucznej inteligencji do rozpowszechniania dezinformacji w otoczeniu cyfrowym oraz rozwiązań umożliwiających wykorzystanie AI w celu przeciwdziałania dezinformacji;
84. wzywa Komisję do przyjęcia środków regulacyjnych, które zapewnią dostawcom usług medialnych dostęp do danych, które są generowane w związku z udostępnianiem i rozpowszechnianiem ich treści na platformach osób trzecich; podkreśla, że pełne przekazanie danych przez operatorów platform dostawcom usług medialnych ma decydujące znaczenie dla lepszego zrozumienia odbiorców przez dostawców usług medialnych, a co za tym idzie ulepszenia ich usług zgodnie z wyobrażeniami odbiorców;
85. podkreśla znaczenie podwyższenia finansowania programów "Cyfrowa Europa", "Kreatywna Europa" i "Horyzont Europa" w celu zwiększenia wsparcia dla europejskiego sektora audiowizualnego, a mianowicie poprzez projekty badawcze oparte na współpracy i eksperymentalne inicjatywy pilotażowe w zakresie rozwijania, wprowadzania i stosowania etycznych technologii AI;
86. wzywa do bliskiej współpracy państw członkowskich w opracowywaniu programów szkoleniowych mających na celu zmianę lub podnoszenie kwalifikacji pracowników, aby lepiej przygotować ich na transformację społeczną, którą pociągnie za sobą wykorzystanie technologii AI w sektorze audiowizualnym;
87. jest zdania, że AI ma ogromny potencjał, by stymulować innowacje w sektorze mediów informacyjnych; uważa, że powszechne wykorzystywanie AI np. do tworzenia i dystrybucji treści, monitorowania komentarzy, analizy danych i identyfikowania spreparowanych zdjęć i filmów ma kluczowe znaczenie dla ograniczenia kosztów w redakcjach wiadomości ze względu na spadek przychodów z reklam i dla przeznaczania większych środków na relacje z miejsca zdarzenia, a tym samym zwiększenia jakości i różnorodności treści;
Dezinformacja cyfrowa: treści typu "deepfake"
88. podkreśla znaczenie zapewnienia pluralizmu mediów w internecie, jak i poza nim, w celu zagwarantowania jakości, różnorodności i wiarygodności dostępnych informacji;
89. przypomina, że dokładność, niezależność, sprawiedliwość, poufność, humanitarność, rozliczalność i przejrzystość będące siłami napędowymi zasady wolności wypowiedzi i dostępu do informacji w mediach w internecie i poza nim mają decydujące znaczenie w zwalczaniu dezinformacji i informacji wprowadzających w błąd;
90. zwraca uwagę na ważną rolę, jaką niezależne media odgrywają w kulturze i życiu codziennym obywateli; podkreśla, że dezinformacja stanowi kluczowy problem, ponieważ powoduje ciągłe naruszenia praw autorskich i ogólnie praw własności intelektualnej; wzywa Komisję, aby we współpracy z państwami członkowskimi kontynuowała działania na rzecz podnoszenia świadomości na temat tego problemu, przeciwdziałając skutkom dezinformacji oraz problemom związanym ze źródłami; uważa ponadto za istotne opracowanie strategii edukacyjnych w celu poprawy umiejętności cyfrowych w tym konkretnym aspekcie;
91. przypomina, że wraz z szybko pojawiającymi się nowymi technikami wykrywanie nieprawdziwych i zmanipulowanych treści, np. typu "deepfake" staje się coraz trudniejsze, ponieważ twórcy o złych zamiarach są w stanie generować wyrafinowane algorytmy, które można wyszkolić tak, aby unikały wykrycia, co ma poważny wpływ na nasze podstawowe wartości demokratyczne; zwraca się do Komisji o dokonanie oceny wpływu AI na tworzenie treści typu "deepfake", ustanowienie odpowiednich ram prawnych dotyczących ich tworzenia, produkcji lub rozpowszechniania w złych zamiarach oraz o przedstawienie propozycji zaleceń dotyczących między innymi przeciwdziałania wszelkim zagrożeniom stwarzanym przez systemy zasilane sztuczną inteligencją dla wolnych i uczciwych wyborów oraz demokracji;
92. z zadowoleniem przyjmuje ostatnie inicjatywy i projekty mające na celu opracowanie skuteczniejszych narzędzi do wykrywania treści typu "deepfake" oraz wymogów w zakresie przejrzystości; podkreśla w związku z tym konieczność zbadania metod przeciwdziałania treściom typu "deepfake" oraz inwestowania w takie metody, co będzie stanowić niezwykle istotny krok w walce z rozpowszechnianiem informacji wprowadzających w błąd i szkodliwych treści; uważa, że rozwiązania wspomagane przez AI mogą być w tym względzie skuteczne; zwraca się w związku z tym do Komisji o wprowadzenie obowiązku zawarcia we wszystkich materiałach typu "deepfake" lub wszelkich innych realistycznie wykonanych syntetycznych materiałach wideo informacji, że materiał nie jest oryginalny, oraz ścisłego ograniczenia dotyczącego ich wykorzystania do celów wyborczych;
93. jest zaniepokojony tym, że AI ma coraz większy wpływ na sposób wyszukiwania i wykorzystywania informacji online; zwraca uwagą na fakt, że tak zwane bańki filtrujące i kabiny pogłosowe ograniczają różnorodność opinii oraz wywierają negatywny wpływ na otwartą debatę społeczną; wzywa zatem do zapewnienia przejrzystości stosowania przez operatorów platform algorytmów, które służą do administrowania informacjami, oraz do przyznania użytkownikom większej swobody decydowania o tym, jakiego rodzaju informacje chcą otrzymywać;
94. zwraca uwagę na fakt, że technologie AI są już wykorzystywane w dziennikarstwie, na przykład podczas tworzenia tekstów lub analizowania dużych zbiorów danych w kontekście dziennikarstwa śledczego; podkreśla, że w przypadku tworzenia informacji istotnych dla ogółu społeczeństwa ważne jest to, aby zautomatyzowane dziennikarstwo odnosiło się do prawidłowych i kompletnych danych, aby uniknąć rozpowszechniania nieprawdziwych informacji; podkreśla, że również w odniesieniu do treści dziennikarskich tworzonych za pomocą technologii AI muszą obowiązywać podstawowe zasady wysokiej jakości dziennikarstwa, takie jak kontrola redakcyjna; wzywa do oznaczania tekstów wygenerowanych z wykorzystaniem AI, aby utrzymać zaufanie do dziennikarstwa;
95. podkreśla potencjał AI we wspieraniu i promowaniu wielojęzyczności poprzez tworzenie technologii związanych z językiem i umożliwienie odkrywania europejskich treści w internecie;
o
o o
96. zobowiązuje swojego przewodniczącego do przekazania niniejszej rezolucji Radzie i Komisji.
