1. WPROWADZENIE1.1. Cel i podstawa prawna
1. Platformy internetowe i wyszukiwarki internetowe stały się ważnymi miejscami debaty publicznej oraz kształtowania opinii publicznej i zachowań wyborców. Rozporządzenie (UE) 2022/2065 ("akt o usługach cyfrowych") nakłada na dostawców bardzo dużych platform internetowych (ang. very large online platforms, VLOP) i bardzo dużych wyszukiwarek internetowych (ang. very large online search engines, VLOSE) 1 obowiązek przeprowadzania oceny konkretnych rodzajów ryzyka i wprowadzania rozsądnych, proporcjonalnych i skutecznych środków zmniejszających ryzyko "wystąpienia faktycznych lub przewidywalnych negatywnych skutków dla dyskursu obywatelskiego i procesów wyborczych" 2 .
2. Zgodnie z art. 35 ust. 3 rozporządzenia (UE) 2022/2065 Komisja może wydać wytyczne dotyczące środków zmniejszających ryzyko, które dostawcy VLOP i VLOSE są zobowiązani przyjąć w odniesieniu do określonych rodzajów ryzyka. Takie wytyczne mogą w szczególności przedstawiać najlepsze praktyki i zalecane możliwe środki, z należytym uwzględnieniem możliwych konsekwencji tych środków dla zapisanych w Karcie praw podstawowych Unii Europejskiej ("Karta") praw podstawowych wszystkich zaangażowanych stron.
3. Wiele zjawisk związanych z platformami internetowymi i wyszukiwarkami internetowymi stwarza zwiększone ryzyko dla uczciwości wyborów. Obejmują one m.in. rozprzestrzenianie się nielegalnego nawoływania do nienawiści w internecie, zagrożenia związane z zagranicznymi manipulacjami informacjami i ingerencjami w informacje ("FIMI"), a także szersze zjawisko dezinformacji, rozpowszechnianie (brutalnych) treści ekstremistycznych i treści, których celem jest radykalizacja, a także rozpowszechnianie treści generowanych za pomocą nowych technologii, takich jak generatywna sztuczna inteligencja ("AI") 3 . W związku z tym, że w najbliższych miesiącach w UE zaplanowanych jest szereg wyborów, w tym nadchodzące wybory do Parlamentu Europejskiego w 2024 r., niniejszy dokument zawiera wytyczne mające na celu wspieranie dostawców VLOP i VLOSE w celu zapewnienia, aby w stosownych przypadkach wywiązywali się z obowiązku ograniczania konkretnych rodzajów ryzyka związanych z procesami wyborczymi. Wytyczne te pozostają zasadniczo aktualne nawet po przeprowadzeniu tych wyborów.
4. Środki wprowadzane przez VLOP i VLOSE zgodnie z rozporządzeniem (UE) 2022/2065, w tym wszystkie środki służące ograniczaniu negatywnego wpływu na procesy wyborcze, o których mowa w niniejszych wytycznych, powinny być stosowane ze szczególnym uwzględnieniem ochrony praw podstawowych zapisanych w Karcie, w tym prawa do godności człowieka, poszanowania życia prywatnego i rodzinnego, ochrony danych osobowych, wolności wypowiedzi i informacji, w tym wolności i pluralizmu mediów, wolności stowarzyszania się i wolności prowadzenia działalności gospodarczej. Dostawcy VLOP i VLOSE powinni należycie uwzględniać potencjalny wpływ środków na prawa podstawowe wszystkich zaangażowanych stron, w tym grup osób szczególnie podatnych na zagrożenia, biorąc pod uwagę dostępność i inkluzywność środków.
5. W niniejszych wytycznych uwzględniono już przyszłe obowiązki nałożone na dostawców VLOP i VLOSE na mocy rozporządzenia (UE) 2024/900 w sprawie przejrzystości i targetowania reklamy politycznej ("rozporządzenie w sprawie reklamy politycznej") 4 , a także przyszłego rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji ("akt w sprawie AI") 5 , w przypadku których proces przyjmowania przez prawodawcę UE jest w toku, jak również dobrowolne zobowiązania do wypełniania obowiązków określonych w akcie w sprawie AI przed jego wejściem w życie 6 , podjęte przez dostawców VLOP i VLOSE w ramach paktu na rzecz AI. Dostawcy VLOP i VLOSE są zobowiązani do przestrzegania takich prawnie wiążących przepisów w momencie rozpoczęcia ich stosowania, w zakresie, w jakim mają one do tych dostawców zastosowanie.
6. Dostawcy VLOP i VLOSE muszą wypełniać swoje obowiązki wynikające z rozporządzenia (UE) 2022/2065. Niniejsze wytyczne należy postrzegać w kontekście w wspierania dostawców VLOP i VLOSE w zapewnianiu zgodności z obowiązkiem wynikającym z art. 35 tego rozporządzenia w odniesieniu do ryzyka związanego z procesami wyborczymi. Oprócz obowiązku wprowadzenia rozsądnych, proporcjonalnych i skutecznych środków zmniejszających ryzyko związane z procesami wyborczymi zgodnie z art. 35 rozporządzenia (UE) 2022/2065 dostawcy VLOP i VLOSE muszą przestrzegać wszystkich innych zobowiązań prawnych określonych w rozporządzeniu (UE) 2022/2065, które mogą mieć znaczenie w kontekście wyborów. Zobowiązania te wynikają między innymi z art. 14 i 17 (warunki korzystania z usług oraz uzasadnienie), art. 27 i 38 (systemy rekomendacji), art. 36 i 48 (mechanizmy reagowania kryzysowego i protokoły kryzysowe), art. 15, 24, 37, 42 (przejrzystość i niezależne audyty), art. 26 i 39 (przejrzystość reklam internetowych) oraz art. 40 (dostęp do danych i kontrola danych).
7. Ryzyko systemowe dla procesów wyborczych może również przejawiać się poprzez akcentowanie i potencjalnie szybkie i szerokie rozpowszechnianie treści, które są nielegalne na gruncie prawa Unii lub prawa państw członkowskich, na przykład gróźb, brutalnych treści ekstremistycznych i terrorystycznych, nielegalnego nawoływania do nienawiści lub nękania w internecie wobec kandydatów politycznych lub urzędników, dziennikarzy, osób pracujących przy wyborach lub innych osób zaangażowanych w proces wyborczy. W związku z tym należy zwrócić szczególną uwagę na przepisy art. 9, 10, 16 i 22 rozporządzenia (UE) 2022/2065 dotyczące nielegalnych treści, w których to przepisach przewidziano nakaz podjęcia działań przeciwko nielegalnym treściom, nakazy udzielenia informacji, a także mechanizmy zgłaszania i działania oraz uregulowano kwestię zaufanych podmiotów sygnalizujących.
1.2. Wkład w opracowywanie wytycznych i powiązane inicjatywy polityczne
8. Niniejsze wytyczne opierają się na szeregu dialogów dotyczących gotowości w związku z uczciwością wyborów, które to dialogi Komisja przeprowadziła z kilkoma dostawcami VLOP i VLOSE po wejściu w życie rozporządzenia (UE) 2022/2065 w odniesieniu do pierwszych 19 wskazanych usług pod koniec sierpnia 2023 r. 7 , we współpracy z odpowiednimi organami krajowymi. W celu przygotowania ostatecznej wersji niniejszych wytycznych Komisja zorganizowała konsultacje rozpoznawcze 8 , które opublikowano 8 lutego 2024 r. i zakończono 7 marca 2024 r., a także ukierunkowane konsultacje w formie okrągłego stołu poświęcone projektowi wytycznych, w tym z organizacjami społeczeństwa obywatelskiego i dostawcami VLOP i VLOSE. Ponadto przy nadawaniu wytycznym ostatecznego kształtu Komisja współpracowała z koordynatorami ds. usług cyfrowych na posiedzeniach Europejskiej Rady ds. Usług Cyfrowych.
9. W zakresie, w jakim ma to znaczenie dla zgodności VLOP i VLOSE z rozporządzeniem (UE) 2022/2065, wytyczne odzwierciedlają również szereg zobowiązań i środków, których celem jest ograniczenie rozprzestrzeniania się dezinformacji w internecie i które są zawarte w kodeksie postępowania w zakresie zwalczania dezinformacji 9 , stanowiącym pierwsze globalne ramy branżowe w dziedzinie cyfrowej oraz źródło najlepszych praktyk branżowych służących zwalczaniu dezinformacji. Wytyczne uwzględniają również prace wykonane przez instytucje UE i państwa członkowskie w zakresie zagranicznych manipulacji informacjami i ingerencji w informacje, w szczególności kompleksowe ramy przewidziane w unijnym zestawie narzędzi służących przeciwdziałaniu zagranicznym manipulacjom informacjami i ingerencjom w informacje oraz niedawne sprawozdanie na temat zagrożeń związanych z FIMI 10 , sporządzone przez Europejską Służbę Działań Zewnętrznych (ESDZ), w którym skoncentrowano się na reakcjach na zagraniczne manipulacje informacjami i ingerencje w informacje w kontekście wyborów.
10. Niniejsze wytyczne uzupełniają politykę Komisji w dziedzinie demokracji oraz wolnych, uczciwych i odpornych wyborów, w tym europejski plan działania na rzecz demokracji z 2020 r. 11 , pakiet na rzecz wyborów i uczciwości przedstawiony przez Komisję w 2021 r. 12 , a ostatnio pakiet na rzecz obrony demokracji z 2023 r. 13 , a także prace europejskiej sieci współpracy w zakresie wyborów 14 mające na celu wspieranie współpracy między krajowymi sieciami wyborczymi zrzeszającymi właściwe organy. Pakiet na rzecz obrony demokracji obejmuje m.in. obszerne zalecenia dla państw członkowskich oraz krajowych i europejskich partii politycznych, fundacji politycznych i organizacji kampanijnych w sprawie odpornych procesów wyborczych sprzyjających włączeniu społecznemu oraz uwydatnienia europejskiego charakteru i usprawnienia procesu wyborów do Parlamentu Europejskiego 15 . Jak wskazano w tych zaleceniach, Komisja przedstawi sprawozdanie z przebiegu wyborów do Parlamentu Europejskiego. Komunikat Komisji w sprawie obrony demokracji zawiera również ocenę zagrożeń dla procesów wyborczych i dyskursu obywatelskiego z perspektywy m.in. wdrażania europejskiego planu działania na rzecz demokracji i należy go uwzględnić 16 .
1.3. Zarys
11. Struktura niniejszych wytycznych jest następująca:
a) w sekcji 1 określono cel i podstawę prawną, wkład i inne powiązane inicjatywy polityczne oraz strukturę niniejszych wytycznych;
b) w sekcji 2 określono zakres niniejszych wytycznych;
c) w sekcji 3 przedstawiono główne merytoryczne wytyczne dotyczące środków zmniejszających ryzyko systemowe związane z procesami wyborczymi. Poszczególne podsekcje dotyczą: wzmocnienia procesów wewnętrznych; środków zmniejszających ryzyko w odniesieniu do procesów wyborczych; środków zmniejszających ryzyko związane z generatywną sztuczną inteligencją; współpracy z organami unijnymi i krajowymi, niezależnymi ekspertami i organizacjami społeczeństwa obywatelskiego; procesu wprowadzania środków zmniejszających ryzyko podczas wyborów i po nich oraz szczegółowych wytycznych dotyczących wyborów do Parlamentu Europejskiego;
d) w sekcji 4 przedstawiono kolejne kroki i wnioski.
2. ZAKRES NINIEJSZYCH WYTYCZNYCH
12. Niniejsze wytyczne są skierowane do dostawców VLOP i VLOSE, których usługi wiążą się z ryzykiem wystąpienia faktycznych lub przewidywalnych negatywnych skutków dla procesów wyborczych, wynikającym z projektu, funkcjonowania i korzystania z tych usług w rozumieniu art. 34 rozporządzenia (UE) 2022/2065. Zgodnie z art. 35 ust. 1 tego rozporządzenia dostawcy VLOP i VLOSE wprowadzają rozsądne, proporcjonalne i skuteczne środki zmniejszające ryzyko, dopasowane do konkretnego zidentyfikowanego ryzyka systemowego.
13. Art. 35 ust. 1 rozporządzenia (UE) 2022/2065 zawiera niewyczerpujący wykaz środków zmniejszających ryzyko, które dostawcy VLOP i VLOSE mogą przyjąć w celu przeciwdziałania ryzyku systemowemu, które zidentyfikują w procesie oceny, stwarzanemu przez ich usługi i powiązane z nimi systemy, w tym systemy algorytmiczne, lub wynikającemu z korzystania z ich usług. Niniejsze wytyczne doprecyzowują ten wykaz i określają najlepsze praktyki oraz zalecane środki zmniejszające ryzyko konkretnie w odniesieniu do ryzyka związanego z procesami wyborczymi.
14. W każdym przypadku środki przedstawione w niniejszych wytycznych nie stanowią wyczerpującego wykazu zaleceń dla dostawców VLOP i VLOSE. Odpowiednie środki zmniejszające ryzyko zależą od konkretnej usługi i konkretnego ryzyka systemowego zidentyfikowanego na podstawie art. 34 rozporządzenia (UE) 2022/2065.
15. Dostawcy VLOP i VLOSE powinni stosować niniejsze wytyczne w odniesieniu do procesów wyborczych w państwach członkowskich, w tym wyborów krajowych i wyborów do Parlamentu Europejskiego. Powinno to obejmować środki w okresie przedwyborczym, wyborczym i powyborczym 17 . Środki zmniejszające ryzyko należy również stosować w odniesieniu do wyborów regionalnych i lokalnych lub referendów, jeżeli oceny ryzyka wykażą faktyczne lub przewidywalne negatywne skutki dla procesów wyborczych
16. Zakres niniejszych wytycznych obejmuje stosowanie art. 35 ust. 1 rozporządzenia (UE) 2022/2065. Zgodnie z art. 35 ust. 2 Rada Usług Cyfrowych, we współpracy z Komisją, publikuje raz w roku kompleksowe sprawozdania, które będą zawierać identyfikację i ocenę najważniejszego i powtarzającego się ryzyka systemowego zgłoszonego przez dostawców VLOP i VLOSE lub zidentyfikowanego na podstawie innych źródeł informacji.
17. Zgodnie z motywem 103 rozporządzenia (UE) 2022/2065 niniejsze wytyczne mogą również służyć jako źródło inspiracji dla dostawców platform internetowych lub wyszukiwarek internetowych, którzy nie zostali wskazani jako VLOP lub VLOSE i których usługi stwarzają podobne ryzyko. Mogą one również służyć jako punkt odniesienia dla ciągłych badań i analizy skuteczności środków zmniejszających ryzyko w odpowiedzi na ryzyko związane z procesami wyborczymi. W przypadku gdy środki zmniejszające ryzyko i najlepsze praktyki zalecane w niniejszych wytycznych mają zastosowanie do procesów wyborczych w ujęciu ogólnym, dostawcy VLOP i VLOSE mogą w stosownych przypadkach rozważyć utrzymanie środków i praktyk w celu ochrony debaty publicznej poza procesami wyborczymi, biorąc pod uwagę wpływ, jaki może to mieć na prawa podstawowe.
3. SZCZEGÓLNE ŚRODKI ZMNIEJSZAJĄCE RYZYKO ZWIĄZANE Z WYBORAMI
3.1. Wzmocnienie procesów wewnętrznych
18. Aby dostosować środki zmniejszające ryzyko do zidentyfikowanego ryzyka dla procesów wyborczych, dostawcy VLOP i VLOSE powinni rozważyć wzmocnienie wewnętrznych procesów zgodnie z art. 35 ust. 1 lit. f) rozporządzenia (UE) 2022/2065. Środki zmniejszające ryzyko powinny opierać się m.in. na informacjach na temat elementów takich jak obecność i działalność podmiotów politycznych na danej platformie, odpowiednie dyskusje na platformie i korzystanie z niej w kontekście wyborów, liczba użytkowników w państwie członkowskim, w momencie gdy w danym państwie członkowskim ogłoszono wybory, oraz wskazania wcześniejszych przypadków stosowania taktyk, technik i procedur manipulacji informacjami.
19. W ramach wewnętrznych procesów powinno się identyfikować i udostępniać istotne informacje, analizy i dane, aby umożliwić opracowanie i kalibrację środków służących zmniejszeniu wszelkiego rzeczywistego lub przewidywalnego ryzyka, które może wynikać z informacji na temat wyborów, które to informacje są wyszukiwane, udostępniane lub dostępne za pośrednictwem usług świadczonych przez VLOP i VLOSE. Może to obejmować m.in. informacje o partiach politycznych lub kandydatach, programach partyjnych, manifestach lub innych materiałach politycznych lub powiązane informacje służące organizowaniu wydarzeń takich jak demonstracje lub wiece, kampanie, gromadzenie funduszy lub inne powiązane działania polityczne. Wewnętrzne procesy gromadzenia i udostępniania analiz i danych na potrzeby projektowania i kalibracji środków zmniejszających ryzyko wprowadzanych przez dostawców VLOP i VLOSE muszą zapewniać zgodność z odpowiednimi przepisami dotyczącymi ochrony danych 18 .
20. Należy wzmocnić wewnętrzne procesy, aby zagwarantować, że projektowanie i kalibracja środków zmniejszających ryzyko będą odpowiednie dla konkretnego kontekstu regionalnego, lokalnego i językowego, w którym środki będą stosowane. W związku z tym dostawców VLOP i VLOSE zachęca się m.in. do zapewnienia sprawnego udostępniania podmiotom odpowiedzialnym za projektowanie i kalibrację środków zmniejszających ryzyko gromadzonych informacji i analiz na temat ryzyka specyficznego dla danego kontekstu lokalnego oraz informacji dotyczących poszczególnych państw członkowskich na szczeblu krajowym, regionalnym lub lokalnym.
21. Zaleca się również, aby dostawcy dysponowali odpowiednimi zasobami na potrzeby moderowania treści, co obejmuje znajomość lokalnego języka oraz krajowych lub regionalnych kontekstów i specyfiki. Komisja zaleca również, aby dostawcy usług dysponowali odpowiednimi wewnętrznymi procesami uwzględniającymi niezależne analizy poziomu wolności i pluralizmu mediów, takie jak Monitor Pluralizmu Mediów 19 , znajomość inicjatyw i wskaźników umiejętności korzystania z mediów oraz informacje na temat istnienia przestrzeni umożliwiającej organizacjom społeczeństwa obywatelskiego udział w kształtowaniu polityki i dyskursie obywatelskim. Należy również rozważyć zdolność wszystkich odpowiednich środków zmniejszających ryzyko do skutecznego funkcjonowania w lokalnym kontekście językowym i wyborczym.
22. Aby wzmocnić wewnętrzne procesy i zasoby w konkretnym kontekście wyborczym, dostawcy VLOP i VLOSE powinni rozważyć utworzenie specjalnego, łatwego do zidentyfikowania zespołu wewnętrznego przed każdym poszczególnym okresem wyborczym (zob. również pkt 3.5. "W okresie wyborczym"). Przydział zasobów dla tego zespołu powinien być proporcjonalny do ryzyka zidentyfikowanego dla danych wyborów, co obejmuje obsadzenie zespołu osobami posiadającymi specjalistyczną wiedzę specyficzną dla danego państwa członkowskiego, taką jak znajomość miejsca, kontekstu i języka. Zespół powinien dysponować wszelką odpowiednią wiedzą fachową, w tym w obszarach takich jak moderowanie treści, weryfikacja informacji, przerywanie zagrożeń, zagrożenia hybrydowe, cyberbezpieczeństwo, dezinformacja i zagraniczne manipulacje informacjami i ingerencje w informacje, prawa podstawowe i udział społeczeństwa, a także współpracować z odpowiednimi ekspertami zewnętrznymi, na przykład z centrami Europejskiego Obserwatorium Mediów Cyfrowych (EDMO) i niezależnymi organizacjami zajmującymi się weryfikacją informacji 20 .
23. Komisja zaleca, aby dostawcy VLOP i VLOSE określili w swoich warunkach korzystania z usług okres, w którym będą stosowane środki i zasoby mające konkretnie na celu zmniejszanie ryzyka dla procesu wyborczego. Niektóre środki zmniejszające ryzyko, takie jak dodatkowe wewnętrzne procesy lub specjalne zespoły, mogą być potrzebne jedynie w określonym okresie wyborczym, w zależności od ryzyka danego dostawcy i specyfiki danych wyborów.
24. Ponadto w niektórych państwach członkowskich kampania wyborcza może być prowadzona przez określony czas zgodnie z prawem krajowym, podczas gdy w innych takie ograniczenia nie występują. Dostawcy VLOP i VLOSE powinni to uwzględnić. Zgodnie z informacjami na temat spodziewanego rozwoju sytuacji w zakresie zagrożeń podczas wyborów, zawartymi w drugim sprawozdaniu ESDZ na temat zagrożeń stwarzanych przez zagraniczne manipulacje informacjami i ingerencje w informacje (FIMI) 21 , Komisja zaleca, aby - w zależności od oceny ryzyka dla poszczególnych wyborów i z uwzględnieniem obowiązujących procedur wyborczych - środki zmniejszające ryzyko zostały wprowadzone i funkcjonowały co najmniej jeden do sześciu miesięcy przed okresem wyborczym i były stosowane przez co najmniej jeden miesiąc po wyborach.
25. W zależności od konkretnego kontekstu środki zmniejszające ryzyko powinny zazwyczaj być intensyfikowane w okresie poprzedzającym datę wyborów, z uwzględnieniem krajowych przepisów dotyczących wyborów, zwiększonego ryzyka występowania zagrożeń oraz potrzeby dostarczania dokładnych informacji na temat procedur głosowania.
3.2. Środki zmniejszające ryzyko w odniesieniu do procesów wyborczych
26. Środki zmniejszające ryzyko systemowe dla procesów wyborczych powinny opierać się w szczególności na standardach branżowych ustanowionych w kodeksie postępowania w zakresie zwalczania dezinformacji i innych odpowiednich kodeksach branżowych UE, takich jak kodeks postępowania w zakresie przeciwdziałania nawoływaniu do nienawiści w internecie, a także na istniejących najlepszych praktykach, takich jak te udostępnione przez Forum UE ds. Internetu, te udokumentowane w niezależnych od treści ramach integralności wyborów dla platform internetowych 22 oraz w programie na rzecz uczciwości wyborów Integrity Institute 23 , a także na zaleceniach organizacji społeczeństwa obywatelskiego, takich jak zalecenia wystosowane przez Civil Liberties Union for Europe oraz European Partnership for Democracy 24 .
3.2.1. Szczególne środki zmniejszające ryzyko
27. W szczególności środki zmniejszające ryzyko mające na celu przeciwdziałanie ryzyku systemowemu dla procesów wyborczych powinny obejmować środki w następujących obszarach:
a) Dostęp do oficjalnych informacji na temat procesu wyborczego. Aby zwiększyć frekwencję wyborczą i zapobiec rozpowszechnianiu wprowadzających w błąd informacji, dezinformacji oraz zagranicznym manipulacjom informacjami i ingerencjom w informacje na temat samego procesu wyborczego, najlepszą praktyką dla dostawców VLOP i VLOSE jest ułatwienie dostępu do oficjalnych informacji dotyczących procesu wyborczego, w tym informacji na temat sposobu i miejsca głosowania, w oparciu o oficjalne informacje od organów wyborczych zainteresowanych państw członkowskich. Informacje takie można przekazywać na przykład za pomocą paneli informacyjnych, banerów, wyskakujących okienek, podpowiedzi przy wyszukiwaniu, linków do stron internetowych organów wyborczych, specjalnych zakładek informacyjnych dotyczących wyborów lub specjalnej części platformy. Komisja zaleca, aby przy opracowywaniu i wdrażaniu takich środków zmniejszających ryzyko dostawcy VLOP i VLOSE brali pod uwagę takie zasady jak inkluzywność i dostępność.
b) Inicjatywy na rzecz umiejętności korzystania z mediów. Najlepszą praktyką dostawców VLOP i VLOSE jest współpraca w zakresie inicjatyw i kampanii na rzecz umiejętności korzystania z mediów koncentrujących się na wyborach, wdrażanie takich inicjatyw i kampanii, inwestowanie i angażowanie się w nie w celu wspierania krytycznego myślenia i podnoszenia umiejętności użytkowników w zakresie rozpoznawania technik dezinformacji i manipulacji, również związanych z generatywną sztuczną inteligencją. Można to osiągnąć w następujący sposób:
i. Przez współpracę z lokalnymi organizacjami rozwijającymi umiejętność korzystania z mediów, a także z odpowiednimi stowarzyszeniami, grupami i sieciami, wspieranie na poziomie finansowym, udostępnianie i integrowanie na platformie inicjatyw i kampanii związanych z wyborami, w tym poprzez opracowywanie wspólnych inicjatyw. Lokalne organizacje rozwijające umiejętność korzystania z mediów stanowią cenne źródło wiedzy na temat lokalnych kontekstów i odbiorców docelowych. Komisja zaleca korzystanie ze wsparcia sieci EDMO i jej centrów oraz grupy ekspertów Komisji ds. umiejętności korzystania z mediów, które mogą pomóc w wyszukaniu odpowiednich organizacji na szczeblu państw członkowskich.
ii. Przez opracowywanie i stosowanie środków inokulacji, które prewencyjnie budują odporność na możliwe i oczekiwane narracje dezinformacyjne i techniki manipulacji poprzez informowanie i przygotowywanie użytkowników. Środki takie powinny uwzględniać szczególny kontekst lokalny, w którym są stosowane, a ich uzupełnieniem powinny być inne środki zapewniające użytkownikom wiarygodne informacje. Środki inokulacji mogą przybierać różne formy, w tym np. interwencje polegające na gami- fikacji, takie jak udział w grach internetowych dotyczących generowania dezinformacji, co zachęca do krytycznej refleksji na temat taktyki wykorzystywanej do wywierania wpływu 25 , a także materiały wideo lub inne rodzaje treści 26 i w miarę możliwości należy je wdrożyć wewnętrznie w aplikacji, aby ułatwić dostęp do nich.
iii. Podczas opracowywania kampanii na rzecz umiejętności korzystania z mediów zaleca się, aby dostawcy VLOP i VLOSE brali pod uwagę konkretne narracje, a także taktyki, techniki i procedury, które przyczyniają się do ryzyka systemowego mogącego wystąpić przed wyborami, w ich trakcie i po wyborach, zgodnie z podejściem polegającym na dostosowaniu środków zmniejszających ryzyko do odpowiedniego kontekstu krajowego i grup docelowych.
c) Środki mające na celu zapewnienie użytkownikom pełniejszych informacji kontekstowych na temat treści i kont (użytkowników), z którymi wchodzą w interakcję. Przykłady obejmują:
i. oznaczenia demaskujące zidentyfikowaną dezinformację i treści o charakterze zagranicznych manipulacji informacjami i ingerencji w informacje, nadawane przez niezależnych weryfikatorów informacji i zespoły z niezależnych organizacji medialnych zajmujące się weryfikacją informacji. Zasięg weryfikacji informacji powinien obejmować całą UE i wszystkie jej języki, m.in. poprzez zacieśnienie współpracy z lokalnymi weryfikatorami informacji w okresach wyborczych, integrację i prezentowanie treści związanych z weryfikowaniem informacji związanych z wyborami, a także poprzez zastosowanie mechanizmów przyczyniających się do zwiększenia wpływu tych treści na odbiorców. Oznaczenia demaskujące powinny być dostępne i sformułowane w łatwo zrozumiałym języku;
ii. nieustanne zachęcanie użytkowników do czytania treści i oceny ich dokładności i źródła przed ich udostępnieniem;
iii. jasne, widoczne i niewprowadzające w błąd oznaczenia oficjalnych kont, a także kont dostarczających wiarygodnych informacji na temat procesu wyborczego, takich jak konta organów wyborczych, wraz z podaniem podstawy, na której taka weryfikacja jest przeprowadzana. Kryteria, na których podstawie konto otrzymuje oznaczenie "oficjalne", powinny być łatwo dostępne i przedstawione w prostym, zrozumiałym języku, aby zapobiec uwiarygodnianiu kont podszywających się pod konta oficjalne takie jak konta organów wyborczych;
iv. jasne, widoczne i niewprowadzające w błąd oznaczanie kont kontrolowanych przez państwa członkowskie, państwa trzecie i podmioty kontrolowane lub finansowane przez podmioty kontrolowane przez państwa trzecie;
v. narzędzia i informacje pomagające użytkownikom w ocenie wiarygodności źródeł informacji, takie jak znaki zaufania skoncentrowane na uczciwości źródła w oparciu o przejrzyste metody i opracowane przez niezależne strony trzecie;
vi. inne narzędzia do oceny pochodzenia, historii edycji, autentyczności lub dokładności treści cyfrowych. Pomagają one użytkownikom sprawdzić autentyczność lub zidentyfikować pochodzenie lub źródło treści związanych z wyborami;
vii. ustanowienie skutecznych środków wewnętrznych w celu przeciwdziałania niewłaściwemu wykorzystywaniu którychkolwiek z powyższych narzędzi i procedur, w szczególności nadużywaniu procesu weryfikacji w odniesieniu do oznaczonych kont i treści.
d) Systemy rekomendacji mogą odgrywać znaczącą rolę w kształtowaniu otoczenia informacyjnego i opinii publicznej, jak uznano w motywach 70, 84, 88 i 94, a także w art. 34 ust. 2 rozporządzenia (UE) 2022/2065. Aby ograniczyć ryzyko, jakie takie systemy mogą stwarzać w odniesieniu do procesów wyborczych, dostawcy VLOP i VLOSE powinni rozważyć:
i. zapewnienie, aby systemy rekomendacji były projektowane i dostosowywane w sposób umożliwiający użytkownikom dokonywanie istotnych wyborów i kontrolę nad ich kanałami informacyjnymi, z należytym uwzględnieniem różnorodności i pluralizmu mediów;
ii. ustanowienie środków mających na celu ograniczenie eksponowania dezinformacji w kontekście wyborów w oparciu o jasne i przejrzyste metody, np. w odniesieniu do treści wprowadzających w błąd, które zostały zweryfikowane jako fałszywe lub pochodzące z kont, które wielokrotnie uznano za rozpowszechniające dezinformację;
iii. ustanowienie środków ograniczających akcentowanie oszukańczych, fałszywych lub wprowadzających w błąd treści generowanych przez sztuczną inteligencję w kontekście wyborów za pośrednictwem swoich systemów rekomendacji;
iv. regularną ocenę skuteczności i wpływu systemów rekomendacji oraz reagowanie na wszelkie pojawiające się zagrożenia lub kwestie związane z procesami wyborczymi, w tym poprzez aktualizację i dopracowanie polityk, praktyk i algorytmów;
v. ustanowienie środków zapewniających przejrzystość w zakresie projektowania i funkcjonowania systemów rekomendacji, w szczególności w odniesieniu do danych i informacji wykorzystywanych przy projektowaniu systemów wspierających pluralizm mediów i różnorodność treści, w celu ułatwienia kontroli i badań przez strony trzecie;
vi. Współpraca z podmiotami zewnętrznymi w celu przeprowadzenia testów kontradyktoryjnych i symulowanych ataków z udziałem zespołów atakujących (tzw. red team) w odniesieniu do tych systemów w celu zidentyfikowania potencjalnych zagrożeń, takich jak ryzyko wynikające z tendencyjności, podatności na manipulację lub akcentowanie informacji wprowadzających w błąd, dezinformacji, zagranicznych manipulacji informacjami i ingerencji w informacje lub innych szkodliwych treści.
e) Reklama polityczna. Dostawcom VLOP i VLOSE zaleca się przygotowanie się do wejścia w życie rozporządze
nia (UE) 2024/900 w sprawie przejrzystości i targetowania reklamy politycznej ("rozporządzenie w sprawie reklamy politycznej") oraz zwrócenie szczególnej uwagi na uwzględnienie przepisu dotyczącego niedyskryminacji (art. 5 ust. 1), który zacznie obowiązywać 20 dni po publikacji rozporządzenia, która nastąpiła w dniu 20 marca 2024 r. 27 Wszyscy dostawcy platform internetowych są odpowiedzialni za zapewnienie przestrzegania tego przepisu. Rozporządzenie to definiuje reklamę polityczną jako przygotowanie, zamieszczanie, promowanie, publikację, dostarczanie lub rozpowszechnianie przekazu przez podmioty polityczne, w ich imieniu lub na ich rzecz, chyba że przekaz ma charakter wyłącznie prywatny lub wyłącznie handlowy, lub przekazu, który może wpływać i ma na celu wpływanie na zachowanie wyborcze lub wynik wyborów lub referendum, proces ustawodawczy lub regulacyjny na poziomie unijnym, krajowym, regionalnym lub lokalnym. Dostawców VLOP i VLOSE zachęca się do uwzględniania definicji zawartych w rozporządzeniu przy stosowaniu niniejszych wytycznych. Jeżeli dostawca VLOP lub VLOSE oferuje możliwość zamieszczania reklam politycznych w swojej usłudze, Komisja zaleca, aby przy wypełnianiu obowiązków określonych w art. 26 rozporządzenia (UE) 2022/2065 i zgodnie z przyszłym rozporządzeniem w sprawie przejrzystości i targetowania reklamy politycznej były one oznakowane w sposób jasny, wyraźny i jednoznaczny oraz w czasie rzeczywistym, aby umożliwić użytkownikom zrozumienie, że wyświetlane treści zawierają reklamę polityczną. Ponadto oznaczenia, którymi pierwotnie opatrzono dane treści, powinny towarzyszyć tym treściom, gdy treści te są dalej udostępniane przez użytkowników na tej samej platformie. Komisja zaleca również, aby dostawcy VLOP i VLOSE dostosowali swoje polityki do rozporządzenia w sprawie reklamy politycznej, jeszcze zanim zacznie być ono stosowane, w uzupełnieniu zobowiązań prawnych wynikających z art. 26 i 39 rozporządzenia (UE) 2022/2065, w szczególności w następujących obszarach:
i. dostarczanie użytkownikom informacji na temat oglądanych przez nich reklam, takich jak tożsamość sponsora oraz, w stosownych przypadkach, podmiotu ostatecznie kontrolującego sponsora; okres, w którym polityczny materiał reklamowy ma być publikowany, dostarczany lub rozpowszechniany; zagregowane kwoty i zagregowana wartość innych korzyści otrzymanych przez dostawców usług reklamy politycznej; a także znaczące informacje na temat głównych parametrów wykorzystanych do określenia odbiorcy, któremu reklama jest wyświetlana;
ii. utrzymywanie publicznie dostępnego repozytorium reklam politycznych z możliwością przeszukiwania, aktualizowanego w czasie jak najbardziej zbliżonym do czasu rzeczywistego. Obejmuje to co najmniej całkowitą liczbę odbiorców, do których reklama dotarła, oraz - w stosownych przypadkach - zagregowaną liczbę w podziale na państwa członkowskie w przypadku grupy lub grup odbiorców, do których reklama była konkretnie skierowana, zgodnie z art. 39 rozporządzenia (UE) 2022/2065, i może również obejmować np. zagregowane kwoty i zagregowaną wartość innych korzyści otrzymanych przez dostawców, liczbę wyświetleń i obszary geograficzne, na których reklama została zaprezentowana;
iii. zapewnienie skutecznych systemów weryfikacji i podejmowanie niezbędnych działań w celu zapewnienia odpowiedniego egzekwowania decyzji o nieprezentowaniu reklam politycznych - jeżeli dostawcy nie zezwalają na reklamę polityczną w ramach swoich usług;
iv. zapewnienie odpowiednich polityk i systemów zapobiegających niewłaściwemu wykorzystywaniu systemów reklamowych do rozpowszechniania wprowadzających w błąd informacji, dezinformacji i zagranicznych manipulacji informacjami i ingerencji w informacje w odniesieniu do procesów wyborczych, w tym wprowadzających w błąd treści generatywnej AI.
f) Influencerzy mogą mieć znaczący wpływ na decyzje wyborcze podejmowane przez odbiorców usługi, ponieważ mają coraz większy udział w moderowaniu debaty politycznej w internecie. W związku z tym oraz w celu zwiększenia przejrzystości dostawcy VLOP i VLOSE powinni:
i. zapewnić funkcję umożliwiającą influencerom oświadczenie, że dostarczane przez nich treści są reklamą polityczną lub zawierają reklamę polityczną, w tym podanie tożsamości sponsora oraz, w stosownych przypadkach, podmiotu ostatecznie kontrolującego sponsora; okresu, w którym polityczny materiał reklamowy ma być publikowany, dostarczany lub rozpowszechniany; zagregowanych kwot i zagregowanej wartość innych korzyści otrzymanych przez dostawców usług reklamy politycznej; okresu wyświetlania, a także znaczących informacji na temat głównych parametrów wykorzystanych do określenia odbiorcy, któremu reklama jest prezentowana;
ii. zapewnić, aby inni odbiorcy usługi mogli w jasny, wyraźny i jednoznaczny sposób oraz w czasie rzeczywistym, w tym poprzez wyraźne oznakowanie, stwierdzić, że dostarczone treści są reklamą polityczną lub zawierają reklamę polityczną, jak opisano w oświadczeniu influencera.
g) Demonetyzacja treści dezinformacyjnych. Komisja zaleca, aby dostawcy VLOP i VLOSE posiadali ukierunkowane polityki i systemy gwarantujące, że umieszczanie reklam nie będzie stanowiło zachęt finansowych do rozpowszechniania dezinformacji, zagranicznych manipulacji informacjami i ingerencji w informacje w odniesieniu do procesów wyborczych oraz nienawistnych, (brutalnych) ekstremistycznych lub radykalizujących treści, które mogą wpływać na decyzje wyborcze poszczególnych osób.
h) Integralność usług. Dostawcy VLOP i VLOSE powinni wprowadzić odpowiednie procedury w celu zapewnienia terminowego i skutecznego wykrywania i przerywania manipulacji usługą, gdy zostało to przez nich zidentyfikowane jako istotne ryzyko systemowe, z uwzględnieniem najlepszych dostępnych dowodów. Mogą oni na przykład włączyć do swoich warunków korzystania z usług szczegółowe zasady zapobiegające tworzeniu nieautentycznych kont lub botnetów (które mogą obejmować zautomatyzowane, częściowo zautomatyzowane lub niezautomatyzowane konta) lub oszukańczemu korzystaniu z usługi.
i. Komisja zaleca, aby dostawcy VLOP i VLOSE opracowywali i egzekwowali swoje przepisy, zapobiegając oszustwom polegającym na podszywaniu się pod kandydatów, stosowaniu zwodniczych zmanipulowanych mediów, wykorzystywaniu fałszywych zobowiązań, nieprzejrzystych płatnych wiadomości lub nieprzejrzystej promocji ze strony influencerów, a także koordynowaniu tworzenia lub funkcjonowania nieautentycznych treści.
ii. Komisja zaleca współpracę między odpowiednimi zespołami różnych dostawców VLOP i VLOSE w celu identyfikowania wspólnych zagrożeń i przeciwdziałania wieloplatformowym kampaniom dezinformacyj- nym, zagranicznej manipulacji informacjami i ingerencji w informacje oraz nienawistnej, (brutalnej) ekstremistycznej lub radykalizującej działalności, która może wpływać na decyzje wyborcze poszczególnych osób, oraz zapobiegania migrowaniu podmiotów działających w złej wierze (zob. pkt 3.4 dotyczący współpracy z organami krajowymi, niezależnymi ekspertami i organizacjami społeczeństwa obywatelskiego).
28. Biorąc pod uwagę zmieniający się charakter rozumienia ryzyka systemowego dla procesów wyborczych, środki zmniejszające ryzyko powinny być powiązane z rygorystyczną i krytyczną analizą, testowaniem i przeglądem ich zamierzonego i potencjalnie niezamierzonego wpływu. W związku z tym skuteczne środki zmniejszające ryzyko powinny opierać się na najlepszych dostępnych informacjach i doniesieniach naukowych. Komisja zaleca, aby dostawcy VLOP i VLOSE aktywnie projektowali, oceniali i optymalizowali koncepcyjnie uzasadnione wskaźniki wydajności pod kątem skuteczności środków zmniejszających ryzyko, na przykład poprzez testowanie A/B wybranych funkcji i projektów. Te wskaźniki wydajności powinny być analizowane jako część ram zarządzania ryzykiem dostawców usług i powinny służyć do pomiaru skuteczności odpowiednich środków zmniejszających ryzyko podczas poszczególnych wyborów. Wskaźniki te powinny być SMART (specific, measurable, achievable, relevant, timebound, czyli skonkretyzowane, mierzalne, osiągalne, realne i terminowe) i mieć charakter zarówno jakościowy, jak i ilościowy.
3.2.2 Kontrola przez strony trzecie, badania i dostęp do danych
29. Kontrola przez strony trzecie i badania nad środkami zmniejszającymi ryzyko są ważne, aby pomóc dostawcom VLOP i VLOSE w zagwarantowaniu, że wprowadzone przez nich środki będą skuteczne i zgodne z prawami podstawowymi, a także zasadami demokratycznymi. Stały i wiarygodny dostęp do danych na potrzeby kontroli przez osoby trzecie ma ogromne znaczenie w okresach wyborczych, aby zapewnić przejrzystość i rozwój wiedzy oraz przyczynić się do dalszego opracowywania środków zmniejszających ryzyko w związku z wyborami. Komisja zaleca, aby dostawcy VLOP i VLOSE, oprócz wypełniania spoczywających na nich obowiązków prawnych wynikających z art. 40 rozporządzenia (UE) 2022/2065, zapewniali odpowiednim zainteresowanym stronom trzecim swobodny dostęp do danych w celu zbadania ryzyka związanego z procesami wyborczymi, w tym, w razie potrzeby, do danych niedostępnych w interfejsie VLOP i VLOSE. W ujęciu ogólnym zaleca się podejmowanie doraźnej współpracy w celu opracowania i, w razie potrzeby, szybkiego dostosowania środków zmniejszających ryzyko w odniesieniu do procesów wyborczych. Zgodnie z udokumentowanymi najlepszymi praktykami można rozważyć różne środki w celu zaangażowania się w takie działania ze stronami trzecimi.
30. Oprócz narzędzi i innych polityk dotyczących dostępu wprowadzonych w celu zapewnienia zgodności z art. 40 ust. 12 rozporządzenia (UE) 2022/2065 środki te mogą obejmować dodatkowe i dostosowane narzędzia lub funkcje, w tym narzędzia lub funkcje niezbędne do badania i kontroli modeli sztucznej inteligencji, wizualne tablice wskaźników, dodatkowe punkty danych dodawane do istniejących narzędzi lub dostarczanie konkretnych zbiorów danych. Dostęp do takich narzędzi lub funkcji można rozszerzyć na większy zakres osób trzecich, oprócz uprawnionych badaczy na podstawie art. 40 rozporządzenia (UE) 2022/2065.
31. W dziedzinie reklamy politycznej Komisja zaleca odpowiednim dostawcom VLOP i CLOSE zapewnienie, by narzędzia i interfejsy programowania aplikacji (API) umożliwiające prowadzenie badań nad ich repozytoriami reklamy politycznej 28 były adekwatne do zakładanych celów i umożliwiały konstruktywne badania nad dezinformacją, kampaniami zagranicznej manipulacji informacjami i ingerencji w informacje oraz nienawistnymi, (brutalnymi) ekstremistycznymi lub radykalizującymi treściami rozpowszechnianymi w celu wywierania wpływu na decyzje wyborcze poszczególnych osób podczas wyborów, w tym wyborów do Parlamentu Europejskiego, zgodnie z wymogami prawa Unii, a także wymogami dotyczącymi ochrony danych osobowych. Powinno to obejmować zestaw minimalnych funkcji i kryteriów wyszukiwania, które umożliwiają użytkownikom i badaczom przeprowadzanie zindywidualizowanych wyszukiwań danych w czasie jak najbardziej zbliżonym do rzeczywistego w okresie wyborczym (np. wyszukiwanie według reklamodawcy lub kandydata, wyborów, obszaru geograficznego lub kraju, języka).
32. Oprócz sprawozdań, o których mowa w art. 42 ust. 4 rozporządzenia (UE) 2022/2065, Komisja zaleca, aby dostawcy VLOP i VLOSE byli jak najbardziej przejrzyści wobec społeczeństwa w kwestii projektowania, funkcjonowania i wdrażania środków zmniejszających ryzyko związane z procesami wyborczymi z myślą o umożliwieniu kontroli publicznej, co z kolei może mieć wpływ na opracowanie skutecznych środków zmniejszających ryzyko. W okresach wyborczych szczególnie ważne jest, aby dostawcy VLOP i VLOSE gwarantowali, że decyzje dotyczące moderowania treści nie wpływają na równość kandydatów ani nie faworyzują lub promują w nieproporcjonalny sposób głosów reprezentujących niektóre (spolaryzowane) poglądy.
3.2.3. Prawa podstawowe
33. Środki zmniejszające ryzyko stosowane na podstawie art. 35 rozporządzenia (UE) 2022/2065 należy wprowadzać z należytym uwzględnieniem ochrony praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w szczególności prawa do wolności wypowiedzi i informacji, w tym wolności i pluralizmu mediów. Zgodnie z motywem 47 tego rozporządzenia dostawcy VLOP i VLOSE powinni należycie uwzględniać odpowiednie międzynarodowe standardy praw człowieka, takie jak Wytyczne Organizacji Narodów Zjednoczonych dotyczące biznesu i praw człowieka. Przy opracowywaniu i egzekwowaniu środków zmniejszających ryzyko można również uwzględnić odpowiednie niezależne sprawozdania 29 .
34. Przy ograniczaniu ryzyka systemowego dla uczciwości wyborów Komisja zaleca, by należycie uwzględnić również wpływ środków mających na celu zwalczanie nielegalnych treści, takich jak publiczne nawoływanie do przemocy i nienawiści, w zakresie, w jakim takie nielegalne treści mogą tłumić lub uciszać głosy w debacie demokratycznej, w szczególności głosy osób z grupy szczególnie wrażliwych lub mniejszości. Na przykład formy rasizmu, dezinformacja wykorzystująca aspekt płci oraz przemoc ze względu na płeć w internecie, w tym w kontekście brutalnej ideologii ekstremistycznej lub terrorystycznej, lub zagraniczna manipulacja informacjami i ingerencje w informacje wymierzone w społeczność LGBTIQ+ 30 , mogą podważać otwarty, demokratyczny dialog i debatę oraz jeszcze bardziej zwiększać podziały społeczne i polaryzację. W tym względzie kodeks postępowania w zakresie zwalczania nielegalnego nawoływania do nienawiści w internecie może być wykorzystywany jako inspiracja przy rozważaniu odpowiednich działań.
35. Oprócz zaangażowania odpowiednich podmiotów w ocenę ryzyka, o czym mowa w motywie 90 rozporządzenia (UE) 2022/2065, Komisja zaleca, aby dostawcy VLOP i VLOSE udostępniali organizacjom społeczeństwa obywatelskiego, w szczególności organizacjom społeczeństwa obywatelskiego, z którymi konsultowano się w ramach procesu oceny ryzyka, oceny skutków dla praw podstawowych przeprowadzone w ramach ocen ryzyka, niezwłocznie po ich zakończeniu, tj. nawet wcześniej niż wymaga tego art. 42 ust. 4 tego rozporządzenia. Mogłoby to zapewnić przestrzeń dla konstruktywnego, otwartego dialogu na temat możliwych dobrych praktyk i potencjalnych ulepszeń.
3.3. Środki zmniejszające ryzyko związane z generatywną AI
36. Najnowsze osiągnięcia technologiczne w dziedzinie generatywnej AI umożliwiają tworzenie i powszechne stosowanie systemów sztucznej inteligencji zdolnych do generowania tekstów, obrazów, filmów wideo lub innych treści syntetycznych. Chociaż takie zmiany mogą przynieść wiele nowych możliwości, mogą one również prowadzić do określonych zagrożeń systemowych w kontekście wyborów. W szczególności generatywną AI można wykorzystywać do wprowadzania w błąd wyborców lub manipulowania procesami wyborczymi poprzez tworzenie i rozpowszechnianie nieautentycznych, stronniczych i wprowadzających w błąd treści syntetycznych (w tym tekstu, dźwięków, nieruchomych obrazów i nagrań wideo) dotyczących osób z sceny politycznej, fałszywego przedstawienia wydarzeń, decyzji wyborczych, kontekstów lub narracji. Systemy generatywnej AI mogą również generować nieprawidłowe, niespójne lub sfabrykowane informacje, tak zwane "halucynacje", które fałszywie przedstawiają rzeczywistość i mogą potencjalnie wprowadzać wyborców w błąd.
37. Zgodnie z art. 35 ust. 1 rozporządzenia (UE) 2022/2065 dostawcy VLOP i VLOSE powinni ocenić ryzyko systemowe w kontekście wyborów, takie jak zagrożenia wspomniane powyżej, oraz wprowadzić rozsądne, proporcjonalne i skuteczne środki zmniejszające ryzyko, które byłyby dostosowane do ryzyka związanego zarówno z tworzeniem, jak i rozpowszechnianiem treści generatywnej AI, w zależności od charakteru ich usługi. Najlepsze praktyki, które mogą stanowić podstawę odpowiednich środków zmniejszających ryzyko, można już teraz czerpać z aktu w sprawie AI i paktu na rzecz AI. W tym kontekście szczególnie istotne są obowiązki przewidziane w akcie w sprawie AI dla dostawców modeli sztucznej inteligencji ogólnego przeznaczenia, w tym generatywnej AI, wymogi dotyczące oznaczania materiałów typu deepfake oraz wymogi dotyczące stosowania przez dostawców systemów genera- tywnej AI najnowocześniejszych rozwiązań w celu zapewnienia, aby treści tworzone za pomocą generatywnej AI
były oznaczane w formacie nadającym się do odczytu maszynowego i wykrywalne jako takie, co umożliwi ich wykrywanie przez dostawców VLOP i VLOSE. Komisja zaleca, aby dostawcy VLOP i VLOSE dostosowali swoją politykę do aktu w sprawie AI, jeszcze zanim zacznie być on stosowany, zgodnie z paktem na rzecz AI.
38. Środki zmniejszające ryzyko związane z generatywną AI powinny być stosowane przez dostawców VLOP i VLOSE w zakresie, w jakim są one technicznie wykonalne, ze szczególnym uwzględnieniem wpływu takich środków na prawa podstawowe chronione na mocy Karty. Komisja zaleca również współpracę międzybranżową w celu dalszego opracowywania skutecznych środków zmniejszających ryzyko w odniesieniu do generatywnej AI w kontekście kodeksów postępowania dotyczących modeli sztucznej inteligencji ogólnego przeznaczenia i przejrzystości treści generowanych przez AI, które mają zostać opracowane w ramach aktu w sprawie AI.
39. Komisja zaleca, aby dostawcy VLOP i VLOSE, których usługi mogą być wykorzystywane do tworzenia oszukańczych, stronniczych, fałszywych lub wprowadzających w błąd treści generatywnej AI, wprowadzili - w związku ze stwierdzonym konkretnym rzeczywistym lub przewidywalnym ryzykiem dla procesów wyborczych - następujące środki zmniejszające ryzyko w zakresie, w jakim jest to technicznie wykonalne, i zgodnie z aktualnym stanem wiedzy technicznej:
a) zapewnianie, aby treści generatywnej AI oraz inne rodzaje syntetycznych i zmanipulowanych materiałów były wykrywalne - w szczególności poprzez stosowanie odpowiednio wiarygodnych, interoperacyjnych, skutecznych i solidnych technik i metod, takich jak znaki wodne, identyfikacja metadanych, metody kryptograficzne służące do potwierdzania pochodzenia i autentyczności treści, metody rejestrowania, cyfrowe "odciski palców" lub inne techniki, z uwzględnieniem istniejących standardów. Jest to szczególnie ważne w przypadku wszelkich treści generatywnej AI dotyczących kandydatów, polityków lub partii politycznych. Znaki wodne i metadane mogą być również stosowane do treści opartych na pierwotnie autentycznym nagraniu (takich jak filmy wideo, obrazy lub dźwięk), które następnie zostały zmienione w wyniku zastosowania generatywnej AI;
b) dokładanie starań w celu zapewnienia, aby informacje generowane przez systemy sztucznej inteligencji opierały się w miarę możliwości na wiarygodnych źródłach w kontekście wyborczym, takich jak oficjalne informacje od odpowiednich organów wyborczych, oraz aby wszelkie prezentowane przez system cytaty lub odniesienia do źródeł zewnętrznych były dokładne i nie wprowadzały w błąd co do cytowanych treści, ograniczając tym samym skutki "halucynacji";
c) ostrzeganie użytkowników o potencjalnych błędach w treściach tworzonych przez systemy generatywnej AI i sugerowanie im, aby korzystali z wiarygodnych źródeł w celu sprawdzenia prawdziwości takich informacji, a także wprowadzenie zabezpieczeń zapobiegających tworzeniu fałszywych treści, które mogą mieć duży potencjał wypływania na zachowanie użytkowników;
d) przeprowadzanie i dokumentowanie ćwiczeń i testów z udziałem zespołów atakujących (red teaming) ze szczególnym uwzględnieniem procesów wyborczych, z udziałem zarówno zespołów wewnętrznych, jak i ekspertów zewnętrznych, przed udostępnieniem systemów generatywnej AI ogółowi społeczeństwa i stosowanie podejścia polegającego na rozłożeniu w czasie udostępniania nowych modeli, aby lepiej kontrolować niezamierzone skutki;
e) ustalanie odpowiednich wskaźników wydajności, w tym w odniesieniu do bezpieczeństwa i poprawności faktograficznej odpowiedzi na pytania dotyczące treści wyborczych, oraz stałe monitorowanie wydajności systemów generatywnej AI i w razie potrzeby podejmowanie odpowiednich działań;
f) włączanie do systemów generatywnej AI zabezpieczeń zwiększających ich bezpieczeństwo, takich jak klasyfikatory zapytań, moderowanie treści i inne filtry, aby umożliwić wykrywanie zapytań dotyczących procesów wyborczych, które to zapytania naruszają warunki świadczenia usług dostawcy VLOP lub VLOSE, i zapobieganie im; wprowadzanie innych odpowiednich środków służących zapobieganiu niewłaściwemu wykorzystywaniu systemu generatywnej AI do celów niezgodnych z prawem, manipulacyjnych i dezinformacyjnych w kontekście procesów wyborczych;
g) w szczególności w odniesieniu do treści tekstowych w wygenerowanych produktach wskazanie, w miarę możliwości, konkretnych źródeł informacji wykorzystywanych jako dane wejściowe lub zapewnienie innych środków umożliwiających użytkownikom weryfikację wiarygodności tych informacji i dalsze osadzanie ich w kontekście.
40. Komisja zaleca, aby dostawcy VLOP i VLOSE, których usługi mogą być wykorzystywane do rozpowszechniania oszukańczych, fałszywych lub wprowadzających w błąd treści generatywnych AI, rozważyli - w związku ze stwierdzonym konkretnym rzeczywistym lub przewidywalnym ryzykiem dla procesów wyborczych - następujące środki zmniejszające ryzyko w zakresie, w jakim jest to technicznie wykonalne, zgodnie z aktualnym stanem wiedzy technicznej:
a) Dostosowanie swoich warunków korzystania z usług i zapewnienie ich egzekwowania, aby znacznie zmniejszyć zasięg i wpływ treści generatywnej AI, które przedstawiają dezinformację lub wprowadzające w błąd informacje na temat procesu wyborczego, takie jak nieprawidłowości wyborcze.
i. Komisja zaleca, aby dostawcy VLOP i VLOSE podawali do publicznej wiadomości jasne informacje na temat procesów wewnętrznych i środków zmniejszających ryzyko, takich jak etykietowanie, znakowanie, depozy- cjonowanie lub usuwanie treści, które są stosowane w celu egzekwowania tych zasad;
ii. Komisja zaleca, aby dostawcy VLOP i VLOSE współpracowali i dzielili się informacjami na temat takich oszukańczych treści z podmiotami weryfikującymi informacje, aby zminimalizować ryzyko akcentowania ich na innych platformach.
b) Wyraźne oznaczanie lub odróżnianie w inny sposób, za pomocą widocznych oznaczeń, syntetycznych lub zmanipulowanych obrazów, nagrań audio lub wideo, które znacząco przypominają istniejące osoby, przedmioty, miejsca, podmioty, wydarzenia lub przedstawiają jako prawdziwe wydarzenia, które nie miały miejsca, lub przedstawiają je w sposób wprowadzający w błąd, tak że mylnie wydają się one autentyczne lub prawdziwe (tj. deepfake).
i. Komisja zaleca, aby dostawcy VLOP i VLOSE zapewniali użytkownikom standardowe i łatwe w użyciu interfejsy i narzędzia do dodawania oznaczeń do treści generowanych przez sztuczną inteligencję.
ii. Komisja zaleca, aby przy oznakowywaniu treści generatywnej AI dostawcy VLOP i VLOSE stosowali skuteczne oznaczenia, łatwo rozpoznawalne przez użytkowników, z uwzględnieniem aspektów takich jak stosowanie oznaczeń w formie grafiki, lokalizacja oznaczenia w ramach znakowanych treści i moment, którym prezentowane jest oznaczenie (np. przed, w trakcie lub po danym materiale) w oparciu o badania naukowe dotyczące skuteczności oznaczeń 31 . Dostawcy VLOP i VLOSE powinni również badać skuteczność takich oznaczeń, zanim zaczną być stosowane, oraz dostosowywać je i ulepszać w oparciu o informacje zwrotne i doświadczenia.
iii. Komisja zaleca, aby dostawcy VLOP i VLOSE zadbali o to, by oznaczone treści generatywnej AI zachowały swoje oznaczenie po udostępnieniu ich przez innych użytkowników na platformie.
c) Komisja zaleca, aby dostawcy VLOP i VLOSE dostosowywali swoje systemy reklamowe, na przykład poprzez zapewnienie reklamodawcom możliwości jasnego oznaczania treści tworzonych przy użyciu generatywnej AI w reklamach lub promowanych postach, a także wymagali w swojej polityce reklamowej, aby oznakowanie to było stosowane, gdy reklama zawiera treści generatywnej AI.
d) Aby egzekwować te zasady, dostawcy VLOP i VLOSE powinni dostosować swoje procesy moderowania treści i systemy algorytmiczne w taki sposób, aby móc wykrywać treści, które generuje lub którymi manipuluje sztuczna inteligencja, za pomocą znaków wodnych, identyfikacji metadanych, metod kryptograficznych służących do potwierdzania pochodzenia i autentyczności treści, metod rejestrowania, cyfrowych "odcisków palców" lub innych technik.
i. W tym kontekście dostawcy VLOP i VLOSE powinni współpracować z dostawcami systemów generatywnej AI i stosować najnowocześniejsze środki w celu zapewnienia wiarygodnego i skutecznego wykrywania takich znaków wodnych, identyfikacji metadanych, metod kryptograficznych służących do potwierdzania pochodzenia i autentyczności treści, metod rejestrowania, cyfrowych "odcisków palców" lub innych technik; zaleca im się również wspieranie innowacji w zakresie nowych technologii w celu poprawy skuteczności i interoperacyjności takich narzędzi.
e) Środki w zakresie umiejętności korzystania z mediów, o których to środkach mowa w sekcji 2, powinny również koncentrować się na systemach generatywnej AI, na przykład w celu wyjaśnienia sposobu funkcjonowania technologii i możliwości jej niewłaściwego wykorzystania.
41. Zgodnie z art. 35 ust. 1 rozporządzenia (UE) 2022/2065, jeżeli dostawcy VLOP i VLOSE podejmują działania w reakcji na legalne, ale szkodliwe formy treści generatywnej AI, które mogą wpływać na zachowanie wyborców, powinni oni zwrócić szczególną uwagę na wpływ, jaki ich polityki i środki mogą mieć na prawa podstawowe, w szczególności wolność wypowiedzi, w tym wypowiedzi politycznej, parodii i satyry. Taka ocena wpływu na prawa podstawowe jest w szczególności wymagana przy opracowywaniu zasad dotyczących tego, jakiego rodzaju oszukańczych treści generowanych przez sztuczną inteligencję dostawca VLOP lub VLOSE nie dopuszcza w swojej usłudze i będzie z niej usuwał.
42. Jako że treści generowane przez sztuczną inteligencję niosą ze sobą szczególne ryzyko, powinny one podlegać wzmożonej kontroli, również poprzez opracowanie narzędzi i technologii ad hoc, np. w celu przeprowadzenia badań mających na celu identyfikację i zrozumienie konkretnych zagrożeń związanych z procesami wyborczymi. Dostawców VLOP i VLOSE zachęca się do rozważenia utworzenia specjalnych narzędzi dla badaczy umożliwiających im uzyskanie dostępu do treści generowanych przez sztuczną inteligencję oraz ich szczegółową identyfikację i analizę.
3.4. Współpraca z organami krajowymi, niezależnymi ekspertami i organizacjami społeczeństwa obywatelskiego
43. Przyczynianie się do ochrony integralności konkretnych wyborów nie może odbywać się bez wiedzy na temat konkretnego kontekstu krajowego, prawnego, społecznego i politycznego, a także bez odpowiednio szybkich reakcji na wydarzenia w czasie rzeczywistym, które mają wpływ na ryzyko stwarzane przez usługi VLOP lub VLOSE. Procedury i struktury organizacyjne wyborów różnią się w zależności od państwa członkowskiego, a nawet w zależności od wyborów. Dostawcy VLOP i VLOSE powinni być świadomi obowiązującej krajowej struktury zarządzania wyborami w poszczególnych wyborach oraz roli różnych organów. Dzięki dobremu zrozumieniu konkretnych procedur krajowych, takich jak wyznaczanie okresów kampanii wyborczej, termin oficjalnego wyznaczenia kandydatów do wyborów oraz okresy ciszy wyborczej, dostawcy VLOP i VLOSE mogą opracować środki zmniejszające ryzyko z uwzględnieniem szczególnych aspektów danego państwa członkowskiego.
44. W tym celu Komisja zaleca, aby dostawcy VLOP i VLOSE regularnie, a w razie potrzeby w trybie pilnym, wymieniali informacje z właściwymi organami krajowymi i europejskimi oraz posiadali punkty kontaktowe dla tych organów, z udziałem koordynatora ds. usług cyfrowych ich państwa członkowskiego oraz, w stosownych przypadkach, właściwych organów regionalnych i lokalnych, aby ułatwić wymianę informacji, a także, w stosownych przypadkach, z udziałem Komisji.
45. Cel takich interakcji między dostawcami VLOP i VLOSE a właściwymi organami krajowymi powinien ograniczać się do wymiany informacji, które mogą być podstawą ocen ryzyka i środków zmniejszających ryzyko w odniesieniu do procesów wyborczych lub mogą stanowić podstawę działań organów krajowych wchodzących w zakres ich kompetencji w celu ochrony integralności procesów wyborczych. Na przykład właściwe organy krajowe mogą przekazywać dostawcom VLOP i VLOSE oficjalne informacje na temat procesu głosowania, które dostawcy ci mogą włączyć do swoich usług, oraz, w miarę możliwości i w stosownych przypadkach, przekazywać im informacje na temat możliwego ryzyka dla procesu wyborczego, które mogą być przydatne przy opracowywaniu środków ograniczających ryzyko wprowadzanych przez dostawców VLOP I VLOSE. Z drugiej strony informacje na temat ryzyka, jakie dostawcy VLOP i VLOSE ograniczają w odniesieniu do swoich usług, mogą mieć znaczenie dla działań właściwych organów krajowych podejmowanych w celu ochrony uczciwości procesów wyborczych. O ile takie interakcje nie są objęte obowiązkami sprawozdawczymi w odniesieniu do przejrzystości, wynikającymi z rozporządzenia (UE) 2022/2065, Komisja zaleca, aby organy krajowe i dostawcy VLOP i VLOSE w przejrzysty sposób informowali o tych interakcjach, na przykład w dokumentach publicznych, w których organy krajowe oceniają proces wyborczy, lub w sprawozdaniach z przejrzystości, o których mowa w rozporządzeniu (UE) 2022/2065.
46. Koordynatorzy ds. usług cyfrowych wyznaczeni na podstawie rozporządzenia (UE) 2022/2065 w każdym państwie członkowskim mogą pełnić rolę punktów kontaktowych dla dostawców VLOP lub VLOSE, jeżeli nie jest jasne, który organ krajowy jest właściwy w kwestiach związanych z ograniczaniem ryzyka związanego z procesami wyborczymi. Jako że koordynatorzy ds. usług cyfrowych pełnią funkcję pojedynczego punktu kontaktowego w odniesieniu do wszystkich kwestii związanych ze stosowaniem rozporządzenia (UE) 2022/2065 w państwie członkowskim, Komisja zaleca, aby koordynatorzy ds. usług cyfrowych byli zaangażowani w wymianę informacji między dostawcami VLOP i VLOSE a właściwymi organami krajowymi na temat procesu wyborczego. Ponadto Komisja zaleciła państwom członkowskim wzmocnienie ich krajowych sieci wyborczych 32 oraz ułatwianie ich współpracy z odpowiednimi zainteresowanymi stronami 33 . Te krajowe sieci wyborcze mogą być również odpowiednim punktem kontaktowym dla dostawców VLOP i VLOSE.
47. Oprócz współpracy z organami krajowymi zaleca się również, aby dostawcy VLOP i VLOSE nawiązali ścisłą współpracę z odpowiednimi podmiotami niepaństwowymi, ponieważ podmioty te odgrywają kluczową rolę w ochronie procesów wyborczych. Przed wyborami dostawcy VLOP i VLOSE mogą organizować spotkania, a także tworzyć kanały regularnej komunikacji z podmiotami niepaństwowymi aktywnymi w procesach wyborczych, takimi jak pracownicy naukowi, niezależni eksperci, organizacje społeczeństwa obywatelskiego i przedstawiciele różnych społeczności, oraz zachęcać ich do dzielenia się swoją niezależną wiedzą fachową, spostrzeżeniami i obserwacjami mogącymi pomóc w określeniu zagrożeń, które mogą wymagać zastosowania środków zmniejszających ryzyko, i przyczynić się do opracowania takich środków.
48. Ustanowienie kanałów komunikacji podczas kampanii wyborczej z podmiotami niepaństwowymi, w tym z organizacjami kampanijnymi i obserwatorami wyborów, pomoże dostawcom VLOP i VLOSE lepiej zrozumieć kontekst wyborów, tak aby szybko reagować w sytuacjach nadzwyczajnych, opracować i skalibrować środki zmniejszające ryzyko oraz lepiej zrozumieć, w jaki sposób ich środki zmniejszające ryzyko funkcjonują w kontekście lokalnym. Grupa robocza ds. wyborów przewidziana w kodeksie postępowania - i jej system szybkiego reagowania - jest dobrym przykładem takiego istniejącego i aktywnego wielostronnego forum, skupiającego m.in. organizacje pozarządowe i weryfikatorów informacji mających istotne doświadczenie związane z wyborami. Znaczący wkład w tym zakresie mogą również wnieść grupa zadaniowa EDMO ds. wyborów - złożona z niezależnych weryfikatorów informacji, pracowników naukowych i specjalistów w zakresie umiejętności korzystania z mediów - a także centra EDMO w całej UE.
49. Dostępność wiarygodnych informacji z pluralistycznych źródeł ma kluczowe znaczenie dla prawidłowego funkcjonowania demokratycznych procesów wyborczych. Wymaga to nie tylko ochrony przed zewnętrznymi ingerencjami handlowymi i politycznymi, ale również przed potencjalnym niewłaściwym stosowaniem wewnętrznych procesów VLOP i VLOSE, jak uznano w art. 17 proponowanego europejskiego aktu o wolności mediów 34 . Dziennikarze i dostawcy usług medialnych odgrywają kluczową rolę w gromadzeniu, przetwarzaniu i relacjonowaniu informacji ogółowi społeczeństwa, co jest jeszcze ważniejsze w czasie wyborów. Niezależni dostawcy usług medialnych i organizacje o ugruntowanych wewnętrznych standardach i procedurach redakcyjnych są powszechnie uznawane za wiarygodne źródła informacji. Dostawcy VLOP i VLOSE powinni zatem współpracować z niezależnymi organizacjami medialnymi, organami regulacyjnymi, organizacjami społeczeństwa obywatelskiego i organizacjami oddolnymi, weryfikatorami informacji, środowiskiem akademickim i innymi odpowiednimi zainteresowanymi stronami w zakresie inicjatyw mających na celu poprawę identyfikacji wiarygodnych informacji i dostępności dla użytkowników pluralistycznych treści medialnych związanych z wyborami z zaufanych źródeł.
50. Biorąc pod uwagę ważną rolę, jaką w ocenie prawdziwości informacji odgrywają organizacje zajmujące się weryfikacją informacji, Komisja zaleca, aby dostawcy VLOP i VLOSE współpracowali z niezależnymi organizacjami zajmującymi się weryfikacją informacji, które przestrzegają wysokich standardów w zakresie metodyki, etyki i przejrzystości, na przykład poprzez członkostwo w Europejskiej sieci norm weryfikacji informacji (EFCSN) i przestrzeganie jej kodeksu norm 35 . Komisja zaleca, aby taka współpraca była przejrzysta. Na przykład niektórzy sygnatariusze kodeksu postępowania w zakresie zwalczania dezinformacji wymieniają organizacje zajmujące się weryfikacją informacji, z którymi zawarli umowy.
3.5. W okresie wyborczym
51. W okresie wyborczym, w którym uruchomione zostaną środki i zasoby ukierunkowane na ograniczanie ryzyka dla procesu wyborczego, Komisja zaleca, aby dostawcy VLOP i VLOSE zwracali szczególną uwagę na środki zmniejszające ryzyko, które ograniczają wpływ incydentów mogących mieć znaczący wpływ na wynik wyborów lub frekwencję wyborczą.
52. Obejmuje to zapewnienie użytkownikom dostępu do wiarygodnych, terminowych i zrozumiałych informacji z oficjalnych źródeł na temat sposobu głosowania, a także na temat procesu głosowania lub środków takich jak te, o których mowa w pkt 3.3, w celu ograniczenia potencjalnych szkód powodowanych przez kwestie o dużym wpływie, takie jak zmanipulowane obrazy, nagrania głosowe lub deepfake, na przykład przedstawiające polityków, którzy kandydują w wyborach. Dostawcy VLOP i VLOSE powinni również zadbać o to, by byli w stanie szybko reagować na manipulowanie ich usługami służące podważeniu procesu wyborczego i próby wykorzystania dezinformacji i manipulacji informacjami do stłumienia wyborców.
53. Incydenty mające miejsce na platformie lub poza nią w okresie wyborczym mogą mieć szybkie i poważne konsekwencje dla uczciwości wyborów lub bezpieczeństwa publicznego. W związku z tym Komisja zaleca, aby dostawcy VLOP i VLOSE wprowadzili wewnętrzny mechanizm reagowania na incydenty, obejmujący również kadrę kierowniczą wyższego szczebla, a także zestawienie komórek zaangażowanych w reagowanie na incydent w ramach organizacji. Procedura ta powinna zostać wcześniej ustanowiona, uzgodniona i przetestowana, w tym za pomocą symulacji z udziałem zespołów atakujących (red teaming), tak aby można ją było szybko zastosować. Procedura ta musi być również spójna, powtarzalna i możliwa do skontrolowania oraz zapewniać dobrze udokumentowane decyzje i wyniki, tak aby dostawcy VLOP i VLOSE mogli dokonać przeglądu swoich reakcji już po wystąpieniu zdarzeń o dużym wpływie.
54. Biorąc pod uwagę potrzebę szybkiego stosowania środków zmniejszających ryzyko, Komisja zaleca również, aby dostawcy VLOP i VLOSE nawiązali współpracę oraz prowadzili szybką i skuteczną wymianę informacji między platformami oraz z odpowiednimi podmiotami niepaństwowymi, które posiadają wiedzę i doświadczenie istotne w kontekście wyborów; podmioty te mogłyby obejmować zainteresowane strony z organizacji społeczeństwa obywatelskiego, środowisk akademickich i naukowców, niezależnych mediów i innych. Biorąc pod uwagę wieloplatformowy charakter nielegalnych lub szkodliwych treści, a także dezinformację i zagraniczne manipulacje informacjami i ingerencje w informacje, współpraca między samymi VLOP i VLOSE w zakresie wymiany istotnych informacji, a także ich współpraca z mniejszymi platformami i usługami ma kluczowe znaczenie dla skutecznego zmniejszania tego ryzyka. Pomoże to dostawcom VLOP i VLOSE szybciej reagować na pojawiające się problemy i incydenty, lepiej zrozumieć kontekst, dostosować swoje środki zmniejszające ryzyko oraz ocenić skuteczność podjętych działań. Skuteczność tej współpracy i tej wymiany informacji jest szczególnie istotna ze względu na pilny charakter takich zdarzeń. W związku z tym powinna ona obejmować reakcje dostawców VLOP i VLOSE oraz istotne informacje zwrotne dla odpowiednich zaangażowanych podmiotów niepaństwowych - w rozsądnych terminach - umożliwiające ocenę skuteczności i wpływu tej współpracy i wymiany.
55. System szybkiego reagowania, który ma zostać ustanowiony przez sygnatariuszy kodeksu postępowania w zakresie zwalczania dezinformacji, jest dobrym przykładem takiego forum współpracy podczas wyborów, wnosząc wkład w mechanizmy reagowania na incydenty na platformach. Dostawcy VLOP i VLOSE powinni wraz z pozostałymi sygnatariuszami określić proceduralne ramy współpracy i koordynacji między nimi podczas wyborów, w tym mechanizm szybkiego przekazywania informacji zwrotnych wymagający szybkich, skutecznych i odpowiednich działań następczych ze strony platform.
56. Inny przykład organizacji prac nad reagowaniem na zagraniczne manipulacje informacjami i ingerencje w informacje i dezinformację można znaleźć w drugim sprawozdaniu ESDZ na temat zagrożeń związanych z FIMI 36 , w którym przedstawiono "ramy reagowania" skutecznie łączące analizę z reakcjami opartymi na dowodach, przy jednoczesnym podkreśleniu znaczenia współpracy między różnymi zainteresowanymi stronami. Inspiracją mogłyby być również inicjatywy takie jak ośrodek wymiany i analizy informacji w odniesieniu do zagranicznych manipulacji informacjami i ingerencji w informacje (FIMI-ISAC) 37 . Celem FIMI-ISAC jest promowanie wymiany informacji między wszystkimi zainteresowanymi stronami na temat pierwotnych przyczyn, incydentów i zagrożeń, a także wymiany doświadczeń, wiedzy i analiz.
57. Szybkie reagowanie na incydenty ma często kluczowe znaczenie. Komisja zaleca, aby dostawcy VLOP i VLOSE rozważyli model "podążania za słońcem", w którym biura na całym świecie byłyby w stanie objąć wszystkie strefy czasowe.
58. Aby sprawnie reagować na incydenty, dostawcy VLOP i VLOSE powinni włączyć ewentualną współpracę z organami wyborczymi i odpowiednimi podmiotami niepaństwowymi do mechanizmów reagowania na incydenty.
3.6. Po okresie wyborczym
59. Po zakończeniu okresu wyborczego Komisja zaleca, aby dostawcy VLOP i VLOSE przeprowadzili przegląd powyborczy, w tym ocenę skuteczności środków zmniejszających ryzyko zastosowanych w tym kontekście w celu dostosowania środków, jeśli to konieczne. To sprawozdanie wewnętrzne powinno zawierać ocenę tego, czy wewnętrzne wskaźniki wydajności i wszelkie inne kryteria oceny zostały spełnione przed wyborami, w ich trakcie i po ich zakończeniu, czy wyciągnięto wnioski oraz czy zidentyfikowano obszary wymagające poprawy.
60. Komisja zaleca, aby w przeglądzie dotyczącym wyborów dostawcy VLOP i VLOSE brali pod uwagę konkretny wkład niezależnych badaczy, organizacji społeczeństwa obywatelskiego i niezależnych weryfikatorów informacji na temat skutków środków zmniejszających ryzyko stosowanych przez VLOP i VLOS. Ponadto dostawcy VLOP i VLOSE mogą współpracować z niezależnymi grupami obserwatorów wyborów o ugruntowanej pozycji, które mogą być w stanie przekazywać informacje na temat wykorzystania i wpływu usług dostawców w tym kontekście.
61. W szczególności sprawozdanie powyborcze powinno zawierać informacje na temat średniego czasu reakcji i rozkładu czasu reakcji w przypadku naruszeń warunków korzystania z usług, średniego czasu reakcji i rozkładu czasu reakcji na treści zgłoszone przez użytkowników i podmioty niepaństwowe, średniego zasięgu i rozkładu zasięgu i popularności treści, w odniesieniu do których podjęto działania, liczby naruszeń niektórych polityk dotyczących wyborów, przypadków manipulacji informacjami oraz zasięgu niektórych środków, takich jak inicjatywy na rzecz umiejętności korzystania z mediów i inicjatywy autorytatywne. Komisja może wymagać takich sprawozdań w sposób poufny 38 .
62. Komisja zaleca, aby dostawcy VLOP i VLOSE publikowali jawną wersję takich dokumentów dotyczących przeglądu powyborczego. Powinno to obejmować informacje na temat działań podjętych przez dostawcę VLOP lub VLOSE, wszelkich incydentów, które mogły mieć miejsce, a także na temat współpracy i wymiany informacji z odpowiednimi podmiotami niepaństwowymi w okresie kampanii wyborczej. Należy również uwzględnić szczegółowe informacje na temat podjętych działań, skuteczności i terminowości takiej współpracy. Ma to również na celu poznanie opinii publicznej na temat sposobów poprawy wprowadzonych środków zmniejszających ryzyko lub dzielenia się skutecznymi środkami z innymi dostawcami. Innym przykładem sprawozdawczości związanej z wyborami jest wzór sprawozdania opracowany przez sygnatariuszy kodeksu postępowania w zakresie zwalczania dezinformacji, za pomocą którego przed wyborami i po nich będą oni składać sprawozdania na temat zastosowanych przez siebie środków i odpowiednich wskaźników dotyczących ich wpływu.
3.7. Szczegółowe wytyczne dotyczące wyborów do Parlamentu Europejskiego
63. Jak stwierdzono w komunikacie w sprawie pakietu na rzecz obrony demokracji 39 , nadchodzące wybory do Parlamentu Europejskiego będą kluczowym sprawdzianem odporności naszych procesów demokratycznych, również w obliczu zagrożeń hybrydowych, w tym nie tylko dezinformacji i zagranicznych manipulacji informacjami i ingerencji w informacje, ale również cyberataków. W tym kontekście i ze względu na wyjątkowy transgraniczny charakter wyborów do Parlamentu Europejskiego odbywających się w dniach 6-9 czerwca 2024 r. zaleca się, aby dostawcy VLOP i VLOSE wprowadzili solidne środki zmniejszające ryzyko na potrzeby tych wyborów.
64. Zaleca się zatem, aby dostawcy VLOP i VLOSE zadbali o to, by wystarczające zasoby i środki zmniejszające ryzyko były dostępne i rozmieszczone w sposób proporcjonalny do ocen ryzyka i obejmowały dostęp do odpowiedniej krajowej wiedzy fachowej w całej UE - zarówno na szczeblu UE, jak i państw członkowskich.
65. W przypadku wyborów do Parlamentu Europejskiego nie ma z góry określonego okresu kampanii. Oznacza to, że w państwach członkowskich kampanie dotyczące tych wyborów mogą rozpoczynać się i kończyć w różnych momentach. Dostawców VLOP i VLOSE zachęca się do uwzględniania tego faktu przy planowaniu środków zmniejszających ryzyko w związku z wyborami do Parlamentu Europejskiego oraz do współpracy z państwami członkowskimi w przygotowaniu takich wyborów.
66. Dostawcy VLOP i VLOSE powinni również uwzględniać wyjątkowy transgraniczny i europejski wymiar tych wyborów przy przydzielaniu odpowiednich zasobów na potrzeby środków zmniejszających ryzyko. Kampania będzie prowadzona nie tylko na szczeblu krajowym, a debata będzie miała charakter transgraniczny. Komisja zaleca, aby oprócz nawiązania kontaktu z odpowiednimi organami krajowymi dostawcy VLOP i VLOSE nawiązali przed wyborami kontakt z organami na szczeblu UE. Parlament Europejski odgrywa kluczową rolę w wyborach europejskich i przed tymi wyborami powinien być kluczowym partnerem dla VLOP i VLOSE. Ogólnounijne sieci ekspertów krajowych w dziedzinie dezinformacji i zagranicznych manipulacji informacjami i ingerencji w informacje, wyborów i cyberbezpieczeństwa, takie jak unijny system wczesnego ostrzegania, europejska sieć współpracy w zakresie wyborów i grupa współpracy ds. bezpieczeństwa sieci i informacji, mogłyby być odpowiednimi sieciami dla dostawców VLOP i VLOSE w przypadku incydentów transgranicznych, w tym incydentów o charakterze hybrydowym, w okresie wyborczym, które wymagają szybkiej reakcji i wdrożenia środków zmniejszających ryzyko.
67. W przypadku środków zmniejszających ryzyko, które mogą wymagać uwzględnienia powiązanych zagrożeń o zróżnicowanym charakterze, mających na celu destabilizację lub zdyskredytowanie procesów demokratycznych, w tym cyberataków, należy zapewnić odpowiednią współpracę w tych dziedzinach. W przypadku dezinformacji wykorzystującej cyberprzestrzeń lub działań związanych z zagranicznymi manipulacjami informacjami i ingerencją w informacje zachęca się dostawców VLOP i VLOSE do nawiązywania odpowiednich kontaktów z krajowymi organami ds. cyberbezpieczeństwa; jeżeli takie działania dotyczą całej UE lub instytucji, organów i agencji UE, należy rozważyć kontakty z Agencją Unii Europejskiej ds. Cyberbezpieczeństwa (ENISA) i zespołem reagowania na incydenty bezpieczeństwa komputerowego dla instytucji, organów i agencji UE (CERT-UE) 40 . Ponadto, analogicznie do zaleceń dotyczących wyborów krajowych, Komisja zaleca ustanowienie kontaktów i dostępu do kanałów komunikacji z administracją Parlamentu Europejskiego i europejskimi partiami politycznymi na równych warunkach przed wyborami do Parlamentu Europejskiego.
68. Dostawcy VLOP i VLOSE, którzy są sygnatariuszami kodeksu postępowania w zakresie zwalczania dezinformacji, powinni w pełni zaangażować się w prace związane z wyborami do Parlamentu Europejskiego, w tym poprzez skuteczny udział w systemie szybkiego reagowania i mechanizmie informacji zwrotnej, wprowadzając odpowiednie i terminowe działania następcze. Powinni również udostępnić - przed wyborami i po ich zakończeniu - ukierunkowane sprawozdania na temat środków wprowadzonych w celu ograniczenia rozprzestrzeniania się dezinformacji, zagranicznych manipulacji informacjami i ingerencji w informacje w związku z wyborami do Parlamentu Europejskiego, w tym odpowiednie wskaźniki ich wpływu (na podstawie zobowiązań 37.2 i 42). Powinni także - w oparciu o wkład podmiotów weryfikujących informacje i sygnatariuszy reprezentujących społeczeństwo obywatelskie - podsumować wyciągnięte wnioski po wyborach, oceniając również skuteczność i terminowość współpracy, aby poprawić wydajność systemu na potrzeby przyszłych wyborów.
69. Punkt 3.6 dotyczący przeglądu powyborczego ma również zastosowanie do wyborów do Parlamentu Europejskiego i powinien uwzględniać szczególny charakter tych wyborów.
70. Komisja zaleca, aby w celu dostosowania swoich środków zmniejszających ryzyko w kontekście wyborów do Parlamentu Europejskiego dostawcy VLOP i VLOSE nawiązali kontakty i współpracowali w szczególności z działającą przy Europejskim Obserwatorium Mediów Cyfrowych grupą zadaniową ds. wyborów do Parlamentu Europejskiego. W odniesieniu do wyborów do Parlamentu Europejskiego w 2024 r. ta grupa zadaniowa będzie sporządzać sprawozdania i regularnie aktualizowane informacje na temat głównych tendencji, wyzwań i zjawisk dotyczących dezinformacji. Powinno to stanowić źródło informacji dla dostawców VLOP i VLOSE oraz wkład w środki zmniejszające ryzyko.
4. KOLEJNE KROKI I PODSUMOWANIE
71. Komisja jest zobowiązana do rygorystycznego egzekwowania rozporządzenia (UE) 2022/2065, w tym w kontekście
wyborów. Niniejsze wytyczne pomagają dostawcom VLOP i VLOSE w stosowaniu art. 35 tego rozporządzenia, w szczególności w odniesieniu do sposobu oceny i ograniczania ryzyka systemowego dla procesów wyborczych, które wynikają z ich usług lub korzystania z nich. W związku z licznymi zbliżającymi się wyborami, a zwłaszcza wyborami do Parlamentu Europejskiego, Komisja zdecydowanie zachęca dostawców VLOP i VLOSE do szybkiego i kompleksowego wdrożenia tych wytycznych oraz zwraca się do badaczy i organizacji społeczeństwa obywatelskiego o dokonywanie ocen skuteczności środków zmniejszających ryzyko stosowanych przez dostawców VLOP i VLOSE w UE.
72. Jednocześnie, w szczególności biorąc pod uwagę wczesny etap wdrażania rozporządzenia (UE) 2022/2065 oraz szczególny charakter ryzyka systemowego dla procesów wyborczych, Komisja jest gotowa współpracować z dostawcami VLOP i VLOSE w zakresie projektowania i funkcjonowania ich usług i powiązanych systemów, aby uniknąć szkód dla procesów wyborczych w UE.
73. W tym kontekście Komisja może służyć pomocą w przeprowadzeniu okresowego przeglądu środków zmniejszających ryzyko przyjętych przez dostawców VLOP i VLOSE na zasadzie dobrowolności. Mogłoby to przybrać formę przeglądu ex ante i ex post po konkretnych wyborach. Informacje zwrotne przekazane przez Komisję w tym kontekście będą opierać się na informacjach dostarczonych przez dostawców VLOP i VLOSE i nie będą stanowić pełnej oceny przyjętych przez nich środków służących zapewnieniu zgodności z przepisami. W związku z tym tego rodzaju przegląd pozostaje bez uszczerbku dla uprawnień Komisji w zakresie prowadzenia dochodzeń i egzekwowania przepisów przysługujących jej na podstawie rozporządzenia (UE) 2022/2065.
74. Zgodnie z art. 64 rozporządzenia (UE) 2022/2065 Komisja będzie nadal rozwijać wiedzę fachową i zdolności w zakresie kwestii systemowych i nowo pojawiających się wyzwań w całej UE. W tym względzie kluczowe znaczenie mają informacje pochodzące od VLOP i VLOSE. Komisja oczekuje, że dostawcy takich usług będą współpracować z Komisją przy egzekwowaniu rozporządzenia (UE) 2022/2065 w ramach dialogów dotyczących gotowości w związki z uczciwością wyborów i innych struktur współpracy utworzonych w tym celu przez służby Komisji odpowiedzialne za egzekwowanie rozporządzenia (UE) 2022/2065, aby móc szybko reagować na pilne wnioski o udzielenie informacji, w szczególności na temat pojawiających się kwestii i incydentów, które mogą mieć istotny wpływ na wynik wyborów lub frekwencję wyborczą. Nie wyklucza to zaangażowania się w jakiekolwiek inne ustanowione mechanizmy lub protokoły współpracy, które mogą istnieć.
75. Jak omówiono to bardziej szczegółowo w punkcie 1.1, środki zmniejszające ryzyko określone w niniejszych wytycznych opierają się na wcześniejszych dialogach z dostawcami VLOP i VLOSE dotyczących gotowości w związku z uczciwością wyborów, na doświadczeniach zdobytych w związku z kodeksem postępowania w zakresie zwalczania dezinformacji i unijnym zestawem narzędzi służących przeciwdziałaniu zagranicznym manipulacjom informacjami i ingerencjom w informacje, konsultacjach rozpoznawczych, różnych okrągłych stołach i wkładzie koordynatorów ds. usług cyfrowych. W związku z tym środki określone w niniejszych wytycznych można uznać za najlepsze praktyki na obecną chwilę.
76. Mimo że celem niniejszych wytycznych jest wspieranie dostawców VLOP i VLOSE w zapewnianiu zgodności z ich obowiązkami wynikającymi z art. 35 rozporządzenia (UE) 2022/2065, stanowisko Komisji na temat kwestii związanych z interpretacją i wdrażaniem art. 35 tego rozporządzenia może ewoluować wraz ze zdobywaniem doświadczenia.
77. Ponadto szybko zmieniające się otoczenie, w którym działają dostawcy VLOP i VLOSE, oraz taktyka podmiotów działających w złych zamiarach ewoluują, co wymaga ciągłych aktualizacji i dostosowań w odpowiedzi na stale zmieniające się i nowo pojawiające się wyzwania. Ponadto oczekuje się, że po dokonaniu oceny przez Komisję i Europejską Radę ds. Usług Cyfrowych kodeks postępowania w zakresie zwalczania dezinformacji zostanie przekształcony w kodeks postępowania ujęty w ramach prawnych rozporządzenia (UE) 2022/2065. W tym kontekście Komisja oczekuje, że sygnatariusze będą nadal wypełniać swoje zobowiązania do przeciwdziałania dezinformacji w ramach kodeksu postępowania w zakresie zwalczania dezinformacji. Jednocześnie w nadchodzących miesiącach mają wejść w życie dodatkowe akty prawne UE, które uzupełnią niniejsze rozporządzenie o szczegółowe przepisy istotne dla przedmiotu niniejszych wytycznych, w szczególności rozporządzenie w sprawie reklamy politycznej i akt w sprawie AI (których odpowiednie zapisy uwzględniono w niniejszych wytycznych, w szczególności gdy stanowią one już teraz najlepszą praktykę w danej dziedzinie).
78. Komisja może dokonać przeglądu niniejszych wytycznych w świetle zdobytych praktycznych doświadczeń oraz tempa zmian technologicznych, społecznych i regulacyjnych w tej dziedzinie. Podczas takiego przeglądu Komisja może podjąć decyzję o wycofaniu lub zmianie niniejszego komunikatu. Komisja zachęca dostawców VLOP i VLOSE, koordynatorów ds. usług cyfrowych, środowisko badawcze i organizacje społeczeństwa obywatelskiego do wnoszenia wkładu w ten proces.