Powodem do dyskusji o konieczności stworzenia regulacji, która prawnie opisuje środowisko deepfake jest dynamiczny postęp technologiczny i fakt, że już teraz konfrontujemy się masowo z treściami, które dla naszych zmysłów są nierozróżnialne od otaczającej rzeczywistości.
Czy powinniśmy definiować deepfake
Poszukując odpowiedzi na to pytanie, należy odstąpić od definicji deepfake z AI ACT. Systemy sztucznej inteligencji są znanym nam dzisiaj narzędziem, które z racji swoich możliwości technologicznych predysponowane są do tworzenia treści deepfake. Pojęcie deepfake powinno być jednak „oderwane” od sposobu powstania, a powiązane ze skutkiem, który osiąga w postaci zwodzenia naszych zmysłów w sposób tak skuteczny.
Definicja deepfake z AI ACT stworzona jest na potrzeby tej regulacji i referuje wprost do wykorzystywania systemów AI. Z perspektywy ochrony przed nielegalnym deepfakiem nie ma większego znaczenia sposób, w jaki został wytworzony tylko efekt, jaki może osiągnąć przy przestępczym zastosowaniu. Kryterium efektu oddziaływania tego rodzaju treści ma ten walor, że jest neutralne technologicznie, a punkt ciężkości usytuowany jest w „kształcie” wytworu. Powiązanie tworzenia treści deepfake tylko z systemami AI, w sytuacji gdy systemy te podlegają dynamicznemu rozwojowi i modyfikacjom obarczone byłoby ryzykiem niedostatecznej precyzji.
Propozycja definicji
W rzeczywistości proponowana definicja mogłaby mieć następujące brzmienie - deepfake to wytwór powstały na skutek wygenerowania treści lub manipulacji treściami, który imituje osoby, przedmioty, miejsca, zdarzenia i którego odbiorca, bez wsparcia technologii lub specjalistycznej wiedzy nie jest w stanie uznać za nieautentyczny lub nieprawdziwy.
Pamiętać należy, że na obecnym etapie rozwoju technologicznego mówimy o cyfrowym charakterze deepfake. Kwestią czasu jest, czy w ślad za rozwojem technologii, deepfake będzie objawiał się produktem materialnym, idealnie imitując, też w warstwie technicznego wykonania, istniejące przedmioty, np. dzieła sztuki.
Obszary, gdzie nielegalny deepfake może nieść największe spustoszenie
Trudno jest wartościować te obszary, które z perspektywy potrzeby ochrony wymagają najpilniejszej ingerencji legislacyjnej.
Myślę, że do takich obszarów należą z pewnością:
- bezpieczeństwo publiczne,
- pornografia, w tym w szczególności dziecięca,
- bezpieczeństwo wyborów i referendów.
Tworzenie, rozpowszechnienie treści deepfake, które generują niepokoje społeczne, dezinformują o działaniach politycznych, gospodarczych, edukacyjnych, zdrowotnych są szczególnie niebezpieczne. Zakres ich oddziaływania może być powszechny i powodować nieodwracalne i trudne do oszacowania szkody.
Wykorzystywanie treści deepfake w pornografii, w szczególności pornografii dziecięcej, jest szczególnie niebezpieczne i szkodliwe, a z perspektywy łatwej dostępności do narzędzi tworzenie deepfake wymaga natychmiastowej legislacyjnej reakcji.
Zapewnienie sprawnego i wolnego od dezinformacji funkcjonowania procesów demokratycznych jest istotą demokratycznego państwa prawnego. Penalizowanie tworzenia i rozpowszechniania treści deepfake, które ingerują w procesy demokratyczne powinno stać się priorytetem ustawodawcy.
Przeczytaj także: W powodzi deepfake płynie szeroko - ważne, aby go wyłowić
Czytaj w LEX: Akt w sprawie sztucznej inteligencji > >
Wizerunek jako główny cel ataku deepfake
Oceniając przedmiotowo treści deepfake, na pierwszy plan wysuwa się ochrona wizerunku, rozumiana jako wykorzystywanie odtworzonych wizerunków osób fizycznych, jak również manipulowanie takimi treściami w jakimkolwiek kontekście miejscowym czy sytuacyjnym.
Potrzeba indywidualnego podejścia do zjawiska deepfake wynika z faktu, że skutkiem treści deepfake jest tworzenie w świadomości odbiorcy wrażenia ich autentyczności i prawdziwości. W rezultacie wszelkie treści, które można, przy zastosowaniu uśrednionych standardów percepcji ocenić, że nie tworzą one takiego mylnego wrażenia, winny być ujęte poza zakresem definicji.
Warto dodać, iż funkcjonujące już w polskich przepisach pojęcie wytworzonego lub przetworzonego wizerunku (art. 202 par 4 b kodeksu karnego) nie odnosi się wprost do treści deepfake w rozumieniu zaprezentowanej wyżej propozycji definicji. Wytworzony wizerunek to obraz osoby nieistniejącej. Przetworzony wizerunek odnosi się do osoby istniejącej, niemniej na skutek ingerencji określonych narzędzi po przerobieniu nie przypomina już takiej osoby. Pojęcia te, funkcjonalnie są bardzo potrzebne a in concreto odnoszą się do zagadnień pornografii dziecięcej i generowania przestępczych obrazów nieistniejących osób lub preparowania obrazów osób istniejących w celach przestępczych.
Natomiast odtworzony wizerunek to wygenerowane lub zmanipulowane treści, imitują osoby, w postaci wcześniej nieutrwalonej (np. na zdjęciu, nagraniu video ) lub z użyciem postaci wcześniej utrwalonej sytuują ją w fikcyjnym, wygenerowanym lub zmanipulowanym kontekście.
Odtworzy wizerunek to taki, który naśladuje zespół cech konkretnej osoby, tworząc niemożliwe do zweryfikowania, bez skorzystania ze wsparcia technicznego lub wiedzy specjalnej, wyobrażenie, że wytworzona treść jest nieprawdziwa. Odniesienie się do poziomu percepcji odbiorcy takich treści, zapewnia ochroną również w sytuacji, gdy np. w celach przestępczych wykorzystywana jest wygenerowana twarz osoby i „doklejana” do ciała innej osoby, lub ciała, które zostało w całości wytworzone na potrzeby efektu końcowego. Pokrywa to zatem takie naruszenia, które polegają np. na wykorzystywaniu twarzy osób publicznych w prezentowaniu spreparowanych treści o charakterze pornograficznym.
Zobacz również w LEX: AI w praktyce prawniczej – krok w nowoczesność czy skok w przepaść? > >
Czy deepfake powinien być odrębnie uregulowany
Deepfake to technika komunikacji, która w zależności od celu zastosowanie zastępuję każdą ze znanych nam form "wirtualnego" działania. Obrazowo, deepfake jest jak woda wlewana do przezroczystych szklanych naczyń o różnych kształtach. Przybiera jego kształt, ale nim nie jest.
Myśl o stworzeniu aktu prawnego, który definiowałby pojęcie deepfake, w rzeczywistości zaś identyfikował zjawisko generowania lub manipulowania treściami, które imitują rzeczywistość, jest odpowiedzią na zaawansowaną technologię, do której dostęp staje się coraz bardziej powszechny.
Interdyscyplinarność tej formy komunikacji postuluje następczą synchronizację oddziaływania treści deepfake w różnych reżimach prawnych. Punktem wyjścia może być reżim prawa karnego, aby budować wyższe mury przed zagrożeniami, które już od dłuższego czasu budują maszyny oblężnicze.
Dyskusja o przygotowaniu ewentualnej regulacji w aspekcie przedmiotowym, tj. poprzez identyfikację obszarów, w którym doprecyzowanie, co oznacza to zjawisko i jak z nim walczyć może być wstępem do szerszej debaty o najlepszej technice legislacyjnej, w tym zakładającej rozproszone zmiany w różnych przepisach prawa.
Nadszedł najwyższy czas, aby zastanowić się, czy zaawansowana technologia, wykorzystywana w celach przestępczych nie zmusza nas do podjęcia niezwłocznych działań, aby pracować nad prawem, które będzie dopasowane do skali i siły rażenia deepfake.
Sprawdź również w LEX: Sztuczna inteligencja: zrozumieć, opanować, zastosować. Prawne aspekty funkcjonowania > >
Cena promocyjna: 80.09 zł
|Cena regularna: 89 zł
|Najniższa cena w ostatnich 30 dniach: 62.3 zł
-------------------------------------------------------------------------------------------------------------------
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.