W czasie tragedii, kiedy szybkie działanie jest warunkiem jego skuteczności, przestępcy wykorzystują nieuwagę i chęć niesiania pomocy. Wykorzystują zaufanie, integrację, które są nieodłącznym elementem relacji, jaka się tworzy w sytuacji niesienia wsparcia na tak dużą skalę. Cel działalności przestępczej jest różny. Ten najbardziej oczywisty polega na uzyskaniu korzyści finansowych, ale są też inne: wyłudzanie danych, szerzenie dezinformacji, paraliż działań służb. Skuteczność takich przestępstw może być bardzo duża, w sytuacji gdy stosowane są techniki deepfake.
Deepfake deepfakowi nierówny
Deepfake rozumiany jako tworzenie za pomocą technologii intensywnie mylnego wyobrażenia o rzeczywistości jest zjawiskiem szerszym aniżeli jego definicja w rozporządzeniu unijnym AI ACT. Zgodnie z AI ACT deepfake oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe. Warto odkreślić, że znaczenie definicji deepfake dotyczy AI ACT i materii, którą reguluje, a zatem nie przekłada się na prawnokarną analizę przestępstw popełnianych z udziałem zaawansowanej technologii.
W rezultacie, popełnianie czynów zabronionych z wykorzystaniem zaawansowanej technologii (niekoniecznie spełniającej definicję systemów AI w rozumieniu AI ACT) w czasie powodzi jest szczególnie niebezpieczne, gdyż dzieje się na styku funkcjonowania dwóch dystynktywnych parametrów, które gdy zachodzą jednocześnie, to tworzy się niezwykle groźna podatność do popełniania przestępstw.
Tymi parametrami są legalnie, ale i potocznie rozumiany stan nadzwyczajny oraz wykorzystywanie „nadzwyczajnie” sugestywnych narzędzi służących do wprowadzania w błąd. Ta „podwójna” kwalifikacja sprawia, że działania przestępcze popełniane z wykorzystaniem technik deepfake mogą być niezwykle skuteczne.
Czytaj w LEX: Zasiłek powodziowy - przyznawanie i wypłata przez organy gmin >
Nadzwyczajny stan i nadzwyczajnie sugestywne narzędzia
Zgodnie z ustawą z 18 kwietnia 2002 r. przez klęskę żywiołową rozumie się katastrofę naturalną lub awarię techniczną, których skutki zagrażają życiu lub zdrowiu dużej liczby osób, mieniu w wielkich rozmiarach albo środowisku na znacznych obszarach, a pomoc i ochrona mogą być skutecznie podjęte tylko przy zastosowaniu nadzwyczajnych środków, we współdziałaniu różnych organów i instytucji oraz specjalistycznych służb i formacji działających pod jednolitym kierownictwem.
Odwołanie się do stanu klęski żywiołowej jako stanu nadzwyczajnego jest naturalne o tyle, że tworzy on powszechną platformę pomocną dla rozpoznania niebezpieczeństw związanych ze stosowaniem technik deepfake w celach przestępczych. Determinuje też potencjalne typy takich przestępstw, np. fałszywe zbiorki publiczne, dezinformacja, paraliż działania służb/osób walczących ze skutkami powodzi.
Wykorzystanie technik deepfake może być szczególnie groźne również wtedy, kiedy adresatem takich działań są osoby, instytucje, które w danym czasie, z przyczyn obiektywnych, funkcjonują w sposób odbiegający od zwyczajowych standardów. Przykładem takim może być np. firma, która doświadczyła awarii systemów bezpieczeństwa, albo osoba, która ma nagłą potrzebę finansową. Przyczyny takie można mnożyć. Wspólnym ich mianownikiem będzie jednak wyostrzenie chociażby jednej konkretnej potrzeby, na którą przestępczy deepfake będzie chciał odpowiedzieć, np. w celu doprowadzenie do niekorzystnego rozporządzenia mieniem.
Jedynie częściowo pasującym porównaniem byłoby przywołanie przykładu szabrownictwa, polegającego np. na kradzieży na terenach powodziowych. Tutaj również, z jednej strony mamy stan nadzwyczajny, co sprawia, że często brak jest dostatecznej ochrony konkretnych miejsc i łatwiej jest popełnić takie przestępstwo, a z drugiej strony (przynajmniej w teorii) grupa potencjalnych sprawców takiego przestępstwa jest większa, bo efekt przestępczy można osiągnąć mniejszym nakładem sił lub przy zastosowaniu mniej wyrafinowanych środków.
Różnica polega na tym, że z pojęciem szabrownictwa łączą się przestępstwo kradzieży (w różnych typach), w tym kwalifikacja kradzieży szczególnie zuchwałej, przywróconej do polskiego kodeksu karnego, a zbiór przestępstw możliwych do popełnienia za pomocą technik deepfake jest de facto nieograniczony.
Zobacz wzór dokumentu w LEX: Decyzja przyznająca zasiłek celowy w związku z klęską żywiołową (powódź) > >
Przykłady nielegalnego deepfake w czasie powodzi
Prowadzenie fikcyjnych zbiórek na walkę z powodzią, uwiarygadniane za pomocą sugestywnie przerobionych obrazów lub treści video może stanowić przestępstwo oszustwa z art. 286 kodeksu karnego.
Publikowanie spreparowanych obrazów lub treści video prezentujących fałszywe informacje o zabezpieczeniach przeciwpowodziowych czy fałszywie informujących o skutkach powodzi może wypełniać znamiona przestępstwa z art. 172 kodeksu karnego (przeszkadzanie w akcji ratowniczej).
Nie jest wykluczona również możliwość popełniania przestępstwa z art. 224a kodeksu karnego (fałszywy alarm). Mówiąc o nielegalnym deepfake, mówimy o technice popełniania przestępstw, a nie o konkretnym przestępstwie. W konsekwencji niezwykle ważnym jest skrupulatne identyfikowanie i raportowanie przypadków takich działań organom ścigania.
Zobacz również: Deepfake w AI Act - czy definicja jest szczelna?
Postęp technologiczny sprawia, że jakość i sugestywność treści deepfake, tworzonych obecnie przy wykorzystaniu systemów AI jest bardzo wysoka. Rodzi to szczególne zagrożenie w sytuacji w takiej, jakiej właśnie jesteśmy, gdy jako społeczeństwo orientujemy się na niesienie pomocy i dawanie wsparcia ofiarom powodzi.
Walka z nielegalnym deepfakiem już teraz jest dużym wyzwaniem, a wraz z rozwojem technologii będzie jeszcze większym w przyszłości.
Sprawdź w LEX: W jakim trybie wydatkować środki funduszu sołeckiego na działania zmierzające do usunięcia skutków klęski żywiołowej? > >
Rafał Rozwadowski, autor jest adwokatem prowadzącym własną kancelarię
-------------------------------------------------------------------------------------------------------------------
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.