Deepfake to materiał wideo lub audio, który został zmanipulowany przy użyciu sztucznej inteligencji, aby sprawić wrażenie, że dana osoba robi lub mówi coś, co nie jest prawdziwe. Podczas gdy deepfakes zostały wykorzystywane z dużym skutkiem w przemyśle filmowym i reklamowym, w celu ulepszenia CGI, coraz częściej dochodzi do niewłaściwego ich wykorzystania. Jak dotąd, najbardziej rozpowszechnionym zastosowaniem deepfakes jest pornografia z zastępowaniem twarzy, gdzie podobieństwo osoby, najczęściej celebryty, zostało wykorzystane w połączeniu z ciałem aktora/aktorki porno. Może to powodować ogromne cierpienie u docelowej gwiazdy lub innej osoby. Znane przykłady obejmują fałszywe filmy wideo z Kim Kardashian, „żywe portrety” Mony Lisy lub Salvadora Dali, a nawet wizerunki osób, które nie istnieją. Coraz częściej wykorzystuje się również deepfakes do podrabiania filmów z udziałem polityków, co może być potencjalnie destrukcyjne na bardzo dużą skalę, np. zakłócając przebieg wyborów politycznych lub manipulując opinią publiczną. Chociaż technologia nie jest jeszcze na tyle zaawansowana, aby niemożliwe było wykrycie deepfake, jest stale udoskonalana.
Wielkie technologie a żądania EU dotyczące walki z dezinformacją
W ciągu 1 miesiąca od podpisania Kodeksu, Sygnatariusze powołają Grupę Roboczą, która zajmie się tym celem. Zadaniem grupy roboczej będzie przedstawienie punktów danych, które mają być dostarczone przez Sygnatariuszy Platformy oraz metodologii pomiaru Wskaźników Strukturalnych na podstawie tych punktów danych, które mają być wykonane przez Sygnatariuszy spoza Platformy. Sygnatariusze podzielą się punktami danych odpowiednimi do umożliwienia pomiaru wskaźników, które zostaną określone przez grupę roboczą, takich jak rozpowszechnienie lub inne kontekstowe wskaźniki dotyczące źródeł i rozprzestrzeniania się dezinformacji online. Sygnatariusze ocenią pracę, która będzie niezbędna do realizacji celów tego zobowiązania i przedyskutują w ramach Grupy Roboczej, czy wymagane jest wsparcie finansowe.
COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS; Tackling online disinformation: a European Approach
Dezinformacja jest potężnym i niedrogim – a często także opłacalnym ekonomicznie – narzędziem wpływu. Do tej pory większość znanych przypadków dotyczyła artykułów pisanych, czasami uzupełnianych autentycznymi zdjęciami lub treściami audiowizualnymi wyrwanymi z kontekstu. Jednak obecnie dostępna jest nowa, niedroga i łatwa w użyciu technologia tworzenia fałszywych zdjęć i treści audiowizualnych (tzw. deepfakes), oferująca potężniejsze środki manipulacji opinią publiczną. Istotni Sygnatariusze, którzy są dostawcami Bardzo Dużych Platform Internetowych, zobowiązują się, dążąc do dostosowania się do DSA, do poddania się na własny koszt audytowi pod kątem przestrzegania zobowiązań podjętych na mocy niniejszego Kodeksu. Audyty powinny być przeprowadzane przez organizacje niezależne od dostawcy danej Bardzo Dużej Platformy Internetowej i niebędące w konflikcie interesów z nim. Organizacje takie powinny posiadać udokumentowane doświadczenie w obszarze dezinformacji, odpowiednie kompetencje i możliwości techniczne oraz wykazywać się obiektywizmem i etyką zawodową, opartą w szczególności na przestrzeganiu standardów audytu i wytycznych.
https://regmedia.co.uk/2022/06/16/eu_code_of_practice_2022.pdf
Věra Jourová, wiceprzewodnicząca UE ds. wartości i przejrzystości, powiedziała w oświadczeniu: „Ten nowy kodeks antydezinformacyjny pojawia się w czasie, gdy Rosja broni dezinformacji jako części swojej agresji wojskowej przeciwko Ukrainie, ale także gdy obserwujemy ataki na demokrację w szerszym zakresie. Mamy teraz bardzo znaczące zobowiązania do zmniejszenia wpływu dezinformacji online i znacznie solidniejsze narzędzia do pomiaru, jak są one realizowane w całej UE we wszystkich krajach i we wszystkich jej językach”.
Pod najnowszą wersją Kodeksu podpisały się 33 podmioty. Wśród sygnatariuszy są platformy społecznościowe, dostawcy oprogramowania, firmy medialne oraz organizacje branży reklamowej. Choć kodeks praktyk jest dobrowolny, jego części znajdują oparcie w ustawie o usługach cyfrowych (DSA). Thierry Breton, komisarz ds. rynku wewnętrznego, ostrzegł, że duże firmy mogą zostać ukarane nawet 6 procentami swoich rocznych przychodów, jeśli naruszą nadchodzące nowe przepisy. Wspieranie platform i branży w wypełnianiu zobowiązań wynikających z Kodeksu postępowania w zakresie dezinformacji wpisuje się w zobowiązanie Komisji Europejskiej do stworzenia bardziej przejrzystego, bezpiecznego i godnego zaufania środowiska internetowego.
Code of Practice z 2022 roku jest wynikiem pracy wykonanej przez sygnatariuszy. To sygnatariusze decydują, które zobowiązania podpisują i to oni odpowiadają za zapewnienie skuteczności realizacji swoich zobowiązań. Kodeks nie jest zatwierdzony przez Komisję, natomiast Komisja przedstawiła swoje oczekiwania w Wytycznych i uważa, że jako całość Kodeks spełnia te oczekiwania.
USA a dezinformacja
Departament Obrony, poprzez Agencję Zaawansowanych Projektów Badawczych Obrony (DARPA), zlecił naukowcom z całych Stanów Zjednoczonych opracowanie sposobów na wykrycie, czy dany film jest deepfake. Trzech członków Izby Reprezentantów, w tym Rep. Adam Schiff, który obecnie przewodniczy Komisji Wywiadu Izby, napisało we wrześniu do Dyrektora Wywiadu Narodowego Dana Coatesa, wyrażając obawę, że „technologia może być wkrótce wdrożona przez złośliwe podmioty zagraniczne”.
W miarę jak technologia deepfake staje się bardziej zaawansowana i bardziej dostępna, może stanowić zagrożenie dla dyskursu publicznego i bezpieczeństwa narodowego Stanów Zjednoczonych, z szerokimi i dotyczącymi implikacjami dla ofensywnych kampanii środków aktywnych skierowanych na Stany Zjednoczone.
Ich obawy pojawiły się po tym, jak rosyjska firma powiązana z Kremlem skierowała na USA szeroko zakrojone działania dezinformacyjne w mediach społecznościowych w okresie poprzedzającym wybory prezydenckie w 2016 roku. Działania te obejmowały fałszywe strony na Facebooku i konta na Twitterze. Ustawodawcy obawiają się, że w przyszłości źli aktorzy mogą stosować bardziej wyrafinowane metody, w tym deepfakes.
Uwzględnianie obowiązujących przepisów prawa
Istniejące w Wielkiej Brytanii, Francji i Niemczech przepisy mogą być użyteczne w indywidualnych przypadkach. Krajowe przepisy dotyczące zniesławienia mogą być pomocne wówczas, gdy deepfake został wykorzystany do przedstawienia osoby (lub firmy) w sposób, który mógłby zaszkodzić jej reputacji. Deepfakes często tworzy się przy użyciu wielu zdjęć danej osoby, które są następnie wykorzystywane do szkolenia SI w zakresie rekonstrukcji twarzy wybranego człowieka. W takich przypadkach zdjęcia źródłowe mogą być chronione prawem autorskim, a fotografowi przysługują prawa osobiste do zdjęć, takie jak – we Francji – prawo do tego, aby nie dokonywać zmian w utworze bez zgody lub – w Zjednoczonym Królestwie, a także w Niemczech – „prawo do sprzeciwu wobec uwłaczającego traktowania” utworu. Prawo do wniesienia powództwa z tytułu naruszenia praw autorskich lub praw osobistych przysługuje jednak właścicielowi praw autorskich lub autorowi zdjęcia, a może nim nie być osoba, której dotyczy zdjęcie (osoba, której dotyczy deepfake).
W przeciwieństwie do sytuacji w innych krajach, w Wielkiej Brytanii nie istnieje prawo „prywatności” lub „prawa do wizerunku” chroniące wizerunek osoby. Jeśli dana osoba chce zapobiec wykorzystaniu jej wizerunku, musi powołać się na liczne przyczyny powództwa, w tym o przywłaszczenie, prawo autorskie, nadużycie informacji prywatnych i ochronę danych. W pewnych okolicznościach wykorzystanie wizerunku osoby bez zgody może stanowić rodzaj fałszywego poparcia dla produktów, czego przykładem może być niezgodne z prawem wykorzystanie przez Top Shop wizerunku Rihanny na koszulce bez jej zgody.
We Francji, z drugiej strony, sędziowie uznają prawo do swojego wizerunku (droit a l’image), które obejmuje podobieństwo, głos, fotografię, portret lub reprodukcję wideo. W prawie niemieckim ogólne prawo osobiste i niemiecka ustawa o artystycznych prawach autorskich również chronią wizerunek. Ogólne prawo osobiste chroni ponadto prawo do własnych słów, prawo do wyrażania siebie i prawo do samostanowienia seksualnego, które również mogą być naruszone przez deepfake. Osobie, której dobra osobiste zostały uznane za naruszone przez deepfakes, przysługują roszczenia m.in. z tytułu inne, zaprzestanie działalności, usunięcie i rekompensatę finansową. Jednakże nawet w krajach takich jak Francja i Niemcy, w których istnieje ochrona wizerunku i innych dóbr osobistych, to, czy powództwo byłoby skuteczne, zależy w dużej mierze od stanu faktycznego, a środki zaradcze będą specyficzne dla danej osoby w konkretnym przypadku. Na podstawie przepisów prawa cywilnego obowiązujących w Zjednoczonym Królestwie, Francji i Niemczech trudno jest zatem powstrzymać oszukańcze wykorzystywanie podróbek w ogóle.
W Stanach Zjednoczonych krajobraz prawny dotyczący deepfakes szybko się zmienia. Osoba fizyczna lub firma powinna rozważyć najnowsze przepisy stanowe, które w szczególny sposób odnoszą się do syntetycznych i cyfrowo zmanipulowanych mediów.
W listopadzie 2020 roku, w Nowym Jorku uchwalono prawo, które wyraźnie zakazuje wykorzystywania „cyfrowej repliki zmarłego wykonawcy” w treściach audiowizualnych przez 40 lat po śmierci wykonawcy, jeśli takie wykorzystanie „może wprowadzić w błąd opinię publiczną, że zostało ono zatwierdzone”. To mogłoby zakazać używania deepfake’ów w takich przypadkach jak dokument Anthony’ego Bourdaina „Roadrunner”. To, co wzbudziło kontrowersje, reżyser filmu wykorzystał technologię deepfake do wygenerowania trzech linii, które przywróciły „głos Bourdaina do życia” w celu dokończenia produkcji po jego śmierci, pomimo tego, że wdowa po sławnym kucharzu, Ottavia Bourdain, twierdziła, że nie udzieliła zgody na takie wykorzystanie.
Podobnie stan Virginia zmienił swoje prawo, które kryminalizuje nieautoryzowane rozpowszechnianie materiałów o charakterze seksualnym ze złym zamiarem, aby w celu włączenia dystrybucji zmodyfikowanych obrazów z zamiarem przedstawienia rzeczywistej, rozpoznawalnej osoby. Teksas uznał za przestępstwo wykorzystywanie deepfake’ów, ale tylko w kontekście wyborów politycznych, kiedy to osoba tworzy lub rozpowszechnia „deepfake video” z zamiarem zaszkodzenia kandydatowi politycznemu lub wpłynięcia na wynik wyborów. Zarówno w Wirginii, jak i w Teksasie, naruszenie prawa dotyczącego deepfakes jest wykroczeniem i może skutkować karą pozbawienia wolności.
Na froncie politycznym Teksas uchwalił we wrześniu 2019 roku prawo, które zakazuje rozpowszechniania zwodniczych „deepfake’owych filmów” mających na celu zaszkodzić kandydatom lub wpłynąć na bazę wyborców w ciągu 30 dni od wyborów. W następnym miesiącu Kalifornia uchwaliła podobne prawo, ale określiła, że okres, o którym mowa, znajduje się w ciągu 60 dni od wyborów. Co więcej, platformy, które udostępniają „deepfakes”, będą musiały również rozważyć kwestie zgodności z prawem w odniesieniu do twierdzeń o oszustwie.
Włączenie deepfake’ów celebrytów do treści cyfrowych
Osoby fizyczne wykorzystały deepfakes celebrytów na platformach mediów społecznościowych, dodatkowo podkreślając wszechobecność bazowej technologii. Na początku 2021 roku belgijski artysta Digital AI współpracował z dublerem Toma Cruise’a, aby wygenerować bardzo realistyczne filmy z „Tomem Cruise’em” na TikTok pod nazwą @deeptomcruise.
Filmy te przedstawiały „Toma Cruise’a” biorącego udział w dziwacznych działaniach, od upadku i opowiadania dowcipu o Związku Radzieckim w sklepie detalicznym po wykonywanie usług czyszczenia przemysłowego. Również deepfake Harry’ego Stylesa, domagającego się więcej truskawek w muzycznej oprawie do jego piosenki Watermelon Sugar, stał się w zeszłym roku viralowy na TikTok’u.
Przyszłość
Główni gracze w branży mediów społecznościowych zaczęli już podejmować działania. Niektóre platformy dodały do swoich warunków użytkowania ścisły zakaz używania deepfake’ów lub jakichkolwiek zwodniczych praktyk. Kilka firm stworzyło również własną bazę danych deepfake’ów, udostępniając ją bezpłatnie do wykorzystania w technikach wykrywania syntetycznych materiałów wideo. Pojawiła się wspólna inicjatywa napędzana przez gigantów technologicznych: „The Deepfake Detection Challenge”, która nagradza kwotą 10 mln USD każdego zarejestrowanego i wstępnie sprawdzonego uczestnika, który z powodzeniem opracuje rozwiązanie do wykrywania deepfake’ów. Natomiast Agencja Zaawansowanych Projektów Badawczych Pentagonu aktywnie poszukuje rozwiązań w zakresie zwalczania deepfake’ów poprzez tworzenie własnych deepfake’ów, a następnie opracowywanie technologii, która może je zidentyfikować.
Źródła:
https://regmedia.co.uk/2022/06/16/eu_code_of_practice_2022.pdf
https://edition.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
Fot. nagłówka: CNN
O autorze
Studentka administracji na Uniwersytecie Warszawskim. Stara się wydłużyć dobę do 48 godzin. Entuzjastka picia kawy. Interesuje się prawem rynków kapitałowych oraz nowymi technologiami. W wolnym czasie robi zdjęcia oraz organizuje city breaks.