“Alfonzo Macias” na pierwszy rzut oka wygląda nieszczególnie – brodaty, z wąską czupryną, z krótkim, wdowim czubkiem. Ale jego dziwnie zniekształcone okulary i rozmywające się tło za nim wskazują na niepokojącą prawdę: pan Macias nigdy nie istniał.

Niewykrywalna gołym okiem, zdumiewająco ludzka twarz jest w rzeczywistości dziełem algorytmu – jednego z nich, używanego przez pro-trumpowski portal medialny TheBL do nadania tożsamości jednemu z wielu fałszywych kont na Facebooku, których używa, aby napędzać ruch na swojej stronie.

Chociaż mniej przyciągające uwagę niż wirusowe filmy deepfake, które manipulowały mową i działaniami polityków i celebrytów do popularnego efektu w ostatnich latach, statyczne twarze generowane przez sztuczną inteligencję stają się coraz bardziej powszechnym narzędziem dezinformacji, mówią eksperci.

Zamiast sprawiać, że prawdziwi ludzie wydają się mówić i robić rzeczy, których nie zrobili, technika ta działa poprzez generowanie całkowicie “nowych” ludzi od zera.

Już teraz fałszywe twarze zostały zidentyfikowane w kampaniach botnetowych z Chin i Rosji, jak również w prawicowych mediach internetowych i rzekomo legalnych firmach. Ich rozprzestrzenianie doprowadziło do obaw, że technologia ta może stanowić bardziej wszechobecne i pilne zagrożenie niż deepfakes, jako platformy internetowe zmagają się z rosnącą falą dezinformacji przed wyborami w USA.

“Rok temu to była nowość” – napisał na Twitterze Ben Nimmo, dyrektor ds. badań w grupie analitycznej ds. mediów społecznościowych Graphika. “Teraz mam wrażenie, że każda operacja, którą analizujemy, próbuje tego przynajmniej raz.”

Wyścig twarzy

Podobnie jak deepfakes, twarze generowane przez AI są tworzone przy użyciu technologii znanej jako GANs, czyli generative adversarial networks. Jedna sieć generuje treść, podczas gdy inna porównuje ją z ludzkimi twarzami, zmuszając ją do poprawy, aż nie będzie w stanie odróżnić syntetycznego obrazu od prawdziwej twarzy.

Cyfrowe renderingi fikcyjnych ludzi były w ostatnich latach coraz bardziej obecne w sieci, z gwiazdami takimi jak wirtualna gwiazda popu, modelka i aktywistka Miquela przyciągająca ogromne rzesze zwolenników na Instagramie i Twitterze. Ale to, co wyróżnia twarze generowane przez GAN, to ich fotorealizm – poziom szczegółowości, który nadaje postaciom dziwną realność.

“Najnowsze modele GAN mogą być obecnie używane do tworzenia wysoce realistycznych syntetycznych obrazów ludzkich twarzy, aż do najdrobniejszych szczegółów – w szczególności skóry i włosów”, powiedział Siwei Lyu, profesor informatyki na University at Albany, State University of New York.

ThisPersonDoesNotExist, strona internetowa, która tworzy twarz StyleGAN2 za każdym razem, gdy jest odświeżana, pokazuje, jak przekonujące mogą być takie obrazy. Technika ta nie ogranicza się jednak tylko do ludzkich twarzy – istnieją dziesiątki jej wariantów, od samochodów po koty.

Choć obawy związane z dezinformacją napędzaną przez SI koncentrowały się głównie na politycznych fałszerstwach, to jednak nie pojawił się jeszcze poważny przypadek, powiedział Henry Ajder, badacz specjalizujący się w fałszerstwach i mediach syntetycznych. “Jednak przypadki generowanych przez GAN fałszywych twarzy wykorzystywanych do oszustw pojawiają się od czerwca zeszłego roku, kiedy to Associated Press zidentyfikowała konto na LinkedIn podszywające się pod pracownika think-tanku.

Wykorzystanie tej techniki na większą skalę zostało po raz pierwszy zidentyfikowane w grudniu, kiedy Graphika i Atlantic Council’s Digital Forensic Research Lab opublikowały raport na temat sieci ponad 900 stron, grup i kont powiązanych z prawicowym punktem informacyjnym Epoch Media Group. “Używali tych fałszywych twarzy, aby wzmocnić swoją obecność na Facebooku i dostarczyć swoje wiadomości do szerszej publiczności”, powiedział Max Rizzuto, pracownik naukowy w DFR Lab.

W międzyczasie państwa narodowe również dostrzegły potencjał tej technologii, a Graphika odkryła dziesiątki twarzy wygenerowanych przez GAN, wykorzystywanych w kampaniach związanych z Chinami i Rosją. W przypadku Chin, obrazy wygenerowane przez GAN zostały wykorzystane jako zdjęcia profilowe w kampanii na Facebooku, z fałszywymi kontami, które forsowały pro-pekinowskie punkty widzenia na tematy takie jak Tajwan, Morze Południowochińskie i Indonezja.

Z kolei rosyjskie kampanie wykorzystały fałszywe twarze do stworzenia personaliów fikcyjnych redaktorów stojących za dzielącymi politycznymi serwisami informacyjnymi.

Giorgio Patrini, szef platformy wykrywania deepfake Sensity, powiedział, że twarze generowane przez GAN pojawiały się również w świecie korporacyjnym, z przykładami obejmującymi firmę programistyczną, która używała fałszywych twarzy do referencji klientów oraz firmę marketingową, która używała tej technologii do generowania zdjęć swojego “zespołu”.

“To jest właściwie fabrykacja”

Pierwszym krokiem w kierunku zwalczania ryzyka związanego z twarzami generowanymi przez GAN było rozpowszechnianie świadomości ich istnienia, powiedział pan Rizzuto. “Kiedy powiesz tym ludziom, że jest to w rzeczywistości fabrykacja, możesz zobaczyć ten wyewoluowany zmysł, który wszyscy ludzie mają, aby dostrzec nieprawidłowości w obrazie”.

Pomimo niezwykłego postępu stojącego za StyleGAN2, istniała pewna liczba znaków rozpoznawczych podróbki, powiedział – na przykład głowa obiektu może być przechylona, podczas gdy ich nos i zęby pozostały proste. Algorytm może również zmagać się z włączeniem obiektów tła i innych osób, czasami tworząc niezamierzenie nieprzyjemne okulary.

Innym potencjalnym błędem zauważonym przez Graphika jest to, że oczy twarzy generowanych przez GAN pojawiają się w tym samym miejscu na obrazie, niezależnie od tego, w którą stronę “obiekt” jest zwrócony.

W międzyczasie naukowcy, organy rządowe i firmy technologiczne budują i ulepszają modele wykrywania fałszywych twarzy. Pan Lyu był wśród autorów pracy na temat jednej z takich technik, która studiowała obrazy obiektów odbijających się w oczach przedmiotów w celu odróżnienia prawdziwych twarzy od fałszywych.

Pola stale się rozwija, powiedział pan Rizzuto, wskazując na badania deepfake przez Samsunga w zeszłym roku, który zamienił Mona Lisę w realistyczną gadającą głowę. On powiedział, że technologia może pewnego dnia być stosowane do tworzenia bardziej realistycznych profili fałszywych, tworząc zdjęcia z różnych kątów i expressions.

“Potencjalna zdolność do oszukiwania jest rodzaj przewyższona przez ilość pracy, która zajęłaby wyciągnąć go off ,” powiedział. “W najbliższej przyszłości, spodziewałbym się zobaczyć, że … zmniejszyć znacznie.”

.