Hur upptäcker man djupa förfalskningar? En djup dos av skepticism

Innehåll

• Nyckelord
• Principer för Deepfakes och hur man undviker att falla för en

Nyckelord

• Deepfakes är foton eller videor där två personers identiteter ändras digitalt.
• Konsumenterna är lättlästa och tenderar att tro vad de ser och hör.
• För att undvika att bli lurad kan människor vara medvetna om djupa förfalskningar och ifrågasätta äktheten hos misstänkta klipp.

Om du är en vanlig på sociala medier har du förmodligen sett en uppgång i videor som visar att dina favoritkändisar sjunger med till en sång eller hjärtvärmande videor med gamla foton som väcks till liv. Men när teknologin blir allt mer tillgänglig, prisvärd och korrekt när det gäller att manipulera media kan konsekvenserna få en mer olycksbådande ton.

”Deepfakes” förlitar sig på lättanvända manipulationer baserade på artificiell intelligens som gör att vem som helst kan byta två identiteter i en bild eller, oftare, en video. Ansiktsmodifieringsalgoritmer gör det möjligt att ersätta attributen för en bild (t.ex. ansikte, hudton, kön) med de för en annan bild. Röster kan också fördjupas med "röstskinn" eller "röstkloner" som kan replikera exakt ton, känslor, böjning och kadens i någons röst.

Denna praxis blomstrar också i reklamvärlden inom så kallad syntetisk reklam. Resultaten är ganska fantastiska. Denna teknik kan få människor att leva tillbaka, som Peter Cushing gjorde för Rogue One: A Star Wars Story, eller få dem att se yngre ut, som Carrie Fisher / Princess Leia i samma Star Wars-film.

Med dessa djupa falska verktyg kan du sluta låta som vilken kändis som helst! Eller så kan du få en kändis eller annan offentlig person att säga något de aldrig gjorde.

Det är där problemen börjar. Så roligt som deepfakes kan vara när det skapas i skämt, oroar deras potential för bedrägeri många, från sociala medieplattformar som är oroliga för noggrannheten i de videor som folk lägger upp hela vägen till den amerikanska kongressen, som är bekymrad över att skydda konsumenter från "Manipulation Bedrägeri i den digitala tidsåldern. ” Deepfakes blir också mer och mer utbredda. Enligt en rapport fanns det i början av 2019 7 964 djupa falska videor online, och bara nio månader senare hoppade antalet till 14 678. Precis som bilderna manipuleras, så är vi också.

Principer för Deepfakes och hur man undviker att falla för en

Om det finns två saker som jag har lärt mig om och om igen i min övertalningsrelaterade forskning under de senaste 20 åren är det följande två principer:

1) Det är lätt att lura människor.

Människor är lättlästa. Även när de vet att det är en annons tenderar de att tro vad de ser! Annonsörer har länge dragit nytta av denna godtrohet: Annonser förlitar sig ofta på tricks, specialeffekter eller artificiell intelligensverktyg som deepfakes för att skapa make-believe-ljud, bilder eller videor som människor faktiskt tror. I ett forskningsprojekt om gröntvätt fann vi att konsumenter naturligtvis drar slutsatsen att en bil är bättre för miljön om dess webbplats innehåller naturframkallande bilder. Precis som barn tror att Hot Wheels verkligen kan flyga, tror vuxna lätt att hudkrämer kan få oss att se yngre ut.

Varje gång jag kör ett psykologiexperiment förvånar jag mig över hur lätt människor luras av vad de ser eller läser. Till exempel, i ett forskningsprojekt som fokuserade på hur olika typer av kändispåståenden påverkar konsumenterna testade jag experimentellt konsumentreaktioner på en bild som visar Sarah Jessica Parker som innehar ett nytt varumärke energidryck. Även med mina nybörjare fotoredigeringsfärdigheter kunde jag infoga en bild av den flaskdrycken på originalbilden för att använda i min studie.

Att bara presentera denna doktorerade bild från en "kommande annons för energidrycken" (det vill säga som en traditionell kändis), som en "scen från en kommande film" (det vill säga som en produktplacering) eller som ett "foto taget av en förbipasserande "(som visar SJP som en äkta användare av varumärket) genererade helt olika reaktioner på energidrycksvarumärket och till och med villighet att betala för det varumärket.

2) Det är också lätt att lära sig att inte bli lurad.

Lyckligtvis kan konsumenter vara vaksamma nog för att bedöma när de luras och lära sig att inte luras. Nyckeln är att upptäcka att någon eller något meddelande försöker övertyga oss och få tillgång till det som forskare kallar "övertalningskunskap", en uppsättning defensiva verktyg mot att luras till att tro ett meddelande, ett påstående eller ett försäljningsförsök.

Många studier, inklusive mina egna, har visat att övertalningskunskap tillåter konsumenter att motstå inflytande försök. Till exempel, i forskning om hur vi kan förhindra TV-tittare att inte bara tro vad de ser i TV-serier, fann vi att det helt enkelt är att påminna dem om att det de ser i TV-serier är fiktivt, dvs "inte riktigt", för att minska påverkan.

Steg ett är att upptäcka ett övertalningsförsök . Medan vissa djupfakes är lätta att upptäcka (till exempel på grund av att läppsynkronisering eller ögonkontakt är avstängd eller glitch ger bort manipulationerna), gör tekniska framsteg det allt svårare att veta vad som är verkligt och vad som är falskt. Ändå kan även högkvalitativa deepfakes flimra mellan ramar som avslöjar att originalbilden manipulerades. Frågan är att de flesta inte är utbildade för att se upp för djupa förfalskningar - medan de verkligen blir vanligare, är de ännu inte i mainstream för att vara uppmärksam för de flesta. Genom att vara medveten om att deepfakes är något att se upp för kan vi bli mer vaksamma och vara på utkik.

En gång upptäckt, ta reda på källan till och motivationen bakom djupfaken. Tidiga djupfakes användes ofta i form av "hämndporr" och kartlade kvinnliga kändisers ansikten på porrstjärnor. Deras mål var att skämma kändisarna i fråga. Även om vissa förfalskningar är avsedda för satire eller humor, syftar många tyvärr bara till att skämma en Hollywood-kändis, en politisk person eller till och med vanliga människor. Att veta orsaken till att någon manipulerar sitt ansikte eller röst hjälper till att bedöma om manipulationen är i skämt, för skojs skull eller satir, eller om den är för mindre ädla syften.

En varning : det är lättare att upptäcka en övertygande överklagande när det ser ut som en vanlig reklam än när den är lika sofistikerad som en djupfake. Deepfakes har faktiskt kallats ut för sin höga potential för felinformation och desinformation av den anledningen att de är svåra att upptäcka. Till exempel var en reklamfilm från State Farm som sändes på ESPN 2020 i själva verket en djupfake: 1998-videofilmer av det tidigare ESPN SportsCenter-ankaren Kenny Mayne manipulerades för att se ut som om Kenny Mayne gjorde chockerande noggranna förutsägelser om år 2020. [CR3] Roligt, ja, men besvärande ändå.

Eftersom det kan vara för svårt för vanliga konsumenter att upptäcka deepfakes investerar sociala medieplattformar som Facebook och Instagram i AI-driven deepfake-upptäckt så att de kan ta bort dem om de bryter mot deras plattformspolicy eller varnar Facebook-användare om att den ursprungliga bilden eller videon var manipuleras.

Men jag skulle vilja hävda att konsumenter kan bekämpa ännu högre nivåer av falskhet genom att gräva i ännu högre nivåer av medvetenhet och lita på tarmen när det gäller att ifrågasätta äktheten hos ett misstänkt utseende medieklipp. Med andra ord kräver bekämpning av djupa förfalskningar en djup dos av skepsis . Lita inte bara på allt du ser. Bedöm källan och vilka motiv som kan vara på spel och fortsätt att närma oss vår ständigt utvecklade tekniska värld med en hälsosam dos av försiktighet.