Grafik: Jim Cooke (Foto: Getty)
Historien er fyldt med forfalskninger. I 1983, det tyske magasin Stern meddelte, at det havde erhvervet tidligere udokumenteret dagbøger skrevet af Hitler, en finde den Britiske historiker Hugh Trevor-Roper i første omgang udråbt som “et arkiv af stor historisk betydning.” I virkeligheden, dog, en illustrator ved navn Konrad Kujau havde skrevet de mængder, sig selv. Tak til kontrol af historikere ved det tyske Arkiv, blev de snart viste sig at være falske, og den såkaldte “Hitler-Dagbøger” blev en fortælling om medier frenzies.
Forestil dig, men, hvis eksperterne kunne ikke umiddelbart identificere de dagbøger som bedragerisk. Og forestil dig også, hvis smører var i stand til at skabe og distribuere ultra-realistisk falske Nazi-registreringer i et rasende tempo. Endelig, tænk hvis nogle af disse dokumenter var for evigt bevaret som autentiske Nazistiske historie. En trussel som denne er kantning i stigende grad ud af den hypotetiske og ind i den virkelige som værktøjer til hurtigt at skabe realistiske manipulerede videoer gå mainstream. Disse videoer, som bruger machine learning til at pode en persons ansigt på kroppen af en anden, er kendt som deepfakes—og de får foruroligende god.
Mens mange har frygtet potentiale deepfakes til at sprede misinformation i det her og nu, at disse videoer kunne fordreje virkeligheden længe efter dagens falske nyheder går viral, hvis de er forkert arkiveret som legitime. Gizmodo talte med flere historikere, arkivarer, og professorer, der var bekendt med den deepfakes fænomen, og nogle af dem havde pragmatiske betragtninger om det. Heldigvis, arkivarer har stift etablerede principper, der er beregnet til at fange falsknerier og skrue-ups, men disse beskyttelser er kun så stærke som de institutioner, der leverer dem.
Roger Macdonald, direktør for tv arkiv på Internet Archive, der er kendetegnet deepfakes som “en truende trussel” siden sidste år, hvor forskerne viste, at de kunne skabe realistiske falske videoer af tidligere præsident Obama, der er synkroniseret til lydklip.
“Når University of Washington team sat ud af syntetiske Obama, indså vi, at det offentlige tærskel var blevet krydset,” sagde Macdonald, “og vi deler de bekymringer, andre arkivarer og masser af folk inden for medier og andet, der bekymrer sig om virkeligheden.”
David Staley, en professor ved Ohio State University, der underviser i kurser i digital historie og historiske metoder, der er gentaget Macdonald ‘ s stemning. “Som historiker, en af de ting jeg er bekymret over er, hvad der sker til den registrering, der er efterladt, hvis en video er sminket, for eksempel, og det er ikke umiddelbart indlysende, at det har været”, sagde Staley. “Der har alle mulige implikationer, tror jeg.”
Mens deepfakes udgør en foruroligende høj-tech-udfordring til virkeligheden-brikker, ofre, og den brede offentlighed, men misinformation, som i sig selv er næppe roman. For mindst en arkivar, at disse videoer er blot den seneste version af gamle problemer som bedrageri, manipulerede medier, og propaganda.
“Det er noget, arkiver, der har beskæftiget sig med i århundreder,” Yvonne Ng, en senior arkivar på VIDNE, en nonprofit, der fokuserer på indsamling video dokumentation af menneskerettighedskrænkelser, fortalte Gizmodo. “Deepfake er et nyt spin på denne proces, men arkiver har altid haft til at beskæftige sig med kopier eller forfalskninger eller plagiat—og endda utilsigtet beskadigelse og forringelse—og så er der for at fastslå ægtheden af objekter med alle disse overvejelser i tankerne.”
Arkivarer har været bekymret med proveniens, eller oprindelse og chain of custody af oplysninger, længe før fremkomsten af deepfakes og digital manipulation tools. Ng sagde, at en god historisk analogi til deepfakes for arkivarer ville blive portræt-malerier, der konstaterer, at disse var ofte malet længe efter, at deres fag var død. Hun sagde, at du stadig kan dokumentere sådanne et maleri i din arkivar samling, men der vil være forskellige ting at undersøge for at bestemme, hvor sandfærdig det arbejde, der er. Hun sagde, at du kunne se på tøj og bygninger i maleriet for at se, om de er repræsentative for den periode, hvor emnet var i live, samt hvem maleren var, og hvis de var i live på samme tid som emne. På et fysisk plan, en arkivar kan se på formatet af maleriet, hvilken type af maling og materialer, der blev brugt, og hvis de kunne være dateret, Ng sagde.
“Arkivers metoder er ikke primært om værktøjer og teknisk,” Ng er angivet. “Arkivers metoder har altid været mere om under kontrollerede og ensartede politikker og regler.” Hun sagde, at beskrivelser af oplysninger og dens metadata er en vigtig del af arbejdet arkivalier: med andre ord, der dokumenterer forbindelse med indholdet.
Macdonald sagde, at problemet ikke er deepfakes indtaste den historiske rekord helt. Faktisk mente han, at de bør bevares. Videoerne er dybt repræsentant for en tid, hvor misinformation er troublingly realistisk og spørgsmål om autenticitet er en bekymring i offentligheden—en tid, hvor vores evne til at skelne sandheden er væddeløb mod teknologiske fremskridt.
“Vi frygter ikke dokumentere noget,” sagde Macdonald, “så længe vi er ved at være præcise om det, som vi i dokumentet.” Han beskrevet en hypotetisk situation, hvor et nyhedsprogram udsendes en deepfake video, uanset om de var eller ikke var klar over, at video var blevet manipuleret. “Vi er virkelig interesserede i at sikre, at vi bevarer det,” sagde han, “og så den eneste måde, at biblioteker og arkivarer, kan blive udfordret i form af at blive snydt, er der vores forståelse af kilden være forkert eller senere ødelagt.”
De mere foruroligende muligheden med deepfakes er, at historiske optegnelser vil omfatte manipulerede medier præsenteres som en realitet, uanset om det er fordi en arkivar var ikke i stand til at identificere en video oprindelse korrekt eller fordi nogen var i stand til at infiltrere registreringer og manipulere med dem.
“Den klassiske dystopiske bekymring er repræsenteret i 1984, hvor historie blev ødelagt,” sagde Macdonald. Ifølge Macdonald, ødelæggelse af historie er et stort problem for Internet Archive og lignende projekter, og den bedste måde at forhindre det er at bevare og beskytte en masse kopier. “Det er afgørende, at der alvorlige redundans, og der er ikke,” sagde han. “For det andet i 1984 scenarie, ikke kun var historie ødelagt, men det var også omskrevet, så det er afgørende, at en række af robust teknikker bruges til at sikre, at de registreringer, som biblioteker hold ikke er blevet ændret.”
Nicolas Taylor, en program manager for LOCKSS og Web-Arkivering programmer på Stanford University, sagde, at de “godkende en særlig paranoid tilgang til digital bevaring.” LOCKSS står for “masser af kopier holde ting sikkert,” og er det princip, Stanford ‘ s program til at råd til biblioteker og udgivere med de ressourcer, de har brug for at bevare digitalt indhold for evigt. Han sagde, at angreb på deres systemer—hvad enten det er ved en ekstern hacker eller en privilegeret insider med adgang til—er noget, de tage hensyn til. Og det ville ikke være en person med ondsindede hensigter: de kunne bare have lavet en fejl.
“Vi ønsker at opbygge systemer, hvor manipulation er indlysende, og det får advarsler,” sagde Taylor. “Vi ønsker at opbygge et system, hvor integriteten af de oplysninger, der er bestemt af den konsensus, der er jævnaldrende.”
Hvis passende redundans foranstaltninger, der er truffet, Taylor forklarede, at en hacker at kompromittere alle kopier af de oplysninger, næsten samtidigt. Dette vil tage nogle imponerende koordinering, og som bekymrende, da det er at forestille sig en fremtid, hvor digitale propaganda er bevaret, som den officielle historie, deepfake angreb er langt fra en prioritering af arkivarer.
Taylor sagde, at hukommelse institutioner og digital bevaring-projekter er mest bekymret for “godartet og passiv trusler mod integriteten af digital information over tid,” såsom “bit rot” (et udtryk for den gradvise forfald af opbevaring af data), svigt af lagringsmedier, miljømæssige trusler, naturkatastrofer samt hardware og software forældelse.
“Jeg tror, der er et interessant spørgsmål, om hvis værdi og formål deepfakes er at tjene nogle propagandistisk formål,” Taylor sagde. “Det kan kun være i form af en særlig undergruppe af deepfakes, hvor det er virkelig værdifuldt at forsøge at hvidvaske dem gennem et arkiv, snarere end at forsøge at se deres maksimale effekt gennem en mere mainstream-kanaler.”
Gregory Wiedeman, et universitet, arkivar på University at Albany SUNY, sagde deepfakes er “mere af et langsigtet problem.” “Det lyder lidt skræmmende, og vi har mere umiddelbare mål, at jeg er mere bekymret for,” sagde Wiedeman, “men jeg tror også, at vi har en slags procedurer og best practices på plads, og vi håber, at vi kan stole på dem. Og hvis vi finder ud af vi ikke kan, vi foretager justeringer.”
For arkivarer, er det forståeligt nok vanskeligt at bo på en potentiel fremtidig trussel, når man stadig holder op med fortiden og nutiden. Og de eksperter, jeg talte med, virkede imponerende godt rustet til at tackle den udfordring, deepfakes og for at sikre, at de er dokumenteret korrekt, og redundant. Men selv om historien ikke er registreret misforstået eller skadelig omskrevet, at de kommende generationer bliver nødt til at udstyre sig selv med evnen til at opfatte, hvad der er virkeligt og hvad er ikke.
Historien om Hitler-Dagbøger ender med et lærerigt coda. I 2013, og mange af de falske dagbøger blev doneret til Tysklands Føderale Arkiv—netop den institution, der havde udsat dem som bedrageri årtier tidligere—som en del af journalistikkens historie. “Disse dokumenter er af stor betydning, at det er fortid og historie i pressen,” sagde et arkiv talsmand, som på det tidspunkt. “Alt, hvad du læser i aviserne, at der er koldt, og ved at i morgen skal vi bevare i al evighed.”
I sidste ende, den største beskyttelse arkiver tilbyde mod fordrejning af historien kan være deres omhyggelige dokumentation af tidligere fejl. Ved at støtte arkivering af projekter, har vi ikke blot sikre, at fortiden er bevaret præcist, men skabe en guide til fremtiden ved at chronicling de lange forholdet mellem medier og bedrag.
Macdonald hævdede, at arkivarer, biblioteker og samfundet generelt behov for at “investere i sin hukommelse,” siger, “jeg synes, det er meget vigtigt, at masser af folk bliver opmærksomme på, at vores registrering af, hvad der sker, kan blive ødelagt eller kan være ændret.”
I dag, der truer vores kollektive hukommelse kan være bit rot. I morgen, angreb af deepfake propagandister. Dagen efter, at nogle af de i øjeblikket ufattelige fare. I mellemtiden, vi vil være klogt at ikke kun holde masser af kopier, men gør vores bedste for at se på dem med jævne mellemrum og forsøger at lære af vores fejl.
Dele Denne Historie