Afbeelding: Jim Cooke (Foto: Getty)
De geschiedenis is vol bedrog. In 1983, het duitse tijdschrift Stern bekend dat het had eerder verworven zonder papieren dagboeken geschreven door Hitler, een vinden van de Britse historicus Hugh Trevor-Roper in eerste instantie aangekondigd als “een archief van grote historische betekenis.” In werkelijkheid, echter, een illustrator met de naam Konrad Kujau had geschreven de volumes zelf. Dankzij het onderzoek van historici op de duitse Federale Archief, werden ze al gauw bleek te zijn vervalsingen en de zogenaamde “Hitler Dagboeken” werd een waarschuwend verhaal over media frenzies.
Stel je voor, echter, als deskundigen kon het niet gemakkelijk identificeren van de dagboeken als frauduleus. En stel je voor, ook als vervalsers waren in staat om te creëren en te distribueren, ultra-realistische nep Nazi-records in een razend tempo. Tot slot, stel je voor als sommige van deze documenten zijn voor eeuwig bewaard als authentieke stukken van de Nazi-geschiedenis. Een bedreiging als dit wordt de rand steeds meer uit van de hypothetische en in de echte als de tools voor het snel creëren van realistische gemanipuleerd video ‘ s gaan mainstream. Deze video ‘ s, die gebruik maken van machine learning enten van een persoon die het gezicht op het lichaam van een ander, bekend als deepfakes—en ze worden ook steeds verontrustend goed.
Terwijl velen hebben angst om het potentieel van deepfakes verspreiden van desinformatie in het hier en nu, deze video ‘ s zou kunnen vervormen de realiteit lange na vandaag is nep nieuws gaat virale als ze verkeerd gearchiveerde als legitiem. Gizmodo sprak met een aantal historici, archivarissen, en professoren die bekend waren met de deepfakes fenomeen, van wie sommigen had pragmatische zorgen over. Gelukkig, archivarissen hebben een strak gevestigde beginselen bedoeld om de vangst van vervalsingen en schroef-ups, maar deze bescherming is alleen zo sterk als de instellingen die zorgen voor hen.
Roger Macdonald, de directeur van de televisie-archief in het Internet Archive, gekenmerkt deepfakes als een “dreigende gevaar” sinds vorig jaar, toen onderzoekers toonden aan dat ze kon creëren van realistische nep-video ‘ s van de voormalige president Obama gesynchroniseerd met audio clips.
“Bij de Universiteit van Washington team uit de synthetische Obama, beseften we dat het publiek de drempel was overgestoken,” zei Macdonald, “en we delen de zorgen van andere archivarissen en veel mensen binnen de media en anders die de zorg over de werkelijkheid.”
David Staley, associate professor aan de Ohio State University, die doceert in digitale geschiedenis en historische methoden, weerklonk Macdonald ‘ s sentiment. “Als een historicus, een van de dingen die ik maak me zorgen over wat er gebeurt met de record die is achtergelaten als een video wordt gesleuteld, bijvoorbeeld, en het is niet direct zichtbaar dat het is geweest”, zei Staley. “Dat heeft allerlei gevolgen, denk ik.”
Terwijl deepfakes vormen een verontrustend high-tech challenge aan fact-checkers, slachtoffers, en het algemene publiek, echter, desinformatie zelf is nauwelijks roman. Voor ten minste één archivaris, deze video ‘ s zijn gewoon de nieuwste versie van de eeuwenoude problemen zoals fraude, gemanipuleerde media en propaganda.
“Het is iets archieven hebben behandeld voor eeuwen,” Yvonne Ng, een senior archivaris bij de GETUIGE, een non-profitorganisatie die zich richt op het verzamelen van video-bewijs van schendingen van de mensenrechten, vertelde Gizmodo. “De deepfake is een nieuwe draai aan dit proces, maar de archieven hebben altijd te maken gehad met een vals of vervalst of plagiaat—en zelfs onbedoelde schade en achteruitgang van de toestand—en vervolgens te bepalen van de authenticiteit van de objecten met al deze overwegingen in het achterhoofd.”
Archivarissen zijn bezig met de herkomst, de oorsprong en de chain of custody van informatie, ver voor de komst van deepfakes en digitale manipulatie-instrumenten. Ng gezegd dat een goede historische analogie te deepfakes voor archivarissen zou portret schilderijen, op te merken dat deze werden vaak beschilderd lang na hun onderwerpen waren overleden. Ze zei dat je nog steeds document van zo ‘ n schilderij in uw archivaris collectie, maar er zijn verschillende dingen te onderzoeken om te bepalen hoe waarheidsgetrouw het werk is. Ze zei dat je zou kunnen kijken naar de kleding en gebouwen in het schilderij, om te zien of ze representatief zijn voor de periode wanneer het onderwerp in leven was, maar ook wie de schilder was, en alsof ze levend waren op hetzelfde moment als het onderwerp. Op een fysiek niveau, een archivaris zou kunnen kijken naar het formaat van het schilderij, wat het type van verf en materialen zijn gebruikt, en of deze kan worden gedateerd, Ng gezegd.
“Archival methoden zijn niet in de eerste plaats over het gereedschap en de techniek,” Ng opgemerkt. “Archival methoden hebben altijd al meer over het hebben van gecontroleerde en consistente beleid en de regels.” Ze zei dat de beschrijvingen van de informatie en de metadata zijn een belangrijk onderdeel van de archief-werk: In andere woorden, het documenteren van de context van de inhoud.
Macdonald zei dat het probleem niet deepfakes het betreden van het historische record geheel. In feite, zo beweerde hij, dat ze moeten worden bewaard. De video ‘ s zijn diep vertegenwoordiger van een tijd wanneer desinformatie is troublingly realistisch en vragen van authenticiteit zijn een bezorgdheid van het publiek—een tijd waarin ons vermogen om de waarheid te onderscheiden is in een race tegen de technologische vooruitgang.
“We hoeven niet bang te documenteren iets,” zei Macdonald, “zolang we nauwkeurig over wat wij document.” Hij uitvoerig over een hypothetische situatie waarin een nieuws programma uitgezonden een deepfake video, ongeacht of zij zich bewust waren dat de video werd gemanipuleerd. “We zijn zeer geïnteresseerd in het maken van zeker dat we behouden die,” zei hij, “en dus de enige manier dat bibliotheken en archivarissen kunnen worden uitgedaagd in termen van voor de gek gehouden is met ons begrip van de bron verkeerd of later beschadigd.”
De meer verontrustende mogelijkheid met deepfakes is dat historische records worden gemanipuleerd door de media gepresenteerd als de werkelijkheid, of dat is omdat een archivaris was niet in staat om een video van de oorsprong juist is, of omdat iemand in staat was om te infiltreren records en manipuleren.
“De klassieke dystopische zorg is vertegenwoordigd in 1984, waar de geschiedenis werd vernietigd,” aldus Macdonald. Volgens Macdonald, de vernietiging van de geschiedenis is een grote zorg voor het Internet Archive en soortgelijke projecten, en de beste manier om te voorkomen dat het handhaven en beschermen van een veel exemplaren. “Het is van vitaal belang dat er ernstige redundantie, en is er niet,” zei hij. “Op de tweede plaats in de 1984-scenario, niet alleen de geschiedenis was vernietigd, maar het was ook herschreven, dus het is van essentieel belang dat een verscheidenheid van robuuste technieken worden gebruikt om te verzekeren dat de records die bibliotheken houd niet zijn gewijzigd.”
Nicolas Taylor, een programma-manager voor de LOCKSS en Web Archivering van programma ‘ s aan de Stanford University, zei dat ze “onderschrijven een bijzonder paranoïde aanpak van digitale bewaring.” LOCKSS staat voor “veel exemplaren houden spullen veilig,” en dat is het principe van het begeleiden van Stanford programma veroorloven bibliotheken en uitgevers met de middelen die ze nodig hebben voor het digitaal bewaren van inhoud voor eeuwig. Hij zei dat de aanvallen op hun systemen—of door een externe hacker of een bevoorrechte insider toegang—zijn iets wat ze in overweging nemen. En zou het niet hebben als iemand met kwade bedoelingen: ze konden hebben gewoon een fout gemaakt.
“We willen om systemen op te bouwen waar het knoeien is evident en vraagt waarschuwingen,” zei Taylor. “We willen een systeem waarbij de integriteit van de informatie wordt bepaald door de consensus van collega’ s.”
Indien van toepassing redundantie maatregelen worden genomen, Taylor stelde dat een aanvaller in staat zou zijn om compromissen te sluiten en alle kopieën van de informatie bijna gelijktijdig. Dit zou een aantal indrukwekkende coördinatie, en zo verontrustend als het is om te denken aan een toekomst waarin de digitale propaganda is bewaard gebleven zoals de officiële geschiedenis, deepfake aanvallen zijn verre van een prioriteit van archivarissen.
Taylor zei dat het geheugen instellingen en digitale bewaring projecten zijn het meest bezorgd over de “goedaardige en passieve bedreigingen voor de integriteit van digitale informatie na verloop van tijd,” zoals “beetje rot” (een term die voor het geleidelijke verval van de opslag van gegevens), het falen van de opslag media, bedreigingen voor het milieu, natuurrampen, en de hardware en software van veroudering.
“Ik denk dat er een interessante vraag over, indien de waarde en het doel van deepfakes is om te dienen enkele propagandistische doelen,” Taylor zei. “Het kan alleen maar een beetje van een bepaalde subset van deepfakes waar het echt waardevol om te proberen en het witwassen van hen door middel van een archief in plaats van te proberen om hun maximale effect door meer mainstream kanalen.”
Gregory Wiedeman, een universiteit archivaris bij University at Albany, SUNY, zei deepfakes zijn “meer van een lange termijn probleem.” “Het klinkt een beetje eng en we hebben meer directe doelen die ik ben meer bezorgd over,” zei Wiedeman, “maar ik denk ook wij hebben een soort van procedures en best practices op zijn plaats en we hopen dat we kunnen rekenen op hen. En als we dat weten kunnen we niet, we aanpassingen maken.”
Voor archivarissen, het is begrijpelijkerwijs moeilijk te wonen op een mogelijke toekomstige bedreiging als je nog steeds met het verleden en het heden. En de experts die ik sprak leek indrukwekkend goed uitgerust om deze uitdaging aan te gaan van deepfakes en om ervoor te zorgen dat ze juist gedocumenteerd zijn en redundant. Maar zelfs als de geschiedenis niet opgenomen misleid of kwaadwillig herschreven, zullen toekomstige generaties nodig hebben om zich uit te rusten met het vermogen om waar te nemen wat echt is en wat niet.
Het verhaal van de Hitler Dagboeken eindigt met een leerzame coda. In 2013 veel van de vervalste dagboeken werden geschonken aan de duitse Federale Archief—het instituut dat had blootgesteld hen als een fraude decennia eerder—als onderdeel van de journalistiek geschiedenis. “Deze documenten zijn van grote betekenis voor het verleden en de geschiedenis van de pers,” zei een archief woordvoerder op het moment. “Alles wat je leest in de kranten dat is koude koffie morgen, we bewaren voor de eeuwigheid.”
Uiteindelijk is de beste bescherming archieven bieden tegen de vervalsing van de geschiedenis kunnen hun zorgvuldige documentatie van eerdere fouten. Door het ondersteunen van de archivering van de projecten, zijn we er niet alleen voor zorgen dat het verleden bewaard is gebleven nauwkeurig, maar het maken van een gids voor de toekomst door de kroniek van de lange relatie tussen media en bedrog.
Macdonald stelde dat archivarissen, bibliotheken, en de maatschappij in het algemeen nodig om te “investeren in zijn geheugen,” zei, “ik denk dat het heel belangrijk is dat veel mensen er zich van bewust dat ons verslag van wat er gebeurt zou kunnen worden vernietigd of veranderd zouden kunnen worden.”
Vandaag de dag, dat de dreiging voor onze collectieve geheugen misschien beetje rot. Morgen, aanvallen door deepfake propagandisten. De dag na dat momenteel onvoorstelbare gevaar. In de tussentijd zijn we zou het verstandig zijn om niet alleen houden veel van kopieën, maar doen ons best om te kijken naar hen regelmatig en proberen te leren van onze fouten.
Deel Dit Verhaal