Ja, mit AI ansigt-swap forsøg kan vise, hvor svært det er at lave en deepfake – men det bliver nemmere hver eneste dag
@alexhern
Mon 12 Mar 2018 06.00 GMT
Sidst opdateret om Mon 12 Mar 2018 06.01 GMT
Maggie Kan … men min Theresa Thatcher falske ser overraskende ligner Victoria Træ.
Foto: Alex Hern til the Guardian
MPs fra House of Commons undersøgelse af falske nyheder blev advarede i sidste uge af en ny AI teknologi, der handler om at ændre verden, og ikke til det bedre.
“Vi er hastigt på vej ind i en æra, hvor Russerne, eller enhver anden modstander, kan skabe vores offentlige tal at sige eller gøre ting, der er uværdige eller stærkt ætsende offentlige tillid,” Edward Lucas, der er senior vice præsident for Centre for European Policy Analyse fortalt Parlamentsmedlemmer. “Og vi er ikke fjernt klar til dette.”
Lucas var tale om såkaldte deepfakes, som han beskrev som “audio og video, der ligner og lyder som den rigtige person, der siger noget om, at denne person aldrig har”.
Mindre end tre måneder siden, at producere sådanne videoer var en omstændelig proces, der kræver en video editor, kan store mængder af reference optagelser og mange års erfaring. Men i de første par måneder af dette år, den teknologi, der er eksploderet i den offentlige tilgængelighed.
Jeg ønskede at teste advarsler om Lucas, og dem, der før ham, for at finde ud af, hvor tæt vi er på at denne fagre nye verden. Jeg fandt, at mens det er rigtigt, det er nu nemmere end nogensinde at skabe en overbevisende falske video med to ansigter byttes, er det stadig ikke helt let.
Ansigt-byttet porno
Vis en neurale netværk, der er nok eksempler på ansigter fra to berømtheder, og det vil udvikle sin egen mentale model af, hvad de ser ud, i stand til at generere nye ansigter med særlige udtryk.
Få den til at generere et sæt af udtryk på et ansigt, der er kortlagt på et andet ansigt, og du har starten på en overbevisende, som genereres automatisk, aldeles falsk video. Og så, naturligvis, internettet har skabt en masse porno.
I December 2017 gælder det, at kun én person havde at gøre dette, med hånden, at poste sine resultater til Reddit. Ved starten af januar en app var blevet skabt, som tilbyder en nem-at-bruge software til at automatisere processen. I februar, har mere end 90.000 mennesker er medlemmer af et fællesskab, der er dedikeret til at skabe og dele den eksplicitte klip.
Men “let at bruge” kan betyde mange forskellige ting i tech samfund, fra “denne kommando linje værktøj ikke slette din harddisk, hvis du laver en stavefejl” at “råbe” spil Kesha’ på vores ildevarslende sort cylinder, og det vil gøre som du siger”. I januar, FakeApp var tættere på den første af dem, end det andet; det muntre navn foreslåede iPhone niveauer af lethed, men det var en frygtelig stykke software.
At låne en arbejdsstation computer fra Dell var det første skridt til at få det til at køre.Ligesom en masse af AI-tech, FakeApp er designet til at genbruge gaming Pc ‘ er med velnæret grafik-processorer, som Vogter hårdt mangler. Med den hardware, der sorteres, kampen med software kunne begynde.
Trump på Johnson v Thatcher Maj
Et fejlslagent Faceswap af Boris Johnson, og Donald Trump.
Som man kunne forvente fra en anonym udvikler app, der er bygget for at muliggøre ville-være pornographers til at krænke kropslige autonomi på en industriel skala, er det ikke særlig let at bruge.
Umærkede muligheder er overalt, den eneste tutorial er en 20-minutters YouTube-video, og det vil tøffe til fem minutter, før du simpelthen ikke med nogen forklaring, hvis du har gjort noget forkert. Og det er, hvis du er heldig. Hvis du ikke, du finder ikke ud til anden otte til 24 timers træning, hvorefter systemet producerer noget, der ligner denne:
Min Donald Trump på Boris Johnson testen havde svigtet på en række måder. For én, det løb tør for disk plads halvvejs igennem. Mens produktionen af FakeApp er forbløffende effektiv, som med mange neurale netværk, den proces af uddannelse netværket bruger en stor mængde hukommelse.
Men det viser sig også, Johnson og Trump er ikke så kompatibelt som avis tegnere måske har du mener. Trump er lyse orange hud tone betyder det, var det altid vil være mærkeligt at gips hans ansigt på Johnson ‘ s pasta-hvid krop. Hvad mere er, Trump ‘ s manglende evne til at stå stille eller snakke med kamera betyder, at systemet er i stand til at spotte hans ansigt for omkring halvdelen af de rammer, fordi det er skjult af hans hånd eller med forsiden vendt væk fra kameraet.
I sidste ende, at jeg havde mere succes. Et klip af Margaret Thatcher, som er taget fra et 15-minutters tv interview fra 1980’erne, virkede bedre, når klistret på et kort klip af Theresa Kan skudt i februar. Resultatet ser ud, overraskende, en masse som Victoria Wood:
En bedre faceswap af Theresa May, og Margaret Thatcher.
Mens bedre, denne swap stadig har spørgsmål. I Thatcher ‘ s interview, hun taler med en interviewer, som sidder off-screen snarere end direkte til kameraet. Det betyder, at den neurale netværk aldrig rigtig lærer, hvad hun ser som ansigt på, hvilket resulterer i nogle meget mærkelige billeder i den endelige video.
For Edward Lucas disse mærkværdigheder er omstridt. Han fortalte Parlamentsmedlemmer: “Det hele er en lille smule klodset. Det fungerer bedre i sort og hvid end i farver. Men på en måde, lidt kornet klodset sort og hvid video er mere overbevisende, fordi det ligner noget, folk kan have optaget på deres mobiltelefon.”
Moralsk grå og har svært ved at forene
De begrænsninger af den nuværende teknologi ikke kommer til at vare længe. Neurale netværk forskere er ved at opbygge systemer, der kan trænes på mindre og mindre information, og systemer, der kan skifte mere end blot ansigter, men også hoveder, hele organer, og selv stemmer. Blandt fagfolk, såsom swaps er blevet næsten en party trick, gjort for at vise hvor hurtig deres system virker, eller hvor meget mere troværdigt, det er end konkurrenterne.
Jack Clark
(@jackclarkSF)Her er grundlægger af SenseTime, Xiao’ou Tang, der viser off en Trumf<>Obama generativ AI faceswap ved lanceringen for et MIT AI initiativ, der SenseTime er at hjælpe med at finansiere. 2018 er at levere i form af AI-geopolitik skøre! https://t.co/emK9laObfu pic.twitter.com/iTHy5lVmwJ
1 marts 2018
I den anden ende af spektret, FakeApp og dens ligesindede er at få det bedre og lettere at bruge fra dag til dag. Under vores måned-lang test af FakeApp det har udviklet sig fra en jury-rigget bundt af command-line utilities for at en nogenlunde glat-en-knap-program. Lokalsamfundet har overlevet at blive smidt ud næsten alle sociale netværk vil, normalt til oprettelsen af “ufrivillig pornografi”, og der er samlet på et forum der drives af app ‘ s (anonyme) udviklere.
De ser sig selv som forvarsel af falske nyheder fremtiden, gør verden en tjeneste ved at sprede bevidsthed om, hvor let det er at skabe overbevisende falsknerier. “Hvad vi gør her, er ikke sunde eller ærefuldt, det er nedsættende, vulgært, og blindsiding at de kvinder, der deepfakes arbejder på,” en bruger skrev, i et bredt fælles indlæg nu slettet sammen med den subreddit, at det var fælles om.
“Når det er sagt, er det arbejde, vi laver her i dette fællesskab er ikke med ondsindede hensigter. Tværtimod. Vi er maleri med revolutionerende, eksperimentel teknologi, der kunne ganske muligvis forme fremtiden for medier og kreativt design.
“Ligegyldigt hvad der sker, denne teknologi ville blive en realitet. Intet kunne stoppe det. Og ironisk nok, er de sikreste hænder, til det skal i bare kan være offentligheden, med magt til at desensitise det, snarere end en eksklusiv par, med magt til at udnytte det.”
Ved denne læsning, deepfakes besætningen er oplysninger accelerationists, hastig død af vores fælles virkelighed for at sikre, at de smertefulde overgangsperiode, hvor ingen kan være sikker på, hvad der er virkeligt og hvad der ikke er, er overstået så hurtigt som muligt. Hvis alle og deres hund kender deepfakes, så måske skepsis vil regere, og Lucas ‘ frygt ikke vil blive realiseret.
At moralsk grå opfattelse, er svært at forene med den måde, fællesskabet forhandlinger mellem sig selv, når det tror, at ingen lytter. Deres fokus har tendens til at være direkte på pornografi – med det kendte ansigt-swaps bliver kun toppen af isbjerget. Hyppige anmodninger om hjælp er lavet for at producere ansigt-swaps af ex-kærester, klassekammerater og lærere, der udgør en del af årsagen til, at fællesskabet bliver smidt ud af Reddit.
Nye etiske bekymringer, der har opdraget deres hoveder, alt for: en moderator trådte hårdt, når det blev klart, at samlinger af fotos af Elle Fanning, der er 19 år, og Emma Watson, der er 27, sandsynligvis indeholdt billeder af dem taget, når de var yngre end 18 år. Det er slet ikke klart, hvad den juridiske og moralske konsekvenser, der er ved at bruge et datasæt, der indeholder billeder af en kvinde, som en voksen og et barn til at lære en AI, hvordan hun ser ud med henblik på at indsætte hendes ansigt over en pornografiske video af en anden kvinde – men ingen ønskede at tage deres chancer.
Og FakeApp er ikke den eneste forbruger-teknologi presser konvolutten. Adobe har software, der kan ændre en optagelse af en virkelig person, som let som at redigere en udskrift af deres bemærkninger. Baidu, kendt i Vesten som Kina ‘ s Google, kan gå et skridt videre, kloning en stemme, mens at ændre sin accent og køn.
Det er dystre. Men det kommer ikke til at gå væk. Den teknologi, der er offentligt tilgængelige, er udførligt dokumenteret, og genstand for forskning i hele verden. Dette er vores verden nu. Som Lucas advaret Parlamentsmedlemmer: “Du må ikke bruge for meget tid på at kigge i det spejl på, hvad Rusland gjorde til os, og kigge ud gennem forruden på, hvad der kommer hen ad vejen. Det er meget mere farligt.”