En ny konkurrence varsler, hvad der er tilbøjelige til at blive fremtiden for cybersikkerhed og cyberwarfare, med offensiv og defensiv AI algoritmer, der gør kampen.
Den konkurrence, som vil spille ud i løbet af de næste fem måneder, er ved at køre Kaggle, en platform for data videnskab konkurrencer. Det vil pit forskere’ algoritmer mod hinanden i et forsøg på at forvirre og narre hinanden, håb er, at denne kamp vil give indsigt i, hvordan til at hærde machine-learning system mod fremtidige angreb.
“Det er en genial idé til at katalysere forskning i både narre dybt neurale netværk og designe dybt neurale netværk, der ikke narre,” siger Jeff Clune, en assisterende professor ved University of Wyoming, der studerer grænser for machine learning.
Konkurrencen består af tre dele. En udfordring vil indebære bare prøver at forvirre en maskine-learning system, så det ikke virker ordentligt. En anden vil inddrage forsøger at tvinge et system til at klassificere noget forkert. Og en tredje vil omfatte udvikling af de mest solide forsvar. Resultaterne vil blive præsenteret på en stor AI konference senere på året.
Machine learning, og dyb læring, er hurtigt ved at blive et uundværligt redskab i mange brancher. Den teknologi, der involverer fodring data i en særlig form for edb-program, angiver et bestemt resultat, og at have en maskine udvikle sin egen algoritme til at opnå resultatet. Dyb læring gør dette ved at finjustere parametre af et stort, sammenhængende net af matematisk simuleret neuroner.
Abonnere på Download
Hvad der er vigtigt inden for teknologi og innovation, der leveres til dig hver dag.
Tilmeld
Tak — tjek venligst din e-mail for at bekræfte dit abonnement.
Forkert e-mail-format
Administrer dine indstillinger for nyhedsbrev
Det har længe været kendt, at machine-learning systemer kan blive lokket. Spammere kan, for eksempel, unddrage moderne spam-filtre ved at finde ud af, hvilke mønstre filter ‘ s algoritme er blevet uddannet til at identificere sig med.
I de seneste år, men forskere har vist, at selv de klogeste algoritmer kan nogle gange blive vildledt på overraskende måder. For eksempel, dyb-learning algoritmer med nær-menneskelige evne til genkendelse af objekter i billeder kan lade sig narre af tilsyneladende abstrakt eller tilfældige billeder, der udnytter det lave niveau mønstre, som disse algoritmer kigge efter (se “Den Mørke Hemmelighed i Hjertet af AI”).
“Kontradiktorisk machine learning er vanskeligere at studere end konventionelle machine learning—det er svært at fortælle, hvis dit angreb er stærk, eller hvis dit forsvar er faktisk svag,” siger Ian Goodfellow, en forsker ved Google Hjernen, en division af Google, der er dedikeret til forskning og anvendelse af machine learning, der arrangerede konkurrencen.
Som machine learning bliver udbredt, frygten er, at et sådant angreb kunne bruges til profit eller ren fortræd. Det kunne være muligt for hackere at omgå sikkerhedsforanstaltninger for at installere malware, for eksempel.
“It-sikkerhed er helt sikkert på vej mod machine learning,” Goodfellow siger. “The bad guys vil være ved hjælp af machine learning til at automatisere deres angreb, og vi vil være ved hjælp af maskinen at lære at forsvare.”
I teorien, kriminelle kan også bamboozle stemme – og face-recognition systems, eller endda sat plakater op for at narre vision systemer i selvkørende biler, der forårsager dem til at gå ned.
Kaggle er blevet et uvurderligt grobund for algoritme udvikling, og et arnested for talentfulde data forskere. Virksomheden blev købt af Google i Marts og er nu en del af Google Cloud platform. Goodfellow, og en anden Google-Hjerne forsker, Alexey Kurakin, forelagt idéen for den udfordring, før købet.
Benjamin Hamner, Kaggle medstifter og CTO, siger, at han håber, at konkurrencen vil henlede opmærksomheden på, at en truende problem. “Som machine learning bliver mere og mere udbredt, forståelse af de problemer og risici fra kontradiktorisk læring bliver stadig vigtigere,” siger han.
Fordelene ved den åbne konkurrence opvejer enhver risiko, der er forbundet med at offentliggøre nye former for angreb, tilføjer han: “Vi mener, at denne forskning er bedst skabes og deles åbent, i stedet for bag lukkede døre.”
Clune, i mellemtiden, siger, at han er opsat for konkurrencen at teste algoritmer, der angiveligt kan modstå angreb. “Mine penge er på de netværk, som fortsætter med at være snydt for en overskuelig fremtid,” siger han.