Artificiell intelligens tech kunde leda till nya former av it-relaterad brottslighet, politiska störningar och fysiska attacker inom fem år, säger experter
@alexhern
Ons 21 Feb 2018 06.01 GMT
Senast ändrad Ons 21 Feb 2018 06.03 GMT
En ‘Mikado’ tyska styrkorna drone i Munster. Det är fruktade ‘drone svärmar’ försedd med små sprängämnen och självgående teknik kommer att användas till att utföra spårlöst mord i framtiden.
Foto: Patrik Stollarz/AFP/Getty Images
Hänsynslösa spridning av artificiell intelligens teknik kan möjliggöra nya former av it-relaterad brottslighet, politiska störningar och även fysiska angrepp inom fem år, en grupp av 26 experter från hela världen har varnat för.
I en ny rapport, den akademiska världen, näringslivet och den ideella sektorn experter, beskriva AI som en “dual use-teknik” med potentiella militära och civila användningar, besläktad med kärnkraft, sprängämnen och hacking verktyg.
“Som AI kapacitet att bli mer kraftfull och omfattande, vi förväntar oss att den ökande användningen av AI-system ska leda till expansion av befintliga hot, införandet av nya hot och en förändring för att den typiska karaktären av hot,” säger rapporten.
De menar att forskare måste överväga potentiella missbruk av AI långt tidigare i samband med sina studier än de gör i dag, och arbeta för att skapa lämpliga regelverk för att förhindra att skadlig användning av AI.
Om råd inte följs, rapport varnar, AI är sannolikt att revolutionera den ström av dåliga aktörer att hota vardagen. I den digitala sfären, säger de, AI kan användas för att minska de hinder för att utföra skadliga hacking attacker. Tekniken kan automatisera upptäckten av kritiska fel i programvaran eller snabbt välj potentiella offer för den ekonomiska brottsligheten. Det kan även användas för att missbruk Facebook-stil algoritmisk profilering för att skapa “social engineering” – attacker som syftar till att maximera sannolikheten för att en användare kommer att klicka på en skadlig länk eller ladda ner en infekterad bifogad fil.
Det ökande inflytandet av AI i den fysiska världen innebär att det är också sårbara för AI missbruk. De mest diskuterade exemplet innebär weaponising “drone svärmar”, att förse dem med små sprängämnen och självgående teknik och sedan ställa dem lös för att utföra spårlöst mord som så kallade “slaughterbots”.
‘AI kommer att vara mycket fördelaktigt, och redan är, att det gäller it-säkerhet, säger Dmitri Alperovitch, en av grundarna av information bevakningsföretag CrowdStrike. Foto: Rob Engelaar/EPA
Politiska störningar är lika sannolika, rapporten argumenterar för. Medlemsstaterna kan besluta att använda automatiserad övervakning plattformar för att undertrycka oliktänkande – såsom redan är fallet i Kina, särskilt för uigurer i landets nordvästra. Andra kan skapa “automatisk, hyper-personlig desinformation kampanjer”, med inriktning på varje enskild väljare med en särskild uppsättning av lögner som syftar till att påverka deras beteende. Eller AI skulle helt enkelt kunna köra “denial-of-information attacker”, genererar så många övertygande falska nyhetsartiklar som legitima information blir nästan omöjligt att urskilja från buller.
Seán Ó hÉigeartaigh av University of Cambridge, centrum för studiet av existentiell risk, en av rapportens författare, sade: “Vi lever i en värld som kunde bli fylld med dag-till-dag faror från missbruk av AI och vi måste ta ansvar för det problem – eftersom riskerna är verkliga. Det är val som vi måste göra nu, och i vår rapport är en call-to-action för regeringar, institutioner och privatpersoner över hela världen.
“För många decennier hype överstigit faktum i termer av intelligens och maskininlärning. Inte längre. Denna rapport föreslår metoder som kan hjälpa till: till exempel hur man designar mjukvara och hårdvara för att göra det mindre hackable – och vilken typ av internationella lagar och förordningar kan arbeta tillsammans med detta.”
Inte alla är övertygade om att AI utgör en sådan risk, dock. Dmitri Alperovitch, en av grundarna av information bevakningsföretag CrowdStrike, sade: “jag är inte av den uppfattningen att himlen kommer att komma ner och jorden öppna upp.
“Det kommer att bli förbättringar på båda sidor, detta är ett pågående kapprustning. AI kommer att vara mycket fördelaktigt, och redan är, att det gäller cybersäkerhet. Det kommer även att vara till nytta för brottslingar. Det återstår att se vilken sida som kommer att dra nytta av det mer.
“Min prognos är att det kommer att vara mer fördelaktigt för den defensiva sidan, eftersom där AI lyser är i massiv insamling av data, som gäller mer att försvara än brott.”
Rapporten medger att AI är den bästa försvar mot AI, men hävdar att “AI-baserade försvar är inte ett universalmedel, särskilt när vi ser bortom den digitala domänen”.
“Mer arbete bör också göras för att förstå den rätta balansen av öppenhet i AI, utveckla förbättrade tekniska åtgärder för formellt verifiera tillförlitligheten i systemen, och att se till att politiska ramverk som utvecklats i en mindre AI-infunderas världen att anpassa sig till den nya värld som vi skapar,” författarna skrev.
- Elon Musk leder 116 experter kräver totalförbud av killer robotar