Ledarna för mer än hundra ledande företag inom området artificiell intelligens är mycket oroad över utvecklingen för “killer robotar”. I ett öppet brev till FN: s dessa företagsledare, inklusive Elon musk av Tesla och grundarna av Google DeepMind, har varnat för att användningen av teknik Autonoma vapen kan göras av terrorister och despoter, eller i varierande grad kommer att bli hackad.
Men den verkliga faran är mycket allvarligare – och det är inte bara mänskligt beteende, men också i motorn. Studier av komplexa system visar att de kan bete sig mycket mer oförutsägbara än kan slutsatsen dras av från summan av de enskilda åtgärderna. Å ena sidan detta innebär att det mänskliga samhället kan bete sig på ett helt annat sätt än du kanske tror, att studera beteendet hos individer. Å andra sidan, detta gäller även teknik. Även ekosystem enkel artificiell intelligens program – som vi kallar dum, bra robotar kan överraska oss. Även den individuella robotar kan bete sig fruktansvärt.
De enskilda objekt som består av komplexa system såsom ekonomiska marknader eller globalt väder, som inte tenderar att interagera i en enkel linjär sätt. Detta gör att dessa system är mycket svårt att modellera och förstå. Till exempel, även efter år av forskning klimat är det omöjligt att förutsäga långsiktiga beteende av vädret. Dessa system är så känsliga att de minsta förändringar i hur explosiva de reagerar. Det är mycket svårt att veta det exakta läget av ett sådant system på en viss punkt. Allt detta gör att dessa system internt oförutsägbar.
Alla dessa principer gäller stora grupper av personer som agerar på sitt eget sätt, att det mänskliga samhället eller en grupp av robotar med artificiell intelligens. Nyligen har forskare studerat en av de typer av komplexa system där bra robotar används för att automatiskt redigera artiklar på Wikipedia. Dessa olika robotar är utformade, skrivs och används av trusted svenskspråkiga Wikipedia, och deras underliggande mjukvara är öppen och tillgänglig för alla. Individuellt, de har ett gemensamt mål att förbättra uppslagsverket. Men deras kollektiva beteende visade sig vara förvånansvärt ineffektivt.
Baserat på arbete av dessa robotar med Wikipedia är väl etablerade regler och konventioner, men eftersom den webbplatsen har ingen Central kontroll system, det finns ingen effektiv samordning mellan de personer som driver olika robotar. Resultaten visade ett par bots, som under flera år hade avbrutit ändringar till varandra och ingen märkte. Och, naturligtvis, eftersom dessa robotar kan inte lära sig, att de inte märker.
Dessa robotar är utformade för att snabba upp redigeringen. Men små skillnader i utformning mellan robotar och människor att använda dem, kan leda till ett stort slöseri med resurser i det pågående “kriget för att redigera”, som skulle lösas mycket snabbare med hjälp av redaktörerna.
Forskarna fann också att de robotar som beter sig på olika sätt i olika språkversioner av Wikipedia. Regler, verkar det, som är nästan samma, de mål som är identiska, tekniken är liknande. Men i den tyska Wikipedia samarbete var mycket mer effektiva och produktiva än, till exempel, på portugisiska. Detta kan endast förklaras av skillnader mellan redaktörer-människor som har ansvar för dessa robotar i olika miljöer.
Exponentiell förvirring
Wikipedia inte har en bred autonomi och systemet fungerar i enlighet med tillämpningen av den individuella robotar. Men Wikimedia Foundation planer på att använda AI som kommer att ge mer självständighet till dessa robotar. Och detta kommer sannolikt att leda till ännu mer oförutsägbart beteende.
Ett bra exempel på vad som kan hända, visade bots, som skapats för att prata med folk när de var tvungna att kommunicera med varandra. Vi är inte längre förvånad över de svar som personliga assistenter som Siri. Men få dem att kommunicera med varandra och att de snabbt kan börja bete sig på ett oväntat sätt, att argumentera och även förolämpa varandra.
Ju mer systemet blir och mer Självständig för varje bot blir, desto mer komplexa och oförutsägbara kommer att vara den framtida beteende i systemet. Wikipedia är ett exempel på arbete av ett stort antal relativt enkla robotar. Exempel på chat-robotar är ett exempel på ett litet antal relativt sofistikerad och snillrik robotar – i båda fallen finns det oförutsedda konflikter. Den komplexitet och därmed oförutsägbarhet växa exponentiellt i takt med att du lägger till i systemet av individualitet. Så när vi i framtiden kommer det att finnas system med ett stort antal mycket komplicerade robotar, oförutsägbarheten av dem kommer att gå bortom vår fantasi.
Blixtsnabb galenskap
Självstyrande bilar, till exempel, lovar att göra ett genombrott i effektivitet och trafiksäkerhet. Men vi vet fortfarande inte vad som händer när vi har mer vilda systemet är helt Autonoma bilar. De kan bete sig på olika sätt även inom en liten flotta av enskilda fordon i en kontrollerad miljö. Och ännu mer oförutsägbara kan inträffa när självstyrande bilar, “tränade” med olika människor på olika platser kommer att börja interagera med varandra.
Människor kan anpassa sig till nya regler och avtal som relativt snabbt, men det är svårt att växla mellan systemen. Konstgjorda medel kan vara ännu svårare. Till exempel, om “utbildad i Tyskland” bil, till exempel, gå till Italien, vi vet inte hur han kommer att lära sig de oskrivna kulturella avtalet, som följs av många andra “utbildad i Italien” bilar. Något vardagligt som passerar korsningen kan vara dödligt riskabelt, eftersom vi vet bara inte om maskinerna för att samverka på rätt sätt, eller börjar bete sig oförutsägbart.
Nu tänker killer robotar som stör Masken och hans kollegor. En mördarmaskin som kan vara mycket farliga i fel händer. Och systemet oförutsägbara killer robotar? Tänk själv.
Killer robotar? Sluta, även bra robotar är oförutsägbara till skräck
Ilya Hel