Foto: Carsten Koall (Getty)
Fremtiden for kunstig intelligens og krig lyder ufatteligt high-tech, men det er ikke altid tilfældet.
Sandheden, for mindst en multimillion-dollar San Francisco start og sine kunder, Google og det AMERIKANSKE militær, er, at opbygge banebrydende AI tilsyneladende involverer en gruppe af gammeldags mennesker slibning gennem bjerge af data, ofte med ingen idé om, hvad de arbejder på.
Google-ansat koncert arbejdstagere fra en “menneske-in-the-loop” machine learning selskab kaldet Figur Otte i orden til at hjælpe med at udvikle virksomhedens kontroversielle Projekt Maven initiative, et projekt med det AMERIKANSKE Forsvar Afdeling på at udvikle en kunstig intelligens program til at analysere drone-optagelser, ifølge en mandag rapport fra skæring.
Disse arbejdere havde ingen idé om, at de arbejdede for hverken Google eller den AMERIKANSKE militære, Figur Otte account executive Vil Pleskow efter sigende fortalte Opfange. Gig arbejdstagere på denne form for crowdsourcing platform kan tjene så lidt som $1 per time for “mikro-opgaver” som en del af en model kaldet “human-in-the-loop”, der er konstrueret til at have mennesker udfylder på opgaver, hvor computere har typisk ikke.
Projektet Maven først kom frem i lyset sidste år, da Gizmodo rapporteret Google ‘ s partnerskab med det AMERIKANSKE Department of Defense at bygge en AI program til at analysere drone-optagelser. Google har besluttet imod en fornyelse af kontrakten, efter ramaskrig og en firestorm blandt medarbejderne først at lære af projektet.
Tusindvis af Google-medarbejdere har underskrevet en underskriftsindsamling med krav om Google annullere kontrakten, og snesevis af fratrådte medarbejdere fra virksomheden.
Selv om Google embedsmænd forsvarede virksomhedens engagement i Projektet Maven og har præget arbejdet som mindre, e-mails anmeldt af Gizmodo viste Google kontaktpersoner oplevede en enorm mulighed for vækst i muligheden for lukrative forretning med Pentagon og projekter, der i sidste instans kan føre til en banebrydende AI-drevet system, der kan surveilling hele byer.
Det faktum, at Google fandt den sjældne skridt af opbakning fra Pentagon kontrakter værd, ledere håbede, potentielt op til $250 millioner i vid udstrækning skyldes, at medarbejderen oprør gør det endnu mere slående er det, at virksomheden havde et uspecificeret antal koncert arbejdstagere, der har til opgave at bygge drone AI program, der ikke gjorde, og kunne ikke vide, hvad de var ved at bygge. At tavshedspligten er ved at designe.
Google-medarbejdere, der er skubbet tilbage mod Projektet Maven er typisk de traditionelle og relativt velhavende tech arbejdstagere, der er forbundet med Silicon Valley. Det er det generelt er dårligere og mindre-understøttet koncert arbejdstagere, der er beliggende rundt omkring i verden—tech arbejdstagere i deres egen ret, der har lidt brug for at vide, eller have indflydelse på Silicon Valley giants, de indirekte arbejde for.
“Bidragydere til ottetallet platform er ikke givet, hvem de data, der vil være til gavn,” en tidligere crowd arbejdstager fortalte Opfange. “Normalt, de er givet en begrundelse for hvorfor de laver en opgave, som, ‘Trække felter omkring et bestemt produkt for at hjælpe maskiner genkende det,” men de er ikke givet den virksomhed, der modtager data.”
I henhold til Figur Otte Pleskow, de mennesker, der ikke “mikro-opgaver” for virksomheden sjældent kendt, hvilken slags program, de er under uddannelse.
“Menneske-in-the-loop (HITL) er en gren af kunstig intelligens, der udnytter både menneske og maskine intelligens til at skabe machine learning modeller,” ottetal ‘ s marketing materiale, der forklarer. “I en traditionel human-in-the-loop tilgang, mennesker er involveret i en god cirkel, hvor de tog, tune, og afprøve en bestemt algoritme.”
Meredith Whittaker, en forsker ved NYU ‘ s AI Nu Institute, sagde, at historien illustreret centrale spørgsmål,” om fremtiden for AI.
At følge op på den meget offentlige turbulens over selskabets engagement med Pentagon, har Google udgivet en opdateret sæt af kunstig intelligens etiske principper, der omfatter et løfte om at “være ansvarlig over for mennesker.” Når du bliver spurgt, om dette princip ville påvirke denne form for blind arbejde i fremtiden, selskabet reagerede ikke.
Google ‘ s Projekt Maven kontrakt udløber engang i 2019. Selskabet har ikke svare på Gizmodo ‘ s anmodning om kommentar eller spørgsmål om kontrakten er nøjagtige tidslinje. Figur Otte heller ikke svare på spørgsmål.
Dele Denne Historie