Kontroversen om Project Maven viser, at afdelingen har et alvorligt tillidsproblem. Dette er et forsøg på at rette op på det.
Af
16. november 2021
Ms Tech | Getty
I 2018, da Google-medarbejdere fandt ud af deres virksomheds involvering i Project Maven, en kontroversiel amerikansk militær indsats for at udvikle kunstig intelligens til at analysere overvågningsvideoer, var de ikke glade. Tusinder protesterede. “Vi mener, at Google ikke bør være i krigsbranchen,” skrev de i et brev til virksomhedens ledelse. Omkring et dusin medarbejdere sagde op. Google fornyede ikke kontrakten i 2019.
Project Maven eksisterer stadig, og andre teknologivirksomheder, herunder Amazon og Microsoft, har siden overtaget Googles plads. Alligevel ved det amerikanske forsvarsministerium, at det har et tillidsproblem. Det er noget, det skal tackle for at bevare adgangen til den nyeste teknologi, især kunstig intelligens – hvilket vil kræve samarbejde med Big Tech og andre ikke-militære organisationer.
Relateret historie
for at øge deres amerikanske regeringskontrakter brug af ansigtsgenkendelsesteknologi
En ny undersøgelse viser, at de kontroversielle systemer er klar til at spille en endnu større rolle i føderal virksomhed.
I et forsøg på at fremme gennemsigtighed har Defence Innovation Unit, som tildeler DoD-kontrakter til virksomheder, udgivet, hvad den kalder retningslinjer for “ansvarlig kunstig intelligens”, som det vil kræve, at tredjepartsudviklere bruger, når de bygger AI til militæret, uanset om denne AI er til et HR-system eller målgenkendelse.
Retningslinjerne giver en trin-for-trin proces, som virksomheder kan følge under planlægning, udvikling og implementering. De omfatter procedurer til at identificere, hvem der kan bruge teknologien, hvem der kan blive skadet af den, hvad disse skader kan være, og hvordan de kan undgås – både før systemet er bygget og når det er oppe og køre.
< p>“Der er ingen andre retningslinjer, der eksisterer, hverken inden for DoD eller, ærligt talt, USA's regering, som går ind på dette detaljeringsniveau,” siger Bryce Goodman ved Defence Innovation Unit, som var medforfatter til retningslinjerne.
Arbejdet kan ændre, hvordan AI udvikles af den amerikanske regering, hvis DoD's retningslinjer bliver vedtaget eller tilpasset af andre afdelinger. Goodman siger, at han og hans kolleger har givet dem til NOAA og Department of Transportation og taler med etiske grupper inden for justitsministeriet, General Services Administration og IRS.