(Auto)fuldstændig mislykkes: hvor søgeforslag holde fange Google ud

Tech giant ‘s algoritmer, kunne have været at gå på kompromis voldtægtsofre’ anonymitet – og det er ikke første gang, selskabet har været udløst op af AI-styrede systemer

@alexhern

Tue 22 Maj 2018 13.09 BST

Sidst opdateret Tir 22 Maj 2018 13.11 BST

Autocomplete and related-search suggestions are not always working as Google might hope.

Autofuldførelse og beslægtede-søgeforslag er ikke altid fungerer, som Google kunne håbe på.
Foto: Yui Mok/PA

Nogle gange, Google er bare lidt for gode til at udføre sit erklærede mål at “organisere verdens information og gøre den almindeligt tilgængelig og nyttig”. Tage søgeforslag, den nyttige funktion, der ser Google autocomplete sætninger skrevet i sin søgemaskine. Typen “Hvordan kan jeg kog makaroni …”, og stedet vil tilføje “ost” til ende, sparer du hele seks tastetryk. Vidunderligt!

Men det viser sig at der kunne være nogle mindre ønskeligt implementeringer af teknologien. Søgning-forslag funktion, og en lignende funktion, der tilbyder “relaterede søgninger” i bunden af resultatsiden, kunne være at hjælpe til at gå på kompromis ret til anonymitet af klagerne i UK voldtægt og seksuelle overgreb tilfælde. Type i sagsøgtes navn med en lille ekstra information og søgemaskine kan foreslå relaterede søgninger, der indeholder ofrets navn. Det er ikke første gang, at Google, eller en af deres konkurrenter i de store tech, er blevet fanget efter at overdrage kontrollen til AI-drevet, oversættelse af forslag.

• I 2016, Google blev smækket for sin søgning forslag og relaterede søgninger foreslår, hadefuldt materiale. “Er Muslimer …”, der tilbydes op: “Er dårlige Muslimer”. En søgen efter det, og den næste foreslået søg foreslåede simpelthen: “Islam skal blive ødelagt”.

• I februar dette år, selskabet står over for lignende kritik: “Hitler er …” førte til “my hero”, selv hyper-renset resultater, såsom “Blacks er …” – som har været manuelt fjernet af næsten alle automatiske forslag – stadig tilbudt “ikke undertrykt” som en mulighed.

• Andre steder i Google ‘s rige, at YouTube’ s søgeforslag (samme teknologi, men opererer på meget forskellige indhold) har haft sine egne problemer. I en kort periode i November, “Hvordan man har …” tilbudt “s*x [sic] med dine børn” som en mulighed. Disse forslag synes at være den moderne ækvivalent af Googlebombs, joke søgning sætninger skabt af tusindvis af mennesker, der linker til en hjemmeside med vildledende tekst (for lang tid, for eksempel søge efter “miserable failure” på Google førte til den officielle biografi om George w. Bush). Nok folk, der søger for en periode kan narre algoritme til at tro, at det er en rigtig ting.

• Når læring går galt, de kan nogle gange gå rigtig galt. Apple ‘ s autokorrektur ændringer hver standalone lille “jeg” til et stort en – men for et stykke tid i 2017 gælder det, at virksomheden i stedet “korrigeret” brev til “En[?]”. Værre, hvis du ved et uheld har tekstet den nye mærkelige autokorrektur til en anden, deres telefon har fanget den fejl, hvilket resulterer i en kort periode, hvor sociale medier var i det væsentlige ulæselige for store andele af iPhone-bruger verden.


Date:

by