Selskapets dårlig track record når det kommer til seksuelle overgrep gjør sin nye AI prosjektet en skremmende prospektet
@rey_z
Ons 13 Jun 2018 14.16 BST
Sist endret på Ons 13 Jun 2018 21.19 BST
‘Slik at drivere for å identifisere sårbare, drukket og potensielt lone passasjerer kan være utrolig farlig.’
Foto: Alamy
Det er umulig å si nøyaktig hvor mye penger Uber gjør fra fulle folk, men hvis antall bleary-eyed mennesker vandrende rundt på fredag og lørdag kveld prøver å finne sin innkalt biler er noe å gå etter, det er nok ganske mye. Selskapet tydelig kjenner sin målgruppe: denne uken, er det søkt om patent for en AI som kunne spot beruset eller høy passasjerer bare ved måten de gikk, maskinskrevet eller holdt telefonen sin.
Uber å utvikle teknologi som ville fortelle om du er full
Les mer
I henhold til patent, AI kunne måle en bruker går hastighet, se for uvanlig skrivefeil eller følelse om en telefon er svaiende eller blir holdt på en uvanlig vinkel. Dette, tyder det på, kunne “forutsi user state bruke maskinen læring” og gjenkjenne “uvanlig bruker stater”. Kort sagt, å vite om du er sint eller ikke.
Selskapet nesten helt sikkert mener at denne informasjonen vil bli brukt for godt, og det er unektelig at muligheten til å unngå berusede passasjerer som ville komme som en velsignet lettelse for mange sjåfører. For passasjerer, men den kunstige intelligensen er kanskje ikke så gode nyheter, og slik at drivere for å identifisere sårbare, drukket og potensielt lone passasjerer kan faktisk være utrolig farlig.
For et selskap med en så dårlig track record når det gjelder seksuelle overgrep, er utsiktene er bekymringsfullt. En fersk CNN undersøkelse fant at 103 Uber-drivere i USA alene hadde vært anklaget for “seksuelt overgrep eller misbruke” sine passasjerer i de siste fire årene. Tretti-en hadde blitt dømt for forbrytelser som spenner fra “seksuell berøring og innesperring til voldtekt”, og videre sivil-og straffesaker var også avventende. I en nylig uttalelse, en Uber talsperson sa sikkerhet var selskapets øverste prioritet dette året og sitert siste protokoll oppdateringer, for eksempel kjøre driver bakgrunnen sjekker på en årlig basis. Rapportene har også avdekket selskapets beslutning om å kreve kvinner til å bosette tilfeller av overgrep og voldtekt av drivere gjennom mekling heller enn i offentlige domstoler – beskyttelse av selskapets interesser og potensielt lyddemping ofre.
Tallene taler volumer når det kommer til Uber tilnærming til seksuelle overgrep, og gir ikke mye håp om at den nye teknologien skulle komme med den slags beskyttelse den ville desperat behov – spesielt når du vurdere antall sårbare (noen ganger beruset) unge kvinner som er avhengige av Uber å få dem trygt hjem.
Dette er ikke bare begrenset til teknologien, enten. Som patenter forklarer, sensorer kan bli utløst når en telefon rister eller krenger, når du skriver er treg, eller når det er holdt i en bestemt vinkel. Men av hva verdien er dette vurdert? Så mange mennesker med nedsatt funksjonsevne påpekte på Twitter, noen med cerebral parese eller Alzheimers er usannsynlig å skrive eller hold telefonen på samme måte som flertallet av brukerne, og kan dermed utløse AI ‘ s rus-sensor.
Personer med nedsatt funksjonsevne er langt mindre sannsynlighet for å være i stand til å få tilgang til Uber er tjenesten allerede: faktisk, selskapet har allerede blitt saksøkt flere ganger for å diskriminere funksjonshemmede passasjerer. I 2017, flere søksmål ble arkivert i Washington DC, Mississippi og New York med grupper sint på selskapets unnlatelse av å gi dem med god service. Og i 2018, en gruppe aktivister montert en sak mot selskapet for ikke å gi nok rullestolbrukere kjøretøy. Konsernet er beskrevet Uber “fortsatt motstand mot å følge lovene som holder transport tjenester som er åpne for alle”, siterer California anti-diskriminering lover å argumentere for at rullestolbrukere rett og slett ikke kan stole på selskapet for transport. For sin del, Uber sier det betyr mye for å støtte funksjonshemmede passasjerer. I tillegg UberWAV, som omfatter kjøretøy med ramper eller hydrauliske heiser for rullestolbrukere, og tilbyr også UberAssist som lar passasjerer be om en driver opplæring for å imøtekomme funksjonshemmede.
Med alt dette i tankene, er det ikke særlig overraskende at Uber kan ha en gang igjen laget et stykke teknologi som ser på ikke-funksjonshemmede passasjerer som standard og funksjonshemmede som en ettertanke.
Det er nesten som om vi kan stole på Uber med vår personlige data, enten. I 2014, selskapet kom under ild for bruk av en såkalt “Gud’ s View” teknologi – et verktøy som er tillatt for ansatte å spore turer for individuelle brukere. Josh Mohrer, general manager av Uber i New York, ble tvunget til å be om unnskyldning etter at han brukte teknologien til å spore en Buzzfeed journalist som hadde intervjuet ham, med selskapet i all hast desperat å avklare at hans tilgang til dataene var imot reglene. Men hvem kan være sikker på at slike regler kan – eller vil – ikke bli brutt igjen?
En Uber talsperson har merket seg at AI er bare et work in progress, og påpeker at mange patenter aldri får gjort. For vår skyld – og for å få til Uber er utrolig overarbeidet PR-team – la oss håpe at dette ikke går av tegnebrettet.
- Emily Reynolds er en frilans journalist