Skjermbilde: Predictim
Predictim, en tjeneste som selger foreldre mulighet til skjermen potensielle barnevakter ved å gjennomsøke sosiale medier, internett og kriminelle databaser, har annonsert at det vil være å ta et skritt tilbake og tenker nytt sin tilnærming etter en bølge av dårlig trykk og offentlig kritikk.
Vi har nådd ut til Predictim til å spørre hva du blir bedt om det for å midlertidig stenge tjenesten ned, og hvilke endringer det planer om å foreta, men ikke motta en umiddelbar svar. På sin hjemmeside, er det en setning som lyder:
Vi har blitt overveldet av interesse, pressedekning, og innspill om prosjektet vårt. For å være ærlig, denne oppmerksomheten kom tidligere enn vi forventet, og sikkert før vi hadde fullt lansert vår planlagte tjenester. Vi fikk noen veldig nyttige tilbakemeldinger på hvordan vi kan gjøre Predictim enda bedre. Klart, folk er sultne etter bedre måter å ta beslutninger i markeder der karakter, omdømme og troverdighet er viktig. Som et resultat, har vi besluttet å ta en pause vår full lansering og legger hodet ned for å fokusere på å vurdere hvordan vi tilby vår service og å gjøre endringer for å løse noen av forslagene vi fikk inn. Mens vi ikke tilbyr noen tjenester på denne tiden, vennligst følg med og sjekk innom ofte for oppdateringer: vi vil være tilbake!
Predictim tillatt for foreldre å sende en potensiell barnevakt kandidat til selskapet og dets automatisert system spytte ut en enkel poengsum på kandidatens “risiko” – nivåer og flagget sosiale medier innlegg. Når Gizmodo har Brian Merchant prøvd tjenesten ut for seg selv, fant han at hans personlige barnevakt mottatt en rangering av “Moderat Risiko” (3 5) for “Disrespectfulness.” Innlegg systemet flagget virket som ufarlig Twitter-vitser. Når Merchant prøvde det igjen med en venn som er ganske vulgært online, potte munn kandidaten har mottatt en bedre risiko score. Spesielt, Merchant ‘ s barnevakt er svart, og venn er hvit, men ledere insisterte på sine algoritmer inkluderer ingen bias og en menneskelig vurdering er involvert for de som får lav score.
En Washington Post artikkel fra November brakte selskapet viral skjensel og kritikk fra AI eksperter. Predictim også plutselig fant seg selv blokkert fra å bruke Facebook og Twitter Api for brudd på vilkårene for bruk. Predictim er CTO, Joel Simonoff, fortalte Gizmodo at det bare brukes av offentlige data, slik at utviklingen hadde ingen innvirkning på sin virksomhet.
Når Selgeren har prøvd å logge inn på sin konto i ettermiddag, Predictim hjemmeside tilbake en 404-melding. Selskapet oppfordrer alle som er interessert i tjeneste når den kommer tilbake for å delta i sin venteliste.
Selskapets grunnleggere fortalte Gizmodo at de følte de hadde blitt uriktig fremstilt i pressen og noen utsalgssteder “vridd” sine ord. Men faktum er, uansett hvilke endringer de gjør i plattformen, mange mennesker kommer til å være ubehagelig med premisset, så lenge det er normalisering ideen om at mennesker er sysselsettingen vil hengslene på en maskin ‘ s evaluering av noen dritt innlegg på Twitter.
[Predictim]
Deler Denne Historien