Skærmbillede: Predictim
Predictim, en tjeneste, der sælger forældre mulighed for at screene potentielle babysittere, ved at gennemgå sociale medier, web, og kriminelle databaser, har meddelt, at det vil være at tage et skridt tilbage og nytænkning i sin tilgang efter en bølge af dårlig presse og offentlig kritik.
Vi er nået ud til Predictim til at spørge, hvad du bliver bedt om det midlertidigt lukket sin tjeneste ned, og hvilke ændringer det har planer om at foretage, men ikke modtage et øjeblikkeligt svar. På sin hjemmeside, er der en sætning, der lyder:
Vi har været overvældet af den interesse, pressedækning, og input om vores projekt. For at være ærlig, denne opmærksomhed kom tidligere, end vi havde forventet, og sikkert før vi havde fuldt lanceret vores overvejet tjenester. Vi fik nogle meget nyttige tilbagemeldinger om, hvordan vi kunne gøre Predictim endnu bedre. Det er klart, at folk er sultne efter bedre måder at træffe beslutninger på markedspladser, hvor karakter, omdømme og troværdighed er vigtige. Som et resultat, vi har besluttet at afbryde vores fulde lancering og sætte os ned for at fokusere på at evaluere, hvor vi tilbyder vores service og foretage ændringer for at løse nogle af de forslag, vi har modtaget. Mens vi er ikke tilbyde nogen tjenester på dette tidspunkt, så stay tuned og tjekke tilbage ofte for opdateringer: vi vil være tilbage!
Predictim tilladt forældre at indsende en potentiel babysittere kandidat til virksomheden og dens automatiseret system, spytte ud en enkel score på kandidatens “risiko” niveauer, og markeres på sociale medier indlæg. Når Gizmodo ‘ s Brian Købmand prøvet den service ud for sig selv, han fandt i, at hans personlige babysitter har modtaget en rangordning af “Moderat Risiko” (3 ud af 5) for “Disrespectfulness.” De stillinger systemet markeret virkede som harmløse Twitter vittigheder. Når Købmanden prøvede det igen med en ven, der er helt vulgære online, potte-mouthed kandidat modtog en bedre risikovurdering. Især, Købmand babysittere er sort, og den ven er hvid, men ledere insisterede på deres algoritmer, der omfatter ingen bias og en menneskelig gennemgang er involveret for dem, der modtager en lav score.
En Washington Post artikel fra November bragte selskabet viral skændsel og kritik fra AI eksperter. Predictim også pludselig fandt sig selv blokeret fra at bruge Facebook og Twitter Api ‘ er for at overtræde deres terms of service. Predictim ‘ s CTO, Joel Simonoff, fortalte Gizmodo, at det kun anvendes af offentlige data, således at udviklingen havde ingen indflydelse på dens drift.
Når Købmanden prøvede at logge ind i sin konto i eftermiddag, Predictim ‘ s hjemmeside, der returneres en 404-fejl meddelelser. Virksomheden er at tilskynde alle, der er interesseret i service, når det kommer tilbage til at slutte sin venteliste.
Selskabets stiftere fortalte Gizmodo, at de følte, at de havde været omtale i pressen og i nogle forretninger “twisted” deres ord. Men faktum er, at uanset hvilke ændringer, de foretager, at den platform, mange mennesker kommer til at være ubehageligt med den forudsætning, så længe det er normalisere den idé, at folks beskæftigelse, vil afhænge af en maskines vurdering af nogle lort indlæg på Twitter.
[Predictim]
Dele Denne Historie