Screenshot: Predictim
Predictim, een service die verkoopt de ouders de gelegenheid om het scherm van de potentiële babysitters door kruipen sociale media, het web en criminele databases, heeft aangekondigd dat het zal worden het nemen van een stap terug en het doordenken van de aanpak na een golf van negatieve publiciteit en publieke kritiek.
We hebben bereikt Predictim om te vragen wat was de aanleiding voor het tijdelijk afsluiten van zijn dienst, naar beneden en welke veranderingen zij van plan is te maken, maar niet ontvangen van een antwoord. Op haar website, er is een verklaring dat luidt:
We zijn overdonderd door de belangstelling, in de pers en input met betrekking tot ons project. Om eerlijk te zijn, deze aandacht kwam eerder dan verwacht, en zeker voordat we volledig gestart is onze beoogde diensten. We kregen een aantal zeer nuttige feedback op manieren die we kunnen maken Predictim zelfs beter. Duidelijk, mensen zijn hongerig naar betere manieren om beslissingen te nemen in markten waar het karakter, de reputatie en betrouwbaarheid zijn belangrijk. Als gevolg, hebben we besloten om te pauzeren onze volledige lancering en zetten onze hoofden naar beneden te richten op het evalueren van hoe wij onze service en het maken van aanpassingen om een aantal van de suggesties die we hebben ontvangen. Terwijl we het niet aanbieden van diensten op dit moment, neem blijf op de hoogte en kom regelmatig terug voor updates: we zijn terug!
Predictim toegestaan ouders tot het indienen van een potentiële babysitter kandidaat aan de vennootschap en haar geautomatiseerde systeem spit uit een eenvoudige score van de kandidaat op het “risico” niveaus en gemarkeerd social media-berichten. Bij Gizmodo ‘ s Brian Koopman probeerde de dienst uit voor zichzelf, ontdekte hij dat zijn persoonlijke oppas ontvangen een ranking van “Matig Risico” (3 uit 5) voor “Disrespectfulness.” De berichten dat het systeem is gemarkeerd leek ongevaarlijk Twitter grappen. Wanneer Koopman probeerde het opnieuw met een vriend die heel vulgair online, het potje mond kandidaat kreeg een betere risico-score. Met name, Merchant, babysitter is zwart, en de vriend is wit, maar de leidinggevenden aangedrongen hun algoritmen zijn geen bias en een menselijke beoordeling is betrokken voor degenen die het ontvangen van lage scores.
Een Washington Post artikel van November bracht het bedrijf virale aanval op pearl harbor en de kritiek van AI deskundigen. Predictim ook plots geblokkeerd zijn voor gebruik van Facebook en Twitter Api ‘ s voor het overtreden van de voorwaarden van service. Predictim ‘ s CTO, Joel Simonoff, vertelde Gizmodo dat het alleen gebruikt openbare gegevens, zodat de ontwikkeling had geen effect hebben op haar bedrijfsactiviteiten.
Wanneer Merchant geprobeerd om in te loggen op zijn account, dit in de middag, Predictim website heeft een 404 error bericht. Het bedrijf moedigt iedereen die geïnteresseerd is in de dienst wanneer het gaat terug naar join de wachtlijst.
De oprichters vertelde Gizmodo dat ze zich had voorgesteld in de pers en enkele winkels “twisted” hun woorden. Maar het feit is, ongeacht de wijzigingen die zij leveren aan het platform, veel mensen gaan prettig met het uitgangspunt, zolang het normaliseren van het idee dat mensen de werkgelegenheid zal afhangen van een machine-evaluatie van een drol berichten op Twitter.
[Predictim]
Deel Dit Verhaal