Foto: Getty
Chinas überwachungssystem ist immer allgegenwärtig, mit einem geschätzten 200 Millionen Kameras und zählen. Während dieser Zustand der Existenz allein ist beunruhigend, es ist noch beunruhigender, dass die Maschinen, die ficken bis auch die einfachste Aufgabe.
Letzte Woche, das Gesicht von Dong Mingzhu—die Vorsitzende einer der führenden Klimaanlagen-Hersteller in China—dargestellt wurde, auf einem riesigen Billboard-sized Bildschirm in Ningbo, eine wichtige Hafenstadt im Osten Chinas Provinz Zhejiang, öffentlich Scham Ihre für den Bruch eines Verkehrsrecht. Zhejiang ist eine der Provinzen, die im letzten Jahr bereitgestellt Gesichts-Anerkennung Technologie, demütigt Bürger, die jaywalk, indem Sie Ihre Fotos auf riesigen LED-Bildschirmen. Aber die Kameras nicht fangen Mingzhu jaywalking—Sie identifizierten ein Foto von Ihr in einem bus ad, South China Morning Post berichtet.
Die Verkehrspolizei in der Stadt berichten zufolge kündigte in einem blog-post auf Sina Weibo am Mittwoch, dass es gelöscht, das Foto und das seiner surveillance-system behoben werden würde, um zu verhindern, dass künftige falscher Identifizierungen. Und Gree Electric Appliances, die Unternehmen Mingzhu klappt, auch angeblich veröffentlicht einen blog-post auf Sina Weibo, dass am selben Tag Dankbarkeit für die Stadt die Verkehrspolizei und drängen Menschen, die Verkehrsregeln zu Folgen.
Während der Verkehr, die Polizei wurde offenbar schnell zu erkennen und zu beheben Ihr system, die Versager, und Gree die Antwort war sympathisch, dieser Vorfall noch Signale das eklatante Problem mit der masseneinführung der KI-basierte Systeme der gegenseitigen Anerkennung: Die Technologie ist noch ziemlich fehlerhaft. Dies ist bei weitem nicht der erste Zwischenfall, bei dem ein Algorithmus konnte nicht erkennen, die Nuancen der menschlichen Welt um ihn herum, und es gibt noch eine Massiv eingesetzt AI-system, die bewährten, perfekt zu sein.
Irrtümlich Kennzeichnen jemand für jaywalking, weil eine Maschine verwechselten einem fahrenden bus ad für eine tatsächliche dreidimensionale Mensch ist nicht an sich gefährlich, aber schade Plakate sind kaum die nur Gesichts-Erkennungssysteme proliferierenden China. In der Tat, die Marktforschungsunternehmen IHS Markit Prognosen, dass China kaufen mehr als drei Viertel von Servern, die speziell für das kämmen durch überwachung-Aufnahmen für Gesichter, die New York Times berichtet.
“In der Vergangenheit ging es darum, den Instinkt, die” Shan-Jun, der stellvertretende Chef der Polizei am Bahnhof in Zhengzhou, wo ein Polizist identifiziert einen heroin-Schmuggler mit Gesichtserkennung Brille, sagte die Times. “Wenn du etwas verpasst, verpasst du es.”
Maschinen sind nicht fähig, Instinkt, und abgesehen von nicht in der Lage, zu unterscheiden, Feinheiten in der physischen Welt (also ein Foto in ein aus ein Fleisch-und-Blut-person), auch Sie sind nicht frei von Voreingenommenheit. Es ist leicht vorstellbar, wie diese Fehler kann schief gehen, nicht nur, wenn verwendet, zu demütigen jaywalkers, sondern auch sozial Rang Bürger und identifizieren Tatverdächtigen.
[South China Morning Post]
Teilen Sie Diese Geschichte