Photo: Zach Gibson (Getty)
À l’intérieur de la Silicon Valley, le consensus est que l’intelligence artificielle sera le plus important de la technologie pour la prochaine décennie. Ok, mais ce que l’enfer est-ce à dire pour le reste d’entre nous?
Dans une tentative de construire dans la transparence et la responsabilisation dans la prochaine génération du monde-l’évolution de la technologie, le législateur Américain a présenté un projet de loi sur le mercredi pour exiger que les grandes entreprises d’audit de la machine de l’apprentissage des systèmes de biais.
Sénateurs démocrates Ron Wyden et Cory Booker introduit l’Algorithmique Loi sur la Responsabilisation du mercredi. Démocratique Députée Yvette Clarke a présenté un équivalent projet de loi à la Chambre des Représentants.
L’apprentissage de la Machine et l’intelligence artificielle déjà pouvoirs d’un air faussement large étendue de processus et des outils comme la reconnaissance faciale, l’auto-conduite des voitures, le ciblage publicitaire, service à la clientèle, le contenu de la modération, de la police, de l’embauche, et même la guerre. C’est une liste énorme, et parfois, il est amusant de s’asseoir et de s’émerveiller de la façon dont différents tous ces utilisations sont.
Exactement comment ces décisions sont prises et si oui ou non ils sont juste, cependant, est souvent opaque ou de l’inconnaissable. Ce problème a conduit les législateurs à cette tentative de forcer l’ouverture de la “boîte noire”.
Le nouveau projet de loi aurait pour tâche la Federal Trade Commission à élaborer des règles de décision des entreprises d’effectuer des “évaluations de l’impact” automatisés de systèmes de décision pour évaluer la prise de décision des systèmes et des données d’entraînement “pour les impacts sur l’exactitude, l’équité, les préjugés, la discrimination, la confidentialité et la sécurité.”
Les entreprises de plus de $50 millions de dollars par année ou de détenir les données de plus d’un million de personnes seraient visés par le projet de loi.
“Les ordinateurs sont de plus en plus impliqué dans plusieurs décisions clés sont Américains à l’égard de leur vie quotidienne—si quelqu’un peut acheter une maison, obtenir un emploi, ou même d’aller en prison,” Wyden a déclaré dans une interview avec L’Associated Press.
Ce n’est pas un scénario hypothétique. Une situation qui a surgi chez Amazon en 2018. Le géant technologique Américain, un chef de file mondial dans l’IA, utilisé la technologie pour aider à décider quels candidats doivent entrevue pour un emploi. Après deux ans de conception, ils ont constaté que toutes les femmes demandeur a été automatiquement soufflée à la fin de la liste.
L’IA Maintenant de l’Institut de Kate Crawford a discuté de l’incident dans une récente interview avec Kara Swisher.
“Il nous dit deux choses,” Crawford. “Un, il est vraiment beaucoup plus difficile à automatiser ces outils que vous pouvez l’imaginer, parce qu’Amazon a une assez grande ingénieurs. C’est pas comme si ils ne savent pas ce qu’ils font. Il vous dit aussi quelque chose à propos de la pile de cv qu’ils avaient. Qu’ont-ils de la formation? Quelle a été la formation des données? Surprise, Surprise: beaucoup d’hommes blancs dans leur ensemble de l’ingénierie de la piscine.”
Au cours du dernier mois, Facebook est annonces discriminatoires pratiques est venu dans le feu des projecteurs et de la société est également confronté à des frais de la part de la direction de l’habitat et du Développement Urbain de la discrimination en vertu de la Fair Housing Act.
“En obligeant les grandes entreprises pour ne pas fermer les yeux sur les incidences imprévues de leurs systèmes automatisés, l’Algorithmique de la Responsabilisation Loi veille à ce 21e Siècle, les technologies sont des outils d’émancipation, plutôt que de la marginalisation, tout en renforçant la sécurité et la confidentialité de tous les consommateurs”, dit Clarke.
Partager Cette Histoire