Qué pasó, por fechas
-
2014
Amazon construye una herramienta de IA para clasificar candidaturas: 100 CV a la entrada, los 5 mejores a la salida (según Reuters).
-
El mecanismo
la herramienta aprende de diez años de CV recibidos por la empresa, en su mayoría de hombres. Deduce cómo es un «buen» perfil: como los de ayer.
-
2015
constatación interna: el sistema no es neutral. Penaliza los CV que contienen la palabra « women’s » (por ejemplo « capitana de un club de ajedrez femenino ») y degrada a las egresadas de dos universidades femeninas.
-
Principios de 2017
el equipo se disuelve, la herramienta se abandona.
-
Octubre de 2018
el caso se hace público por Reuters.
Lo que HUMICS habría puesto sobre la mesa, antes
HUMICS examina un proyecto de IA desde el ángulo humano — impacto en las personas, explicabilidad de una decisión, sostenibilidad. En un uso de RR. HH. tan sensible, la grilla habría planteado, ya en 2014, las preguntas que terminaron costando años: ¿se puede explicar una clasificación? ¿se puede impugnar? ¿quién vigila el efecto sobre grupos de candidatos? Planteada antes, la pregunta cuesta 45 minutos. Planteada después, años.