Amazon prescinde de una inteligencia artificial

Amazon desestima un sistema de inteligencia artificial por discriminar a las mujeres

El sistema obtenía los datos en base, a los archivos de los últimos 10 años de la compañía,
y así, aprendió con esta información, que los hombres eran preferibles a las mujeres.

Amazon detectó el error y decidió prescindir de este sistema.

El funcionamiento del sistema realizaba su revisión puntuando a los candidatos de una a cinco estrellas
(usando la valoración con la que los clientes pueden calificar cualquier producto en la página web de la compañía).

  • El proyecto final era crear un sistema en el que introducías 100 currículos y seleccionara a los cinco mejores para contratarlos.
  • En 2015 la compañía se dio cuenta de que se estaba discriminando a las mujeres candidatas a los puestos técnicos en la compañía.

Esta inteligencia artificial, discriminaba enormemente a las mujeres
Los especialistas de Amazon observaron  que esta inteligencia artificial, basada en aprendizaje automático, discriminaba enormemente a las mujeres.

El problema, según han explicado varios expertos de la compañía, radicaba en la fuente informativa que este sistema utilizaba para tomar decisiones y evolucionar:

  • Una base de datos de currículos presentados a la empresa durante 10 años.
  • Pertenecían mayoritariamente a hombres.