Michelle Bachelet, alta comisionada de la ONU para los Derechos Humanos, pidió hoy una moratoria en la venta y uso de sistemas que utilizan inteligencia artificial (IA), ya que podrían ser discriminatorios, amenazar gravemente algunas libertades y afectar la salud, la educación, entre otras.
De acuerdo con Reuters hoy, durante la reunión del Consejo de Derechos Humanos de la ONU, en el que también se presenta un informe sobre el impacto de estas nuevas tecnologías en las libertades fundamentales, Bachelet pidió suspender la utilización de la tecnología IA “hasta que se hayan puesto en vigor las salvaguardas adecuadas”.
Al respecto, la alta comisionada dijo: “No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos”.
La petición de Bachelet la presenta tras estudiar el uso de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otras tecnologías de aprendizaje para las máquinas que, según dice el informe presentado, pueden vulnerar el derecho a la intimidad y otros relativos a la salud, la educación, la libertad de movimiento o la de expresión.
Además, se han comprobado casos en que algunas personas fueron “injustamente tratadas” por el uso de IA, como negarles prestaciones del seguro social o fueron detenidas como consecuencia de errores en los sistemas de reconocimiento facial (muy desarrollados y ya ampliamente usados en China).
Asimismo, el documento señala: “Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes”, lo cual “puede conducir a la adopción de decisiones discriminatorias, un riesgo aún mayor en grupos que ya se encuentran marginados”.
Por ello, la también expresidenta chilena exigió a las empresas y Estados que desarrollan esta tecnología que incrementen la transparencia en esta investigación.
