Inteligencia artificial se mantiene como aliada para detectar discurso de odio

Foto: Pexels

De acuerdo con un comunicado oficial de Facebook, el discurso de odio ha disminuido 50% gracias a su tecnología de detección basada en inteligencia artificial (IA). Sin embargo, una investigación realizada por el departamento The Facebook Files, formado por el Diario de Investigación de Wall Street, comentó que los ingenieros e internos de la gigante tecnológica reportaron limitaciones en su inteligencia artificial. Entre los detalles que la tecnología no puede detectar adecuadamente se encuentran videos en primera persona, generalmente con mensajes de racismo y xenofobia, y algunos archivos de audio.

 

La red de estadística y análisis de datos Statista informó, entre 2019 y 2020 el uso diario de redes sociales incrementó de 142 a 145 minutos en promedio. Filipinas y Estados Unidos se mantienen a la cabeza de la lista, con 3 horas y 53 minutos y 2 horas con 3 minutos respectivamente. Asimismo, en el primer trimestre de 2021 se reportaron 3.51 mil millones de usuarios en los servicios más populares de Facebook, que incluyen WhatsApp, Messenger e Instagram.

 

Debido al incremento de usuarios, tiempo en línea y volumen de información, uno de los retos más importantes es tener un sistema automatizado de detección de discurso de odio en Facebook. Ello informó Guy Rosen, jefe de identidad de la compañía, quién agregó en el comunicado: "debemos asegurar que un contenido es discurso de odio antes de removerlo".

 

Hay una importante relación entre el discurso de odio y canales de desinformación; especialmente en medio de la pandemia, donde el uso de redes sociales como fuente de información y contacto social ha sido predominante. Contenidos con desinformación pueden detonar episodios de odio hacia grupos específicos de personas, informó la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). Por ello ambos deben resolverse para fomentar la paz y establecer un mejor entorno de convivencia social, donde la tecnología se considera una aliada importante debido al volumen masivo de información.

 

En respuesta al estudio de The Facebook Files, Rosen comentó: "creemos que el predominio es la métrica más importante para saber si la plataforma puede combatir el discurso de odio". Al respecto dio a conocer que el uso de tecnología IA en Facebook redujo la aparición de dicho contenido, cuyo predominio actual es de 0.05%, equivalente a 5 de cada 10 mil vistas. En este sentido el discurso de odio total en la red ha bajado 50% en los últimos tres trimestres, indicó el jefe de identidad.

 

Ante el uso de la tecnología para evitar el discurso de odio y la desinformación, algunas redes sociales encuentran un punto medio entre las detecciones automáticas y supervisión humana. Entre los casos destacables se encuentra Twitter, la cual indicó tomar en cuenta comentarios, quejas, y todo tipo de retroalimentación de sus usuarios con la ayuda del Consejo de Confianza y Seguridad. Uno de sus principales desafíos consiste en poner criterios claros para notar contenido deshumanizante, e incluir ejemplos en todos los idiomas para ser detectados con la tecnología adecuada.

Notas Relacionadas