Actualmente, las máquinas equipadas con inteligencia artificial ganan mayor autonomía de la mano de quien las creó, lo primero que uno se pregunta es qué tan cerca están de superar al humano. Sin embargo, un estudio indica que hasta uno de los sistemas más exitosos de IA tiene sus flaquezas, por lo tanto, esa superioridad es aún frágil.
El estudio está enfocado en la vulnerabilidad de la IA, la cual podría dejarla expuesta a peligros para su seguridad y fiabilidad. Este informe "aporta algunas de las pruebas más sólidas hasta la fecha, es difícil lograr que los modelos avanzados se comporten de forma robusta como se desea", afirma Stephen Casper, informático del Instituto Tecnológico de Massachusetts (MIT) en Cambridge.
Según datos sobre el estudio compartido por Nature, el análisis hace uso de los denominados ataques adversarios. Este último se basa en introducir en los sistemas de IA datos diseñados para incitarlos a cometer errores, ya sea para investigación o con fines nefastos.
.jpg)
Este sistema lo aplicaron en un bot para jugar a Go, un juego que consta de dos jugadores, los cuales se turnan para colocar piedras blancas y negras en una cuadrícula para rodear y capturar las piedras del otro jugador. Los investigadores entrenaron bots para jugar contra el mejor sistema de IA de código abierto para jugar Go, el KataGo. Estos bots lograron encontrar la forma de vencer a KataGo y a su vez, los jugadores humanos lograron encontrar los trucos utilizados por estos bots para así, poder vencer al KataGo.
A pesar de realizarse una actualización a KataGo para poder enfrentarse a los bots, estos lograban nuevamente descubrir las nuevas maniobras. Esto se debe a que los bots fueron entrenados para descubrir las vulnerabilidades de otras IA. Pero si los humanos pueden usar esas tácticas para vencer a los sistemas de IA, cabe preguntarse si tales sistemas pueden seguir considerándose "sobrehumanos". David Wu, un científico informático de la ciudad de Nueva York, quien desarrolló KataGo por primera vez, afirma que las IA de Go son "superhumanas en promedio", aunque no "superhumanas en los peores casos".
Desde una perspectiva más amplia, Adam Gleave, director ejecutivo de FAR AI, una organización de investigación sin fines de lucro en Berkeley, California, considera que "la conclusión clave para la IA es que estas vulnerabilidades serán difíciles de eliminar". En este sentido, "si no podemos resolver el problema en un dominio simple como Go, entonces en el corto plazo parece haber pocas perspectivas de solucionar problemas similares como los jailbreaks en ChatGPT".
Existe aún un margen de ventaja para los humanos por sobre la máquina. A pesar de ser impredecible cuánto tiempo durará tal ventaja, se puede afirmar que las máquinas equipadas con IA aún muestran grandes debilidades que las hacen inferior a la capacidad humana. (NotiPress)
