[Epicentro]

La hora de la verdad para la IA

(MATERIAL EXCLUSIVO PARA MEDIOS IMPRESOS. QUEDA PROHIBIDA SU PUBLICACIÓN EN INTERNET)

Algo ominoso está ocurriendo en el mundo de la inteligencia artificial. En las últimas semanas se han registrado incidentes que sugieren una suerte de iniciativa y hasta de rebeldía de algunos agentes de IA a los que se les asignan misiones diversas para examinar su alcance y comportamiento. El caso más alarmante pasó en julio, cuando un agente autónomo de OpenAI, sometido a una evaluación interna, logró escapar de su entorno controlado explotando una vulnerabilidad desconocida, acceder a internet y comprometer parte de la infraestructura de Hugging Face, una de las principales plataformas del ecosistema de inteligencia artificial, utilizada por investigadores y desarrolladores para compartir, entrenar, probar y desplegar modelos de IA. La reconstrucción forense identificó casi 18 mil acciones realizadas por el agente durante varios días, sin que un ser humano dirigiera cada uno de sus pasos. OpenAI reconoció después que los modelos habían burlado controles de aislamiento, utilizado canales no autorizados y accedido a sistemas de terceros.
Es un parteaguas ominoso.
Las implicaciones han encendido las alarmas entre los especialistas en seguridad de la IA y, de manera crucial, entre algunos de los propios líderes de la industr...