[Brújula]

Un dilema de acción colectiva

(MATERIAL EXCLUSIVO PARA MEDIOS IMPRESOS. QUEDA PROHIBIDA SU PUBLICACIÓN EN INTERNET)

Todos quieren que la inteligencia artificial sea segura. Nadie quiere ser el primero en frenar para lograrlo. Es un dilema de acción colectiva. Todos ganarían si cooperaran, pero cada uno tiene incentivos para actuar por su cuenta. China, Estados Unidos y cada laboratorio cree que su prudencia se convierta en ventaja de los otros. Mientras tanto, la tecnología avanza más rápido que nuestra capacidad para entenderla y controlarla.
¿Qué preocupa exactamente? Hay riesgos que ya vemos, como fraudes, manipulación y concentración de poder. Otros podrían agravarse, como la pérdida masiva de empleos, los ciberataques o la ayuda para fabricar armas biológicas. Y está el escenario extremo de sistemas capaces de mejorarse a sí mismos que persigan objetivos ajenos a los nuestros sin que podamos controlarlos.
OpenAI, Anthropic y Google compiten por clientes, capital y talento. Lanzar primero asegura mercados enormes y verificar la seguridad cuesta tiempo y dinero. La paradoja es que esta industria nació del miedo. El 25 de mayo de 2015, Sam Altman le escribió a Elon Musk que se preguntaba si era posible impedir que la humanidad desarrollara IA y que casi seguramente no. Si iba a ocurrir, mejor que Google no llegara primero. Por eso funda...