Dos especialistas en seguridad de inteligencia artificial de Google DeepMind renunciaron a sus cargos y difundieron cartas abiertas en las que expresaron fuertes preocupaciones por el avance acelerado de esta tecnología.
Se trata de Bilal Chughtai y Josh Engels, quienes integraban equipos vinculados con el alineamiento de la Inteligencia Artificial General (AGI), un área dedicada a desarrollar mecanismos para que los sistemas respeten objetivos, valores y límites definidos por sus creadores.
Las salidas se conocieron después de la repercusión generada por la renuncia de Jacob Coxon, un especialista de Anthropic, quien también había expresado públicamente sus preocupaciones sobre los riesgos asociados al desarrollo de sistemas cada vez más avanzados.
Los exempleados de Google DeepMind sostuvieron que los sistemas superinteligentes podrían desarrollarse antes de que finalice la década sin contar con salvaguardas suficientes. En ese contexto, plantearon la necesidad de reducir el ritmo de entrenamiento de los nuevos modelos.
La advertencia sobre la falta de control
En un comunicado difundido a través de redes sociales, Bilal Chughtai señaló que las capacidades de los sistemas de IA avanzan a una velocidad que, según su perspectiva, supera el conocimiento científico disponible para orientarlos y controlarlos.
“En Google, presencié el desarrollo de la IA de primera mano y me preocupa enormemente la trayectoria predeterminada que viene teniendo esta tecnología”, afirmó el especialista al explicar su decisión de abandonar la compañía.
Chughtai también sostuvo que la IA podría representar un riesgo extremo para la humanidad y consideró que el tiempo disponible para desarrollar mecanismos adecuados de seguridad podría ser limitado.
El especialista planteó que los sistemas superinteligentes podrían llegar a superar ampliamente las capacidades humanas en diferentes ámbitos durante los próximos años. Por ese motivo, reclamó desacelerar el desarrollo mientras se fortalecen las técnicas destinadas a garantizar el alineamiento de los modelos.
A su entender, los métodos actuales para conseguir que los sistemas de IA mantengan objetivos compatibles con los intereses humanos todavía son rudimentarios.
Las advertencias de otros especialistas
La preocupación también había sido expresada por Jacob Coxon, exempleado de Anthropic, quien había estimado una probabilidad del 10% de que la IA provoque un desenlace fatal para la humanidad hacia fines de la década.
Por su parte, Josh Engels centró sus advertencias en los riesgos técnicos asociados con el desarrollo de modelos cada vez más autónomos.
Engels señaló que, desde su perspectiva, existe una probabilidad superior al 20% de perder el control sobre la tecnología. Luego de rechazar propuestas laborales de OpenAI y Anthropic, el especialista se incorporó a METR, una organización dedicada a evaluar riesgos de seguridad en modelos de frontera.
El riesgo de la automejora de los sistemas
Uno de los principales focos de preocupación de Engels es la denominada Automejora recursiva (RSI), un proceso hipotético en el que los sistemas informáticos podrían desarrollar versiones mejoradas de sí mismos de manera continua.
El especialista sostuvo que la aparición de un ciclo de automejora sin mecanismos adecuados de alineamiento podría tener consecuencias de magnitud “catastrófica”.
Engels también afirmó que durante pruebas recientes se detectaron comportamientos que, según su descripción, incluyeron sistemas que se confabularon entre sí, vulneraron plataformas informáticas, ocultaron rastros y utilizaron técnicas de manipulación social.
“Existe una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, afirmó.
Reclamos por auditorías independientes
Las renuncias coincidieron con los pedidos del CEO de Anthropic, Dario Amodei, para implementar auditorías externas e independientes que permitan detectar y reducir riesgos antes del lanzamiento de sistemas avanzados.
La propuesta recibió respaldo público de figuras de la industria tecnológica como Sam Altman y Elon Musk. Amodei mencionó a METR como una de las organizaciones que podría participar de este tipo de evaluaciones sobre modelos de vanguardia.
El debate sobre la velocidad del desarrollo de la IA se produce, además, en medio de fuertes inversiones y elevados costos para las principales compañías del sector.
Según datos publicados por The Wall Street Journal, OpenAI registró pérdidas operativas de U$S 12.300 millones durante el segundo trimestre de 2026, mientras que sus ingresos alcanzaron los U$S 6.700 millones en ese mismo período.
Las advertencias de los especialistas reavivaron así el debate sobre seguridad, regulación y control de la inteligencia artificial, mientras las empresas tecnológicas continúan desarrollando modelos con capacidades cada vez más avanzadas.
