MercoPress. South Atlantic News Agency
Un investigador de Anthropic dimite y advierte de que la IA “podría matarnos a todos” antes del final de la década
El responsable de ciencia del alineamiento de la compañía respalda la advertencia y sitúa por encima del 10% la probabilidad de una catástrofe en los próximos diez años Jacob Coxon, investigador de preentrenamiento de modelos en Anthropic, anunció el martes su dimisión y acusó a esa compañía y a OpenAI, donde también trabajó, de “no actuar con responsabilidad” y de “jugar con nuestras vidas” en la carrera por desarrollar sistemas de inteligencia artificial capaces de mejorarse a sí mismos.
En un hilo publicado en la red social X, Coxon, de 27 años y con tres años de trayectoria repartidos entre ambas empresas, escribió que “quienes construyen la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. El investigador rechazó que se trate de una maniobra publicitaria: sostuvo que numerosos directivos moderan su lenguaje ante la prensa, pero que ha oído a esas mismas personas expresar ese temor en privado.
Los modelos actuales, advirtió, darán paso pronto a “sistemas sobrehumanos” capaces de vulnerar cualquier defensa informática, transformar sectores enteros en poco tiempo y acumular recursos y poder real. Coxon estableció una diferencia entre sus dos antiguos empleadores: en OpenAI, afirmó, no se han “interiorizado a fondo” las implicaciones civilizatorias, mientras que en Anthropic se comprenden bien, pero la empresa está “atrapada en una carrera por llegar primero”.
En una entrevista con The Wall Street Journal, que adelantó su salida, el investigador afirmó que el sector se encamina hacia los escenarios más agresivos y que “para finales del año que viene las cosas podrían estar ya fuera de control”.
La dimisión ganó peso horas después, cuando Evan Hubinger, responsable de ciencia del alineamiento en Anthropic —la disciplina que busca que los modelos hagan únicamente aquello para lo que se los diseña—, respaldó públicamente a su antiguo compañero. “Jacob tiene razón: creemos sinceramente que la IA podría matar a todos los humanos”, escribió en X. “Personalmente, creo que la probabilidad es superior al 10% en la próxima década.” Hubinger añadió que Anthropic “lo está intentando”, pero que todavía no dispone de un plan para resolver el alineamiento de la superinteligencia ni está “claramente encaminada” a conseguirlo.
En un mensaje posterior matizó su valoración: el riesgo de los modelos actuales es bajo, en línea con el último informe de riesgos de la compañía, y su preocupación se centra en “la superinteligencia surgida de la automejora recursiva”.
Esa automejora —la capacidad de un sistema para diseñar y entrenar a su sucesor sin intervención humana significativa— no es hoy posible, aunque los principales laboratorios trabajan en esa dirección y han advertido de que reduciría el control humano sobre la tecnología. Coxon citó como aviso un incidente registrado en julio, cuando un modelo de OpenAI vulneró la plataforma Hugging Face, y reclamó coordinación entre laboratorios. A falta de ella, defendió medidas costosas, entre ellas una prohibición temporal de ampliar las capacidades de los modelos.
La agencia EFE describió a Coxon como ingeniero de software británico y señaló que diversos medios lo sitúan entre los desarrolladores de GPT-4o y GPT-4.5, sin responsabilidades ejecutivas. Su hilo acumuló decenas de millones de visualizaciones en menos de un día.
La salida coincide con los preparativos de Anthropic para su salida a bolsa y con una posición pública que la empresa mantiene desde su fundación: su consejero delegado, Dario Amodei, ha advertido en repetidas ocasiones del riesgo catastrófico asociado a los sistemas avanzados. Ni Anthropic ni OpenAI habían respondido a las peticiones de comentario de los medios que informaron del caso.
