Qué dijo exactamente Jacob Coxon
Coxon, de nacionalidad británica y formación matemática, trabajó tres años en la etapa de preentrenamiento de modelos de IA (la fase en la que un sistema aprende de grandes volúmenes de datos), primero en OpenAI, donde participó en el desarrollo de GPT-4o, y desde julio de 2026 en Anthropic, empresa a la que se incorporó, según ha explicado él mismo, atraído por su reputación en seguridad. Su paso por Anthropic duró apenas dos meses.
En su mensaje de renuncia, Coxon sostuvo que ninguna de las dos compañías en las que trabajó está actuando con responsabilidad, y que ambas avanzan hacia el desarrollo de una inteligencia superior a la humana capaz de mejorarse a sí misma, sin la intervención suficiente de los gobiernos ni acuerdos reales entre los grandes laboratorios para frenar la carrera de forma coordinada. Según ha trascendido de su publicación, cree que hacia finales de 2027 la situación podría volverse difícil de controlar.
Quién es Evan Hubinger y por qué su respuesta importa más que la renuncia
Lo que convirtió la renuncia de Coxon en una noticia de alcance mucho mayor no fue el propio mensaje, sino la respuesta pública de Evan Hubinger, que dirige un equipo de investigación en seguridad de la alineación dentro de Anthropic y continúa en la empresa. Hubinger le dio la razón a Coxon de forma explícita y añadió una cifra concreta: calcula una probabilidad superior al 10% de que la inteligencia artificial provoque una catástrofe que afecte a toda la humanidad en la próxima década. Afirmó también que Anthropic todavía no cuenta con un plan para resolver el problema de la alineación de una superinteligencia —es decir, conseguir que un sistema mucho más capaz que un humano comparta los valores de quienes lo construyeron— y que no está claro si llegará a tenerlo.
Esta declaración resulta especialmente significativa porque proviene de dentro de una de las compañías que lidera el desarrollo de los modelos más avanzados del mundo, y que desde su fundación ha buscado diferenciarse de competidores como OpenAI precisamente por su énfasis en la seguridad.
Una salida reciente similar: el caso de Mrinank Sharma
La renuncia de Coxon no es un episodio aislado. En febrero de 2026, Mrinank Sharma, responsable del equipo de investigación de seguridad de Anthropic, dejó la compañía advirtiendo que el mundo está en peligro. Ese mismo mes, Anthropic retiró de su carta de seguridad interna el compromiso explícito de suspender el desarrollo de sus modelos si no conseguía mantener sus riesgos bajo control, un cambio de postura que ha alimentado parte de las críticas actuales.
No es la primera vez que alguien de Anthropic da una cifra así
Aunque la cifra de Hubinger ha generado más atención por el contexto de la renuncia, no es la primera vez que un alto responsable de Anthropic pone un número sobre el riesgo existencial de la IA. En septiembre de 2025, el propio consejero delegado de Anthropic, Dario Amodei, declaró en la cumbre Axios AI+DC que calculaba una probabilidad del 25% de que las cosas fueran "realmente, realmente mal" con la inteligencia artificial, aunque matizó que sigue apostando por el 75% restante de probabilidad de un resultado positivo, y que por eso continúa invirtiendo en el desarrollo de la tecnología en lugar de detenerlo.
Un patrón que conviene entender bien: estas cifras (10%, 25%) no son resultados de un estudio científico ni un consenso del sector. Son estimaciones subjetivas de personas concretas, formuladas con distintos grados de rigor, dentro de un debate donde otros investigadores de IA de reconocido prestigio sitúan el riesgo existencial en niveles mucho más bajos, o consideran que este tipo de estimaciones numéricas no son verificables ni útiles para la toma de decisiones. Tratarlas como una probabilidad objetiva y medida sería un error de interpretación.
El contexto de fondo: la presión de mil empleados del sector a Washington
Estas declaraciones no ocurren en el vacío. A finales de julio de 2026, más de mil empleados y especialistas del sector de la inteligencia artificial, incluido el propio Dario Amodei, firmaron una petición dirigida a Washington reclamando mecanismos de supervisión gubernamental más sólidos sobre el desarrollo de los modelos más avanzados. Es una señal de que la preocupación no se limita a un investigador aislado, sino que refleja una corriente de opinión creciente dentro de las propias empresas que desarrollan esta tecnología.
Por qué la carrera competitiva complica cualquier freno unilateral
Uno de los argumentos que tanto Coxon como Hubinger han repetido en sus mensajes públicos es que ningún laboratorio individual puede permitirse frenar por su cuenta, porque asume que, si lo hace, sus competidores no lo harán y acabarán desarrollando la tecnología de forma menos segura o con peor intención. Este razonamiento, conocido en teoría de juegos como un dilema de coordinación, es una de las razones por las que muchos investigadores de seguridad piden que cualquier freno real venga impuesto desde fuera del propio sector, mediante regulación gubernamental o acuerdos internacionales vinculantes, en lugar de depender de la autocontención voluntaria de empresas que compiten entre sí por liderar el mercado.
Qué significa esto para quien usa IA en su día a día
Es importante separar dos niveles de riesgo que a menudo se mezclan en la conversación pública. Uno es el riesgo existencial a largo plazo del que hablan Coxon y Hubinger: la posibilidad, todavía especulativa y objeto de fuerte desacuerdo entre expertos, de que una inteligencia artificial mucho más capaz que la actual escape del control humano. El otro es el riesgo práctico y ya presente hoy: jailbreaks, inyección de prompts, deepfakes y otras formas de uso indebido de los modelos actuales, que se explican con detalle en la guía de riesgos de seguridad de la IA de este blog. Ninguno de los dos niveles debería eclipsar al otro: el debate sobre superinteligencia no exime de tomar precauciones prácticas con las herramientas que ya existen, y las precauciones prácticas de hoy no resuelven la pregunta de fondo sobre el riesgo a largo plazo.
Conclusión
Lo ocurrido en la primera semana de septiembre de 2026 no es una prueba concluyente de que la IA vaya a suponer una amenaza existencial, ni tampoco algo que se pueda descartar como alarmismo aislado. Es la manifestación pública de un desacuerdo real que existe dentro de las propias empresas que lideran el desarrollo de esta tecnología, entre quienes creen que se puede seguir avanzando de forma razonablemente segura y quienes creen que la competencia entre laboratorios ha superado la capacidad real de controlar lo que se está construyendo. Ese desacuerdo, más que cualquier cifra concreta, es probablemente el dato más importante que deja este episodio.