Un ingeniero de Anthropic dimite y avisa sobre la IA: «Podría acabar con todos nosotros para finales de la década»

En los últimos años, Jacob Coxon ha destacado por ser un reconocido ingeniero de distintos sistemas de Inteligencia Artificial (IA). Coxon ha centrado su trayectoria en el entrenamiento de grandes modelos de lenguaje dentro de los laboratorios más influyentes del mundo. Tras graduarse en Ciencias de la Computación por la Universidad de Cambridge, Coxon trabajó inicialmente en OpenAI, uniéndose posteriormente a Anthropic. Ahora, tras años dedicados por completo al perfeccionamiento de esta tecnología, Coxon habría dimitido de forma repentina, lanzando un preocupante aviso.

«Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas», señala el ingeniero en un hilo compartido en la red social X.

La dimisión de Coxon llega en un contexto en que los sistemas de IA cada vez son más precisos y detallados, dando paso a lo que algunos expertos denominan «superinteligencia artificial», capaz de superar a los humanos. La prueba más reciente fue la resolución de uno de los problemas matemáticos de la historia. Tras 90 años sin solución, 1.000 agentes de IA trabajaron durante más de 50 horas, solucionando el problema de existencia y suavidad de Navier-Stokes.

Esta es una de las múltiples pruebas del poder de esta tecnología, motivo por el que Coxon ha pedido «no subestimarla»: «Pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este progreso no se detiene».

Por todos estos motivos, el extrabajador carga contra los desarrolladores de la IA, que a pesar de «creer firmemente» que esta tecnología «podría acabar con todos nosotros para finales de la década», no se está poniendo un remedio para solventar esta amenaza.

«Ninguna otra actividad humana representa este nivel de peligro», destaca.

La pregunta que surge es, según Coxon, «si realmente creen esto, ¿por qué siguen construyéndolo?»: «En OpenAI, muchos no han interiorizado profundamente lo que está en juego para la civilización. En Anthropic, lo que está en juego se entiende bien, pero están inmersos en una carrera por llegar primero; no creen en nadie más».

A pesar de todo, el ingeniero es optimista sobre el potencial de coordinación para evitar una catástrofe mundial.

«Advertencias como el ataque de Hugging Face han hecho que los acuerdos de ritmo entre laboratorios estadounidenses sean más viables. Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años. ¿Quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque «va a suceder de todos modos» o aprovechar este momento», sentencia el antiguo trabajador de Anthropic.