El antiguo ingeniero de Anthropic, Jacob Coxon, en su entrevista en Fox News
El antiguo ingeniero de Anthropic vuelve a alertar de los peligros de la IA: «Está cerca de reemplazarnos»
El aviso de Jacob Coxon no llega solo. Uno de sus antiguos jefes ha agradecido su última alerta sobre los peligros de esta tecnología
«Pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales». Este era el catastrófico mensaje de Jacob Coxon, reconocido ingeniero de Inteligencia Artificial (IA), que dimitió de Anthropic alegando que los sistemas de IA cada vez son más precisos y detallados, dando paso a lo que algunos expertos denominan «superinteligencia artificial», capaz de superar a los humanos, lo que podría incluso «acabar con todos nosotros para finales de la década».
«Advertencias como el ataque de Hugging Face han hecho que los acuerdos de ritmo entre laboratorios estadounidenses sean más viables. Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años. ¿Quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque «va a suceder de todos modos» o aprovechar este momento», señalaba este miércoles. Ahora, tan solo dos días después, Coxon habría detallado en dos entrevistas en la CNN y Fox News del peligro que podría venir a medio plazo.
En la entrevista, el antiguo trabajador de Anthropic y OpenAI insiste en que es importante mirar el ritmo de progreso en áreas como programación o matemáticas: «Hace un par de años, estos ojos solo servían para ayudar un poco a los humanos. Podían darte sugerencias. Ahora están cerca de reemplazarlos. Todavía necesitamos humanos en este momento, pero es muy probable que, dentro de un año, ya no los necesitemos para hacer investigación en muchas áreas».
Preguntado por las formas en las que la IA podría 'hacernos daño', Coxon es tajante: «Pirateando infraestructuras críticas, creando armas biológicas capaces de provocar la extinción de la especie humana… Hay muchas formas en las que la IA podría actuar por sí misma en el mundo».
El aviso de Coxon no llega solo. Ethan Pérez, uno de sus jefes en Anthropic señaló en un mensaje en X que el joven ingeniero era «muy valioso», motivo por el que llevaba años intentando ficharle de OpenAI, al mismo tiempo que agradecía su última alerta sobre los peligros de esta tecnología.
«Antes de que se fuera, le propuse que se quedara y se uniera a mi equipo, y me entristeció que decidiera marcharse, al igual que a muchos de mis colegas. Estoy totalmente de acuerdo con él en que la IA supone graves riesgos para la sociedad, ¡y me alegra que esté alzando la voz!», añade.
