El logotipo de Anthropic en la pantalla de un teléfono y código binario en la pantalla de un ordenador portátil
Anthropic pide frenar el avance de la IA para reducir sus riesgos: «Tenemos la obligación de intentarlo»
Así lo ha detallado su director ejecutivo, Dario Amodei, en una reciente publicación
Su mensaje llega a las pocas horas de que Sam Altman, consejero delegado de OpenAI, planteara la posibilidad de ralentizar el desarrollo de la inteligencia artificial de vanguardia
Dario Amodei, director ejecutivo de Anthropic, instó a las empresas de inteligencia artificial a moderar deliberadamente el ritmo al que avanzan las capacidades de los modelos, exponiendo un marco de tres etapas destinado a regular la velocidad del desarrollo y ganar tiempo para gestionar sus riesgos.
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganemos», afirmó Amodei en un artículo publicado en su blog.
El mensaje de Amodei llega a las pocas horas de que Sam Altman, consejero delegado de OpenAI, planteara la posibilidad de ralentizar el desarrollo de la inteligencia artificial de vanguardia. Entre las principales preocupaciones de Anthropic, su CEO menciona la automejora y el incidente de Hugging Face. A su juicio, un episodio similar protagonizado por sistemas más potentes podría tener consecuencias mucho más graves. Por ello, considera que «es responsabilidad de todas las empresas de IA de vanguardia actuar como si el caso OAI-HF les hubiera ocurrido a ellas».
Su propuesta consiste en acompasar el avance de la inteligencia artificial con mayores garantías, sin detener el desarrollo tecnológico: «Cabe aclarar que marcar el ritmo no significa detener el entrenamiento de modelos ni el progreso técnico, sino asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen».
CEO de Anthropic, Dario Amodei
El plan contempla incorporar evaluadores externos, coordinar a las compañías de los países democráticos y avanzar hacia acuerdos internacionales. Para ello, Anthropic se comprometería a aplicar el primero de esos pasos. El responsable de la empresa insiste, no obstante, en que mantiene intacta su confianza en esta tecnología: «Sigo creyendo que la IA puede mejorar enormemente la calidad de vida humana. Mi deseo de lograr estos beneficios permanece intacto».
Y concluye: «Las medidas que propongo para avanzar en este campo a un ritmo seguro no serán fáciles. Pero creo que tenemos la obligación con la humanidad de intentarlo».
Noticia en ampliación...
