Mark Zuckerberg se queda sin Manus, la IA china
Zuckerberg apuesta por que se analice la IA con profesionales de forma individual, pero no quiere frenarla
En un mensaje en la red social X, afirma que cada laboratorio tiene «la responsabilidad y el incentivo» de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura
El director ejecutivo de Meta, Mark Zuckerberg, propone que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial (IA) que desarrollan las empresas, pero no por frenar su desarrollo.
En un mensaje en la red social X, afirma que cada laboratorio tiene «la responsabilidad y el incentivo» de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso suceda.
Zuckerberg recuerda que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad, pero también que no exigieron al resto de empresas que lo hicieran también.
«Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros», explica.
La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén «alineados» con ellos y que no hagan lo que se les pide, por lo que los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos.
Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas, Zuckerberg asegura que «la confianza y la alineación» se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos.
«Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo», ha escrito en X, donde defiende que contratar evaluadores y asesores independientes «es la mejor práctica de la industria».
Reitera que Meta ha asumido ese compromiso con la seguridad y que «otros laboratorios también pueden hacerlo», y que la clave para construir un futuro positivo para todos «reside en mantener el equilibrio de poder adecuado».