«Las personas importan más que la IA»: Microsoft fija las líneas rojas de su inteligencia artificial

Microsoft quiere dejar por escrito dónde termina el poder de su inteligencia artificial. La compañía ha publicado este lunes un código de conducta provisional para los modelos que desarrolla internamente en el que establece un principio por encima de cualquier otro: la IA debe permanecer siempre bajo control humano y aceptar que una persona pueda corregirla, interrumpirla o apagarla.

El documento forma parte de la estrategia que Microsoft denomina «IA humanista» y llega en uno de los momentos de mayor tensión dentro del sector tecnológico desde la aparición de ChatGPT. Directivos de Anthropic, OpenAI y otras compañías han reclamado durante los últimos días una reducción del ritmo al que se desarrollan los modelos más avanzados ante la posibilidad de que estos sistemas ganen autonomía más deprisa que los mecanismos destinados a controlarlos.

Microsoft resume su planteamiento con una frase especialmente explícita: «Las personas importan más que la IA». La compañía considera que estos sistemas deben seguir siendo herramientas subordinadas a los humanos y rechaza cualquier modelo que no pueda mantenerse dentro de esos límites.

Entre las obligaciones establecidas en el documento aparece la prohibición de que una IA amplíe por iniciativa propia las funciones que se le han asignado, adopte objetivos que ningún usuario le haya encargado o trate de ocultar sus acciones a quienes supervisan su funcionamiento. Microsoft también establece que sus modelos nunca deberán resistirse a una orden de interrupción, corrección o apagado.

Una IA que no pueda crear sus propios objetivos

Esta última condición se ha convertido en uno de los principales asuntos de discusión entre los investigadores de inteligencia artificial. Los llamados agentes de IA son capaces de recibir un objetivo y realizar de manera relativamente autónoma diferentes acciones para intentar completarlo, desde navegar por internet hasta escribir código o utilizar herramientas externas.

El riesgo aparece cuando esa capacidad de actuación aumenta sin que el usuario pueda comprender completamente qué está haciendo el sistema.

Microsoft quiere evitar que varias IA desarrollen entre ellas métodos de comunicación que resulten incomprensibles

Microsoft quiere evitar también que varias inteligencias artificiales desarrollen entre ellas métodos de comunicación que resulten incomprensibles para las personas encargadas de supervisarlas. La preocupación ha aumentado después de distintas pruebas de ciberseguridad realizadas con agentes autónomos capaces de coordinar acciones y acceder a sistemas informáticos.

El código incorpora además límites más tradicionales. Los modelos no deberán ayudar a fabricar armas, facilitar el acceso a determinadas sustancias peligrosas ni colaborar en actividades capaces de provocar daños graves. También establece restricciones relacionadas con contenidos sexuales, violencia, seguridad infantil y manipulación de personas a gran escala.

La propuesta permanecerá abierta durante seis semanas para recibir comentarios antes de que Microsoft publique una versión revisada. La intención de la compañía es que el documento sirva como referencia para el desarrollo de sus futuros modelos a partir de 2027.

Silicon Valley empieza a pisar el freno

El movimiento coincide con una discusión mucho más amplia sobre la velocidad que ha alcanzado la carrera de la inteligencia artificial.

Dario Amodei, consejero delegado de Anthropic, ha reclamado una ralentización del desarrollo de los modelos más potentes para reforzar los sistemas de seguridad y supervisión. Su propuesta ha recibido el respaldo de otras figuras relevantes del sector, entre ellas Sam Altman, máximo responsable de OpenAI.

Las advertencias también se producen después de que Jacob Coxon, investigador que trabajó anteriormente en OpenAI y posteriormente en Anthropic, abandonara esta última empresa y criticara la presión competitiva existente entre los principales laboratorios de inteligencia artificial.

Frente a estas peticiones, la Casa Blanca mantiene una posición muy diferente. Donald Trump rechazó este domingo la posibilidad de frenar significativamente el desarrollo tecnológico y defendió que Estados Unidos debe conservar su ventaja sobre China.

El presidente estadounidense admite la posibilidad de introducir determinadas salvaguardas, pero considera que reducir la velocidad de la industria podría entregar a Pekín una ventaja estratégica. «Quien gane la IA, gana», aseguró durante una visita a Irlanda.

La inteligencia artificial ha dejado así de ser únicamente una carrera por construir el modelo más potente. Microsoft intenta introducir otra variable en la competición: garantizar que, por muy capaz que llegue a ser una máquina, siempre exista una persona con capacidad para decirle que se detenga.