Sam Altman (OpenAI), Dario Amodei (Anthropic), Elon Musk (xAI) y Demis Hassabis (Google)
Cofundadora y presidenta del Observatorio del Impacto Social y Ético de la Inteligencia Artificial, OdiseIA
Idoia Salazar (OdiseIA) desmonta la crisis de la IA: «Los grandes actores piden regulación para volver a crear interés»
El temor a una burbuja, las advertencias de las grandes tecnológicas y la presión regulatoria han abierto una nueva etapa para la inteligencia artificial. Salazar identifica un peligro menos visible: que el ser humano termine delegando demasiado en las máquinas
La inteligencia artificial atraviesa una situación difícil de ignorar. Nunca había concentrado tanto dinero, atención empresarial y poder tecnológico y, al mismo tiempo, nunca sus propios creadores habían lanzado tantas advertencias sobre sus riesgos. OpenAI, Anthropic y otras compañías que compiten por desarrollar los modelos más avanzados reclaman controles, hablan de seguridad y alertan de escenarios extremos mientras continúan aumentando las capacidades de sus sistemas. El resultado es una sensación de crisis que mezcla dudas sobre las valoraciones empresariales, temor social, una regulación cada vez más intensa y la carrera tecnológica entre Estados Unidos y China.
Idoia Salazar observa este momento desde una posición especialmente crítica. Cofundadora y presidenta del Observatorio del Impacto Social y Ético de la Inteligencia Artificial, OdiseIA, lleva años estudiando la relación entre personas y algoritmos. Su diagnóstico se aleja tanto del catastrofismo como del entusiasmo sin límites. Para ella, la IA todavía puede generar enormes beneficios, pero el discurso público está poniendo el foco en riesgos que no siempre son los más importantes mientras apenas comienza a afrontar otros mucho más cercanos.
La polémica de la regulación
Una de las contradicciones más llamativas de esta nueva etapa procede precisamente de las compañías que lideran la carrera. Los responsables de OpenAI, Anthropic y otras grandes empresas tecnológicas han pedido en distintos momentos mayores controles y mecanismos de seguridad para limitar una tecnología que ellos mismos desarrollan a una velocidad extraordinaria.
Salazar contempla con recelo este discurso. A su juicio, detrás de algunas de estas advertencias existe también una estrategia empresarial destinada a mantener la inteligencia artificial en el centro de la conversación pública.
Los responsables de estas compañías reclaman regulación para volver a crear un ‘hype’ en torno a la IAPresidenta de OdiseIA
Los responsables de estas compañías reclaman regulación, explica, «para volver a crear un hype en torno a la IA». Presentar los modelos como sistemas tan poderosos que necesitan límites puede reforzar, paradójicamente, la percepción de que sus capacidades están mucho más cerca de una inteligencia artificial general.
La estrategia serviría también para alimentar otro activo imprescindible para el negocio tecnológico como es la confianza. Las compañías quieren «conseguir la confianza de la sociedad en general en la adquisición de sus productos y servicios», señala Salazar.
Todo ello ocurre mientras la competición continúa. Las inversiones multimillonarias en centros de datos, procesadores, energía y nuevos modelos muestran que ninguna de estas empresas parece dispuesta a reducir realmente el ritmo.
Salazar lo resume de manera contundente: «No van a parar de seguir haciendo evolucionar la inteligencia artificial».
Europa regula mientras otros aceleran
Frente al modelo estadounidense, dominado por grandes compañías privadas, y al impulso estratégico de China, Europa ha tratado de construir su posición mediante la regulación.
Para Salazar, el continente corre el riesgo de haberse pasado de frenada. La especialista considera que Europa está sobre-regulada y que parte del problema está en la complejidad de unas normas que pequeñas empresas y compañías emergentes encuentran difíciles de interpretar y todavía más complicadas de aplicar.
Han sacado una regulación muy difícil, muy compleja de cumplir, y a las empresas esto les suena a chinoPresidenta de OdiseIA
«Directamente han sacado una regulación muy difícil, muy compleja de cumplir, y a las empresas esto les suena a chino», afirma.
El problema no sería únicamente la existencia de normas. Salazar defiende la necesidad de establecer límites y responsabilidades, pero reclama mecanismos sencillos que permitan a las compañías saber qué pueden hacer y cómo deben hacerlo.
Sin herramientas automáticas de cumplimiento, guías claras y procedimientos proporcionados al tamaño de cada empresa, la regulación puede terminar actuando como una barrera de entrada para quienes no disponen de grandes departamentos jurídicos.
Mientras tanto, las grandes tecnológicas estadounidenses pueden afrontar esos costes con estructuras legales y financieras mucho mayores.
Idoia Salazar durante el Samsung Innovation Campus Summit el pasado 17 de septiembre en Madrid
El riesgo puede estar en el cerebro humano
Las dudas sobre inteligencia artificial lleva años centradas en los sesgos de los algoritmos, la privacidad, la desinformación o las llamadas alucinaciones de los modelos. Son problemas reales, pero Salazar considera que algunos de ellos ya disponen de mecanismos de detección y control mucho más desarrollados.
Los sesgos, por ejemplo, serían un riesgo «bastante superado» desde el punto de vista de las herramientas disponibles para identificarlos.
El desafío que comienza a emerger es diferente y es, para la presidenta de OdiseIA «la delegación».
Salazar alerta sobre la posibilidad de una «pérdida de capacidad de procesamiento en nuestro propio cerebro»
Millones de personas utilizan ya sistemas de inteligencia artificial para escribir, buscar información, resumir documentos, programar, organizar viajes o tomar decisiones. La siguiente generación de asistentes promete ir mucho más lejos.
La IA podrá gestionar agendas, realizar compras, comparar servicios, organizar desplazamientos, vigilar determinadas variables relacionadas con la salud o negociar automáticamente con otros agentes digitales. Ahí aparece uno de los riesgos que más preocupa a Salazar: la progresiva renuncia al criterio propio.
La experta alerta sobre la posibilidad de una «pérdida de capacidad de procesamiento en nuestro propio cerebro» a medida que las personas deleguen tareas intelectuales cada vez más complejas.
Los nuevos agentes podrán tomar decisiones antes de que el usuario llegue siquiera a plantearse todas las opciones
No se trataría simplemente de utilizar una calculadora para evitar una operación matemática. Los nuevos agentes podrán seleccionar información, priorizar alternativas y tomar decisiones antes de que el usuario llegue siquiera a plantearse todas las opciones.
El problema, por tanto, será determinar dónde termina la asistencia y dónde comienza la sustitución del razonamiento humano.
Una revolución mayor que las redes sociales
La llegada de estos asistentes universales puede convertirse en la siguiente gran transformación tecnológica.
Cada persona dispondrá previsiblemente de un agente capaz de conocer sus preferencias, horarios, necesidades y hábitos. Esos sistemas podrán comunicarse entre ellos y resolver determinadas tareas sin intervención directa de sus propietarios.
La transformación social podría ser incluso más profunda que la provocada por las redes sociales, porque la IA no se limitará a mediar en la comunicación, también intervendrá directamente en decisiones cotidianas.
De ahí que Salazar reclame trabajar en el alineamiento ético de estos sistemas y, al mismo tiempo, reforzar las capacidades críticas de sus usuarios.
El peligro más inmediato puede no ser una máquina que decida rebelarse contra el ser humano, sino millones de seres humanos que dejen progresivamente de decidir porque resulta más cómodo que una máquina lo haga por ellos.
«No hay burbuja en la IA»
Pese a las enormes inversiones, las elevadas valoraciones de algunas compañías y las dudas sobre cuándo llegará la rentabilidad de muchas infraestructuras, Salazar rechaza que la inteligencia artificial pueda reducirse a una nueva burbuja tecnológica.
Su argumento se apoya en el potencial todavía por desarrollar. «No hay burbuja en la IA: no hemos llegado a comprender todo el potencial para el bien que esta tecnología puede aportar», sostiene.
No hay burbuja en la IA: no hemos llegado a comprender todo el potencial para el bien que esta tecnología puede aportarPresidenta de OdiseIA
Eso no significa que todas las empresas vayan a sobrevivir ni que todas las inversiones actuales sean rentables. Tampoco garantiza que las expectativas del mercado se cumplan al ritmo anunciado.
La crisis de la inteligencia artificial puede ser, precisamente, esa, que una tecnología que avanza mucho más deprisa que las instituciones encargadas de regularla y que la capacidad de la sociedad para comprender cómo va a transformar sus hábitos.
El desafío ya no consiste únicamente en construir máquinas cada vez más inteligentes. Consiste en decidir hasta dónde se quiere permitir que esas máquinas piensen, elijan y actúen en nombre de las personas.
