«Vamos en un autobús sin frenos»: la alerta de la comunidad científica ante el descontrol de la IA

Soluciones a problemas matemáticos de hace siglos, dimisiones de ingenieros en empresas punteras, amenazas con armas biológicas solventadas –al menos de momento– y el primer intento de ralentizar una tecnología que parece imparable. Lo sucedido esta semana en el ámbito de la Inteligencia Artificial (IA) ha puesto de manifiesto las múltiples amenazas de una herramienta cada vez más perfeccionada.

En este contexto de completa incertidumbre con respecto a esta tecnología y sus consecuencias, Gonzalo Álvarez Marañón, director de Funditec Research, señala a El Debate que la industria tecnológica se encuentra inmersa a día de hoy en una carrera donde «las grandes compañías compiten por desarrollar nuevos modelos y la seguridad está quedando en segundo plano».

A raíz de estas dinámicas competitivas, el experto pone de manifiesto las dimisiones de Jacob Coxon de Anthropic y Jan Leike de OpenAI. Esto evidencia, según Álvarez Marañón, que las empresas están concentrando la mayoría de sus recursos en ampliar la potencia de sus sistemas antes que en protegerse ante posibles consecuencias: «Se está acelerando cada vez más en la creación de nuevos modelos cada vez más potentes, más inteligentes, capaces de pensar durante más tiempo, de resolver problemas más complejos y de tener mayor autonomía. No se está invirtiendo ni de lejos el mismo esfuerzo en dotarlos de controles, salvaguardas o un control de alineamiento».

Por su parte, Verónica Ferrer Moregó, profesora de Big Data y Analytics en EAE Business School, coincide en este diagnóstico: «El ritmo y la velocidad de evolución de la IA puede ser mucho mayor al que somos capaces de procesar». Además, la docente advierte a este periódico sobre el vacío ético que avanza en el sector, detallando que lo ideal sería «que las leyes vayan más rápidas que la tecnología», aunque en este caso «es radicalmente al revés».

Para el director de Funditec Research, dicha aceleración responde a una cuestión puramente competitiva y económica, donde los incentivos comerciales pueden provocar que nadie quiera quedarse atrás en esta carrera, independientemente de las consecuencias.

«Vamos en ese autobús en el que cada vez hacemos el motor más potente, cada vez va más rápido, pero sin frenos. Nadie se ha parado todavía a diseñar los frenos», destaca.

En otro orden de cosas, el experto subraya que el desafío actual no solo es técnico, ya que áreas y disciplinas como las matemáticas, la ciencia o la programación se encuentran actualmente en un punto superior al ser humano, como se ha demostrado recientemente.

El verdadero peligro para el que deberíamos prepararnos es para toda la gestión psíquica de su impacto en la vida cotidianaVerónica Ferrer MoregóProfesora de Big Data y Analytics en EAE Business School

«Ya estamos ahí, más o menos. Los matemáticos ya están afirmando que los problemas que ellos han podido tardar años en resolver o que no resuelven, la IA ya lo está haciendo en horas», señala.

De igual manera, la experta de EAE Business School añade que la verdadera revolución no es que una IA responda preguntas, sino un posible salto hacia sistemas independientes del ser humano: «La revolución no será un agente que hace lo mismo que yo hago. La revolución será cuando haya nuevos procesos y nuevas cosas que ni siquiera se nos habían pasado por la cabeza hacer».

Sin embargo, Ferrer alerta del impacto directo que este uso continuo está teniendo sobre las personas: «Tanto en empresas como en particulares, están generando una dependencia operativa, psicológica y mental hacia la IA. Ya todo lo operan con ella, todo lo consultan con la IA, y la la IA ha avanzado mucho, pero tiene un grado de error y un grado de alucinación y una manera de contestar donde casi siempre te da la razón».

De hecho, Ferrer Moregó va más allá y reconoce que «el verdadero peligro o para lo que deberíamos prepararnos en realidad es para toda la gestión psicológica y psíquica del impacto de la IA en la vida cotidiana».

En lo que respecta a las distintas visiones apocalípticas promovidas por algunos de los propios ingenieros especializados en IA, Álvarez Marañón reduce el peligro real a un exceso de confianza: «El riesgo para mí no es una IA consciente o malvada. Para mí el riesgo es el alineamiento combinado con la autonomía y los permisos».