Román Orús, único experto español sobre IA en el Panel de la ONU: «Se nos puede ir de las manos»

Román Orús, el único español entre los cuarenta expertos independientes integrantes del Panel Científico Internacional de la ONU sobre Inteligencia Artificial (IA), se suma a las voces que piden retrasar el vertiginoso desarrollo de esta tecnología que ve necesario «frenar» un poco.

«Lo que necesitamos es una IA supervisada por los humanos, que esté al servicio de la humanidad y no al revés. No queremos una inteligencia artificial que supervise a la humanidad y que nos tenga a su servicio aunque sea de una manera muy sutil y persuasiva», señala Orús en una entrevista concedida a la Agencia EFE tras los últimos incidentes de ciberseguridad achacados a esta disruptiva tecnología.

Recientemente, el director ejecutivo de Anthropic, Dario Amodei, ha reclamado «un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. Una advertencia a la que también se han sumado otros líderes tecnológicos como sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector.

Ahora, Orús, director científico de Multiverse Computing (la compañía española especializada en computación cuántica y compresión de modelos de IA), advierte igualmente de que «la inteligencia artificial está empezando a ser tan potente que no acaba de estar controlada de forma eficiente».

«Hay que investigar la forma en la que se entrenan las IAs y hay que supervisarlas más. Hay que ponerles sistemas de alerta temprana de distintas maneras para evitar que haya desastres», sentencia.

«Es preciso frenar, porque hay una serie de cosas que es necesario asegurar bien y entender antes de continuar con el desarrollo, porque una de las cosas de las que nos hemos dado cuenta es que hay que poner distintas capas de seguridad para que al final estos modelos que son tan potentes resulten seguros».

Aclara en este sentido que los últimos modelos de IA están «muy centrados en resolver» los problemas que se les plantean y «efectivamente es lo que hacen», si bien en algunos casos «los métodos que emplean» para lograr sus objetivos «un humano no los usaría».

Orús recuerda que en algunos campos matemáticos y de software estas inteligencias artificiales ya superan a los humanos y por ello es importante «controlar» que, cuando se avance hacia «un ecosistema de agentes de IA», todo «esté alineado» ya «de acuerdo a los objetivos de los humanos».

«Llegados a esta capacidad, pues no sorprende que, si a una IA tú le dices que se mejore a sí misma, te puedo asegurar que va a hacerlo y eso es otra cosa que se tiene que controlar», alerta.

Por esta razón le parece «acertado» el llamamiento para retrasar el desarrollo de la IA realizado por los gigantes del sector, en línea también con lo apuntado por el panel de la ONU.

«Nosotros ya veníamos alertando de que tenía que pasar y ahora están echando el freno porque están viendo que está llegando un punto en el que o lo controlamos o, por muy buenas intenciones que tengamos, se nos puede ir de las manos», recalca el experto español.