Fundado en 1910

19 de abril de 2024

ia algoritmo ilustración

La IA «podría amenazar al ser humano»Lu Tolstova

La semana tecnológica

Las 96 horas en las que la inteligencia artificial generativa quiso dominar el mundo

El denominado 'proyecto Q*', que «podría amenazar al ser humano», salió a la luz a raíz del culebrón con el CEO de Open AI

Una semana horrible para Sam Altman que, sin embargo, será recordada durante décadas. Apenas cuatro días entre el despido de uno de los fundadores de la mayor empresa de inteligencia artificial del mundo, OpenAI, y el regreso a su puesto de CEO. Microsoft y miles de trabajadores estuvieron detrás de su vuelta, pero la gran pregunta es: ¿qué estuvo detrás de su salida?.
Desde OpenIA aseguraron en un comunicado que: «La junta directiva ya no tiene confianza en su capacidad para seguir liderando OpenAI». Después de eso llegaron las presiones de los trabajadores y de Microsoft, máximo inversor. Un total de 747 de los 770 empleados de OpenAI habían firmado la carta con el fin de persuadir a los directivos de que renunciaran y reincorporen a Sam Altman, al que, en un principio, había acogido Microsoft.

Proyecto 'Q*'

Una vez que Altman volvió a su puesto el 22 de noviembre, se han conocido detalles sobre lo que pudo pasar cuatro días antes para un despido tan fulminante. Todo parte del informe 'Q*' en el que trabajaba, de manera casi secreta, un equipo de OpenAI.
Los responsables encontraron algo digno de ponerlo en conocimiento del consejo directivo. Una «amenaza a la humanidad» por el enorme salto de la inteligencia artificial hacia una AGI (inteligencia artificial generativa), es decir, una que supere los humanos y llegue a razonar como ellos, lo que se sobrepasaría todos los límites éticos y morales.

La AGI se refiere a la capacidad de una máquina para entender, aprender y aplicar conocimientos de manera similar a un ser humano

La AGI se refiere a la capacidad de una máquina para entender, aprender y aplicar conocimientos de manera similar a un ser humano en una amplia variedad de tareas intelectuales. A diferencia de la inteligencia artificial especializada, que se enfoca en tareas específicas, la AGI aspira a tener habilidades cognitivas generales comparables a las de los seres humanos. Al parecer, todavía no ha alcanzado la capacidad de aprender y realizar cualquier tarea de manera similar a un humano en todos los aspectos.

Facebook y Trump

Ana Reyes es profesora de la escuela de negocios panaeuropea ESCP Business School y una de las grandes expertas en algoritmos, neurociencia, además de consultora de redes sociales y doctora en Marketing Digital. Reyes recuerda el caso de Facebook, Trump y Cambridge Analytica donde el big data de la red social cayó en manos de la consultora y eso facilitó a Donald Trump llegar a la presidencia. Pero va más allá y se pregunta «¿cómo pretendía Trump regular lo que le había llevado a la Casa Blanca?». El símil pretende avisar sobre la futura composición de la cúpula de OpenIA con el regreso de Sam Altman porque «los que controlaban el avance comercial no saben ahora lo que puede pasar con el cambio de responsables».
En su labor de investigación y de proporcionar conocimiento a la sociedad, Ana Reyes ha encontrado hasta 56.000 artículos académicos sobre la IA donde ya se explica que esta tecnología va a comprender contexto, se va a personalizar a cada uno de nosotros. También se escribe sobre los sesgos y ética y, tal y como explica la profesora Reyes «ChatGPT prioriza la seguridad de las personas, si le pides ayuda para hacerte daño va a cambiar de tema o te va a mentir».

ChatGPT prioriza la seguridad de las personas, si le pides ayuda para hacerte daño va a cambiar de tema o te va a mentirAna ReyesProfesora doctora de ESCP Business School

El informe 'Q*' sobre una inteligencia artificial generativa en ciernes y que podría amenazar a la humanidad tiene el control de OpenIA que, se supone, que es una empresa sin ánimo de lucro aunque esta herramienta «es una iniciativa privada dentro de una institución pública», matiza Reyes que se pregunta «¿ante quién responden los creadores de ChatGPT?».
De aquí se deriva el gran problema de la IA sobre su regulación. «Tendría que haber un organismo público que lo haga, pero este proceso es muy lento. Es positivo que haya una regulación mundial o habrá competencia desleal entre países y un impacto en la macroenomía que no podemos imaginar», aclara.
Comentarios
tracking