Sanjana Mehta, experta en IA: «Dada la rapidez a la que evoluciona, si no se aprovecha esta oportunidad será difícil de frenar»

La inteligencia artificial (IA) ha avanzado a un ritmo frenético en los últimos años, hasta tal punto que ha puesto a prueba la capacidad de las organizaciones y empresas para gestionar sus riesgos y garantizar la seguridad en un entorno cada vez más exigente. Estas cuestiones centraron el debate en la ISACA Europe Conference 2026, celebrada en Múnich del 7 al 9 de octubre, que reunió a expertos internacionales para abordar los retos de la gobernanza de la IA, la ciberseguridad y la confianza digital.

En este contexto, Sanjana Mehta, experta en regulación de la inteligencia artificial en ISACA (Asociación de Auditoría y Control de Sistemas de Información) explica en una entrevista concedida a El Debate los distintos desafíos que plantea esta tecnología y la necesidad de establecer mecanismos de control antes unos posibles riesgos cada vez más difíciles de gestionar.

–¿Cuál es el mayor riesgo de la IA que las empresas están subestimando realmente?

–Uno de los problemas clave que nosotros en ISACA vemos es que las organizaciones no están teniendo una comprensión de dónde está siendo utilizada la IA por los empleados, ni cómo se está utilizando. Por lo tanto, no creemos que se haya hecho una especie de inventario de los usos de la IA dentro de una organización. Y, obviamente, el mayor riesgo o desafío que conlleva la falta de visibilidad del uso de la IA es que, si ocurriera un incidente, la organización no sabría cómo responder a él, dónde se guardan los datos o cómo se procesan. Sin ese tipo de supervisión y gobernanza sobre el uso de la IA dentro de una organización, se abren de par en par las puertas a numerosos riesgos en torno al uso de los datos, su control y, ciertamente, si se produjera un incidente, este podría escalar a otras partes del negocio.

Las políticas no pueden evolucionar al mismo ritmo que lo hace la tecnologíaSanjana MehtaVicepresidenta asociada de Regulación para Europa de ISACA

–En las últimas semanas algunos directores ejecutivos como Sam Altman, Elon Musk o Dario Amodei han hablado sobre el riesgo existencial para la humanidad. ¿Es esto real o es ciencia ficción?

–Pienso que a veces, al hablar de amenazas existenciales como el fin de la humanidad o que dentro de diez años los agentes de IA habrán tomado el control, tendemos a ignorar la oportunidad inmediata y el desafío inmediato al que se enfrentan las organizaciones en este preciso momento. Por lo tanto, mi recomendación o consejo sería que el foco debe estar en el aquí y el ahora; las organizaciones tienen muchos aspectos bajo su control en este momento para garantizar que estamos poniendo los cortafuegos y salvaguardas adecuados en torno al uso de estas tecnologías.

–¿Puede la IA evolucionar más y mejor que la regulación de los gobiernos?

–Por supuesto creo que reconocemos el hecho, e incluso los reguladores y legisladores lo reconocen, de que las políticas no pueden evolucionar al mismo ritmo que lo hace la tecnología.

Pienso que lo que esperamos, y lo que ciertamente estamos viendo en este momento con algunos de los nuevos marcos legislativos, incluso la Ley de Inteligencia Artificial de la UE y en otras jurisdicciones– es que hay cierta flexibilidad inherente integrada en dichos marcos legislativos. De este modo, estos marcos pueden adaptarse a la evolución tecnológica y a sus desafíos.

–En los próximos años, ¿cuál es el mayor desafío de la tecnología y de esta industria para resolver las amenazas o la regulación?

–El mayor desafío en relación con la tecnología de IA, o cómo evoluciona, es que la oportunidad para las organizaciones es ahora: empezar a pensar en su gobernanza, aseguramiento y supervisión sobre el uso de la IA. Pienso que, dada la rapidez a la que evoluciona la tecnología, si las organizaciones no aprovechan esta oportunidad en este momento, les va a resultar muy difícil frenar, dar marcha atrás y dar sentido a las complejidades que acompañan a esta tecnología.

Sabemos que esa tasa de adopción va a seguir aumentando y proliferando; por lo tanto, la ventana de oportunidad para construir algún tipo de gobernanza y garantía en torno a la IA es ahora, en lugar de esperar a que la tecnología se vuelva aún más compleja y complicada.

Uno de los aspectos clave señalados en muchas regulaciones es la auditoría de terceros. Los gobiernos creen que, para tener la confianza de que las organizaciones están utilizando estas tecnologías de manera responsable y ética, y que cuentan con las barreras de seguridad y provisiones adecuadas para gestionarlas, la auditoría independiente de terceros es fundamental.

–¿Qué le preocupa más: una IA maliciosa o una que persiga un objetivo legítimo de una manera inesperada?

–Desde un punto de vista personal, diría que ambos contextos me preocuparían. Ambos casos de uso me parecen problemáticos.

El papel de la supervisión humana en todo esto es sumamente importanteSanjana MehtaVicepresidenta asociada de Regulación para Europa de ISACA

–¿Y cuál es la solución para estos ejemplos?

–A medida que las organizaciones confían más en las tecnologías de IA y el panorama de amenazas evoluciona y cambia, los controles y procesos de ciberseguridad de las organizaciones deben ser aún más sólidos y capaces. Por lo tanto, considero que lo verdaderamente importante del trabajo que realizamos en ISACA es que abordamos la IA, la ciberseguridad y la privacidad de manera conjunta e interoperable.

Así que, en definitiva, la IA es otro tipo más de tecnología. Concediendo que es una tecnología muy potente y de evolución muy rápida, no deja de ser una tecnología que, al igual que las anteriores en el pasado, ha alterado el panorama de amenazas y ha impuesto mayores exigencias a los profesionales de la ciberseguridad para reforzar sus defensas.

–¿Cuándo deja la IA de ser una herramienta simple y se convierte en un sistema con un poder abrumador?

–Pienso que la evolución de la IA ocurre a diario. No estoy segura de poder precisar un marco temporal exacto en el que dejó de ser una simple tecnología para convertirse en algo omnipresente y predominante integrado en cada rincón del negocio. Creo que depende en gran medida del sector en el que operen las organizaciones; obviamente, algunos sectores son más avanzados en el uso sistémico de la IA, mientras que otros son más cautelosos y la limitan a casos de uso muy específicos.

–¿Podría la humanidad perder el control de la IA avanzada? ¿cuál sería la primera señal de advertencia?

–Las organizaciones pueden hacer en el presente es construir un marco para entender cómo se usa la IA internamente, desarrollar su preparación y madurez para utilizarla de forma efectiva, e instaurar barreras de protección adecuadas, especialmente reforzando su postura de ciberseguridad y asegurando que haya experiencia interna en la organización.

Es un hecho obvio, pero que debe reiterarse: el papel de la supervisión humana en todo esto es sumamente importante. Disponer de personas cualificadas que tengan las habilidades y la experiencia adecuadas para evaluar tanto los usos efectivos de la IA como sus riesgos potenciales es sumamente importante.

Así que, antes de especular con escenarios hipotéticos sobre la pérdida de control de la humanidad, existe una gran oportunidad en este momento para tomar el control. Animaría continuamente a las personas y organizaciones a evaluar qué tenemos ahora y cómo podemos formarnos para mantener el control y la supervisión adecuados sobre estas tecnologías.

Existe una gran oportunidad en este momento para tomar el controlSanjana MehtaVicepresidenta asociada de Regulación para Europa de ISACA

–Y para la gente de a pie, ¿cuál es la mejor habilidad o defensa en este momento?

–Ciertamente, me gustaría destacar la Ley de IA de la UE, que incluye un artículo específico sobre la creación de alfabetización en IA para el conjunto de los ciudadanos. Existe un nivel básico de comprensión que las personas deben adquirir tanto en el ámbito personal como profesional sobre el uso de la IA. Al igual que difundimos la importancia de la higiene cibernética, considero fundamental promover una alfabetización básica sobre la inteligencia artificial.