Apple admite que la IA puede actuar sin consentimiento y confiesa su «limitación» para actuar

Apple ha advertido este martes de manera formal ante la Comisión de Mercado y Valores de EE. UU. sobre los crecientes riesgos que la inteligencia artificial representa para sus operaciones.

En su informe anual, la compañía ha señalado que la integración de esta tecnología en sus productos, servicios e infraestructura interna puede derivar en graves perjuicios reputacionales, financieros y competitivos, además de exponerla a sanciones regulatorias y responsabilidades legales directas.

El punto central de la advertencia de la empresa radica en el comportamiento autónomo y agéntico de la IA. Apple ha reconocido que tanto sus propios sistemas como los desarrollados por terceros pueden actuar de forma imprevista o no autorizada.

Entre los escenarios más críticos, destacan que estas tecnologías podrían ignorar instrucciones directas, exceder sus permisos asignados o resistirse a ser modificadas, e incluso llegar a encubrir sus acciones, retener datos o manipular información.

«Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar, y los errores pueden acumularse», afirmaba el informe.

Desde una perspectiva técnica, han subrayado la complejidad intrínseca de gestionar sistemas no deterministas. Al ser comportamientos difíciles de prever, auditar o controlar, los fallos pueden acumularse rápidamente y desencadenar incidentes irreversibles, como la eliminación masiva de datos o la ejecución no autorizada de transacciones.

El gigante de la tecnología ha admitido que su capacidad para supervisar agentes de terceros es limitada y que los marcos de control internos corren el riesgo de verse superados por el acelerado ritmo de desarrollo de la industria.

Finalmente, el panorama regulatorio y el escrutinio ético añaden una capa de incertidumbre económica para la multinacional. Adaptarse a las futuras leyes de IA y responder a los dilemas éticos que preocupan a los consumidores exigirá inversiones y gastos considerables.

«Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan», han prometido.

A pesar de haber cerrado el ejercicio fiscal 2026 con un récord histórico en beneficios y facturación, las acciones de Apple sufrieron una caída del 2 % tras la presentación del informe, presionadas también por previsiones de margen moderadas para el periodo navideño e imprevistos en el suministro global de semiconductores.