Las redes no son un juego de niños

Investigadores del MIT examinaron hace ya casi una década la propagación de la información a través de las redes sociales y descubrieron que las noticias falsas y falsificadas (fake news) viajaban más rápido, con más difusión y más profundamente que la verdad en cada una de las categorías que estudiaron. Atribuyeron ese hallazgo al atractivo de la novedad y al ‘estatus’ que todos adquirimos en un grupo cuando compartimos información desconocida para el resto. Ha pasado ya tiempo desde entonces.

Lejos de encauzarse, la conjura de las redes sociales sigue avanzando. Su incentivo fundamental e indisimulado es ya claramente mantenernos enganchados, no informados. Ese es el escenario en el que la UE presenta la KIDS Act, dirigida a impedir el uso de las redes sociales a los menores de 13 años, que sólo podrán acceder a través de cuentas gestionadas por sus padres («o tutores»). «Volvemos a poner a los padres en el asiento del conductor», ha dicho la presidenta Von der Leyen, «dándoles las herramientas para ayudar a sus hijos a navegar por un mundo online más seguro».

Lejos de encauzarse, la conjura de las redes sociales sigue avanzando

La complejidad del problema es tal que resulta difícil creer que una herramienta vaya a devolver a los padres el control que aparentemente muchos decidieron hace tiempo no ejercer. Las redes se han aprovechado siempre de vacíos legales, pero sobre todo culturales y principalmente familiares para crecer a una escala incomparable a la de cualquier otro sector económico. Todos esos vacíos son escandalosos, pero los últimos son la clave.

La legislación no ha hecho mucho hasta ahora, la verdad. La normativa norteamericana antimonopolio, mucho menos restrictiva que la de la UE, se centra en los precios al consumidor y no se aplica a los servicios gratuitos. Eso ha permitido a las redes sociales dimensionarse y adquirir empresas más pequeñas y potenciales competidores. De hecho, una multitud de startups han nacido únicamente con el objetivo de convertirse en máquinas de generar atención para ser compradas por los gigantes.

Una multitud de startups han nacido únicamente con el objetivo de convertirse en máquinas de generar atención para ser compradas por los gigantes

Más normativa fallida: aunque el Tribunal de Justicia de la UE reconoce que el intercambio de datos por un servicio digital es una transacción económica, para recaudar el IVA resulta administrativamente inviable asignar un valor a cada clic, cookie o rastro de actividad de un usuario. Cada persona tendría que emitir una factura con IVA por vender información a Meta, TikTok o Google, pero eso es inaplicable en la práctica. Por tanto, el IVA no se recauda a la entrada, sino únicamente a la salida: cuando las plataformas venden esa publicidad hipersegmentada a los anunciantes, que sí pagan en dinero real e integran el IVA correspondiente. No es una evasión fiscal, pero se le parece.

Hubo un momento en el que las grandes plataformas de internet nos convencieron de que iban a controlar los mensajes con una suerte de moderación de contenidos. Pero, a diferencia de la pornografía, que es relativamente fácil de segmentar, el filtrado de la desinformación exige vigilantes humanos, porque las herramientas de inteligencia artificial (IA) siguen sin estar a la altura. Paradójicamente, compañías como Meta están cerrando centros de trabajo, encomiendan la moderación a empresas ubicadas en países con menores costes y marcos laborales distintos, y dejan cada vez más trabajo a la IA.

Hubo un momento en el que las grandes plataformas de internet nos convencieron de que iban a controlar los mensajes con una suerte de moderación de contenidos

¿Por qué? Porque, en el fondo, como me explicaba el director de computación del MIT Media Lab, Michael Bletsas, poner sistemas de control ha implicado siempre un aumento de los costes operativos sin ningún beneficio directo por el lado de los ingresos. Basta observar la gráfica de incremento de negocio de Facebook e Instagram: el daño a su reputación no ha tenido ningún efecto dramático en su cuenta de resultados.

La propuesta de Bletsas es invertir los términos de modo que los datos personales sean siempre propiedad del usuario, no de la plataforma, y se guarden en un contenedor digital, al que sólo se podría acceder con su permiso. Es el planteamiento que viene defendiendo también el creador de la world wide web, Tim Berners Lee, a través de Solid.

La intentona regulatoria de la UE con la KIDS Act no está carente de buenas intenciones, pero desprende esencias de ingenuidad. El desafío es inmensamente mayor. Si no teníamos suficiente con las redes sociales, la IA física va a ir penetrando en dispositivos ubicados en todos nuestros espacios privados, como el hogar. El capital riesgo fluye ahora mismo apasionadamente hacia ese panal.

La intentona regulatoria de la UE con la KIDS Act no está carente de buenas intenciones, pero desprende esencias de ingenuidad

El hogar ha sido considerado durante mucho tiempo un santuario de privacidad, pero se prevén casi 800 millones de usuarios de hogares inteligentes en 2028, y la recopilación y el procesamiento de datos en ese entorno carecen actualmente de transparencia y control, pese a que la normativa dice que las personas deben ser informadas sobre los datos que recopilan estos dispositivos y dar su consentimiento. ¡Vacíos!

Los asistentes inteligentes pueden ser secuestrados mediante comandos de voz, se pueden inferir datos personales sensibles no revelados a través de los dispositivos del hogar, como opiniones políticas, hábitos, aficiones, nivel educativo, origen étnico e incluso emociones. Es viable averiguar la profesión de los ocupantes a partir de imágenes digitales del interior de la vivienda capturadas y analizadas por dispositivos con IA.

Las personas que controlan la duración y la calidad de su sueño mediante aplicaciones generan datos muy sensibles para los fabricantes de sistemas de iluminación inteligente

También es posible reconstruir palabras clave de conversaciones a partir de los datos que proporciona un sensor de movimiento, integrado en un dispositivo aparentemente irrelevante, como una lámpara, analizando las ondas acústicas producidas por las voces. Las personas que controlan la duración y la calidad de su sueño mediante aplicaciones generan datos muy sensibles para los fabricantes de sistemas de iluminación inteligente.

Un hogar inteligente es un espacio vivo, acoge a diferentes actores, incluidos niños e invitados. Un asistente de voz puede grabar las voces de varios miembros de la familia. Pronto se planteará el debate sobre los datos entrelazados e interpersonales, creados a partir de las interacciones de varias personas en un hogar, en los que el grupo es el sujeto.

En fin, la naturaleza del problema ha evolucionado de forma descomunal desde aquellos tiempos en los que las redes sociales y su capacidad para generar adicción parecían abrir la puerta abierta del averno. Hoy aquello parece un juego de palas en la playa. Poner al volante a los padres usando la tecnología ya no es una condición suficiente, en sí misma, para asegurar la protección de los más pequeños. «Necesitamos un momento 1984», me dijo Michael Bletsas.

Eugenio Mallol es periodista especializado en innovación tecnológica, autor, conferenciante y columnista. En la actualidad es director de estrategia y comunicación de Atlas Tecnológico, el primer ecosistema de la industria 4.0 en España, y coordinador y analista de la Cátedra Ciencia y Sociedad de la Fundación Rafael del Pino.