Google Overviews
Google sufre la nueva era de las estafas en las respuestas de su propia IA: «Tengan cuidado»
Un empresario de Las Vegas fue estafado al buscar en Google el número de atención al cliente de Royal Caribbean y la IA del buscador le mostró un teléfono falso que acabó costándole cientos de dólares
El engaño no se produjo a través de un correo fraudulento ni de un anuncio sospechoso, sino mediante una de las nuevas herramientas de inteligencia artificial de Google, conocida como AI Overviews. Y fue devastador para la víctima y para el modelo de respuestas de los chatbots que resulta ser muy influenciable.
El caso es que un empresario estadounidense ha sido víctima de una estafa mientras intentaba reservar un medio transporte turístico. Según The Washington Post, el buscador le ofreció un número de atención al cliente que resultó ser falso y acabó costándole cientos de dólares.
El afectado, Alex Rivlin, dirige una empresa inmobiliaria en Las Vegas y se preparaba para unas vacaciones en Europa. Necesitaba contratar un servicio de lanzadera hacia un crucero y, desde la mesa de su cocina, buscó en Google el teléfono de atención al cliente de Royal Caribbean. A los pocos minutos hablaba con un supuesto agente de la compañía que le ofreció información detallada sobre horarios, tarifas y ubicaciones de recogida en Venecia. Convencido de su veracidad, facilitó los datos de su tarjeta de crédito y pagó 768 dólares.
Al día siguiente, Rivlin detectó cargos extraños en su cuenta bancaria. Fue entonces cuando comprendió que había sido víctima de un impostor. El número de teléfono que le proporcionó la IA de Google no pertenecía a Royal Caribbean, sino a estafadores que se hacen pasar por líneas de atención al cliente de distintas navieras y aerolíneas.
La nueva era de las estafas con IA
«El número que me ofreció Google en sus AI Overviews era una estafa. Yo soy una persona bastante avanzada tecnológicamente y aun así caí en la trampa», explicó Rivlin a The Washington Post. El empresario reconoció parte de la culpa, pero señaló también a la compañía tecnológica por no reforzar los mecanismos de seguridad de su motor de búsqueda.
Expertos en comportamiento digital coinciden en que este caso es un ejemplo de cómo las estafas tradicionales se están adaptando al nuevo ecosistema de la inteligencia artificial. «Manipular estos nuevos motores de respuesta con técnicas de hace 30 años es como disparar a patos en un estanque», afirmó Mike Blumenthal, analista de Near Media, en declaraciones al mismo medio. Tanto él como otros investigadores detectaron que el mismo número fraudulento aparecía en búsquedas relacionadas con Disney Cruises o Princess Cruises, e incluso en respuestas de ChatGPT.
Manipular estos nuevos motores de respuesta con técnicas de hace 30 años es como disparar a patos en un estanqueAnalista de Near Media
El procedimiento de los estafadores es sencillo: publican números falsos en foros, reseñas y páginas poco fiables, que acaban posicionándose en los resultados de Google. Cuando los sistemas de IA rastrean la web en busca de información, reproducen esas cifras como si fueran auténticas.
La respuesta de Google y OpenAI
La compañía de Mountain View, consultada por The Washington Post, aseguró que los resultados de sus AI Overviews «funcionan de manera eficaz para dirigir a los usuarios a información oficial de atención al cliente en la mayoría de los casos». Un portavoz confirmó que se habían eliminado varios ejemplos de números falsos y que se trabaja en mejoras para evitar que estas situaciones se repitan en consultas menos comunes.
Por su parte, OpenAI explicó que varias de las páginas web que citaba ChatGPT con el teléfono fraudulento ya habían sido retiradas, aunque reconoció que la actualización de la información puede demorarse hasta que desaparezca el contenido abusivo de la fuente original.
OpenAI explicó que varias de las páginas web que citaba ChatGPT con el teléfono fraudulento ya habían sido retiradas
Especialistas en posicionamiento advierten que Google debería restringir la aparición de AI Overviews en búsquedas relacionadas con números de teléfono, precisamente para evitar que los estafadores exploten esa vulnerabilidad. «Al permitir que aparezcan en estas consultas, están abriendo una nueva oportunidad que los delincuentes ya están aprovechando», señaló Lily Ray, vicepresidenta de la firma Amsive, en declaraciones al diario estadounidense.
De regreso a su casa tras el viaje, el empresario aseguró que está aún más atento ante posibles nuevos intentos de fraude y lanzó un mensaje de precaución: «No puedo creer que me haya pasado a mí. Tengan cuidado».
