Ten cuidado con la IA si no quieres que te roben tu dinero: te recomienda tiendas falsas
La inteligencia artificial generativa no siempre es de fiar, y tenemos un nuevo ejemplo: ChatGPT recomendando tiendas claramente fraudulentas, que se quedarán con el dinero, pero no enviarán los artículos.
No es un simple error. Los expertos llevan tiempo advirtiendo del riesgo del "envenenamiento" de la IA por parte de los ciberdelincuentes. Es una serie de técnicas que generan contenido en Internet diseñado para manipular las respuestas de los modelos de lenguaje grande (LLM) como ChatGPT, Gemini, Copilot o Meta AI.
Ahora aparece un caso real: ChatGPT recomendando tiendas fraudulentas de bolsos de Russell & Bromley. No tiendas que venden falsificaciones, sino que ni siquiera mandarán el producto después de cobrar.
Tras la investigación periodística que detectó este problema, con investigadores humanos aplicando criterios racionales, ChatGPT corrigió sus recomendaciones:
La inteligencia artificial no tiene un criterio humano, sino que funciona de manera estadística. Este ejemplo demuestra sus debilidades, aunque es cierto que la situación era compleja.
La página oficial de la marca Russell & Bromley estaba cerrada, porque la firma quebró, y fue absorbida por otra empresa. Así que la IA no disponía de esa referencia fiable, con reputación online.
Del otro lado, los ciberdelincuentes sabían que aún hay compradores interesados en los productos. Así que empezaron a crear tiendas falsas con enormes descuentos, que eran simples estafas.
No está claro si aspiraban a este "envenenamiento" de la IA, pero les ha beneficiado. Las tiendas fraudulentas son un fenómeno relativamente frecuente, que también se apoya en la IA para generar las páginas de manera rápida y muy asequible.
Cómo detectar tiendas online fraudulentas
Las tiendas diseñadas como una estafa son un fenómeno al alza, que logra engañar a algunos compradores. Hay algunas señales de alerta que deberían hacernos desconfiar de una página:
- Descuentos muy elevados o precios mucho más bajos que la competencia.
- Ausencia de medios de pago seguros como PayPal, Bizum o Google Pay.
- Pago obligatorio mediante transferencias o giros internacionales (tipo Western Union).
- Opiniones negativas al buscar sobre la reputación de la tienda, o falta total de opiniones.
En muchos casos, son tiendas que acaban de abrir, y que no tardarán en cerrar, cuando se detecte el engaño. Algunas tienen nombres que dejan muy claro que son "oficiales" o tienen "ofertas" para llamar la atención a toda costa, y otros imitan mejor a las originales.
Hace poco vimos cómo Meta AI era usado para robar cuentas de Instagram, enviándole comandos maliciosos. Este nuevo caso, basado en el envenenamiento de la IA, es un ejemplo de que alrededor de la inteligencia artificial hay tantas oportunidades como riesgos.
Cómo usar la IA en nuestros dispositivos móviles
Vía: The Guardian
- Ver Comentarios
