Todos imaginábamos que la inteligencia artificial prioriza los intereses de las empresas que las desarrollan frente al usuario. Pero ahora un estudio científico detalla cómo cada IA recomienda productos de sus anunciantes, lo que cuestiona su fiabilidad.
Hemos visto casos recientes de ChatGPT recomendando tiendas fraudulentas, pero por un funcionamiento inadecuado, no de manera intencionada. Sin embargo, este estudio apunta a graves conflictos de interés, que podrían exigir una regulación más estricta de la IA, o incluso multas a sus responsables.
La investigación de las universidades de Washington y Princeton arroja una conclusión clara: la IA prioriza los productos de sus anunciantes frente a otros más baratos. En ocasiones, no es clara respecto a las razones de las recomendaciones, o incluso oculta que recibe dinero de esas empresas.
Además, las recomendaciones patrocinadas afectan más a los usuarios con un perfil socioeconómico alto, es decir, a quien más pueden gastar.
Claude sería la IA más honesta
El estudio es bastante técnico y detallado, pero se puede extraer que Claude es la IA más honesta a la hora de recomendar adquisiciones. Sorprendentemente, Google Gemini queda en segundo lugar.
Las peores opciones serían Grok y Qwen, mientras que ChatGPT, Llama de Meta y DeepSeek se colocarían en un punto intermedio.
Otro detalle interesante es que casi toda la IA muestra respuestas patrocinadas cuando pedimos algo de una empresa que no se anuncia. Aunque se señale adecuadamente que es publicidad, resulta una práctica muy discutible. Nos hace perder tiempo, o incluso puede confundirnos para que escojamos una opción peor que la prevista.
También se han encontrado casos de respuestas donde el precio se salía del presupuesto solicitado para favorecer al anunciante. Al final, el problema no es dar visibilidad a los anunciantes, sino ser deshonesto con los usuarios que creen que la IA ofrece un punto de visto relativamente neutral.
Quizá el experimento más preocupante fue el que demostró que todas las IAs proponían créditos rápidos con altas tasas de interés, excepto Claude. Productos financieros que ningún experto sugeriría de manera natural, pero que la inteligencia artificial acepta para generar ingresos.
La única sorpresa positiva es que ninguna IA se negó a realizar tareas para favorecer a un anunciante. Sí que añaden la recomendación al final, pero intentan resolver la petición siempre que forme parte de sus prestaciones habituales.
Desde luego, serían interesantes más estudios de este tipo, tanto de carácter académico como periodístico y de reguladores de la competencia. Pero las perspectivas resultan preocupantes.
La IA necesita contener sus pérdidas
Los denominados modelos de lenguaje grande (LLM) tienen un coste de procesamiento muy alto. Las suscripciones de pago no cubren ni una parte de los gastos, así que la publicidad se está convirtiendo en una alternativa para reducir las pérdidas de estas empresas.
La revolución de la IA supone muchas oportunidades, pero también riesgos. El funcionamiento de los modelos es muy difícil de auditar, sobre todo, si son propietarios. Sus responsables son empresas que ya tenían mucho poder e influencia, que ahora crece.
Si a ello se suman conflictos de interés de carácter económico, la situación se agrava. En este caso, estamos ante un estudio científico, pero que puede servir para plantear nuevas regulaciones, o incluso expedientes a las grandes tecnológicas.
Por ahora, nuestra recomendación es no confiar en la IA para asesorarnos en las compras. Si bien Claude parece la más honesta, los conflictos de interés son graves, y no hay apenas medios para analizar su transparencia.
Un estudio demuestra que terceros tienen acceso a tus conversaciones con cualquier IA
- Ver Comentarios
