Google Assembler es el nuevo proyecto de la marca del buscador para detectar imágenes manipuladas con Photoshop y vídeos deepfake, creados mediante la inteligencia artificial con contenido falso, que cada vez representan un problema mayor.
Las redes sociales se están llenando de las denominadas fake news o noticias falsas, que buscan generar preocupación en la población, manipular resultados electorales o favorecer a los intereses de sus creadores.
Google Assembler es una herramienta que analizará imágenes para confirmar si son reales, o han sido manipuladas de alguna forma. La empresa trabaja en ella para ayudar a los periodistas y a los fact-checkers, es decir, a quienes se dedican a confirmar la veracidad de la información que circula online.
De hecho, hace poco que Instagram comenzó a marcar la información falsa, lo que exige una revisión humana para confirmar si una imagen, vídeo o texto es real o no, aumentando el coste de desmentir las fake news.
Assembler pretende facilitar el proceso de revisar las fotos, que tarda mucho tiempo para una persona, mientras que para el software resulta sencillo. La idea es crear una herramienta que combine los distintos métodos de detección provenientes de los especialistas en este campo y ponerla a disposición de los periodistas.
Por ejemplo, Assembler incluirá diferentes detectores, como de fragmentos basados en "copiar y pegar" o incoherencias en el brillo, e informará de la clase de retoques existente. De esta forma los periodistas o fact-checkers podrán sacar conclusiones claras sin tener que conocer a fondo la tecnología, pues la interfaz de usuario es intuitiva.
Además, con Assembler se cubrirán algunas limitaciones. Incluye un módulo para los deepfakes, una sofisticada tecnología capaz de colocar en un vídeo la cara de cualquier persona con resultados realistas.
Durante las pruebas Google vio que ciertos tipos de imágenes generaban problemas porque no contaban con suficientes ejemplos similares, así que la base de datos se amplió.
Como muchas de las imágenes son de baja resolución, de calidad limitada o capturas de anteriores capturas de pantalla, Assembler es capaz de buscar las originales. Luego analiza si son falsas o están manipuladas usando esa versión de alta resolución, donde los algoritmos trabajan mejor.
Assembler es un experimento de Jigsaw y Google Research, dos filiales de Alphabet, la compañía matriz detrás de la marca del buscador. En principio, parece que no tiene ánimo de lucro, pero por ahora solo dan acceso a periodistas o investigadores, para probar su eficacia mientras continúa su desarrollo.
Google busca luchar contra las fake news, no porque afecten directamente a su negocio hoy en día, pero la desconfianza de la información en Internet sí puede representar una amenaza a largo plazo para una empresa basada en un buscador donde los usuarios realizan todo tipo de consultas.
¿Qué opinas de Assembler? ¿Crees que la tecnología, que ahora permite crear imágenes manipuladas con Photoshop o deepfakes, también tiene la solución para detectarlas?
- Ver Comentarios