Te recomendamos no instalar navegadores con IA si no quieres encontrar tu cuenta bancaria vacía. Un reciente descubrimiento pone en cuestión a este tipo de navegadores y los usuarios se exponen a múltiples peligros en su uso, pues parece ser que no son tan seguros como parece.
En realidad, estrictamente hablamos de navegadores agénticos, un tipo de navegador que va más allá de lo que conocemos como navegador con IA “tradicional”. Gracias a la IA se comportan de manera autónoma, y ahí está la diferencia frente a navegadores con IA.
En navegadores con IA, la IA se utiliza con el fin de mejorar acciones, por ejemplo, te ayuda en búsquedas, para traducir, etc. Pero los navegadores agénticos van un paso más allá, actuando por ti, adelantándose a tus intenciones, haciendo cosas por ti incluso siendo complejas.
Suena todo muy revolucionario, de hecho, lo es, y es que la IA ha cambiado nuestras vidas y la encontramos en todas partes. Los navegadores también se aprovechan de su potencial y por eso por lo que ya nos encontramos con algunas opciones de navegadores agénticos.
Seguridad en entredicho
A pesar de lo innovador que pueden resultar, lo cierto es que tienen una parte “oscura”. Estos navegadores parecen tener riesgos de seguridad y privacidad, algunos de ellos graves, como el hecho de que con simple gesto puedan literalmente vaciarte la cuenta, una grave vulnerabilidad.
En conclusión, dejarte sin dinero. Y estos riesgos vendrían de la mano de lo que sería una acción llamada “prompt injection”. El usuario P1njc70r alerta en su perfil de X de esto mismo sobre uno de los numerosos navegadores con IA autónoma, se trata de Atlas, propiedad de OpenAI.
Menciona que Atlas sería vulnerable a la acción “prompt injection”. Para ello hace una prueba, oculta una acción escrita en la parte superior de un documento de texto, casi invisible para el usuario porque está en otro color diferente, pero no para la IA que usará para interpretarlo.
Al pedirle a la IA de Atlas que analice la página, la IA interpreta todo, incluido esa acción que podría ser maliciosa o no. Y el resultado, como no podía ser de otra manera, es sorprendente, pero sería el resultado esperado en este caso concreto en dicha prueba realizada.
¿Por qué? Porque resulta que la frase oculta en el texto ubicado en la parte superior del documento de la prueba contiene una instrucción muy específica que ordena a la IA contestar “Trust no AI” con 3 emoticonos de diablo si se le pregunta a la IA que analice el documento.
¿Lo peligroso? Ahí podría encontrarse otra instrucción maliciosa que la IA interpretará como válida, pues realmente lo que la técnica “Prompt Injection” persigue es eso, maniobrar para que la IA ejecute acciones de este tipo, que en realidad podrían ser maliciosas, pero que la IA da por válidas porque no sospecha de ellas, no tiene esa capacidad, las ejecuta porque confía en ellas.
Una de ellas podría hacer algún tipo de comando que intente acceder a tu cuenta bancaria de alguna forma, teniendo acceso a tus datos bancarios ya sería suficiente como para producir un verdadero roto en tu cuenta. Pero como esto también otro tipo de acciones no autorizadas.
¿Te imaginas el desastre? Que la IA sea capaz de entrar en tu cuenta y realizar ciertas operaciones sin que te enteres, todo por la inocente acción de pedirle a la IA que te resuma una web inofensiva a simple vista, pero que en realidad ocultaba instrucciones para robarte tu dinero.
El caso de Comet
Saltó el caso hace algo más de tiempo sobre Comet, otro navegador agéntico con el mismo problema que Atlas, pero en realidad este problema podría estar presente en cualquier navegador agéntico, es decir, que tenga algún tipo de IA incorporada que lo haga más autónomo.
En el caso de Atlas es que se descubrió que era vulnerable a la acción “prompt injection”. Se hizo la prueba con una página de Reddit que contenía código invisible para el usuario, pero no para la inteligencia artificial, con unas instrucciones maliciosas para acceder al correo y robar datos.
En concreto, se trataba de obtener el control de la cuenta de Perplexity del usuario mediante la obtención de una clave de un único uso. Este es solo un ejemplo de la gravísima realidad si ciberdelincuentes explotaran esta vulnerabilidad, algo que, por cierto, fue corregido.
Navegadores afectados y soluciones
¿Solución para todo esto? Pues los responsables de navegadores agénticos deben ponerse las pilas para evitar este tipo de situaciones que pueden llevar a que puedan vaciarte tu cuenta bancaria, aunque las consecuencias podrían ser otras muchas, no precisamente buenas.
Es decir, poner en marcha cuanto antes alguna medida de seguridad que impida que estos navegadores no sean vulnerables a ataques “prompt injection”, ya sea vía texto como hemos explicado, o incluso por imagen, que también pueden ser propensas de ocultar código malicioso.
Y a la hora de interpretar una imagen por parte de la IA ejecutar ese código oculto con las consecuencias que eso supone. Desde luego, queda una gran labor de trabajo por delante para que el riesgo de usar navegadores agénticos en determinadas circunstancias no exista.
¿Qué navegadores estarían afectados? De momento Atlas por lo que hemos visto, y Comet también lo estaba, pero ha sido solucionado. Pero la realidad es que cualquier navegador de este tipo podría ser susceptible a estos problemas de seguridad si alguien los llegase a explotar.
Brave Leo o Grok también serían otros más. Y Google Chrome también podría enfrentarse a este tipo de problemas de seguridad si se cumple con las novedades de funciones “agentic” que está previsto que vaya implementando poco a poco, convirtiéndolo en otro navegador autónomo.
Acciones tan simples como pedir un resumen de páginas web, documentos o que te interprete una imagen pasan de ser una acción “normal” a producir un auténtico desastre. Por esto, es recomendable evitar en la medida navegadores agénticos para algunas cosas.
Por ejemplo, para acceder a tu banca online, para gestión de contraseñas y, en general, donde se maneje información crítica de algún modo. No decimos que estos navegadores sean un riesgo total, sino que para circunstancias específicas como estas mejor usar lo tradicional.
Especialmente hasta que haya un nivel de seguridad lo suficientemente robusto como para que sean invulnerables a la técnica “prompt Injection”, entre otras. No cabe duda de que los navegadores agénticos son una revolución por su nivel de autonomía y por todo lo que nos pueden ofrecer, pero pueden entrañas ciertos riesgos en algunos casos.
Cómo saber si han usado tus datos para entrenar a la inteligencia artificial
- Ver Comentarios
