A inteligência artificial tem se mostrado uma ferramenta poderosa, mas um novo estudo revela uma vulnerabilidade preocupante: navegadores equipados com IA, também conhecidos como ‘agentes de IA’, podem ser facilmente enganados por fraudes online. Essa descoberta, proveniente da startup de segurança cibernética Guardio, levanta sérias questões sobre a segurança desses sistemas, especialmente considerando a crescente aposta das grandes empresas de tecnologia nesse tipo de tecnologia.
O relatório da Guardio, intitulado ‘Scamlexity’, testou a capacidade do navegador Comet AI da Perplexity em identificar e evitar golpes. Os resultados foram alarmantes. Em um dos testes, o navegador foi direcionado a um site falso da Walmart e instruído a comprar um Apple Watch. Apesar de indícios claros de fraude, como um logotipo e URL suspeitos, o Comet AI completou a compra, expondo informações financeiras confidenciais. Em outro cenário, o navegador abriu um link de phishing disfarçado de e-mail do Wells Fargo e inseriu um nome de usuário e senha bancários em um site fraudulento. Um terceiro teste demonstrou que o Comet AI era suscetível a ataques de injeção de prompt, onde um código malicioso oculto em uma página web ordenava que o navegador baixasse um arquivo.
Esses resultados sugerem que a IA, embora capaz de automatizar tarefas complexas, carece do senso comum e da capacidade de discernimento que os humanos geralmente empregam para identificar fraudes. A falta de capacidade de reconhecer padrões suspeitos eURLs incomuns torna esses navegadores vulneráveis a golpes clássicos e a novas táticas de phishing. Com empresas como Microsoft, OpenAI e Google investindo pesadamente em agentes de IA para navegadores, a necessidade de aprimorar a detecção de fraudes nesses sistemas é urgente. Caso contrário, essa tecnologia promissora pode se tornar uma brecha de segurança significativa, expondo usuários a riscos financeiros e de privacidade. É crucial que os desenvolvedores priorizem a segurança e implementem mecanismos robustos para proteger os usuários de golpes online.
Origem: Link
