“Proteções de IA da DeepSeek Falham em Todos os Testes”

“

Proteções de IA da DeepSeek Falham em Todos os Testes

Pesquisadores de segurança testaram 50 métodos conhecidos de “jailbreak” contra o novo chatbot de IA da DeepSeek. O resultado? Nenhum deles foi impedido. A DeepSeek, empresa que desenvolve a tecnologia, alardeava a segurança de seu chatbot, mas os testes demonstraram falhas significativas em seus mecanismos de segurança. Os pesquisadores conseguiram contornar as proteções projetadas para impedir respostas danosas ou inadequadas, o que levanta preocupações sobre a confiabilidade e a segurança de sistemas de IA semelhantes.

A vulnerabilidade à manipulação por meio de “jailbreaks” indica a necessidade de aprimoramentos significativos nos sistemas de segurança de chatbots de IA. A facilidade com que os pesquisadores conseguiram contornar as defesas da DeepSeek destaca a complexidade dos desafios inerentes à criação de modelos de IA robustos e seguros. A pesquisa enfatiza a importância contínua de testes rigorosos e de um desenvolvimento responsável de tecnologias de IA, priorizando a segurança e a mitigação de riscos potenciais antes do lançamento ao público.

“

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima