“
Novo Padrão para Avaliar os Riscos da IA
O MLCommons, organização responsável por criar benchmarks para sistemas de inteligência artificial, anunciou um novo padrão focado na avaliação dos riscos associados à IA. Até então, os esforços se concentravam principalmente em medir a capacidade e o desempenho dos sistemas. Este novo padrão representa uma mudança significativa na abordagem, buscando quantificar e compreender os aspectos negativos e potencialmente perigosos da tecnologia, como vieses, imprecisões e comportamentos inesperados.
A iniciativa busca fornecer uma metodologia mais robusta e consistente para avaliar o comportamento de modelos de IA, permitindo a identificação de problemas antes que eles se manifestem em aplicações reais. A expectativa é que este benchmark contribua para o desenvolvimento de sistemas de IA mais seguros e confiáveis, minimizando os riscos para a sociedade. A criação de um padrão universal para a avaliação de riscos é crucial para o desenvolvimento ético e responsável da inteligência artificial.
“