O renomado cientista da computação Yoshua Bengio, vencedor do Prêmio Turing, anunciou o lançamento do LawZero, um laboratório sem fins lucrativos dedicado a aprimorar a segurança dos sistemas de Inteligência Artificial (IA). O objetivo principal do LawZero é pesquisar e desenvolver técnicas para construir IAs mais seguras e alinhadas com os valores humanos, minimizando os riscos potenciais associados ao desenvolvimento acelerado dessa tecnologia.
O LawZero já garantiu um financiamento inicial de US$ 30 milhões, provenientes de diversas fontes filantrópicas. Entre os principais apoiadores estão Jaan Tallinn, engenheiro fundador do Skype, o ex-CEO do Google Eric Schmidt, a Open Philanthropy e o Future of Life Institute. Esse investimento significativo permitirá que o laboratório atraia talentos de ponta e realize pesquisas de alto impacto em áreas críticas da segurança da IA, como interpretabilidade, robustez e controle.
A iniciativa de Bengio surge em um momento crucial, em que a IA está se tornando cada vez mais poderosa e presente em diversas áreas da sociedade. O LawZero pretende contribuir para um futuro em que a IA seja uma força para o bem, beneficiando a humanidade de forma segura e responsável. A pesquisa do laboratório se concentrará em entender melhor os mecanismos internos das IAs, tornando-as mais transparentes e compreensíveis para os humanos. Além disso, o LawZero buscará desenvolver métodos para garantir que as IAs sejam robustas contra ataques e manipulações, e que permaneçam sob controle humano, mesmo em cenários complexos e dinâmicos. A criação do LawZero representa um passo importante para garantir o desenvolvimento seguro e benéfico da inteligência artificial para as futuras gerações.
Origem: Link