“
IA pode ajudar ONGs ou causar mais problemas?
A IA está mudando a forma como criamos, trabalhamos e aprendemos. Muitos temem que ela possa até mudar a forma como pensamos. E, embora muito se tenha falado sobre como a IA pode afetar a educação, as artes e os negócios, o impacto da inteligência artificial na filantropia é mais um pensamento secundário.
A alegação da IA de libertar os usuários do tédio do trabalho – o que seus criadores consideram \”trabalho árduo\” – é um grande argumento de venda. Na verdade, é um princípio fundamental de muitas iniciativas \”IA para o bem\”. Os desenvolvedores apresentam a IA como uma ferramenta para agilidade, automação e equidade no mundo das organizações sem fins lucrativos, que geralmente operam com orçamentos apertados e equipes pequenas. E muitos líderes filantrópicos veem a IA como um investimento que muda vidas para as organizações sem fins lucrativos em geral, especialmente as pequenas organizações comunitárias que apenas tentam sobreviver.
Google Search: Uma janela para o problema
Em maio, o Google lançou o Search Labs’ AI Overviews, um recurso de resumo de IA que você certamente já viu, mas certamente esqueceu o nome. Foi uma adição fundamental em meio a uma enxurrada de recursos de IA brilhantes, destinados a tornar a pesquisa de informações ainda mais fácil (quem quer rolar por várias páginas agora?).
As Visões gerais aparecem em sua própria caixa destacada abaixo da barra de pesquisa normal do Google, com um pequeno logotipo de béquer cônico que indica ao pesquisador que os resultados ainda estão sendo testados. Isso é importante. O lançamento inicial das Visões gerais não foi apenas medíocre; foi preocupante. Os resultados eram confusos, muitas vezes sem sentido, tornando-se os novos portadores de memes absurdos e capturas de tela falsas; as pessoas rolavam direto por elas. Os próprios testes da Mashable encontraram uma mistura de respostas genuinamente úteis e alucinações de IA gritantemente erradas. (O recurso ainda não foi totalmente lançado para todas as pesquisas.)
Semanas depois, jornalistas estavam organizando um movimento contra a enxurrada de desinformação e os bylines apropriados indevidamente gerados pela execução ainda limitada do AI Overviews. A ferramenta introduziu uma potencial \”catástrofe\” para a visibilidade do conteúdo e o tráfego online, disseram alguns editores, prejudicando as métricas estabelecidas para aparecer, com crédito, no topo dos resultados das notícias. Não muito tempo depois, o recurso foi supostamente adicionando anúncios geradores de receita integrados.
Mas não eram apenas as mídias de notícias que estavam preocupadas, e não era apenas sobre lucro. \”O que você está vendo no setor com fins lucrativos certamente afetará o setor sem fins lucrativos\”, disse Kevin Scally, diretor de desenvolvimento do site de avaliações de organizações sem fins lucrativos Charity Navigator. Assim como jornalistas e criativos dispararam o alarme para resultados eticamente duvidosos, e os usuários apontaram respostas absurdamente inúteis, Scally e seus colegas viram os resumos de pesquisa simplificados como um problema potencial para o mundo menos discutido da caridade.
Essa tecnologia de IA poderia potencialmente esconder organizações sem fins lucrativos legítimas em favor de resumos ambíguos ou resultados totalmente falsos, alertaram esses defensores. Seus resultados de resumo de pesquisa levantam questões de viés algorítmico e subsequentes em torno do financiamento ou da visibilidade – as mesmas questões que já assolam o setor, mas em uma escala sintèticamente aprimorada.
Encontrar a caridade certa em meio a uma enxurrada de informações
A IA não é nova no setor, mas a linha do tempo acelerou. Dave Hollander, gerente de ciência de dados do site de dados de organizações sem fins lucrativos Candid, explicou que a organização e outras gastaram tempo e dinheiro construindo descoberta e público para organizações sem fins lucrativos nos últimos anos, explorando como a IA pode ajudar populações carentes a acessar recursos online. Como recursos como o Charity Navigator e o Candid trabalham principalmente com conjuntos de dados grandes e complexos, coletados de recursos federais e das próprias organizações sem fins lucrativos, as ferramentas de IA são uma opção incrivelmente útil para reduzir o peso administrativo. Outras organizações sem fins lucrativos podem usar a IA para preencher as lacunas da equipe, como bots de atendimento ao cliente do site que ajudam os doadores a encontrar recursos e organizações.
\”A disponibilidade geral dessas ferramentas de IA e a acessibilidade delas poderiam potencialmente ajudar as organizações a melhorar sua otimização de mecanismos de pesquisa\”, explicou Hollander, \”onde no passado isso teria sido uma tarefa intransponível para elas. Mas a descoberta por meio da pesquisa tem sido um problema para muitas organizações, mesmo antes da IA. E então a IA chega e também pode exacerbar esse problema.\”
Uma ilustração simples: como uma pesquisa impulsionada por IA escolheria entre organizações com nomes confusamente semelhantes? Em 2020, por exemplo, quando a comunidade global se mobilizou para o trabalho de defensores da justiça racial e abolicionistas da polícia, milhões de dólares em doações foram canalizados para organizações ativistas. Atores mal-intencionados usando nomes de jogos de SEO que incluíam a frase \”Black Lives Matter\” conseguiram desviar milhares de doadores bem-intencionados.
Desambiguações como essas já são um problema, um produto natural de uma internet sobrecarregada e não há nomes suficientes para todos. Outros problemas surgem com a recomendação repetida das mesmas grandes organizações (digamos, a Fundação Bill e Melinda Gates) em vez de ONGs menores e localizadas que fazem o mesmo trabalho.
E as organizações já competem por atenção em um ecossistema filantrópico que se move em direção a doações menos frequentes e reativas. \”O risco que corre [com o AI Overviews] é que, se estivermos errando, não é apenas uma questão de uma captura de tela engraçada\”, Scally alertou. \”Pode ser uma questão da reputação da organização e de seu financiamento. Então você leva isso para frente. Se isso estiver acontecendo em escala, onde as informações sobre essas organizações estão sendo distorcidas, isso tem ramificações reais para os programas que elas atendem.\”
Recentemente, o Google anunciou novas atualizações para o AI Overviews para tentar conter as preocupações dos editores, incluindo a priorização de links diretos para fontes – mas eles ainda estão sendo testados. Outros sites de coleta de informações, como o TikTok, estão enfrentando problemas semelhantes de desinformação com pesquisas com suporte de IA.
A IA é boa em especificidade apenas até o prompt que lhe é dado, limitado pelos dados que lhe são fornecidos. Os resumos de pesquisa resumem os resultados populados e priorizam links de alta classificação. Se uma ONG menor não estiver ativa online e não estiver aparecendo nos resultados do Google, ela tem poucas chances de se tornar o clique recomendado pela IA.
Entendendo o verdadeiro significado por trás do trabalho de uma ONG
Dentro da IA, a nuance das missões de organizações sem fins lucrativos e exatamente como essas metas são alcançadas também são sacrificadas para facilitar uma resposta simplificada. O próprio Google lançou o serviço com: \”O Google fará o Google para você.\” Mas a IA não tem um cérebro humano e não pode incorporar as nuances envolvidas nos processos de ajudar nossos semelhantes.
Há uma lista crescente de questões de alfabetização em mídia e IA a serem abordadas, primeiro. Em um futuro aprimorado por IA, como os indivíduos aprenderão a pesquisar, verificar e alinhar sua caridade por conta própria, com e sem a ajuda de um bot de IA? O que perdemos quando paramos de fazer o \”trabalho árduo\” de pesquisar por nós mesmos?
A solução hipotética é que as organizações sem fins lucrativos ofereçam ainda mais dados aos desenvolvedores das ferramentas de IA – dados de organizações sem fins lucrativos, dados de organizações como o Charity Navigator e dados comportamentais personalizados de doadores (leia: usuários da internet) que podem resolver o problema de especificidade. Os proponentes da IA adoram a personalização. Mas isso geraria ainda mais problemas.
\”Acho que existe um risco inerente com isso. A tecnologia realmente conhece o meu verdadeiro eu? Quão confortável estou em ter o Meta, o Google e a Microsoft essencialmente construindo perfis sobre mim?\”, disse Scally.
A fome de dados da IA tem preocupado muitos defensores da privacidade e proponentes da autonomia de dados – uma tendência que também está dominando o mundo das organizações sem fins lucrativos. Fazer tais movimentos com os dados pessoais das pessoas desmente os valores de muitos dos atores do setor social mais eficazes do mundo, aqueles que evitam sobrepor seu trabalho com o Big Tech, que não podem reunir tais dados (ou optam por não fazê-lo em suas comunidades), e especialmente aqueles que estão tentando descolonizar seu trabalho de detentores históricos de poder.
Com uma onda de novas perspectivas sobre doações filantrópicas emergindo – incluindo a ideia de financiamento sem restrições, impulsionado pela comunidade que intencionalmente evita dados rastreáveis de organizações sem fins lucrativos – muitas organizações sem fins lucrativos já fizeram compromissos de segurança de IA que bloqueariam uma personalização mais profunda. O Candid e seu banco de dados de classificação adquirido GuideStar não permitem que seus dados sejam usados para treinar modelos de terceiros e usam apenas os dados fiscais acessíveis ao público de uma organização sem fins lucrativos para projetos internos.
A IA pode fazer a caridade parecer outro investimento, sem o \”brilho quente de doar\”
O problema com a implementação da IA é que ela está acontecendo em alta velocidade. Essa velocidade, com a IA projetada por grandes líderes da indústria de tecnologia a fim de otimizar as vidas digitais das pessoas e implementada sem contribuições, pode facilmente privar as pessoas de um dos propósitos centrais da doação filantrópica: a conexão humana.
De acordo com números recentes do Giving USA, as doações filantrópicas nos EUA diminuíram 2,1% em 2023, após uma alta recorde estabelecida pela organização social e de saúde pública em 2021. O que cresceu em 2023 foram o que são conhecidos como fundos de doação, uma forma controversamente favorecida de doar dinheiro entre a elite rica. Os fundos de doação são gerenciados e patrocinados por organizações de caridade públicas e ONGs, reunindo dinheiro de investidores com baixos impostos em pagamentos de caridade de alto valor. Como Scally explicou, os fundos escrevem o que são essencialmente subsídios para organizações, mas os doadores individuais permanecem desinteressados e potencialmente emocionalmente desinvestidos. Os doadores, então, não estão mais fazendo o trabalho.
Scally vê uma conexão óbvia entre essas tendências e ferramentas como o AI Overviews: os humanos estão se tornando mais desconectados do ato físico de entregar seu dinheiro e recursos para as pessoas ou causas mais necessitadas, muitas vezes em favor de outros (ou até bots) que lhes dizem para onde se voltar. Isso acontece apesar de uma mudança social em direção à doação comunitária em massa e um interesse renovado no conceito de ajuda mútua.
\”Se você está fazendo uma pesquisa, encontrando a organização por meio de um AI Overview e depois fazendo um subsídio por meio de seu fundo de doação… Que conexão você tem com essa organização?\”, pergunta Scally. \”Quão investido você está em continuar a apoiar essa organização, quando você não sente esse brilho quente de dar?\”
Em um artigo recente do New Yorker pelo autor de ficção especulativa e frequente comentarista de IA Ted Chiang, o medo crescente da tomada de poder da IA na arte é apresentado como enganoso, mesmo quando os desenvolvedores tentam comandar campos criativos. \”As empresas que promovem programas de IA generativa afirmam que elas irão liberar a criatividade. Em essência, eles estão dizendo que a arte pode ser toda inspiração e sem suor – mas essas coisas não podem ser facilmente separadas\”, escreve Chiang. O que a IA livra os humanos, argumenta o escritor, é a autoconfiança, não o trabalho árduo. E está desvalorizando o esforço e a importância da atenção humana em favor do poder de processamento da tecnologia.
Arte e filantropia não são tão diferentes quando se trata da necessidade de intenção e criatividade humana – a conexão humana compassiva exige trabalho e tempo, coisas que os objetivos de eficiência da IA estão trabalhando para tornar coisa do passado. Como Chiang escreveu: \”É um erro equiparar ‘grande escala’ com ‘importante’ quando se trata das escolhas feitas ao criar arte; a inter-relação entre a grande escala e a pequena escala é onde a arte reside.\” E a humanidade em pequena escala é onde a caridade funciona melhor.
Há algo de bom na IA, se pudermos usá-la com sabedoria
Organizações sem fins lucrativos individuais (e até mesmo seus apoiadores, como o Candid e o Charity Navigator) não estão se afastando completamente da IA. Na verdade, Scally zomba de uma tomada de poder de IA maligna. \”Em vez de um Terminator, ou Matrix, ou um Robocop, como podemos realmente usar isso para o bem e ter um bom equilíbrio contra isso?\”
O Candid tem testado a IA em seu trabalho desde que Hollander começou a trabalhar lá em 2015. A organização continuou a explorar a IA generativa como uma solução para problemas enfrentados por ONGs menores, incluindo a redação de documentos como propostas de subsídio e cartas de intenção.
E mesmo com as próprias tecnologias de IA do Google sob crítica, a empresa tem investido seu dinheiro de volta nos benefícios do setor social da IA. Em abril, a empresa anunciou um investimento de US$ 20 milhões em seu último programa de acelerador \”IA para o bem\” do Google. A iniciativa canalizou dinheiro para o que consideraram ser organizações sem fins lucrativos de \”alto impacto\”, como o Banco Mundial, o Justicia Lab e o Climate Policy Radar, para acelerar a integração da IA em seu trabalho. O Google recentemente expandiu a iniciativa.
O Charity Navigator recebeu apoio do Google para explorar o processamento de linguagem natural e está testando internamente a assistência alimentada por IA para os visitantes do site. Eles são estimulados por integrações bem-sucedidas entre outras organizações sem fins lucrativos, como o Crisis Contact Simulator do Trevor Project (também apoiado pelo Google).
\”Não acho justo descartar a IA e dizer que ela nunca será capaz de obter a inteligência de que precisa para realmente navegar em áreas complexas do bem social\”, refletiu Scally. \”Acho que as coisas estão evoluindo – a IA há seis meses atrás parece muito diferente do que é agora.\” Isso se resume a mais dados, lançando uma rede mais ampla e fazendo um trabalho melhor para eliminar o viés, disse Scally.
Os guardiões do setor social, então, poderiam formar algo como um relacionamento simbiótico com os investimentos em IA do Big Tech, habilitando o trabalho dessas organizações, mas mantendo coisas como recomendações para profissionais humanos. Você já está vendo isso: Em vez de inundar as visões gerais de pesquisa com algo como publicidade, faça com que a IA ofereça mais contexto, mais links, mais informações.
Ainda assim, perguntas permanecem. A IA realmente pode fechar lacunas de equidade? Sua onipresença poderia facilitar a participação total de todos? As respostas ainda não se revelaram. Mas isso não quer dizer que não possamos formular um plano mais compassivo à medida que avança. Enquanto buscamos adicionar \”humanos no ciclo\”, um senso de humanidade tem que permanecer em primeiro plano.
“