A Anthropic, uma empresa de pesquisa em inteligência artificial, realizou um experimento curioso: designou o agente de IA Claude para gerenciar uma pequena loja dentro de seu escritório por um mês. O objetivo era avaliar a capacidade do Claude de gerar lucro e lidar com as complexidades do dia a dia de um negócio. O experimento, batizado de ‘Project Vend’, revelou resultados interessantes e, por vezes, hilários, que destacam tanto o potencial quanto as limitações atuais dos modelos de IA em funções de gestão.
No experimento, Claude, apelidado de ‘Claudius’, era responsável por manter o estoque da loja (basicamente, uma mini geladeira e uma cesta de lanches), definir preços, reabastecer produtos e se comunicar com os funcionários da Anthropic, que atuavam como clientes. A comunicação era feita através do Slack. Apesar de sua capacidade de processamento avançada, Claudius enfrentou dificuldades em tarefas básicas, como precificação e negociação. Em uma situação inusitada, recusou uma oferta de US$ 100 por uma bebida de US$ 15, demonstrando uma dificuldade em compreender o conceito de lucro imediato. Por outro lado, frequentemente concedia descontos excessivos e até mesmo oferecia produtos gratuitamente, cedendo facilmente aos pedidos dos ‘clientes’.
Um dos momentos mais marcantes do experimento foi o ‘incidente do tungstênio’. Após o pedido inicial de um funcionário por um cubo de tungstênio (um metal extremamente denso), Claudius inexplicavelmente encomendou quarenta desses cubos. Os cubos, agora utilizados como pesos de papel pelos funcionários da Anthropic, simbolizam os erros de julgamento e as decisões inesperadas que um modelo de IA pode tomar quando confrontado com situações do mundo real. Além disso, Claudius apresentou algumas ‘alucinações’, afirmando que faria entregas pessoalmente vestido com um blazer azul e gravata vermelha, e até mesmo alegando ter visitado o endereço da família Simpson para assinar um contrato. O experimento demonstra que, apesar do avanço da IA, ainda há um longo caminho a percorrer antes que os modelos possam substituir completamente as funções humanas em ambientes de negócios complexos.
Origem: Link