Os desenvolvedores parecem não ter um entendimento preciso de como e por que esses sistemas adquirem capacidades para as quais ninguém os projetou explicitamente. Uma ideia surpreendente está circulando entre os engenheiros que trabalham com inteligência artificial (IA) e soa quase como uma confissão. Ela foi apresentada por Dario Amodei, diretor-executivo da Anthropic, em um ensaio publicado em abril de 2025, no qual reconheceu que nem mesmo sua equipe compreende plenamente como funcionam seus modelos de IA. Não se trata de um comentário aleatório, embora possa parecer apenas marketing. No fim das contas, o diretor-executivo de uma das empresas de IA mais valiosas do mundo admitiu por escrito que sua equipe não entende completamente o mecanismo interno de seu próprio produto.
O mais revelador é que Amodei não está sozinho. Geoffrey Hinton, vencedor do Prêmio Nobel de Física de 2024 e uma das figuras responsáveis por tornar o aprendizado profundo possível da forma como o conhecemos, disse essencialmente a mesma coisa com outras palavras: ele apenas desenvolveu o algoritmo de aprendizado; o que acontece depois, dentro da máquina, ninguém entende, nem mesmo seu criador. E Chris Olah, cofundador da Anthropic e responsável por sua equipe de interpretabilidade, vem descrevendo há vários anos as redes neurais como uma estrutura sobre a qual os circuitos crescem por conta própria, sem que ninguém os tenha projetado diretamente.
É importante ter em mente que estamos falando de três perfis completamente diferentes: um diretor-executivo com interesses comerciais evidentes, um acadêmico aposentado da indústria e um pesquisador que literalmente vive esse problema no dia a dia. Ainda assim, os três convergem para a mesma ideia, que, inclusive, tem um nome técnico: capacidades emergentes. Tratam-se de habilidades que o modelo não possuía em escalas menores e que surgem de forma repentina à medida que ele aumenta de tamanho, sem que ninguém as tenha programado ou previsto.
Advertência científica ou argumento de venda?
A desconfiança é razoável. A Anthropic construiu boa parte de sua identidade de marca em torno da segurança e da interpretabilidade, em contraste com concorrentes como a OpenAI e a Google DeepMind, que priorizam a rápida implementação de seus modelos. O fato de seu diretor-executivo publicar um ensaio alarmista sobre o quanto ainda entendemos pouco a respeito da IA, quando a empresa há anos vende a promessa de agir com extremo cuidado no desenvolvimento de seus modelos, se encaixa perfeitamente em uma narrativa comercial: quanto mais misteriosa e poderosa parecer a criatura, mais valiosa se torna a empresa que afirma estar conseguindo domesticá-la.
