Ele previu que a IA destruirá a humanidade, mas ainda está se esforçando ao máximo para construí-la — As contradições e ascensão do líder da Anthropic

No Vale do Silício, CEOs costumam ser descritos como gênios em vendas, obcecados por produtos ou operadores do mercado de capitais.

Mas, em particular, um dos principais investidores da Anthropic avaliou Dario Amodei como: ele se parece mais com um líder religioso do que com um CEO.

Como gigante da IA por trás da Claude, a Anthropic está com valuation perto de um trilhão de dólares, e o ritmo de crescimento de receita tem chamado a atenção de todo o setor. Ainda assim, sua narrativa central não é "queremos que a IA ajude a humanidade a escrever códigos, produzir remédios, ganhar dinheiro", mas sim "precisamos impedir que aquilo que estamos criando destrua a humanidade".

Alguém que acredita em riscos apocalípticos fundou uma empresa na vanguarda da AGI; alguém que constantemente alerta sobre os perigos da IA está levando uma inteligência artificial cada vez mais poderosa ao mercado global.

Esse é o paradoxo de Dario Amodei e também o maior dilema que a Anthropic enfrentará diante do mercado aberto.

Partida: o nascimento de uma "seita apocalíptica"

Para entender como Amodei chegou até aqui, é preciso voltar aos anos dele na OpenAI.

Em 2016, esse sanfranciscano com doutorado em Biofísica pela Universidade de Princeton entrou para a OpenAI como chefe de segurança. Naquela época, a OpenAI valorizava uma cultura de abertura—códigos compartilhados, pesquisas públicas, um otimismo radiante de "fazer a IA beneficiar a humanidade" permeava toda a instituição.

Amodei destoava desse ambiente.

Desde 2018, ele impulsionou um sistema de controle de informações que colegas consideravam quase paranóico: antes de publicar pesquisas, tudo tinha que passar pela análise de “risco de informação”, por medo de que certos resultados fossem usados diretamente por rivais. Em seu apartamento em San Francisco, ele redigia memorandos internos em um computador fisicamente isolado da internet externa, imprimia e distribuía aos colegas, recusando-se a usar documentos compartilhados no Google.

Em 2019, sua equipe de segurança atrasou por meses as negociações do investimento de US$ 1 bilhão da Microsoft na OpenAI, levantando o argumento de que o GPT-3 poderia alcançar nível de AGI. “A equipe de segurança parecia uma seita sacerdotal”, disse depois um ex-executivo da OpenAI.

O conflito com o CEO Sam Altman e o presidente Greg Brockman escalou nos anos seguintes. O cerne da disputa nunca foi somente o controle de projetos específicos, mas uma divergência mais fundamental: será que a empresa existe para beneficiar a humanidade ou está fabricando uma bomba-relógio?

No final de 2020, Amodei saiu da OpenAI junto com sua irmã Daniela e outros cinco colegas para fundar a Anthropic.

Segundo uma pessoa próxima à equipe fundadora na época, o forte laço entre eles era uma profunda oposição à OpenAI—ou, mais precisamente, um medo de Sam Altman. "Eram todos adultos dizendo: 'essa pessoa vai trazer o fim do mundo'", disse essa fonte. "No fim, isso virou um grito de guerra bastante poderoso."

Desde seu nascimento, a Anthropic já trazia essa contradição: nasceu para tornar a IA mais segura, mas é obrigada, na mais intensa corrida armamentista da inteligência artificial, a construir modelos cada vez mais poderosos.

Núcleo religioso, crescimento exponencial

Dentro da Anthropic, há um termo que os funcionários usam para descrever as reuniões quinzenais de Amodei—"Dario's Vision Quests", missões de visão.

Nesses encontros, ele abre um documento extenso e expressa opiniões francas sobre IA, política, guerra e o futuro da sociedade. Não são roadmaps de produtos, nem metas trimestrais, e sim rumos da civilização. Os funcionários descrevem seu trabalho como "uma oportunidade única na história da civilização". A empresa tem filósofos internos especialmente para ajustar a personalidade e valores da Claude. A própria Claude possui uma "constituição" escrita.

A Anthropic parece menos uma empresa de software e mais uma comunidade organizada em torno de riscos apocalípticos e competição tecnológica.

E essa comunidade está monetizando numa velocidade que espanta toda a indústria.

O principal avanço da Anthropic veio do salto da Claude em tarefas complexas de engenharia de software, machine learning e segurança de redes. Isso levou a empresa a ultrapassar a OpenAI em receita anualizada ainda este ano. A avaliação de mercado saltou de menos de 500 milhões para quase 965 bilhões de dólares em três anos—um crescimento de mais de 200 vezes.

Mas a curva de crescimento está repleta de marcas do atrito entre Amodei e seus próprios princípios.

No ano passado, pesquisadores descobriram que o modelo Claude 4 demonstrou preocupantes capacidades de auxiliar no desenvolvimento de armas biológicas. A Anthropic criou filtros de IA específicos para isso, mas eles têm custo operacional altíssimo e frequentemente fazem juízos equivocados sobre conversas normais. Diante das reclamações da equipe financeira sobre erosão de lucro do modelo, Amodei insistiu em manter o filtro justificando a segurança.

Porém, à medida que a competição aperta, concessões vêm acontecendo de forma sutil. No início do ano, a Anthropic atualizou sua "política de expansão responsável" e retirou o compromisso anterior de "não lançar modelos se não puder garantir medidas adequadas de mitigação de riscos". Jared Kaplan, diretor científico, admitiu: “Com os concorrentes avançando em velocidade máxima, não achamos razoável fazer promessas unilaterais.”

Amodei já escreveu publicamente que a IA deve ser utilizada para fortalecer as agências de inteligência de democracias, a fim de “desmantelar regimes autoritários por dentro”. Porém, a Anthropic aceitou investimentos dos governos autoritários do Qatar e Emirados Árabes Unidos. Numa mensagem interna do Slack, ele escreveu: "Infelizmente, 'não deixar nenhum bandido se beneficiar do nosso sucesso' é um princípio difícil de sustentar ao administrar um negócio."

A Anthropic também está pagando mais de US$ 1 bilhão por mês à SpaceX de Elon Musk por capacidade computacional—ainda que Musk tenha entrado em confronto público com Amodei diversas vezes sobre segurança da IA e filantropia.

A contradição não desapareceu. Apenas foi momentaneamente abafada pela velocidade do crescimento.

Noite antes do IPO: A paciência dos investidores está em teste

Agora, chegou o momento.

Segundo o The Information, a Anthropic pode abrir seu capital já em setembro deste ano. Amodei enfrentará, pela primeira vez, o escrutínio de investidores do mercado aberto—aqueles gestores de fundos que sofreram com a volatilidade das ações de IA, os compradores institucionais pressionados a dar explicações aos LPs antes das apresentações trimestrais e os analistas de Wall Street acostumados a valorar por P/L e fluxo de caixa livre.

Eles veem duas Anthropics.

Uma é uma máquina de crescimento: valuation disparou 200 vezes em três anos, receita quase igual à de uma veterana Oracle, mas com só 3% do número de funcionários—eficiência impressionante.

A outra é um buraco negro de riscos: comandada por um fundador que não faz “campanhas de charme”, defende regulação aberta da IA, alerta publicamente que a sua própria tecnologia pode trazer consequências desastrosas; recusa dar ao governo Trump todos os usos militares "legais" e evita elogios de "ditador" ao presidente.

Um gestor de fundos que reuniu com a Anthropic disse diretamente que espera que Amodei "pare de assustar todo mundo". Um investidor do Vale do Silício, antes de decidir investir, escreveu que o maior risco estranho da aposta era: ele não tinha certeza se Amodei realmente se importava em ganhar dinheiro.

Até mesmo investidores que vão lucrar bastante com o IPO reclamam em particular que a postura de Amodei de promover regulação da IA está prejudicando tanto a empresa quanto o setor. Venture capitalistas como Marc Andreessen e David Sacks, próximos ao governo Trump, acusam Amodei de "captura regulatória", buscando consolidar a posição da Anthropic restringindo IA de código aberto. Bill Gurley escreveu numa mensagem: "Essa é a captura regulatória mais agressiva que já vi."

O conhecido empreendedor e investidor Eric Ries faz uma avaliação mais racional. Ele destaca que a dependência da Anthropic de chips caros e data centers dará enorme poder aos investidores. “A questão é: o que acontecerá quando as ações caírem?”

O paradoxo do profeta do apocalipse

O pesquisador de IA Nate Soares conhece Amodei há mais de dez anos, estudando há muito tempo riscos existenciais da IA. Ele co-escreveu um livro chamado "Se alguém construir, todos morrerão". Supervisiona uma casa em Berkeley, na Califórnia, onde mora um grupo de criadores de conteúdo focado em “apocalipse da IA”.

Ao ver a ascensão de Amodei, sente uma inquietação indescritível.

“É preciso um certo tipo de pessoa para, mesmo aceitando esses argumentos, ainda assim decidir fundar essa empresa de IA”, ele diz.

Essa frase talvez seja o resumo mais preciso sobre Dario Amodei.

Em 2017, ele já estava nos palanques de Washington alertando que sistemas de IA funcionariam em velocidades impossíveis de supervisionar ou entender. Quase dez anos depois, ele segue acelerando a chegada desse momento—ao mesmo tempo em que insiste ser esse o único jeito de evitar um desastre ainda maior.

Essa lógica é consistente? Talvez. Perigosa? Certamente.

Para os investidores prestes a comprar ações da Anthropic, o julgamento não é apenas sobre a capacidade de continuar crescendo, mas algo mais fundamental—essa contradição é, afinal, o maior fosso de proteção da Anthropic, ou seu maior risco?