“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.
“Concordo com Dario que precisamos marcar o ritmo da fronteira. Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Sam Altman logo em seguida.
“Dario está certo”, escreveu o trilionário Elon Musk.
Amodei também pediu que auditores independentes acompanhem e verifiquem os padrões de segurança das companhias. Segundo o site de tecnologia The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança em IA.
Claude costuma ser mais usado por empresas e ChatGPT, por usuários privados — Foto: Matteo Della Torre/NurPhoto/picture alliance via DW
“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima. Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, analisa ao g1 Diogo Cortiz, especialista em IA e professor da PUC-SP.
Para ele, é muito difícil saber o que é legítimo nesse discurso e o que é apenas uma estratégia para proteger o próprio mercado e a indústria.
“Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, completa.
O que está por trás do discurso
Segundo Cortiz, há outros fatores que ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:
- Os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.
- O retorno sobre os investimentos está mais lento do que o esperado para justificar novos aportes no setor.
- Os modelos de IA chineses estão ganhando espaço na adoção global e são mais baratos do que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo bem menor.
- Propor uma regulação mais dura pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.
Trump critica quem pede cautela
O presidente dos EUA, Donald Trump, fala com repórteres antes de embarcar no Air Force One na Base Aérea Conjunta Andrews, em Maryland, em 9 de setembro de 2026. — Foto: Foto de BRENDAN SMIALOWSKI/AFP
“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.
“Forças hostis” abusam de tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”, escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo.
Em seu texto, Amodei defende uma colaboração entre empresas de “países democráticos” e aconselha “não vender chips de IA potentes ou equipamentos de fabricação de semicondutores para a China”.
Ele diz que “as medidas aumentam a influência das democracias e tornam um acordo [com a China] mais provável no futuro”.
Nesta segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, disse que o bloco é a favor do desenvolvimento da inovação em IA, mas que as empresas precisam comprovar que seus serviços são seguros.
Já o primeiro-ministro britânico, Andy Burnham, vê como positivo o debate entre as principais empresas de IA sobre os riscos da tecnologia para o futuro da humanidade, afirmou seu porta-voz. Segundo ele, as decisões sobre o tema precisam se basear em evidências.
‘Parece lixo de IA’: por que plataformas agora estão ‘dedurando’ conteúdos feitos com IA
O que realmente acontece com seus dados quando você clica em ‘deletar’?