O estopim para a discussão foi um texto publicado por Dario Amodei, CEO da Anthropic, empresa dona do Claude. A posição também foi defendida por Sam Altman, CEO da OpenAI, do ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.
A IA pode ser um risco para a humanidade?
Robôs humanoides e quadrúpedes participam de manifestação que pede regulamentação da inteligência artificial, em Varsóvia, em 7 de setembro de 2026. — Foto: SERGEI GAPON/AFP
É importante reforçar que a IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação. Segundo ele, a tecnologia apenas completa padrões estatísticos a partir dos dados usados em seu treinamento.
Pense assim: para funcionar, a IA depende de uma grande quantidade de informações. São textos, fotos e vídeos, por exemplo, que ela usa para identificar padrões e, a partir deles, formular uma resposta.
“Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia”, completa o especialista.
Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso, não poderia se revoltar contra os humanos. “O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas”.
Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle. Mas isso seria resultado do processamento do sistema, e não porque a IA decidiu conscientemente se revoltar contra nós.
Essa ausência de vontade própria, porém, não significa que a IA seja inferior aos humanos em todas as tarefas. Em memória, busca de padrões e geração de textos e imagens em escala, por exemplo, ela já superou o desempenho humano há anos, acredita Edney.
“Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido”, diz.
ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe — Foto: Solen Feyissa/Unsplash
“Eu não acredito que, sozinha, a IA iria exterminar toda a humanidade. Mas causar danos em larga escala, sim. Ela foi usada em 2026 para criar novos vírus, por exemplo. A gente pode ter uma ameaça, uma nova bomba que ninguém conhece”, diz Izabela Anholett, especialista em IA e fundadora da Nura AI.
“Mas, de novo, não é a IA por si só, mas o ser humano por trás dela para criar isso”, completa Anholett.
O que está por trás do discurso de pausa no desenvolvimento
Data center da Meta em Indiana, nos Estados Unidos — Foto: Divulgação/Meta
Diogo Cortiz diz que, de fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas. Por isso, segundo ele, a preocupação com o avanço da tecnologia é legítima.
Ao mesmo tempo, é difícil saber até que ponto o discurso de pausa é motivado por segurança ou por uma estratégia para proteger o próprio mercado e a indústria.
“Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, completa.
Segundo Cortiz, outros fatores também ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:
🍃 Energia: os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.
💵 Retorno dos investimentos: os resultados estão demorando mais do que o esperado, o que dificulta justificar novos aportes no setor.
🌏 Concorrência chinesa: os modelos de IA da China estão ganhando espaço na adoção global e são mais baratos que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo menor.
🚨 Regulação: propor regras mais duras pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.
Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes