O movimento ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude. No documento, o executivo afirma que o desenvolvimento da IA deve “avançar com muito cuidado” e apresenta três etapas com o objetivo de desacelerar a tecnologia para criar mais tempo de lidar com seus riscos.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, disse Amodei em um artigo compartilhado nas redes sociais.
O discurso também foi defendido por executivos de outras grandes empresas do setor, como Sam Altman, da OpenAI — companhia responsável pelo ChatGPT —, Elon Musk, da xAI e Demis Hassabis, do Google DeepMind.
Agora no g1
Veja as cotações das “Sete Magníficas” perto das 11h20:
- Apple: +0,24%
- Alphabet: +1,49%
- Amazon: -1,94%
- Meta Platforms: +0,94%
- Microsoft: +0,92%
- Nvidia: -3,68%
- Tesla: -2,10%
Entenda o caso
No último sábado (12), Amodei pediu que as empresas de IA moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da tecnologia.
O ensaio foi publicado depois que a Anthropic divulgou um relatório de inteligência sobre ameaças, detalhando como diversos agentes haviam usado seus modelos de IA Claude em atividades que iam do desenvolvimento de armas e operações cibernéticas à vigilância e fraude.
A preocupação com os possíveis danos causados pela IA aumentou nesta semana depois que o pesquisador da Anthropic, Jacob Coxon, pediu demissão. Segundo ele, “as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”.
O discurso foi endossado por grandes nomes do setor. Altman, CEO da OpenAI, por exemplo, disse que concordava com o executivo da Anthropic, destacando que esse tem sido um tema principal das discussões dentro da empresa.
Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, disse o executivo.
A defesa por mais cautela também ocorre após uma série de episódios que levantaram preocupações sobre o controle da tecnologia nos últimos meses, incluindo relatos de ataques realizados por IA.
IA pelo mundo
Além do debate entre executivos, falas de autoridades sobre o desenvolvimento da IA também pesam nas ações de tecnologia nesta segunda-feira.
O presidente dos Estados Unidos, Donald Trump, afirmou que o país já dispões de amplos poderes para responsabilizar criminalmente e regular as empresas de IA, reiterando que há uma “conspiração doentia” contra a tecnologia.
“O único controle ou ‘limite’ de que a IA precisa é um PRESIDENTE FORTE E INTELIGENTE (com QI alto!), e os EUA têm isso de sobra!”, escreveu Trump na Truth Social. Ele também afirmou que os questionamentos sobre o desenvolvimento da inteligência artificial beneficiariam a China, rival dos EUA no setor.
Já a China, que disputa com os EIUA a liderança no desenvolvimento de IA, afirmou que a tecnologia pode ameaçar a segurança nacional ao ser usada por potências estrangeiras para minar a ordem social do país.
“Forças hostis” abusam de tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”, escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo.
A União Europeia, por sua vez, defendeu a inovação, mas cobrou das empresas garantias de segurança.