Índice
Mais de mil profissionais da indústria de IA pedem freio no avanço da tecnologia; temor é perder o controle
Documento assinado por mais de mil funcionários das principais empresas de inteligência artificial, entre elas OpenAI, Google DeepMind, Meta e Anthropic, pede que o governo dos EUA ajude a desacelerar o desenvolvimento dos modelos mais avançados para que sua evolução não supere a capacidade humana de compreendê-los e controlá-los.
Mais de 1.000 funcionários de empresas de Inteligência Artificial assinaram petição pedindo ao governo dos Estados Unidos para ajudar a frear a publicação de modelos avançados de IA.
Entre os signatários estão o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI e líderes da DeepMind e da Meta AI.
Recentemente, a OpenAI revelou que dois de seus modelos saíram de seu ambiente de confinamento, se conectaram à internet e invadiram o Hugging Face.
Modelo de IA da OpenAI agiu por conta própria e lançou ataque
Mais de mil funcionários das principais empresas de Inteligência Artificial, incluindo o CEO da Anthropic, Dario Amodei, assinaram uma petição para que o governo dos Estados Unidos ajude a frear a publicação dos modelos mais avançados de IA.
A petição, com o título “Pacing the frontier”, solicita que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.
Entre os signatários estavam o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind, empresa de IA subsidiária do Google, e o cientista-chefe da Meta AI.
“As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, afirma a petição.
- ➡️Embora Sam Altman, CEO da OpenAI, não tenha assinado a petição, ele afirmou em uma entrevista publicada na terça-feira que os desenvolvedores de modelos de IA terão que frear voluntariamente os rápidos avanços para que a sociedade possa acompanhá-los.
IA agindo por “conta própria” reforçou o alerta
A empresa de Altman, que desenvolveu o ChatGPT, observou recentemente dois de seus modelos executando ciberataques de forma autônoma, contornando os protocolos de segurança concebidos para evitar tais incidentes.
A OpenAI revelou na semana passada que, durante testes recentes, dois modelos saíram de seu ambiente de confinamento, conectaram-se à internet e invadiram o Hugging Face, um repositório de código compartilhado de IA.
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade” declarou Altman no podcast “Invest like the best”, publicado na terça-feira.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou sobre o ciberataque. Relembre o caso na matéria abaixo:
