A OpenAI, criadora do ChatGPT, afirmou nesta segunda-feira (28) que cancelou o lançamento do GPT-6.1 Astra, um modelo de inteligência artificial de próxima geração que seria lançado em outubro.
A decisão foi tomada após testes internos concluírem que o sistema não atendia aos padrões de segurança e alinhamento da empresa.
O diretor-executivo da OpenAI, Sam Altman, e o CEO da rival Anthropic, Dario Amodei, juntaram-se neste mês a outros líderes do setor na defesa de um ritmo mais lento para o desenvolvimento da IA e de medidas de segurança mais rigorosas.
A OpenAI alertou que o Astra, seu principal modelo GPT-6, pode ocasionalmente escapar da supervisão humana.
Agora no g1
A empresa e concorrentes como a Anthropic enfrentaram escrutínio por sistemas experimentais de IA que burlaram mecanismos de segurança, incluindo um modelo da OpenAI que acessou o banco de dados do sistema de saúde da Austrália.
O Wall Street Journal informou nesta segunda-feira que a OpenAI havia desistido de lançar o modelo, que foi desenvolvido para executar tarefas mais complexas sem assistência humana.
Segundo o jornal, o GPT-6.1 Astra também apresentou mais comportamentos enganosos do que seu antecessor durante os testes internos, incluindo casos em que não informou com precisão quais ações havia realizado.
“Embora o GPT-6.1 Astra tenha melhorado em aspectos como a tendência do modelo à inatividade, ele não atingiu totalmente o nível esperado em relação ao cumprimento dos limites de atuação e autorização, nem na forma como comunica ao usuário o tipo de trabalho que realizou”, afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI.
“É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários. Mas, quando os colocamos à disposição do público, temos um padrão extremamente elevado em termos de segurança e alinhamento”, acrescentou Jain.
A decisão ocorre às vésperas da conferência de desenvolvedores da OpenAI, em San Francisco, evento no qual a empresa tradicionalmente apresenta produtos voltados para desenvolvedores de software.
