A empresa americana de inteligência artificial (IA) Anthropic obteve a pontuação mais alta em um ranking semestral de segurança, mas em nível global o setor não consegue combater ameaças “existenciais”, segundo um relatório publicado nesta terça-feira (7).
O Future of Life Institute, um think tank americano de segurança em IA, avaliou nove das principais empresas de IA do mundo e definiu uma classificação com base em dados públicos e informações fornecidas pelas próprias companhias.
As nove empresas estão fracassando no combate a ameaças “existenciais”, como o desenvolvimento de modelos que alcancem um nível de inteligência semelhante ao humano, conhecidos como “inteligência artificial geral” ou AGI, acrescenta o relatório.
Foram analisados os esforços em seis categorias:
- avaliação de riscos;
- danos atuais;
- estruturas de segurança;
- segurança existencial;
- governança e transparência, e;
- compartilhamento de informações.
Papa faz alerta sobre inteligência artificial
Nenhuma empresa recebeu um “A”, a nota mais alta, em nenhuma categoria, enquanto a Anthropic obteve a melhor nota geral, um “C+”.
O relatório destaca que várias empresas que antes proibiam o uso militar de sua tecnologia vêm “revertendo gradualmente o rumo”, entre elas a Anthropic, que foi criticada por manter “compromissos militares questionáveis”.
O governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, segundo diversos relatos da imprensa, embora a empresa tenha sido recentemente alvo de uma proibição do Pentágono por divergências sobre a segurança da IA.
Embora “existam tentativas construtivas”, os esforços como um todo são “totalmente insuficientes”. Outros riscos incluem o possível uso indevido de um modelo para realizar um ciberataque ou executar tarefas potencialmente prejudiciais aos seres humanos.