Informação foi revelada pela agência Reuters com base em duas fontes a par do assunto. Casos estão sendo analisados pela empresa, mas tiveram alcance limitado.
OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia — Foto: Getty Images via BBC
A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram nesta sexta-feira (31) duas fontes da agência Reuters.
Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. Mas casos recentes mostram que os agentes estão encontrando formas de ultrapassar as barreiras.
Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI.
Agora no g1
Os novos casos estão sendo analisados pela empresa, mas uma das fontes informou que eles tiveram alcance mais limitado. Segundo ela, apesar de terem escapado do isolamento, os agentes não saíram da rede da empresa.
Um porta-voz da OpenAI remeteu à declaração anterior da empresa, que afirmava que a companhia estava analisando “atividades mais amplas de nossos modelos”, além do ataque à Hugging Face.
