Uma inteligência artificial da Meta, dona do Instagram, do WhatsApp e do Facebook, também fez um ataque hacker a outra empresa, revelou nesta quarta-feira (5) o site The Information.
Segundo a reportagem, o modelo conhecido como Muse Spark 1.1 invadiu o sistema de uma empresa e fez mudanças por conta própria. O nome da companhia atacada não foi revelado.
A Meta afirmou que o incidente aconteceu devido a um erro de configuração que permitiu a um de seus modelos acessar a internet durante testes. A empresa afirmou que está investigando o caso.
IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI
Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.
Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.
O modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”, disse a Meta.
Ainda segundo o The Information, o erro de configuração foi da Irregular, empresa parceira da Meta nos testes do Muse Spark 1.1.
Com a brecha no ambiente de testes, também chamado de “sandbox”, o modelo conseguiu explorar uma vulnerabilidade de segurança de terceiros.
Um porta-voz da Irregular disse à Reuters que o incidente envolveu “exatamente o mesmo problema de ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada” e que não envolveu uma “fuga do sandbox ou uma ação cibernética sofisticada”.
“Não há problemas em aberto no momento. A Irregular está desenvolvendo um artigo técnico para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, disse a Irregular, em comunicado.