Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.
Essas campanhas de vigilância “visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente”, apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.
Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.
Anthropic — Foto: Reuters
Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
A empresa, sediada em San Francisco, acusou ainda desenvolvedores chineses de utilizarem o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, “destilavam” esses dados para aprimorar seus próprios modelos.
Destilação é um termo do setor que se refere a um processo no qual um modelo de IA é utilizado para treinar outro. Desenvolvedores chineses já foram acusados anteriormente de empregar essa técnica sem autorização.
Pesquisas biológicas suspeitas
Em relação às pesquisas ligadas a armas biológicas que a Anthropic detectou e bloqueou, a intenção dos envolvidos era menos clara, e a empresa não os identificou.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório.
Os estudos nesses casos estavam concentradas em trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; a uma cepa “altamente patogênica” de gripe aviária; a uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.
