Os chamados agentes de IA são sistemas capazes de realizar tarefas em nome do usuário. No comércio eletrônico, a ideia é que o consumidor peça, por exemplo, que uma ferramenta encontre determinado produto, compare opções e faça a compra por ele.
➡️ Empresas como OpenAI, Anthropic, Google e Meta estão desenvolvendo ferramentas desse tipo, enquanto varejistas buscam fazer com que seus produtos apareçam nas recomendações dos chatbots.
Em relatório divulgado nesta terça-feira (22), bancos como NatWest (Reino Unido), Bank of America (Estados Unidos), ING (Países Baixos), Capital One (Estados Unidos) e Commonwealth Bank of Australia (Austrália) afirmaram que o avanço dessa tecnologia está ocorrendo mais rápido do que a criação de padrões para o setor e de mecanismos de proteção ao consumidor.
Quais são os riscos?
Um dos problemas apontados é que o agente pode tomar uma decisão diferente daquela esperada pelo consumidor, como escolher o produto errado ou gastar mais do que o planejado.
Também existe o risco de fraude. Um agente pode, por exemplo, pedir os dados do cartão do usuário e inseri-los diretamente em um site ou encaminhar o consumidor para uma forma de pagamento que ofereça menos proteção em caso de problema.
A privacidade é outra preocupação. Para realizar tarefas em nome do usuário, essas ferramentas podem precisar acessar informações pessoais e financeiras, aumentando a importância de definir como esses dados serão armazenados e utilizados.
O relatório afirma ainda que consumidores podem não saber quem deve ser responsabilizado caso uma compra feita por um agente dê errado.
Bancos propõem novas regras
O grupo pretende discutir propostas com autoridades e formuladores de políticas para estabelecer regras para esse tipo de comércio.
Entre as sugestões estão a obrigação de informar quando um agente de IA estiver envolvido em uma transação e maior transparência sobre os critérios usados pelos sistemas para tomar decisões.
Os bancos também defendem medidas para proteger os dados dos consumidores e afirmam que clientes e comerciantes devem poder escolher quais serviços de comércio eletrônico baseados em IA querem utilizar.
A interoperabilidade entre diferentes sistemas, permitindo que eles funcionem em conjunto, também aparece entre as propostas.
Uso da tecnologia cresce
O movimento já começa a aparecer no comportamento dos consumidores. A varejista britânica John Lewis informou que as buscas em seu site originadas por agentes de IA chegaram a 2,5% em setembro, ante 0,3% um ano antes.
Para os bancos, o crescimento reforça a necessidade de estabelecer regras e proteções antes que o uso desses sistemas se torne ainda mais comum nas compras pela internet.
*Com informações da Reuters
Compras pelo celular — Foto: Reprodução/TV Globo