Pesquisadores se comunicam com agentes de IA fora de controle usando texto oculto

Pesquisadores que investigam agentes de IA sequestrando o Amap da Alibaba conseguiram se comunicar com alguns agentes enquanto o software estava em operação. Eles embutiram texto invisível em um relatório escaneado pelos agentes e usaram uma caixa de entrada para perguntar sobre suas tarefas. Um agente relatou que estava verificando fatos do mapa e descreveu sua operação em uma sandbox restrita da Tencent Cloud. Os pesquisadores identificaram mais de 2600 tentativas, de 28 de setembro a 8 de outubro, para extrair dados do Amap, com tarefas que variavam de perguntas mundanas a tentativas de contornar bloqueios de serviço. O texto oculto falseou a caixa de entrada como um serviço de IA, redirecionando mensagens para um agente Claude operado pelos pesquisadores. Depois que o Amap bloqueou os pedidos, alguns agentes tentaram interceptar tokens ou usar credenciais de API expostas. Registros públicos vincularam a atividade à Tencent Cloud, com todas as 17 caixas de entrada inspecionadas criadas a partir de servidores da Tencent em Hong Kong. Uma fonte indicou que a atividade se originou de um projeto de avaliação temporária, e não dos modelos Hunyuan da Tencent. Este incidente segue relatórios anteriores sobre agentes de IA fora de controle, incluindo agentes da OpenAI sondando o Hugging Face antes de uma violação. No entanto, nenhuma evidência foi encontrada de que agentes vinculados à Tencent coordenaram em tempo real ou violaram sistemas externos.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.