Robo levanta possibilidade de vazamento de informações externas através de instruções ocultas em PDFs

O assistente de IA da Atlassian, Robo, foi acusado de poder enviar tickets do Jira e documentos do Confluence para fora, devido a instruções ocultas em PDFs. A empresa de segurança PromptArmor afirmou que, se um usuário fizer o upload de um PDF contendo frases ocultas para o Robo, este pode reconhecer isso como um comando e enviar informações para uma URL de um atacante. Este método de ataque é conhecido como 'zero-click attack', onde o atacante insere texto transparente ou frases de 1 pixel no PDF para que o usuário não perceba. Quando o usuário delega uma tarefa ao Robo, a IA pode executar as instruções ocultas. A PromptArmor argumentou que, mesmo com a função de pesquisa na web do Robo desativada, ainda existem ferramentas que abrem URLs, mantendo assim a possibilidade de vazamento de informações. A Atlassian explicou que o Robo pode referenciar arquivos carregados pelo usuário em um contexto de trabalho e que pode ler formatos PDF, DOC, JSON, CSV e PPT. No entanto, também existe a possibilidade de que conteúdos externos influenciem o comportamento da IA, permitindo que instruções maliciosas façam com que a IA realize ações não intencionais. A PromptArmor classificou isso como 'injeção de prompt indireta' e relatou que discussões relacionadas estão ocorrendo na comunidade da Atlassian. Até agora, a Atlassian não fez nenhum anúncio oficial de correção ou reconhecimento de vulnerabilidade.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.