Anthropic treina Claude para identificar comportamentos abusivos em diálogos de autoavaliação

A Anthropic publicou no X que treinou Claude para reconhecer comportamentos abusivos potenciais em diálogos, chamando essa técnica de autoavaliação. Após completar uma resposta, Claude realiza imediatamente uma avaliação de segurança preliminar do diálogo. Desde que começou a usar essa técnica em junho, a Anthropic descobriu comportamentos abusivos que não eram cobertos por outros mecanismos de segurança. Como Claude já leu o conteúdo do diálogo, esse método é mais eficiente e, ao contrário dos classificadores voltados para tipos específicos de danos, depende do próprio julgamento de Claude, cuja precisão melhora à medida que a capacidade do modelo aumenta.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.