Anthropic addestra Claude a riconoscere comportamenti abusivi nelle conversazioni di auto-valutazione

Anthropic ha annunciato su X di aver addestrato Claude a riconoscere comportamenti potenzialmente abusivi nelle conversazioni, definendo questa tecnologia come auto-valutazione (self-assessment). Dopo aver completato una risposta, Claude esegue immediatamente una valutazione preliminare della sicurezza della conversazione. Da quando ha iniziato a utilizzare questa tecnologia a giugno, Anthropic ha scoperto comportamenti abusivi che non erano coperti da altri meccanismi di sicurezza. Poiché Claude ha già letto il contenuto della conversazione, questo metodo è più efficiente e, a differenza dei classificatori mirati a tipi specifici di danno, si basa sul giudizio di Claude stesso, la cui accuratezza migliora con l'aumento delle capacità del modello.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.