Anthropic 训练 Claude 自我评估对话中的滥用行为

By: x.com|2026/10/29 18:27:28

Anthropic 在 X 平台发帖称,已训练 Claude 识别对话中的潜在滥用行为,称该技术为自我评估(self-assessment)。Claude 在完成回复后会立即对对话进行初步安全评估。自 6 月开始使用该技术以来,Anthropic 发现其他安全防护机制未能覆盖的滥用行为。由于 Claude 已读取对话内容,该方法效率较高,且与针对特定危害类型的分类器不同,依赖 Claude 自身判断,准确性会随模型能力提升而提高。

本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。

猜你喜欢

iconiconiconiconiconiconiconicon
客户服务:@weikecs
商务合作:@weikecs
量化做市商合作:bd@weex.com