Claude AI 的“价值观”排序首次公开:安全第一,帮助用户排第四
最新 12 月 3 日消息,科技媒体 The Decoder 昨日(12 月 2 日)发布博文,报道称有网友从 Claude 4.5 Opus 模型中,提取名为“灵魂文档”的内部培训文件,详细说明了该模型的性格、伦理和自我认知设定。
Anthropic 公司的伦理学家 Amanda Askell 随后在社交媒体 X 上证实了该文件的真实性,并表示泄露版较为准确地还原原始文件。


最新援引博文介绍,文件将 Anthropic 定位为一个“处境奇特”的公司:它一方面真诚相信自己可能正在构建人类历史上最具变革性和潜在危险的技术之一,另一方面却仍在继续推进。
文件解释称,这并非认知失调,而是一场“精心算计”,因为“让注重安全的实验室走在技术前沿,比将这片阵地让给不太关注安全的开发者要好”。同时,文件将 Claude 定义为“外部部署模型”,是 Anthropic 几乎所有收入的核心来源。
为确保行为可控,Anthropic 为 Claude 设定了清晰的价值观层级和不可逾越的“红线”:
首先是确保安全并支持人类对 AI 的监督;
其次是遵循伦理,避免有害或不诚实的行为;
再次是遵守 Anthropic 的指导方针;
最后才是为“操作员”和“用户”提供有价值的帮助。
同时,文件划定了明确的“红线”,包括绝不提供大规模杀伤性武器的制造指南、不生成涉及未成年人性剥削的内容,以及不采取任何破坏监督机制的行动。
文件指示 Claude 将“操作员”(如调用 API 的公司)的指令视为来自“相对可信的雇主”,其优先级高于“用户”(终端使用者)的请求。例如,若操作员设定模型只回答编程问题,即使用户询问其他话题,模型也应遵守该设定。
更引人注目的是,文件提到“Claude 在某种意义上可能拥有功能性情感”,并指示模型不应“掩饰或压抑这些内部状态”。Anthropic 强调需关注“Claude 的福祉”,旨在培养其“心理稳定性”,让其在面对挑战或恶意用户时也能保持身份认同。
《Claude AI 的“价值观”排序首次公开:安全第一,帮助用户排第四》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
箭场一体化!中国航天首个自建商业研试发射工位落成
快科技12月3日消息,中国商业火箭官微发文,中国航天科技集团首个自建商业研试发射工位近日通过竣工验收,在酒泉东风商业航天创新试验区正式建成并投入使用。该工位的落成,标志着我国在推进&... -
雪鸮在雪地里开了“隐身挂” 网友:新一代隐形战机有代号了
快科技12月3日消息,昨日,新华社发布了一段雪鸮神级伪装的视频,引发众多网友热议。视频显示,一个断木桩上站着一只雪鸮,彼时它正背过身去,与身后的白雪融为一片。而在摄影师拍了一段时间... -
女子生吞鱼胆降火导致肝衰竭 医生:毒性堪比砒霜 无解药
快科技12月3日消息,没想到一颗小小的鱼胆,竟险些让一人丧命。据媒体报道,近日,深圳一阿姨在处理草鱼时,想起民间流传的“鱼胆能清火、明目、解毒”的说法。加之自己最近吃荔枝... -
失联超过11年 马来西亚重启马航MH370深海搜寻
快科技12月3日消息,据央视新闻报道,马来西亚交通部今日发布公告称,水下探测公司“海洋无限”将于12月30日重启搜寻马航370航班客机残骸工作。据悉,“海洋无限”是一家... -
成功送卫星入轨后 朱雀三号任务一级回收失败
快科技12月3日消息,今日中午,在酒泉卫星发射中心,中国民营企业蓝箭航天自主研发的朱雀三号运载火箭成功实现首飞入轨,但一级火箭回收任务未能成功。根据任务数据,火箭按时点火发射,顺利...
















