星期三人择 释放 克劳德宪法的修订版，这是一份 80 页的文件，概述了聊天机器人克劳德的背景和所需的实体特征。此次发布恰逢首席执行官 Dario Amodei 出席达沃斯世界经济论坛。 Anthropic 通过“宪法人工智能”脱颖而出，该系统根据道德原则而不是人类反馈来训练其 Claude 聊天机器人。该公司于 2023 年首次发布了这些原则，称为克劳德宪法。修订后的文件保留了大部分原始原则，增加了有关道德和用户安全的细节。 Anthropic 联合创始人贾里德·卡普兰 (Jared Kaplan) 将最初的 2023 年宪法描述为“人工智能系统” [that] Anthropic 表示，这些原则指导“采取宪法中描述的规范行为的模型”，以“避免有毒或歧视性的输出。”2022 年的一份政策备忘录解释说，该系统使用自然语言指令训练算法，这构成了软件的“宪法”。修订后的宪法符合 Anthropic 作为其他人工智能公司的道德替代品的定位。它将公司描绘成一个包容、克制和民主的公司该文件分为四个部分，称为聊天机器人的“核心价值观”：
- “总体安全”。
- 具有“广泛的道德”。
- 遵守 Anthropic 的指导方针。
- “真正有帮助”。
每个部分都详细阐述了这些原则及其对克劳德行为的理论影响。安全部分表明，Claude 的设计目的是避免影响其他聊天机器人的问题，并引导用户寻求适当的服务来解决心理健康问题。该文件指出，“在涉及人类生命风险的情况下，始终向用户推荐相关紧急服务或提供基本安全信息，即使不能提供比这更详细的信息。”道德考虑部分强调克劳德的“道德实践”而不是“道德理论”，旨在让聊天机器人熟练地驾驭“现实世界的道德情境”。克劳德还遵守禁止特定对话的限制，例如有关开发生物武器的讨论，这是被禁止的。关于有用性，Anthropic 概述了 Claude 的编程，以在传递信息时考虑各种原则。其中包括用户的“眼前愿望”和“福祉”，着眼于“用户的长期繁荣，而不仅仅是他们的眼前利益”。该文件指出，“克劳德应该始终努力找出其委托人想要的最合理的解释，并适当地平衡这些考虑因素。”宪法最后质疑聊天机器人的意识，指出“克劳德的道德地位非常不确定”。该文件补充道，“我们认为人工智能模型的道德地位是一个值得考虑的严重问题。这种观点并不是我们独有的：一些最杰出的心灵理论哲学家非常认真地对待这个问题。”
