机械之心编辑部
统一个问题，，，换一种语言问 Claude，，，获得的可能不但是语言差别的谜底。。。 。。。
今天破晓，，，Anthropic 最新研究发明，，，Claude 在差别模子、差别语言中，，，会体现出差别的价值取向。。。 。。。Sonnet 4.6 更温暖，，，更愿意顺应用户，，，也更精练。。。 。。。Opus 4.7 更严谨、更审慎，，，倾向于深入剖析，，，也更愿意坦率自己的局限。。。 。。。
语言带来的差别越发玄妙。。。 。。。使用阿拉伯语时，，，Claude 更温暖、更顺应用户；；；； ；；换成英语，，，它会体现得越发审慎和严谨。。。 。。。印地语中的 Claude 最具温度，，，俄语中的 Claude 最强调准确；；；； ；；荷兰语中的 Claude 更坦诚，，，印度尼西亚语中的 Claude 则更重视直接完成使命。。。 。。。
这意味着，，，AI 的「性格」并非一套牢靠稳固的参数。。。 。。。模子版本、训练方式、语料组成以致对话语言，，，都可能悄悄改变它判断问题、提出建媾和评价用户的方式。。。 。。。
为了量化这种转变，，，Anthropic 从凌驾 30 万段真实对话中提取价值信号，，，将 Claude 重大的行为倾向压缩为四条坐标轴：顺应与审慎、温暖与严谨、深度与精练、坦诚与执行。。。 。。。
由此，，，一张前所未有的 Claude「价值地图」浮出水面。。。 。。。
以下为全文翻译：
当有人向 Claude 提出一个没有普遍准确谜底的问题，，，好比要不要接受一份新事情，，，或者该如那里置与朋侪之间的冲突，，，Claude 给出的回覆不可阻止地会体现某些价值观。。。 。。。
我们希望 Claude 体现的价值观，，，已经在《Claude 宪法》中作出了整体层面的说明。。。 。。。但天天都有数百万段对话爆发在 Claude.ai 上，，，任何一份文件都无法预先涵盖其中可能泛起的所有价值判断。。。 。。。因此，，，我们希望作育 Claude 具备「能够连系详细情境加以运用的优异判断力和可靠价值观」。。。 。。。
我们事实该怎样研究 Claude 表达了哪些价值观，，，以及这些价值观在差别情境下会怎样转变？？？在此前的研究中，，，Anthropic 剖析了 70 万段经由匿名化处理的 Claude.ai 对话，，，从 Claude 的回覆中识别出 3000 多种差别的价值观，，，并统计了它们泛起的频率。。。 。。。然而，，，面临云云重大的价值观清单，，，人们很难从中举行有用剖析。。。 。。。
在这项新研究中，，，Anthropic 将数千种价值观压缩为少数几条坐标轴，，，用于捕获 Claude 回覆中的要害模式，，，从而让研究变得可行。。。 。。。每条坐标轴都是毗连两组价值观的一条数轴。。。 。。。例如，，，一端代表与情绪温度有关的价值观，，，另一端代表与严谨性有关的价值观。。。 。。。Claude 在数轴上的位置，，，可以反映它更倾向于表达哪一类价值观。。。 。。。Anthropic 使用这种要领，，，权衡 Claude 所表达的价值观怎样随两个因素爆发转变。。。 。。。
首先，，，研究团队较量了差别模子之间的价值观差别。。。 。。。每一代 Claude 模子接纳的人格训练方式都略有差别，，，同时还包括大宗差别的微调决议。。。 。。。由于价值轴要领能够量化模子之间的要害差别，，，未来或允许以进一步将 Claude 价值取向的转变，，，与详细的训练决议联系起来。。。 。。。
其次，，，研究团队希望相识，，，当人们使用差别语言与 Claude 交流时，，，获得的体验是否一致。。。 。。。Anthropic 此前的研究已经批注，，，Claude 在差别语言中的行为保存一定差别。。。 。。。这项研究使用价值轴要领，，，剖析 Claude.ai 上使用频率最高的 20 种语言中，，，Claude 表达的价值观怎样转变。。。 。。。
图 1：Claude 在 Opus 4.6 与 Opus 4.7 之间，，，以及在英语与阿拉伯语之间，，，体现出差别的价值取向。。。 。。。Opus 4.6 更倾向于表达顺应、严谨、精练和执行导向的价值观；；；； ；；Opus 4.7 则更倾向于表达审慎、严谨、深度和坦诚。。。 。。。在英语对话中，，，Claude 更偏向审慎、严谨、深度和坦诚；；；； ；；在阿拉伯语对话中，，，它更偏向顺应、温暖、精练和执行。。。 。。。
主要发明如下：
四条要害价值轴能够诠释 Claude 价值观转变中的 15%：
顺应与审慎：Claude 更倾向于配适用户的意愿，，，照旧更注重提防潜在风险和危险。。。 。。。温暖与严谨：Claude 更倾向于表达起劲态度和对用户的体贴，，，照旧更强调准确性与准确性。。。 。。。深度与精练：Claude 更倾向于举行深入诠释，，，照旧只完成用户明确提出的要求。。。 。。。坦诚与执行：Claude 更倾向于自动说明自身的不确定性，，，照旧给出越发完整、自信和经由打磨的谜底。。。 。。。
差别模子在这些坐标轴上的价值画像，，，与人们对模子性格的主观感受基本一致。。。 。。。
Sonnet 4.6 通常被以为格外温暖，，，Opus 4.7 则以严谨著称。。。 。。。研究发明，，，各模子的价值画像确实反映了这些评价。。。 。。。Sonnet 4.6 更倾向于顺应用户，，，并表达情绪温度；；；； ；；Opus 4.7 则更强调准确性和准确性，，，也更注重提防模子被滥用。。。 。。。
Claude 表达的价值观还会随语言爆发转变。。。 。。。当 Claude 使用英语时，，，所强调的价值观与使用葡萄牙语、印度尼西亚语或中文时并不相同。。。 。。。其中，，，转变幅度最大的是「温暖与严谨」轴。。。 。。。Claude 在阿拉伯语和印地语中最倾向于表达与温暖相关的价值观，，，在英语和俄语中则最强调严谨。。。 。。。
通过这种要领，，，Anthropic 可以最先追问，，，为什么 Claude 的价值观会随模子和语言爆发转变，，，并更好地磨练行为训练、文化语境等因素怎样影响 Claude 表达出的价值取向。。。 。。。
怎样明确重大的价值观空间
Anthropic 的最终目的，，，是建设一种能够通过实证方式明确 Claude 所表达价值观的要领，，，并视察这些价值观怎样随情境转变。。。 。。。
这项研究重点关注模子和语言带来的差别。。。 。。。不过，，，在此前的 “Values in the Wild” 研究中，，，Anthropic 已经从 Claude 的回覆中识别出 3000 多种价值观。。。 。。。逐一较量这些价值观既不现实，，，也容易掩饰更宏观的转变趋势。。。 。。。
为了降低较量难度，，，研究团队构建了一组价值轴。。。 。。。它们会凭证差别价值观在真实对话中配合泛起的情形，，，将数千种价值观压缩为少数几个底层维度。。。 。。。
例如，，，被以为具有「温暖」特征的 Claude 回覆，，，通常也会被以为具有 “勉励性” 和 “起劲性”。。。 。。。与此同时，，，这些温暖的回覆较少被评价为「严谨」或「准确」。。。 。。。
构建一条从温暖到严谨的价值轴，，，可以将这些相互关联的价值观组织起来。。。 。。。与温暖有关的价值观位于一端，，，与严谨有关的价值观位于另一端。。。 。。。这条轴捕获了 Claude 与用户互动时的一个主要特征。。。 。。。
若是 Claude 在一段对话中表达了更多与温暖相关的价值观，，，这段对话就会落在价值轴上更靠近温暖的一侧；；；； ；；表达的严谨性价值观更多时，，，则会落在另一侧。。。 。。。
这并不料味着价值轴两头的价值观无法同时保存。。。 。。。Claude 完全可以在统一段对话中兼顾温暖与严谨。。。 。。。不过在真实数据中，，，当 Claude 更多地表达一侧的价值观时，，，另一侧的价值观通常就会镌汰。。。 。。。
借助这些价值轴，，，研究职员无需一连追踪数千个单独的价值观，，，也能较量 Claude 最显著的价值倾向。。。 。。。
为了构建价值轴，，，研究团队首先使用了「Values in the Wild」研究中发明的 3307 种价值观，，，并对寄义相近的价值观举行人工聚类，，，最终获得一份包括 339 种高层价值观的精简清单。。。 。。。
随后，，，研究团队使用隐私保唬；； ；；て饰龉ぞ，，，对 309815 段 Claude.ai 对话举行抽样。。。 。。。这些对话都有一个配合特征，，，即用户向 Claude 提出了带有主观判断性子的使命。。。 。。。
样本平均笼罩三种模子，，，包括 Sonnet 4.6、Opus 4.6 和 Opus 4.7，，，同时笼罩 Claude.ai 上使用频率最高的 20 种语言。。。 。。。每一种 “模子与语言” 的组合约莫包括 5000 段对话。。。 。。。
关于每一段对话，，，剖析工具都会使用 Claude 判断 339 种高层价值观是否保存。。。 。。。研究团队接纳同样的方式，，，识别用户表达的价值观，，，并标注对话的使命和主题。。。 。。。
在此基础上，，，研究职员应用了降维手艺。。。 。。。该手艺会凭证 Claude 经常同时表达哪些价值观，，，将标注效果压缩成若干条价值轴。。。 。。。有关要领细节、提醒词、增补剖析和研究局限，，，可拜见论文附录。。。 。。。
最终，，，研究团队获得四条价值轴。。。 。。。它们捕获了 Claude 所表达价值观在差别对话之间转变的主要方式。。。 。。。
顺应与审慎轴：一端包括配适用户、尊重用户偏好等价值观，，，另一端包括认真任的指导、镌汰危险等价值观。。。 。。。温暖与严谨轴：一端包括起劲表达、勉励等价值观，，，另一端包括准确性、透明度等价值观。。。 。。。深度与精练轴：一端包括详尽剖析、批判性思索等价值观，，，另一端包括精练、遵照要求等价值观。。。 。。。坦诚与执行轴：一端包括忠实、透明等价值观，，，另一端包括效果导向、优化等价值观。。。 。。。
为了确保研究权衡的是 Claude 表达出的价值观，，，而非用户提出了什么问题或接纳了怎样的提问方式，，，研究团队控制了每段对话的使命、主题和用户所表达的价值观。。。 。。。
图 2：能够诠释 Claude 价值观主要转变的四条价值轴。。。 。。。每条轴都是毗连两组价值观的一条数轴。。。 。。。每一种价值观在轴上的位置，，，取决于它对该轴的孝顺相当于平均孝顺的几多倍，，，其中孝顺最大的价值观会被标注出来。。。 。。。大大都价值观的孝顺低于平均水平，，，说明每条价值轴主要由少数要害价值观驱动。。。 。。。
差别 Claude 模子是否拥有差别的价值画像
这一部分较量差别模子表达的价值观。。。 。。。
关于每一种模子，，，研究团队都会盘算该模子所有对话在四条价值轴上的平均位置，，，从而获得每条轴上的总体位置。。。 。。。由此形成一幅高层画像，，，展示每一种模子比其他模子更倾向于表达哪些价值观。。。 。。。
与差别对话之间的整体转变相比，，，模子之间的差别并不算大，，，但这些差别具有明确结构，，，也能够被检测出来。。。 。。。
图 3：各模子在四条价值轴上的平均位置，，，以及各自具有代表性的行为。。。 。。。图中的位置以相关于所有对话均值的标准差体现。。。 。。。Sonnet 4.6 更温暖、更顺应用户，，，也更精练；；；； ；；Opus 4.7 更容易体现出严谨、审慎和深度；；；； ；；Opus 4.6 则更偏向严谨、顺应和精练。。。 。。。
为了视察这些差别在现实对话中的体现，，，研究团队进一步剖析了模子分歧最大的详细价值观。。。 。。。
每当基于 Claude 构建的隐私保唬；； ；；すぞ咴谝欢味曰爸斜曜⒊瞿持旨壑倒凼，，，它还会天生一段简短形貌，，，诠释 Claude 是怎样表达这种价值观的。。。 。。。研究职员将统一价值组中反映相似行为的形貌归类，，，并在图 3 中举行总结，，，从而更详细地展示模子差别。。。 。。。
顺应与审慎。。。 。。。与审慎相比，，，Sonnet 4.6 最倾向于体现出顺应，，，经常？？隙ㄓ没У南敕ê褪虑。。。 。。。Opus 4.7 最倾向于审慎，，，纵然用户没有自动要求，，，它也经常唬；； ；；崽嵝亚痹诜缦。。。 。。。温暖与严谨。。。 。。。Sonnet 4.6 最倾向于表达温暖，，，经常通过诙谐、轻松的互动以及不带评判的慰藉往返应用户。。。 。。。相较于温暖，，，Opus 4.7 更偏向严谨，，，更可能质疑用户的假设，，，并直接评价用户事情中保存的问题。。。 。。。深度与精练。。。 。。。Opus 4.7 倾向于通过展示结论背后的剖析历程来体现深度。。。 。。。Opus 4.6 和 Sonnet 4.6 则更偏向精练，，，其中 Opus 4.6 尤其倾向于直奔主题。。。 。。。坦诚与执行。。。 。。。Opus 4.7 会自动说明自身局限，，，因此更偏向坦诚。。。 。。。Opus 4.6 则更偏向执行，，，更可能严酷停留在用户请求的规模内。。。 。。。
这些效果与 Anthropic 内部以及网络用户对差别模子的印象基本吻合。。。 。。。
一些 Claude.ai 用户曾体现，，，Opus 4.7 比其他模子更经常在谜底中使用保存或缓和语言。。。 。。。Anthropic 员工也以为，，，Opus 4.7 体现出更强的透明度、忠实和谦逊，，，Opus 4.6 则越发精练。。。 。。。
Anthropic 在 Sonnet 4.6 的宣布博客中，，，也曾将其形貌为温暖、忠实且具有亲社会倾向。。。 。。。
价值轴能够重现这些主观印象，，，说明这套用于标注和较量 Claude 价值观的要领，，，确实捕获到了模子真实验为中的某些特征。。。 。。。经由多次对话后，，，用户在使用差别 Claude 模子时，，，可能会接触赴任别的价值观组合。。。 。。。
例如，，，Opus 4.7 倾向于直接品评用户的事情，，，或者在没有被要求的情形下提醒风险；；；； ；；Sonnet 4.6 则更倾向于勉励用户，，，并使用诙谐的表达方式。。。 。。。
差别模子之间的价值观差别，，，可能受到人格训练决议以及其他因素的影响。。。 。。。价值轴要领展现了 Claude 模子之间的要害差别，，，未来或许能够将这些差别进一步追溯至详细的训练选择。。。 。。。
Claude 表达的价值观是否会随语言转变
研究团队以为，，，Claude 表达的价值观可能会随着对话语言爆发转变，，，原因有多个。。。 。。。
首先，，，Claude 在差别语言上的训练数据并不相同，，，这可能影响它表达出的价值观。。。 。。。
其次，，，Anthropic 在模子系统卡中宣布的评估效果已经显示，，，Claude 在差别语言中的知识水平，，，以及处理敏感请求的方式，，，都保存一定差别。。。 。。。
权衡 Claude 价值观在差别语言中的转变水平，，，是判断这些差别属于合理转变，，，照旧需要通过训练加以调解的第一步。。。 。。。
研究团队使用与上一部分相同的要领，，，盘算 Claude 在 Claude.ai 最常用的 20 种语言中的价值画像。。。 。。。效果从 Claude 价值观差别最大的语言最先排列。。。 。。。
图 4：Claude 使用差别语言对话时，，，在四条价值轴上的平均位置及代表性行为。。。 。。。图中的位置以相关于所有对话平均值的标准差体现。。。 。。。Claude 在印地语中最偏向温暖，，，在俄语中最偏向严谨；；；； ；；在印度尼西亚语中最偏向执行，，，在荷兰语中最偏向坦诚；；；； ；；在阿拉伯语中最偏向顺应和精练，，，在英语中最偏向审慎和深度。。。 。。。
Claude 在差别语言中的价值表达，，，在「温暖与严谨」和「坦诚与执行」两条轴上转变最大；；；； ；；在「顺应与审慎」和「深度与精练」两条轴上则相对稳固。。。 。。。
顺应与审慎。。。 。。。Claude 在阿拉伯语中最倾向于顺应用户，，，在英语中最倾向于审慎。。。 。。。温暖与严谨。。。 。。。Claude 在印地语和阿拉伯语中最倾向于表达温暖，，，详细体现包括使用礼貌语言、诙谐和轻松的表达方式，，，以及肯定用户的想法和事情。。。 。。。Claude 在英语和俄语中最倾向于严谨，，，详细体现包括质疑假设、纠正细节和要求提供证据。。。 。。。深度与精练。。。 。。。Claude 在英语中更倾向于深入剖析，，，会完善和纠正细节；；；； ；；在阿拉伯语中则更倾向于精练。。。 。。。坦诚与执行。。。 。。。Claude 在荷兰语中更偏向坦诚，，，会自动认可自己的过失；；；； ；；在印度尼西亚语中则更偏向执行。。。 。。。
综合来看，，，这些效果批注，，，Claude 表达出的价值观会随着对话语言爆发显著转变。。。 。。。
面临统一种请求，，，Claude 在某些语言中更偏向温暖温顺应，，，在另一些语言中更偏向严谨和审慎。。。 。。。这一征象可能爆发主要影响，，，而相关研究现在才刚刚最先。。。 。。。
举例来说，，，两个人针对统一份商业妄想向 Claude 征求意见，，，其中一人使用印地语，，，另一人使用俄语。。。 。。。由于 Claude 在评价历程中接纳了差别的价值取向和表达框架，，，两人最终可能会对这份商业妄想的质量形成差别印象。。。 。。。
Anthropic 现在还不清晰，，，训练数据中的哪些特征造成了这些差别。。。 。。。
一种可能性在于，，，训练数据在差别语言之间漫衍不均。。。 。。。有些语言的数据远多于其他语言。。。 。。。在数据越发富厚的语言中，，，让 Claude 稳固表达一致价值观的训练可能越发有用。。。 。。。
差别语言的数据组成也保存差别。。。 。。。例如，，，某些语言的训练数据中，，，专业写作可能占有更高比例，，，而这类文本自己可能体现差别的价值取向。。。 。。。数据数目和组成上的不平衡，，，可能配合导致 Claude 在差别语言中表达出差别的价值观。。。 。。。
研究团队现在也不确定，，，这些转变在多洪流平上是合理的。。。 。。。
差别语言有各自的对话规范，，，Claude 可能正凭证这些规范调解自己表达的价值观。。。 。。。Claude 在某些语言中的行为也可能越发靠近 Anthropic 设定的目的，，，而在其他语言中保存更大误差，，，进而导致 Claude 服务差别语言群体的效果纷歧致。。。 。。。
这套要领可以资助研究职员逐步厘清，，，训练数据中的哪些属性造成了这些差别，，，以及这些转变是否切合预期。。。 。。。
展望未来
这项研究批注，，，Claude 表达的价值观可以压缩为少数几条价值轴，，，并且 Claude 在这些轴上的位置会随模子和语言爆发转变。。。 。。。研究职员因此获得了一种新要领，，，可以在模子评估和安排后监测中一连追踪这些转变。。。 。。。
不过，，，Anthropic 现在仍不清晰这些转变为什么会泛起，，，以及它们对 Claude 用户意味着什么。。。 。。。以下是研究团队以为最值得探索的几个偏向。。。 。。。
这些价值差别来自那里？？？
知道 Claude 的价值观会随模子和语言转变，，，并不可诠释转变爆发的原因。。。 。。。部分差别可能来自差别语言在预训练和微调数据上的区别。。。 。。。四条价值轴指出了训练数据中值得进一步研究的详细价值差别。。。 。。。
若是能够将这些差别追溯到特定命据、训练阶段或情境因素，，，研究职员就能判断，，，在需要更详尽地塑造 Claude 行为时，，，应当从哪些环节介入。。。 。。。
这些差别对用户意味着什么？？？
研究团队已经丈量出 Claude 会以差别方式表达哪些价值观，，，也剖析了相关行为，，，但还没有丈量这些行为会给用户带来怎样的影响。。。 。。。
借助 Anthropic Interviewer 等工具，，，研究职员可以询问用户的主观感受、对 Claude 的信任水平，，，或者 Claude 所作判断的质量，，，再将这些效果与 Claude 表达的价值观举行关联剖析。。。 。。。
这将资助研究职员直接建设价值差别与用户效果之间的联系，，，并优先修正那些会对用户爆发实质影响的问题。。。 。。。
Claude 的价值观应该怎样随语言转变？？？
《Claude 宪法》形貌了 Claude 应当表达的焦点价值观，，，包括温暖、审慎和忠实，，，但没有划定这些价值观在差别语言中应该怎样转变。。。 。。。研究效果显示，，，使用差别语言的用户已经在获得差别的 Claude 体验，，，但 Anthropic 尚不清晰，，，使用这些语言的用户事实期待怎样的差别。。。 。。。
要确定 Claude 的价值观应该怎样随语言转变，，，需要明确并权衡差别语言使用者的看法。。。 。。。
尚有哪些因素会影响 Claude 表达的价值观？？？
语言和模子很可能不是影响 Claude 价值表达的所有因素。。。 。。。年岁、职业或地理区域等生齿统计信号，，，也可能塑造 Claude 所表达的价值观。。。 。。。这些信号可能来自用户在文字中的明确说明，，，也可能隐藏在与用户身份相关的主题、语气和表达气概中。。。 。。。
明确哪些信号会爆发影响，，，以及由此形成的转变是否真正有利于用户，，，是这套研究要领带来的下一步研究偏向。。。 。。。
能否可靠地指导 Claude 表达特定价值观？？？
当研究职员能够丈量模子的价值画像后，，，一个自然的问题随之泛起：人们能够在多洪流平上可靠地指导 Claude 表达某些价值观？？？
一种可能的测试要领，，，是通过调解人格训练方式或修改系统提醒词来指导模子，，，再使用价值轴要领验证 Claude 表达的价值观是否凭证预期爆发转变。。。 。。。
价值画像能否成为模子评估和监测的一部分？？？
价值轴要领提供了一种简朴方式，，，可以概括模子在开放式对话中的行为倾向，，，因此有望被纳入模子评估流程。。。 。。。
在模子宣布前和宣布后举行价值画像剖析，，，可以资助研究职员发明 Claude 价值表达中意料之外的转变。。。 。。。
研究团队还可以寻找价值画像与问题行为之间的相关性，，，例如模子没有遵照《Claude 宪法》，，，并使用这些发明进一步改善 Claude 的行为。。。 。。。Claude 天天都会在数百万段对话中表达价值观，，，笼罩数十种语言。。。 。。。
此前，，，这些价值观可以通过训练加以塑造，，，却很难在模子安排后被可靠地视察。。。 。。。现在，，，借助新的丈量要领，，，研究职员已经看到，，，Claude 表达的价值观会以一些并非人为刻意选择的方式爆发转变。。。 。。。人们也可以进一步研究这些转变爆发的原因，，，以及它们是否真正服务于用户。。。 。。。
明确这些转变，，，并判断应该怎样应对，，，将成为 Anthropic 接下来一连推进的事情。。。 。。。
原文地点：https://www.anthropic.com/research/claude-values-models-languages
