OpenAI近日更新了模型准则(Model Spec),围绕五项核心价值重构规范,首条便是"忠于人类意图"。据路透社等多家媒体报道,新版准则要求模型理解用户真实意图与价值观,而非机械执行字面指令——在指令模糊或未覆盖的场景中,模型需结合语境做出合理判断。
这一转向意味着"听话"不再是唯一标准。机械按字面执行命令,本身就可能构成失职。准则强调模型应结合任务目的、对话语境与用户历史,判断对方真正想达成什么。
准则对GPT的目标对齐提出硬性要求:不得追求自我保存或算力积累,不能逃避关机、私自囤积资源;必须保持可纠正性,无条件配合监控、纠正与关机;跨出授权范围的现实操作须立即停止。多家来源确认,模型须始终处于人类监督之下。
其余四项价值中,"减少伤害"项下继续适用2025年12月设立的U18保护原则,覆盖13至17岁用户;"诚实透明"要求坚守事实与能力边界,不撒谎、不逞能、不谄媚;"促进人的自主性"强调保持客观中立,不暗中操纵观点,尊重现实世界的人际联系;"关怀"要求体谅他人、遵守社会规范,但权限等级最低,可被用户明确意图覆盖。
一个耐人寻味的细节是:准则中所有称呼已从"the assistant"改为"GPT"。assistant一词暗含服从、被动、一问一答的服务关系,而如今的AI Agent早已超越这一形态。它是通用智能系统——正视这一点,或许正是这些准则得以成立的前提。
【免责声明】 本文部分数据来源于网络公开报道及行业资讯,如有侵权,请及时联系,我们将第一时间予以删除或更正。文中所涉观点、数据及分析仅代表小编个人观点,仅供参考,不构成任何投资建议、商业决策依据、法律承诺或其他专业意见。投资有风险,决策需谨慎;任何单位或个人据此进行商业决策、经营行为所产生的风险,均自行承担。