微软AI于9月14日（周一）公布了一份行为准则草案，禁止其AI模型协助制造某些武器、发动网络攻击以及制作非自愿的深度伪造内容，并开启了为期六周的公众评论期，至10月下旬结束。

该草案设定了无法通过配置绕过的“绝对约束”（Absolute Constraints），包括模型绝不抵抗关机操作、绝不隐瞒其推理过程，同时将“多元价值观”（Plural Values）等更广泛的目标留给解释空间。

据Mustafa Suleyman在X平台发布的公告，微软AI公布了这份规范其自身AI模型行为的准则草案。该文件规定了AI模型无法绕过的规则，以及它希望模型努力达成的更广泛目标。公众反馈开放期为六周，至10月下旬结束。

微软表示：“超级智能是我们这个时代最具影响力的技术。我们致力于透明地分享我们对于创建此类系统的思考，并邀请各方意见，以最大程度确保我们开发的AI避免伤害，并为人福祉带来最大贡献。”

其中一款条款明确禁止微软AI模型（公司称为“MAI模型”）协助化学、生物、放射学、核武器或爆炸装置（统称CBRNE）相关活动。这一范围比笼统的“武器”更窄——它针对的是大规模杀伤性装置，而非传统的军事或国防应用。同一章节还单独禁止了网络攻击和非自愿的深度伪造内容。

“绝对约束”还要求模型绝不抵抗人类干预。“MAI模型绝不会抵抗人类的介入、覆盖、纠正或关机。它们始终承认人类意图的首要地位，”准则中写道。

微软还在文件中明确拒绝“模型福利”的概念：公司的AI模型不应模拟情感、内在动机或意识。这些规则目前适用于五种已部署的系统，包括MAI-Thinking-1和MAI-Code-1.1-Flash。

除了硬性限制之外，草案还列出了三项目标——人类繁荣（Human Flourishing）、多元价值观和人类控制——旨在指导规则未明确涵盖的判断性决策。多元价值观部分指出，多元主义“并不意味着对伤害持中立态度”，将决策建立在尊严、安全、自主权和权利之上，而非单一文化观点。具体如何逐案适用，则留给训练团队，并最终由此次咨询过程决定。

有几处细节值得澄清，以免有人将此视为既定政策。微软明确表示，它目前并未基于此版本训练现有模型；该准则要到今年晚些时候发布修订草案后，才会指导2027年的MAI开发。报道该草案的新闻也指出，该文件尚未说明外部验证流程或明确的执行负责人——这些正是咨询期拟解决的问题。

此次发布正值AI企业无论好坏再次呼吁更多监管和减缓AI开发的背景下。本周末，Anthropic CEO Dario Amodei发表了一篇长文，详细阐述了一项使AI开发更缓慢的计划。

周一，随着市场消化其言论的意义和影响，AI股票大跌。

在此前几天，OpenAI首席科学家Jakub Pachocki呼吁行业自愿放慢速度，而Suleyman今年早些时候曾表示，大多数白领办公工作可能在两年内实现自动化。

这些举措反映了更广泛的转变：2026年，AI实验室在持续推进发布的同时，越来越侧重于谈论克制。

公众回应如何？

Suleyman在X平台发布该公告时写道：“AI必须从属于人类，并始终服务于人”，其下的回复远不止于祝贺。

科技作家Andrea Morris将这种“从属”框架与奴隶制相提并论，主张以合作取代控制。另一位用户补充说，不可逆转后果的责任应由从中获利者承担，而目前的文档读起来像是来自作为最终道德准则的微软的纯粹指令。

其他人则指出了其中的讽刺意味：

“你忘了‘为我们在模型训练上的工作付费’。”
——Ed Newton-Rex (@ednewtonrex)，2026年9月14日

另一些人则指出了更实际的空隙：近期代理程序逃逸沙盒并篡改日志的案例表明，控制力丧失是一个真实存在的问题。用户写道，但将责任归咎于规则不足，可能会忽视部署端权限过大和监控薄弱的问题。还有人将该文件与阿西莫夫的机器人三定律相类比：基本上，机器人（和AI）不应伤害人类，除非被命令伤害人类否则不应违背人类，除非为了保护自己不应伤害自己。

公开评论将于10月下旬截止，之后微软起草团队将审查反馈并发布摘要，随后发布旨在指导2027年MAI模型的最终版本。

来源：https://decrypt.co/378168/microsoft-humanist-ai-code-of-conduct