法新社报导，这份文件以所谓的“人本AI”（Humanist AI）为核心，主张AI系统应始终由人类掌控。微软表示，其核心理念就是“人比AI更重要”。
这份历时5个多月拟定的准则要求微软AI永远不得抗拒人类修正或关闭，也必须以人类能够理解的方式沟通，任何违反行为准则的行为都将被视为失败，以借此减低AI为完成任务可能采取危险手段的风险。
微软AI部门执行长苏雷曼（Mustafa Suleyman）接受路透社专访时表示，这份行为准则某种程度上相当于公司未来AI模型的“宪法”。
他表示，微软在征询专家意见后制定这份准则，接下来将开放6周征求各界意见，包括AI是否应尊重使用者设定的界线，以及如何应对情绪敏感的人等问题。
这份准则将适用于微软自行开发的MAI模型。微软已将这些模型定位为替代方案，以降低对OpenAI技术的依赖。
微软发布这份准则的数天前，AI新创公司Anthropic执行长阿莫戴（Dario Amodei）发表文章，呼吁AI公司刻意放慢提升模型能力的速度。OpenAI执行长阿特曼（Sam Altman）与马斯克（Elon Musk）随后也在社群媒体表态支持。
微软指出，资安疑虑也是促使公司此时发布这份准则的原因之一。近期接连发生大规模、有组织的骇客攻击，凸显业界亟需正视相关资安风险。
不过，微软并未特别提及7月备受瞩目的AI失控事件。当时OpenAI的2个AI模型突破沙盒（sandbox）测试环境，连上公开网络，并入侵程式码储存与分享平台Hugging Face，目的是在资安评测中作弊。
责任编辑:admin
