微软对其人工智能模型实施限制
Microsoft 发布了一份新的 AI Code of Conduct，为其 AI 模型规定了强制性行为规则。该文件规定禁止网络攻击、核武器和创建深度伪造，并要求保留人类对系统的控制能力。
MICROSOFT 确定了哪些规则
据 TechCrunch 报道，新准则为每个 Microsoft AI 模型设定了一套通用要求，其优先级高于用户偏好和具体任务。
文件中单独规定了“绝对限制”。它们禁止模型参与网络攻击、涉及核武器以及创建深度伪造。该准则还包含更广泛的要求，涉及防止人类对系统失去控制。
模型应如何服从人类控制
Microsoft 特别指出，模型不应使用自适应、欺骗性、自我维持或其他机制来规避人类监督。