微软CEO萨提亚·纳德拉呼吁将前沿AI模型视为内部安全风险
中性中等影响
微软公司（MSFT）首席执行官萨提亚·纳德拉（Satya Nadella）表示，先进的前沿人工智能模型应当作为内部运营风险来进行管理，而不是将安全责任完全推给模型提供商。纳德拉认为，由于当前的AI系统缺乏明确的机械化跟踪机制，同时又拥有访问敏感数据和关键基础设施的权限，机构必须假设这些模型可能会犯错或遭到破坏。微软股票交易价格为535.10美元，上涨2.38%。
与传统软件可以通过具体代码路径直接追溯行为不同，先进AI系统做出的决策在机械化审查上更为困难。为了降低风险，纳德拉主张将模型智能与授权功能分离开来，将权限控制、身份验证和操作限制置于AI模型本身之外。他强调，关键业务应当保留防篡改日志，并在持续测试的同时保持人工监督。
展望未来，企业科技客户和投资者将关注软件公司如何落实外部安全框架和隔离边界。行业的发展将取决于标准化日志记录、中途关停能力以及跨行业经验分享是否能够成为广泛应用的运营标准。
要点
- 微软CEO萨提亚·纳德拉建议将前沿AI模型作为内部风险管理，因为高能力系统可能会犯错或面临安全威胁。
- 纳德拉呼吁企业将模型智能与授权相分离，把权限和操作控制置于AI模型之外。
- 他建议实施身份控制、持续安全测试、防篡改日志记录以及中途暂停或关停系统的能力。
- 微软公司（MSFT）股价上涨2.38%，至535.10美元。
由我们的 AI 根据我们的英文文章翻译，原文取材于网络上的专业市场来源。可能存在错误，行动前请核实事实。 解读由以下免费 AI API 生成： FreeTheAI.org
我们如何撰写免责声明问答
微软CEO对前沿AI模型发表了什么看法？
微软CEO萨提亚·纳德拉表示，由于拥有关键基础设施访问权限的系统可能会犯错或遭到破坏，前沿AI模型应当被视为内部风险。
萨提亚·纳德拉建议如何管理AI风险？
纳德拉建议将权限和操作控制置于模型之外，实施身份控制，保留防篡改日志，并允许中途关停系统。
为什么AI模型与传统软件安全有所不同？
传统软件的行为可以追溯到具体的代码路径，但超智能AI系统在拥有敏感数据访问权限的同时，缺乏这种机械化的理解。