微软首席执行官萨蒂亚·纳德拉警告AI构成内部风险 呼吁实施紧急安全控制
中性中等影响
微软公司（MSFT）首席执行官萨蒂亚·纳德拉（Satya Nadella）警告企业，应像对待企业内部风险一样对待先进的人工智能系统。纳德拉在社交媒体发文表示，尽管开发者无法将特定的模型输出追溯至底层代码或训练输入，但企业仍在赋予AI模型访问敏感数据和执行关键任务的权限。
为解决这些安全隐患，纳德拉呼吁设立严格的运营边界，将模型功能与管理权限分开。他敦促各组织维持外部访问控制，而不是仅仅依赖AI开发者。此外，纳德拉还建议实施紧急制动安全保障措施，允许获授权的人类管理者在AI系统执行任务时对其进行中断或关闭。
随着自主AI智能体得到更广泛的部署，投资者将关注企业客户如何采用这些推荐的安全框架。微软公司（MSFT）股票在常规交易中上涨2.38%，收于535.10 USD。该股今年迄今已上涨11%，在过去12个月中上涨了2%。
要点
- 微软CEO萨蒂亚·纳德拉主张，应将先进的AI模型视为组织内部的潜在风险因素。
- 纳德拉警告称，尽管AI系统的内部决策过程无法被完全追溯，但它们正获得访问关键数据的权限。
- 他提倡引入紧急制动机制，使获授权的人员能够在任务执行过程中暂停或终止AI运行。
- 微软股票在常规交易中上涨2.38%，收于535.10 USD，今年迄今累计上涨11%。
由我们的 AI 根据我们的英文文章翻译，原文取材于网络上的专业市场来源。可能存在错误，行动前请核实事实。 解读由以下免费 AI API 生成： FreeTheAI.org
我们如何撰写免责声明问答
萨蒂亚·纳德拉为何将AI比作内部风险？
萨蒂亚·纳德拉警告称，先进的AI模型获得了访问组织关键数据和任务的权限，但其输出却无法轻易追溯至具体代码或训练数据，这使其容易出现错误、被操纵或遭受破坏。
微软CEO针对AI部署提出了哪些安全保障建议？
纳德拉建议将AI智能与运营权限分离，将访问控制保留在模型外部，并构建紧急制动机制，以便获授权的人员可以在任务中途暂停或关闭AI系统。
消息公布后微软股票表现如何？
微软公司股票在常规交易中上涨2.38%，收于535.10 USD。该股今年迄今上涨11%，过去12个月上涨2%。