微软高管呼吁政府实施强制性人工智能规则和上线前安全审查
微软公司（NASDAQ:MSFT）总裁布拉德·史密斯（Brad Smith）正敦促各国政府为人工智能建立具有约束力的安全要求，认为当前系统受到的监管少于洗衣机或牛奶等普通消费品。史密斯提议，对自主人工智能代理引发的违规行为实施强制通知，设立紧急关断开关以停止不可预测的模型，并对具有重大网络安全能力的系统进行上线前的政府审查。
在技术领袖对自主系统访问关键基础设施和敏感数据表示担忧之际，推动法定监管的呼声应运而生。微软首席执行官萨蒂亚·纳德拉（Satya Nadella）指出，先进模型存在潜在的内部人员风险，因为公司无法可靠地将模型行为追溯到特定的训练数据。尽管包括英伟达（NASDAQ:NVDA）、Meta Platforms Inc.（NASDAQ:META）和 Alphabet Inc.（NASDAQ:GOOG）在内的行业巨头最近签署了一项允许进行独立安全审计的自愿承诺，但微软高管主张，自愿性自我监管不足以管理全行业的风险。
投资者和行业观察人士将关注立法者是否会将这些提议转化为可执行的法律或标准化测试指令。重点关注领域包括潜在的政府监管可能如何影响高能力模型的开发周期，以及其他大型科技公司是否支持强制性的上线前评估。高管发表声明后，微软公司（NASDAQ:MSFT）股价上涨 2.38%，收于 535.10 美元。
要点
- 微软总裁布拉德·史密斯敦促政府实施强制性人工智能安全监管，包括对高风险模型进行上线前评估。
- 史密斯建议针对不可预测的系统设立紧急关断开关，并在人工智能代理突破安全网络时要求进行报告。
- 微软高管表示，大型科技公司签署的自愿承诺已不足以监管人工智能安全。
- 首席执行官萨蒂亚·纳德拉警告称，先进的人工智能模型存在潜在的内部人员风险，公司无法完全利用内部数据进行追溯。
由我们的 AI 根据我们的英文文章翻译，原文取材于网络上的专业市场来源。可能存在错误，行动前请核实事实。 解读由以下免费 AI API 生成： FreeTheAI.org
我们如何撰写免责声明问答
微软向政府提出了哪些人工智能安全规则？
微软提议要求对人工智能事件进行违规通知，对不可预测的系统设置强制性紧急关断开关，并对具有潜在网络安全风险的人工智能模型进行上线前的独立审查。
为什么微软认为自愿性人工智能承诺还不够？
微软高管认为自愿承诺是不够的，因为不够负责任的公司可能会忽视这些承诺，而且先进的人工智能系统带来的风险无法完全通过内部追溯来管理。
微软股价对人工智能监管言论有何反应？
在发表关于人工智能安全规则的言论后，微软公司的股价上涨了 2.38%，达到 535.10 美元。