OpenAI 首席财务官警告低成本中国 AI 模型的安全风险

OpenAI 首席财务官 Sarah Friar 警告企业领袖切勿使用廉价的中国人工智能模型，并强调了这对企业网络可能构成的潜在网络安全漏洞。竞争对手 Anthropic 的高管 Guillaume Princen 也表达了对开源软件的担忧，指出可修改的底层代码会带来额外的运营风险。目前，低成本的中国替代方案正吸引着寻求更便宜自动化选项的企业，这些警告也由此而发。

财务风险不仅限于网络安全，还延伸至公司治理和错误管理。一项学术研究发现，当自主软件犯下昂贵错误时，企业管理者对于应由员工个人、直接主管还是风险管理部门承担责任存在分歧。为了说明潜在失误的规模，一个配置错误的自动化机器人仅在数小时内就向 18,000 名零售客户发送了未经授权的退款通知。与此同时，由微软（MSFT）支持的 OpenAI 报告称，其第三季度年化收入已接近 500 亿美元，并预计到今年年底该数字将接近 700 亿美元。

展望未来，企业投资者应密切关注企业人工智能安全方面的支出、自主软件代理的采用速度，以及组织是否为软件错误制定了明确的运营政策。此外，行业领袖强调，西方软件开发者不能放缓技术进步的步伐，否则将面临输给国际竞争对手的风险。