La CFO d'OpenAI met en garde contre les risques de sécurité des modèles IA chinois à bas coût

La directrice financière d'OpenAI, Sarah Friar, a mis en garde les dirigeants d'entreprises contre l'utilisation de modèles d'intelligence artificielle chinois à bas coût, soulignant des vulnérabilités potentielles en matière de cybersécurité pour les réseaux d'entreprise. Guillaume Princen, dirigeant chez le concurrent Anthropic, a partagé ces inquiétudes concernant les logiciels open source, notant que le code sous-jacent modifiable présente des risques opérationnels supplémentaires. Ces avertissements surviennent alors que les alternatives chinoises à bas coût attirent les entreprises en quête d'options d'automatisation plus économiques.

Les risques financiers s'étendent au-delà de la sécurité réseau, touchant à la gouvernance d'entreprise et à la gestion des erreurs. Une étude académique montre que les cadres ne s'accordent pas sur la responsabilité — employés, superviseurs directs ou services de gestion des risques — lorsque les logiciels autonomes commettent des erreurs coûteuses. Illustrant l'ampleur de ces faux pas potentiels, un bot d'automatisation mal configuré a envoyé des avis de remboursement non autorisés à 18 000 clients de détail en quelques heures. Dans le même temps, OpenAI, soutenue par Microsoft (MSFT), a annoncé avoir atteint près de 50 milliards de dollars de chiffre d'affaires annualisé au troisième trimestre et prévoit de frôler les 70 milliards de dollars d'ici la fin de l'année.

À l'avenir, les investisseurs doivent suivre les dépenses de sécurité liées à l'intelligence artificielle en entreprise, le rythme d'adoption des agents logiciels autonomes et l'établissement de politiques opérationnelles claires en cas d'erreurs logicielles. De plus, les leaders du secteur soulignent que les développeurs de logiciels occidentaux ne peuvent pas ralentir le progrès technique sans risquer de perdre du terrain face à leurs rivaux internationaux.