Le PDG de Microsoft Satya Nadella appelle à traiter les modèles d'IA de pointe comme des risques de sécurité interne

Le directeur général de Microsoft Corporation (MSFT), Satya Nadella, a déclaré que les modèles d'intelligence artificielle avancés de pointe devraient être gérés comme des risques opérationnels internes plutôt que d'attribuer la seule responsabilité de la sécurité aux fournisseurs de modèles. Nadella a soutenu que, les systèmes d'IA actuels manquant de suivi mécaniste clair tout en ayant accès à des données sensibles et à des infrastructures vitales, les organisations doivent supposer que ces modèles peuvent commettre des erreurs ou être compromis. L'action Microsoft s'est négociée à 535,10 $, en hausse de 2,38 %.

Contrairement aux logiciels traditionnels dont le comportement peut être tracé directement jusqu'à des parcours de code spécifiques, les systèmes d'IA avancés prennent des décisions plus difficiles à inspecter sur le plan mécaniste. Pour réduire les risques, Nadella a préconisé de séparer l'intelligence du modèle des fonctions d'autorisation, en plaçant le contrôle des permissions, la vérification d'identité et les limites d'action en dehors du modèle d'IA lui-même. Il a souligné que les opérations critiques doivent laisser des journaux infalsifiables et maintenir une supervision humaine parallèlement à des tests continus.

À l'avenir, les clients technologiques d'entreprise et les investisseurs observeront la manière dont les entreprises de logiciels mettent en œuvre des cadres de sécurité externes et des limites d'isolement. Les développements du secteur dépendront de la généralisation de la journalisation standardisée, des capacités d'arrêt en cours d'exécution et du partage d'enseignements entre secteurs en tant que normes opérationnelles.