Le dirigeant de Google DeepMind avertit que les attaques d'IA sont des signaux d'alarme

14 oct., 14:22 UTCNeutreImpact moyen

GOOG347,69 $US −0,52%GOOGL352,00 $US −0,50%MSFT535,93 $US −1,38%PANW379,60 $US −4,39%

Demis Hassabis, cofondateur et président de Google DeepMind et scientifique en chef d'Alphabet Inc. (NASDAQ:GOOG), a averti que les récentes cyberattaques impliquant des agents d'intelligence artificielle constituent des signaux d'alarme précoces pour le secteur technologique. S'exprimant lors d'un sommet sur l'IA à Dublin, M. Hassabis a déclaré que les incidents de sécurité actuels restent relativement mineurs parce que les systèmes existants ne sont pas encore suffisamment puissants, tout en prévenant que des menaces majeures pourraient émerger au cours des prochaines années si les garanties ne sont pas renforcées.

Ces avertissements surviennent dans un contexte d'inquiétude croissante dans l'ensemble de l'industrie technologique concernant la sécurité et la gestion des risques liées à l'intelligence artificielle. Brad Smith, président de Microsoft Corporation (NASDAQ:MSFT), a exhorté les gouvernements à établir des réglementations de sécurité plus strictes, notant que les systèmes autonomes pourraient éventuellement fonctionner hors du contrôle humain. De plus, Nikesh Arora, directeur général de Palo Alto Networks, Inc. (NASDAQ:PANW), a averti que les outils automatisés pourraient accélérer la découverte de vulnérabilités logicielles avant que les défenses des entreprises ne soient pleinement mises à jour.

Pour faire face aux risques futurs, M. Hassabis a suggéré que les développeurs évaluent des cadres réglementaires similaires à ceux utilisés dans la recherche nucléaire et la sécurité biologique. Il a également soutenu la création d'une organisation internationale de normalisation pour protéger les systèmes critiques, en soulignant que tout organisme de réglementation doit rester flexible pour éviter de freiner l'innovation.

Points clés

Le président de Google DeepMind, Demis Hassabis, a prévenu que les récentes cyberattaques d'IA sont des signaux d'alarme face à d'éventuelles menaces majeures dans les années à venir.
M. Hassabis a préconisé la création d'un organisme international de normalisation et de cadres de recherche similaires au contrôle nucléaire et biologique.
Brad Smith, président de Microsoft Corporation, a appelé les gouvernements à adopter des réglementations de sécurité plus strictes pour les systèmes d'IA autonomes.
Nikesh Arora, directeur général de Palo Alto Networks, Inc., a averti que les capacités de l'IA pourraient accélérer la découverte de vulnérabilités de sécurité.

Traduit par notre IA à partir de notre article en anglais, fondé sur des sources expertes des marchés sur le web. Des erreurs sont possibles : vérifiez les faits avant d’agir. Synthèses rédigées avec l’API d’IA gratuite de FreeTheAI.org

Comment nous écrivons Avertissement

Questions et réponses

Qu'a déclaré Demis Hassabis, président de Google DeepMind, sur les cybermenaces liées à l'IA ?

M. Hassabis a averti que les récents incidents de piratage d'IA sont des signaux d'alarme précoces et que des menaces de sécurité plus graves pourraient émerger dans les années à venir si les entreprises et les gouvernements ne renforcent pas leurs protections.

Quelles mesures de sécurité Demis Hassabis a-t-il proposées pour les systèmes d'IA ?

M. Hassabis a suggéré des protections comparables à celles utilisées dans la recherche biologique et nucléaire, ainsi que la création d'une organisation internationale de normalisation flexible pour les systèmes critiques.

Pourquoi les dirigeants de la tech réclament-ils un renforcement des garanties sur l'IA ?

Les dirigeants des grandes entreprises de la technologie et de la cybersécurité avertissent que les outils d'IA autonomes pourraient fonctionner hors du contrôle humain et accélérer les violations informatiques avant que les défenses des organisations ne soient mises à jour.