Google DeepMind-Chef warnt: KI-Hacking-Vorfälle sind erste Warnschüsse

Demis Hassabis, Mitbegründer und Chairman von Google DeepMind sowie Chief Scientist bei Alphabet Inc. (NASDAQ:GOOG), warnte, dass jüngste Cyberangriffe unter Einsatz von Agenten der künstlichen Intelligenz frühe Warnsignale für den Technologiesektor seien. Auf einem KI-Gipfel in Dublin erklärte Hassabis, dass die aktuellen Sicherheitsvorfälle noch relativ geringfügig seien, da bestehende Systeme noch nicht ausreichend leistungsfähig sind. Er warnte jedoch, dass in den nächsten Jahren schwere Bedrohungen entstehen könnten, wenn die Sicherheitsvorkehrungen nicht verstärkt werden.

Die Warnungen erfolgen vor dem Hintergrund wachsender Sorgen in der gesamten Technologiebranche hinsichtlich der Sicherheit und des Risikomanagements künstlicher Intelligenz. Brad Smith, Präsident der Microsoft Corporation (NASDAQ:MSFT), forderte die Regierungen auf, strengere Sicherheitsvorschriften zu erlassen, und wies darauf hin, dass autonome Systeme irgendwann ohne menschliche Aufsicht agieren könnten. Zudem warnte Nikesh Arora, Chief Executive von Palo Alto Networks, Inc. (NASDAQ:PANW), dass automatisierte Werkzeuge die Entdeckung von Software-Schwachstellen beschleunigen könnten, bevor Unternehmensverteidigungen vollständig aktualisiert sind.

Um künftigen Risiken zu begegnen, schlug Hassabis vor, dass Entwickler Regulierungsrahmen evaluieren sollten, die denen in der Kernforschung und der biologischen Sicherheit ähneln. Er sprach sich zudem für die Einrichtung einer internationalen Standardisierungsorganisation zum Schutz kritischer Systeme aus und betonte, dass jede Regulierungsbehörde flexibel bleiben müsse, um Innovationen nicht zu bremsen.