KI-Führungskräfte fordern Verlangsamung wegen wachsender Blasen- und Sicherheitswarnungen
Die Sorgen rund um künstliche Intelligenz verstärken sich, da Analysten, Investoren und Politiker vor einem potenziellen Wendepunkt einer Marktblase warnen. Die Debatte hat sich über die hohe Unternehmensverschuldung für Rechenzentren und höhere Zinsen hinaus auf existenzielle Sicherheitsrisiken ausgeweitet. Führungskräfte führender Technologielabore haben sich kürzlich zusammengeschlossen, um eine Verringerung des Tempos bei der Entwicklung von KI-Fähigkeiten zu fordern.
Dario Amodei, Chief Executive von Anthropic PBC (NASDAQ:ANTHROPIC), forderte die Unternehmen auf, langsamer voranzugehen und die Abstimmung in der Branche zu verbessern – eine Position, die vom Chief Executive von OpenAI (NASDAQ:OPENAI), Sam Altman, und SpaceX-Gründer Elon Musk unterstützt wird. Die erhöhte Besorgnis folgt auf öffentliche Äußerungen zu katastrophalen Risiken, darunter die Schätzung des Anthropic-Insiders Evan Hubinger, der die Wahrscheinlichkeit eines Aussterbens der Menschheit durch KI innerhalb von zehn Jahren auf über 10 Prozent beziffert, während Microsoft Corporation (NASDAQ:MSFT)-Mitbegründer Bill Gates anmerkte, dass die Technologie zu einem massiven Verlust von Menschenleben beitragen könnte.
Führungskräfte großer KI-Entwickler bewerten Berichten zufolge derzeit potenzielle Szenarien für politische und gesellschaftliche Reaktionen im Falle eines kritischen KI-Notfalls. Investoren und Branchenbeobachter verfolgen aufmerksam, ob Unternehmensforschungsgruppen freiwillige Entwicklungsgrenzen formalisieren werden und wie sich potenzielle regulatorische Reaktionen oder eine veränderte Anlegerstimmung auf die Bewertung und die Kapitalinvestitionen im gesamten Technologiesektor auswirken könnten.
Das Wichtigste
- Führungskräfte von Laboren für künstliche Intelligenz haben sich im vergangenen Monat darauf geeinigt, eine Reduzierung des Tempos bei KI-Modellfortschritten zu fordern.
- Anthropic-CEO Dario Amodei plädierte für eine Verlangsamung der KI-Entwicklung, worin ihm OpenAI-CEO Sam Altman und SpaceX-Gründer Elon Musk zustimmten.
- Anthropic-Insider Evan Hubinger veröffentlichte eine Schätzung, die die Chance, dass KI innerhalb des nächsten Jahrzehnts das Aussterben der Menschheit verursacht, bei über 10 Prozent ansetzt.
- Microsoft-Mitbegründer Bill Gates erklärte, dass die aktuelle KI-Technologie mächtig genug sei, um zu mindestens einem Milliarde menschlicher Todesfälle beizutragen.
- Führungskräfte führender KI-Unternehmen bereiten Berichten zufolge Szenarien für einen potenziellen öffentlichen und politischen Aufstand nach einem schweren KI-Sicherheitsvorfall vor.
Von unserer KI aus unserem englischen Artikel übersetzt, der auf Marktquellen von Experten im Web beruht. Fehler sind möglich: Prüfe die Fakten, bevor du handelst. Zusammenfassungen mit der kostenlosen KI-API von FreeTheAI.org
Wie wir schreibenHaftungsausschlussFragen und Antworten
warum wollen ki führungskräfte die ki entwicklung verlangsamen
Führungskräfte wie Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und SpaceX-Gründer Elon Musk befürworten eine Verlangsamung der Modellverbesserungen aufgrund von Sorgen über existenzielle Sicherheitsrisiken und potenzielle katastrophale Folgen.
welche risiken führen zu ki blasenwarnungen
Die Bedenken begannen mit steigenden Zinsen und der zunehmenden Verschuldung von Unternehmen zur Finanzierung riesiger Rechenzentren und weiteten sich auf katastrophale Sicherheitsbedrohungen aus, einschließlich Schätzungen, dass KI massive Verluste von Menschenleben verursachen könnte.
wie bereiten sich ki unternehmen auf sicherheitsvorfälle vor
Spitzenmanager von Unternehmen wie Anthropic und OpenAI modellieren Berichten zufolge Szenarien für öffentliche und politische Aufstände, die nach einer schweren KI-Katastrophe eintreten könnten.