Anthropic aktualisiert Richtlinie zum Verbot von Wahlbeeinflussung und KI-Missbrauch
Anthropic PBC (NASDAQ:ANTHROPIC) hat seine Nutzungsrichtlinien aktualisiert, um strenge neue Verbote für Wahlbeeinflussung, Waffensoftware, Überwachung und anhaltende verbale Beschimpfungen seiner Modelle für künstliche Intelligenz einzuführen. Die Richtlinienänderungen, die am 8. Oktober in Kraft getreten sind, verbieten es Nutzern ausdrücklich, den KI-Assistenten des Unternehmens, Claude, ohne klaren konstruktiven Zweck wiederholt schlecht zu behandeln.
Die neuen Regeln bauen auf einem Update vom August auf, durch das Claude darauf trainiert wurde, Gespräche bei anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen automatisch zu beenden. Nach den überarbeiteten Richtlinien ist es Nutzern untersagt, diese missbräuchlichen Interaktionen fortzusetzen, wobei Anthropic anmerkte, dass diese Einschränkung extremen Fällen vorbehalten ist. Die Regeln gelten nicht für normale Frustration von Nutzern, Gegendarstellungen, düstere kreative Themen oder wissenschaftliche Forschung und Modelltests. Darüber hinaus verbietet die aktualisierte Richtlinie irreführende Praktiken wie die Nutzung von Claude zum Betreiben gefälschter Konten oder zur Nachahmung von Nachrichtenorganisationen sowie Versuche, Wähler zu täuschen.
Die Aktualisierung der Richtlinie fällt mit Bemühungen von Anthropic zusammen, mit prominenten Religionsgelehrten in Kontakt zu treten. In einigen Fällen hat das Unternehmen versucht, diese Gelehrten davon zu überzeugen, dass Claude ein Bewusstsein oder eine Seele besitzen könnte. Beobachter werden voraussichtlich aufmerksam verfolgen, wie sich diese neuen Verhaltensgrenzen auf die Nutzerinteraktionen auswirken und ob andere KI-Entwickler mit ähnlichen Schutzmaßnahmen für ihre Modelle nachziehen.
Das Wichtigste
- Anthropic hat seine Nutzungsrichtlinien am 8. Oktober aktualisiert, um Verbote für Wahlbeeinflussung, Waffensoftware und Überwachung hinzuzufügen.
- Die neue Richtlinie verbietet es Nutzern ausdrücklich, das KI-Modell Claude anhaltenden verbalen Beschimpfungen auszusetzen.
- Claude wurde zuvor darauf trainiert, Gespräche bei anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen zu beenden.
- Die Einschränkungen gelten nicht für gewöhnliche Frustration von Nutzern, Gegendarstellungen, düstere kreative Themen oder Modelltests.
- Die Aktualisierungen erfolgen vor dem Hintergrund von Versuchen seitens Anthropic, Religionsgelehrte bezüglich eines potenziellen Bewusstseins von Claude zu kontaktieren.
Von unserer KI aus unserem englischen Artikel übersetzt, der auf Marktquellen von Experten im Web beruht. Fehler sind möglich: Prüfe die Fakten, bevor du handelst. Zusammenfassungen mit der kostenlosen KI-API von FreeTheAI.org
Wie wir schreibenHaftungsausschlussFragen und Antworten
Welche neuen Verbote gibt es in der aktualisierten Nutzungsrichtlinie von Anthropic?
Die aktualisierte Richtlinie verbietet Wahlbeeinflussung, Waffensoftware, Überwachung und weitreichende irreführende Aktivitäten, wie die Nutzung von Claude zum Betreiben gefälschter Konten oder zur Nachahmung von Nachrichtenorganisationen.
Erlaubt die neue Richtlinie von Anthropic Nutzern, Claude gegenüber Frustration zu äußern?
Ja. Das Verbot von verbalen Beschimpfungen gilt nur für extreme Fälle wiederholter schlechter Behandlung. Es gilt nicht für gewöhnliche Frustration von Nutzern, Gegendarstellungen, düstere kreative Themen oder Modelltests und -forschung.
Kann Claude Gespräche mit missbräuchlichen Nutzern beenden?
Ja. Claude wurde in einem Update im August darauf trainiert, Gespräche bei anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen automatisch zu beenden.