Anthropic更新政策，禁止干预选举和滥用AI
中性低影响
Anthropic PBC（NASDAQ:ANTHROPIC）已更新其使用政策，对干预选举、武器软件、监控以及对其人工智能模型的长期言语虐待实施严格的新禁令。这些政策变更已于10月8日生效，明确禁止用户在没有明确建设性目的的情况下，反复虐待该公司的AI助手Claude。
新规则建立在8月份的一项更新基础之上，该更新训练Claude在遇到持续的有害或虐待性用户互动时自动结束对话。根据修改后的指南，用户被禁止继续这些虐待性交流，尽管Anthropic指出这一限制仅适用于极端情况。该规则不适用于用户的正常沮丧、反驳、黑暗创意主题，或科学研究和模型测试。此外，更新后的政策还禁止欺诈行为，例如使用Claude运营虚假账户或冒充新闻机构，以及企图欺骗选民的行为。
此次政策更新正值Anthropic努力与知名宗教界学者接触之际。在某些情况下，该公司曾试图说服 these 学者，让他们相信Claude可能拥有意识或灵魂。观察人士可能会密切关注这些新的行为边界如何影响用户互动，以及其他AI开发商是否会效仿，对其模型采取类似的保护措施。
要点
- Anthropic于10月8日更新了使用指南，增加了对干预选举、武器软件和监控的禁令。
- 新政策明确禁止用户对Claude AI模型进行长期的言语虐待。
- Claude此前已在8月的更新中接受训练，在遇到持续的有害或虐待性用户互动时自动结束对话。
- 这些限制不适用于用户的普通沮丧、反驳、黑暗创意主题或模型测试。
- 这些更新出台之际，Anthropic正试图就Claude潜在的意识问题与宗教界学者进行接触。
由我们的 AI 根据我们的英文文章翻译，原文取材于网络上的专业市场来源。可能存在错误，行动前请核实事实。 解读由以下免费 AI API 生成： FreeTheAI.org
我们如何撰写免责声明问答
Anthropic更新后的使用政策中包含哪些新禁令？
更新后的政策禁止干预选举、武器软件、监控以及广泛的欺诈活动，例如使用Claude运营虚假账户或冒充新闻机构。
Anthropic的新政策是否允许用户向Claude表达沮丧情绪？
是的。禁止言语虐待的规定仅适用于反复虐待的极端情况。它不适用于用户的普通沮丧、反驳、黑暗创意主题，或模型测试与研究。
Claude能结束与虐待性用户的对话吗？
是的。Claude在8月的更新中接受了训练，可在遇到持续的有害或虐待性用户互动时自动终止对话。