Anthropic atualiza política para proibir interferência eleitoral e abuso de IA

A Anthropic PBC (NASDAQ:ANTHROPIC) atualizou sua política de uso para implementar novas e rigorosas proibições contra interferência eleitoral, softwares de armas, vigilância e o abuso verbal prolongado de seus modelos de inteligência artificial. As mudanças na política, que entraram em vigor em 8 de outubro, proíbem explicitamente os usuários de maltratarem repetidamente o assistente de IA da empresa, Claude, sem um propósito construtivo claro.

As novas regras baseiam-se em uma atualização de agosto que treinou o Claude para encerrar conversas automaticamente ao se deparar com interações prejudiciais ou abusivas contínuas por parte do usuário. Sob as diretrizes revisadas, os usuários estão proibidos de continuar esses diálogos abusivos, embora a Anthropic tenha ressaltado que essa restrição é reservada para casos extremos. As regras não se aplicam à frustração normal do usuário, contestações, temas criativos sombrios ou pesquisas científicas e testes de modelos. Além disso, a política atualizada proíbe práticas enganosas, como o uso do Claude para gerenciar contas falsas ou se passar por organizações de notícias, bem como esforços para enganar eleitores.

A atualização da política coincide com os esforços da Anthropic para engajar-se com proeminentes acadêmicos religiosos. Em alguns casos, a empresa tentou persuadir esses acadêmicos de que o Claude pode possuir consciência ou uma alma. Observadores provavelmente monitorarão como esses novos limites comportamentais afetarão as interações dos usuários e se outros desenvolvedores de IA seguirão o exemplo com medidas de proteção semelhantes para seus modelos.