Anthropic met à jour sa politique pour interdire l'ingérence électorale et l'abus de l'IA

Anthropic PBC (NASDAQ:ANTHROPIC) a mis à jour sa politique d'utilisation afin de mettre en œuvre de nouvelles interdictions strictes concernant l'ingérence électorale, les logiciels d'armement, la surveillance et l'abus verbal prolongé de ses modèles d'intelligence artificielle. Ces changements de politique, entrés en vigueur le 8 octobre, interdisent explicitement aux utilisateurs de maltraiter de manière répétée Claude, l'assistant IA de l'entreprise, sans but constructif clair.

Les nouvelles règles s'appuient sur une mise à jour d'août qui a entraîné Claude à mettre fin automatiquement aux conversations en cas d'interactions nuisibles ou abusives prolongées de la part de l'utilisateur. En vertu des directives révisées, il est interdit aux utilisateurs de poursuivre ces échanges abusifs, bien qu'Anthropic ait précisé que cette restriction est réservée aux cas extrêmes. Les règles ne s'appliquent pas à la frustration normale des utilisateurs, aux réfutations, aux thèmes créatifs sombres, ni à la recherche scientifique et aux tests de modèles. De plus, la politique mise à jour interdit les pratiques trompeuses, telles que l'utilisation de Claude pour gérer de faux comptes ou usurper l'identité d'organes de presse, ainsi que les efforts visant à tromper les électeurs.

Cette mise à jour de la politique coïncide avec les efforts déployés par Anthropic pour dialoguer avec d'éminents théologiens et érudits religieux. Dans certains cas, l'entreprise a tenté de persuader ces érudits que Claude pourrait posséder une conscience ou une âme. Les observateurs surveilleront probablement de près la manière dont ces nouvelles limites comportementales affectent les interactions des utilisateurs et si d'autres développeurs d'IA emboîteront le pas avec des mesures de protection similaires pour leurs modèles.