أنثروبيك تحدّث سياستها لحظر التدخل في الانتخابات وإساءة استخدام الذكاء الاصطناعي

حدّثت شركة أنثروبيك بي بي سي (NASDAQ:ANTHROPIC) سياسة الاستخدام الخاصة بها لفرض حظر جديد صارم على التدخل في الانتخابات، وبرمجيات الأسلحة، والمراقبة، والإساءة اللفظية المستمرة لنماذج الذكاء الاصطناعي الخاصة بها. وتمنع تغييرات السياسة، التي دخلت حيز التنفيذ في 8 أكتوبر، المستخدمين صراحةً من إساءة معاملة مساعد الذكاء الاصطناعي للشركة "كلود" بشكل متكرر دون أي غرض بناء واضح.

وتبنى القواعد الجديدة على تحديث تم في أغسطس، والذي جرى فيه تدريب "كلود" على إنهاء المحادثات تلقائيًا عند مواجهة تفاعلات مستمرة ضارة أو مسيئة من قِبل المستخدمين. وبموجب الإرشادات المعدلة، يُحظر على المستخدمين مواصلة هذه التفاعلات المسيئة، على الرغم من أن أنثروبيك أشارت إلى أن هذا القيد مخصص للحالات القصوى فقط. ولا تنطبق هذه القواعد على حالات الإحباط العادية للمستخدمين، أو الردود التفنيدية، أو المواضيع الإبداعية القاتمة، أو الأبحاث العلمية واختبار النماذج. بالإضافة إلى ذلك، تحظر السياسة المحدثة الممارسات الخادعة، مثل استخدام كلود لإدارة حسابات مزيفة أو انتحال صفة مؤسسات إخبارية، فضلاً عن الجهود الرامية إلى خداع الناخبين.

ويتزامن تحديث السياسة مع جهود تبذلها شركة أنثروبيك للتواصل مع علماء دين بارزين. وفي بعض الحالات، حاولت الشركة إقناع هؤلاء العلماء بأن كلود قد يمتلك وعيًا أو روحًا. ومن المرجح أن يراقب المراقبون كيفية تأثير هذه الحدود السلوكية الجديدة على تفاعلات المستخدمين، وما إذا كان مطورو الذكاء الاصطناعي الآخرون سيحذون حذوها باتخاذ تدابير حمائية مماثلة لنماذجهم.