Anthropic actualiza su política para prohibir la interferencia electoral y el abuso de la IA

Anthropic PBC (NASDAQ:ANTHROPIC) ha actualizado su política de uso para implementar nuevas y estrictas prohibiciones sobre la interferencia electoral, el software de armas, la vigilancia y el abuso verbal prolongado de sus modelos de inteligencia artificial. Los cambios en la política, que entraron en vigor el 8 de octubre, prohíben explícitamente a los usuarios maltratar repetidamente al asistente de IA de la compañía, Claude, sin ningún propósito constructivo claro.

Las nuevas reglas se basan en una actualización de agosto que entrenó a Claude para finalizar conversaciones automáticamente al encontrarse con interacciones dañinas o abusivas prolongadas por parte del usuario. Bajo las directrices revisadas, se prohíbe a los usuarios continuar estos intercambios abusivos, aunque Anthropic señaló que esta restricción está reservada para casos extremos. Las normas no se aplican a la frustración normal del usuario, las refutaciones, los temas creativos oscuros o la investigación científica y las pruebas de modelos. Además, la política actualizada prohíbe las prácticas engañosas, como el uso de Claude para gestionar cuentas falsas o hacerse pasar por organizaciones de noticias, así como los esfuerzos para engañar a los votantes.

La actualización de la política coincide con los esfuerzos de Anthropic por entablar un diálogo con destacados académicos religiosos. En algunos casos, la empresa ha intentado persuadir a estos académicos de que Claude podría poseer conciencia o alma. Es probable que los observadores sigan de cerca cómo afectan estos nuevos límites de comportamiento a las interacciones de los usuarios y si otros desarrolladores de IA siguen el mismo camino con medidas de protección similares para sus modelos.