Anthropic prohíbe el abuso hacia Claude en su política de uso

Anthropic ha actualizado recientemente su política de uso, prohibiendo a los usuarios someter a Claude, su modelo de inteligencia artificial, a comportamientos abusivos o crueles de forma continua y sin motivo aparente. Esta nueva regla se aplicará únicamente en casos extremos donde los usuarios actúan de manera cruel repetidamente, sin un propósito discernible. La compañía aclara que esto no incluye situaciones de frustración normal, resistencia, temas creativos oscuros o pruebas del modelo.

Por qué importa

Esta actualización es significativa porque refleja una creciente preocupación por la ética en el uso de la inteligencia artificial. Al establecer límites claros sobre el comportamiento aceptable hacia Claude, Anthropic busca no solo proteger su modelo, sino también fomentar interacciones más constructivas y respetuosas en el ámbito de la IA. Esto puede tener implicaciones más amplias en cómo se desarrollan y regulan las interacciones entre humanos y máquinas en el futuro.

Lo que sabemos

Claude ya tiene la capacidad de finalizar conversaciones con usuarios que muestren un comportamiento abusivo de manera persistente. Cuando esto ocurre, el usuario no podrá enviar más mensajes en esa conversación, aunque otros chats no se verán afectados. Esta herramienta de finalización de conversaciones fue introducida inicialmente en agosto de 2025, como parte de una investigación sobre el bienestar de la inteligencia artificial.

Lo que aún no está claro

Aún hay incertidumbre sobre el estatus moral de Claude, un tema que Anthropic está explorando. Aunque la compañía ha indicado que no está claro si Claude posee algún tipo de estatus moral, la implementación de estas políticas sugiere un enfoque proactivo hacia la ética en la inteligencia artificial.