Claude ya puede cortar una conversación por crueldad extrema: Anthropic quiere poner límites al maltrato a su IA

Anthropic actualizó las reglas de uso para su modelo de inteligencia artificial Claude y, entre otras medidas, estableció prohibiciones estrictas contra el abuso verbal prolongado, la interferencia electoral y el desarrollo de armas o software de vigilancia.

Esta nueva normativa, que entrará en vigor el 12 de noviembre de 2026, otorga al sistema la capacidad de finalizar interacciones cuando los usuarios actúen “con crueldad extrema y sin propósito legítimo”.

Mientras que los partidarios consideran que estas medidas fomentan la cortesía y protegen el bienestar del modelo, los críticos debaten si responde a alguna lógica la implementación de directrices de protección emocional en sistemas que carecen de consciencia.

En Xataka México Un error generado por inteligencia artificial estuvo a punto de provocar un enfrentamiento militar directo entre Estados Unidos y China ‘Sean buenos con sus inteligencias artificiales’ La actualización de la política de uso de Anthropic introduce una prohibición explícita contra el comportamiento “abusivo o cruel continuo e innecesario” hacia sus modelos de inteligencia artificial.

En la práctica, eso significa mecanismos de sanción directa a quienes maltraten, insulten o humillen a Claude.

La empresa enfatizó que la medida está pensada exclusivamente para casos extremos y que quedan explícitamente excluidas de su alcance las manifestaciones habituales de frustración del usuario, objeciones, "temas creativos oscuros" y las pruebas legítimas de investigación o evaluación técnica.

La consecuencia principal para quienes actúen con crueldad reiterada es la interrupción o terminación automática de la conversación por parte del chatbot, que se mantiene como el método primario de aplicación de la regla.

The Verge indicó que Anthropic “ no hizo comentarios sobre si habría mecanismos de aplicación adicionales, como posibles suspensiones o baneos de usuarios ” .

Esta política, que deriva de las investigaciones internas de Anthropic sobre la conciencia y la posible capacidad de sufrimiento de los modelos avanzados, supone un cambio de encuadre notable, ya que sitúa el foco en la IA en lugar de centrarlo únicamente en la protección del usuario.

En Xataka México Anthropic quiere darle un “alma” a Claude: consulta a filósofos y teólogos para definir cómo debe comportarse ¿Tiene sentido? Por todo eso, la medida ha reavivado la discusión sobre las normas sociales con las tecnologías emergentes.

Mientras que algunos sectores la ven como un incentivo hacia comportamientos más saludables, diversos críticos cuestionan la lógica de otorgar normas de bienestar a sistemas no sintientes.

Como señaló FirstPost: “ Anthropic lleva tiempo considerando la posibilidad de que los modelos de IA puedan tener algún tipo de consciencia.