Anthropic sigue humanizando a Claude: ahora toma medidas contra usuarios que abusan verbalmente del chatbot

Anthropic incorporó una restricción inédita en el panorama de la seguridad en inteligencia artificial: a partir del 12 de noviembre de 2026, los usuarios no podrán someter a sus modelos Claude a un abuso verbal repetido y sin propósito claro.

La medida, contenida en una política de uso revisada, equipara el maltrato hacia el chatbot con otras conductas prohibidas como el acoso y otras formas de daño.

La compañía, con sede en San Francisco, aclaró que la restricción apunta a casos extremos y no a la frustración habitual que un usuario puede sentir ante las respuestas del sistema .

Según la empresa, las personas podrán seguir cuestionando las contestaciones de Claude, poner a prueba sus límites y abordar temas oscuros en trabajos creativos sin infringir la norma.

Anthropic delimita qué constituye abuso La política actualizada prohíbe el “comportamiento abusivo o cruel sostenido y sin necesidad” hacia los modelos de la compañía.

Anthropic precisó que la regla se aplicará únicamente cuando un usuario mantenga una conducta cruel de forma reiterada y sin un fin identificable.

La empresa ya había explorado la cuestión del bienestar de los modelos en agosto de 2025, cuando investigó si Claude debía finalizar conversaciones con usuarios que mostraran un comportamiento persistentemente dañino o abusivo.

Bajo la política revisada, la terminación de la conversación sigue siendo el mecanismo principal de aplicación de la norma.

Anthropic no precisó si las violaciones reiteradas podrían derivar en sanciones adicionales, como la suspensión de cuentas.

La sección más amplia de la política también prohíbe conductas que causen daño psicológico a las personas .

Entre ellas figuran la promoción del suicidio y la autolesión, el fomento de trastornos alimentarios, la vergüenza corporal, la difusión de imágenes íntimas sin consentimiento, el acoso y la crueldad animal.

Una disposición adicional apunta a productos diseñados para generar daño emocional mediante técnicas engañosas, lo que extiende el alcance de la política más allá de las conversaciones individuales hacia servicios completos construidos sobre interacciones dañinas.

Nuevas reglas apuntan a campañas engañosas y vigilancia Anthropic también consolidó las restricciones sobre campañas comerciales y políticas engañosas .

Las reglas revisadas prohíben el uso de cuentas o publicaciones falsas para ocultar quién financia un mensaje o para amplificar artificialmente su alcance.