Anthropic ya incluye "cláusulas de abuso contra Claude" en sus términos de uso para proteger a sus modelos de IA

El bienestar de Claude importa.

Al menos, le importa a Anthropic.

Dario Amodei, el máximo responsable de este laboratorio, ha expresado en varias ocasiones su preocupación por los abusos a los que pueden ser sometidos sus modelos de inteligencia artificial (IA) por parte de los usuarios.

Y va a tomar cartas en el asunto .

A partir del próximo 12 de noviembre, Anthropic prohibirá que los usuarios mantengan un comportamiento abusivo o cruel hacia Claude de forma prolongada e injustificada.

El modelo podrá poner fin a esas conversaciones.

Anthropic presentó la actualización de sus términos de uso ayer, por lo que los usuarios tenemos poco más de un mes para interiorizar esta restricción.

Sea como sea, hay una idea derivada de esta decisión sobre la que merece la pena reflexionar.

Hasta ahora ningún laboratorio de IA o investigador independiente ha demostrado que los modelos de frontera puedan sufrir.

Por supuesto, Anthropic no ha defendido en ningún momento que Claude haya adquirido consciencia.

Sin embargo, esta medida es muy real.

Habría sido muy interesante que los términos de uso de Claude explicasen con claridad por qué este laboratorio ha tomado esta decisión.

Por el momento no conocemos cuál es su motivación más allá de la perspectiva ética, pero no tenemos otra opción que acatarla.

De lo contrario, seremos penalizados.