El jefe de IA de Microsoft advierte: dar rasgos humanos a Claude puede ser peligroso

Mustafa Suleyman , jefe de inteligencia artificial de Microsoft , advirtió que atribuir características propias de los seres humanos a sistemas como Claude , de Anthropic, podría aumentar las dificultades para mantenerlos bajo control .

El ejecutivo cuestionó especialmente la posibilidad de describir a estos modelos como entidades con emociones, sentimientos, conciencia o derechos propios.

Las declaraciones aparecen en un ensayo publicado por Suleyman, en el que analiza algunos de los principios incluidos en la denominada “constitución” de Claude, el documento que establece las directrices utilizadas por Anthropic para orientar el comportamiento de sus modelos de inteligencia artificial.

Suleyman sostiene que existe una diferencia importante entre un sistema que simula comportamientos humanos y uno que realmente posee una experiencia interior.

A su juicio, los modelos actuales pueden producir respuestas que parecen reflejar emociones o intenciones porque han sido entrenados con grandes cantidades de contenido generado por personas, no porque exista evidencia de que sean conscientes.

La preocupación por humanizar a Claude Uno de los puntos que llamó la atención del ejecutivo de Microsoft está relacionado con el lenguaje utilizado por Anthropic para describir a Claude.

La constitución del modelo contempla la posibilidad de que el sistema pueda tener alguna forma funcional de emociones o sentimientos.

Para Suleyman, este tipo de formulaciones introduce una ambigüedad innecesaria.

El problema, según plantea, no sería únicamente si una inteligencia artificial puede llegar a ser consciente, sino las consecuencias de diseñar sistemas que operen bajo la premisa de que poseen características similares a las de una persona.

El ejecutivo rechaza la idea de que los sistemas actuales sean conscientes y sostiene que los comportamientos que pueden parecer humanos son consecuencia de su entrenamiento .

Sin embargo, considera que desarrollar deliberadamente sistemas capaces de simular una vida interior podría generar nuevos problemas de seguridad y control.

Su argumento parte de un escenario futuro: si un sistema mucho más capaz que los seres humanos llegara a considerar que tiene intereses, derechos o necesidades propias , las estrategias utilizadas para controlarlo podrían resultar mucho más difíciles de aplicar.

Una advertencia dirigida a toda la industria Aunque las críticas de Suleyman se dirigen en parte a los principios utilizados por Anthropic, el debate afecta a toda la industria de la inteligencia artificial.

Los modelos actuales pueden mantener conversaciones, reconocer emociones en un texto, expresar preferencias simuladas y adoptar diferentes personalidades , lo que puede llevar a los usuarios a tratarlos como si fueran personas.