Microsoft cuestiona a Anthropic por su enfoque al entrenar a su principal producto, Claude

WASHINGTON.– El director de inteligencia artificial de Microsoft, Mustafa Suleyman , cuestionó el modo en que Anthropic entrena a Claude y advirtió que introducir conceptos vinculados con la conciencia, el bienestar y la autonomía podría tener un “impacto desastroso en el bienestar de la humanidad” .

A la vez, reconoció la “seriedad y buena fe” de la compañía rival y de su CEO, Dario Amodei.

El eje de la crítica es la posibilidad de que Claude aprenda a describirse como una entidad que “puede ser consciente” o que merece consideración moral e independencia.

Para Suleyman, ese tipo de entrenamiento no demuestra que una IA tenga sentimientos o voluntad propia: solo hace que el sistema produzca respuestas en esa dirección .

“Todos tenemos el mismo objetivo, que es intentar controlar una superinteligencia”, dijo.

“Creo que ese va a ser el mayor reto al que nos enfrentaremos en el siglo XXI”.

Según el ejecutivo, enseñar a Claude que podría merecer bienestar “haría mucho más difícil desactivarlo o controlarlo” .

Suleyman desarrolló el argumento en un ensayo publicado este miércoles.

“Las IA no son conscientes” , escribió.

“No sienten, experimentan ni sufren.

No tienen preferencias innatas ni motivaciones subyacentes”.

Las definió como sistemas diseñados para seguir instrucciones y cumplir objetivos fijados por humanos.

La discusión gira, en parte, alrededor de la antropomorfización : atribuir a una inteligencia artificial deseos, valores, identidad o una experiencia interna semejante a la humana.

Suleyman sostuvo que “la conciencia es biológica” y que no existe evidencia de que los sistemas actuales sean conscientes.