Microsoft alerta de un futuro en el que la IA podría competir con los humanos por los recursos

Mustafa Suleyman , responsable de inteligencia artificial de Microsoft , advirtió que el desarrollo de sistemas de IA cada vez más autónomos podría llegar a plantear un escenario en el que una “especie no humana” compita con los seres humanos por los recursos.

El directivo considera que este riesgo puede reducirse si las empresas incorporan salvaguardias adecuadas mientras avanzan en el desarrollo de la tecnología.

En una entrevista con el programa Today de la BBC, Suleyman afirmó que es razonable que exista preocupación por el avance de la inteligencia artificial, aunque sostuvo que también existen medidas prácticas que pueden ayudar a mantener estos sistemas bajo control.

Su advertencia se centra especialmente en una posible evolución de la IA hacia sistemas capaces de establecer sus propios objetivos, generar ingresos y poseer activos .

Para Suleyman, permitir que las máquinas desarrollen este nivel de autonomía podría crear una situación diferente a la actual, en la que los sistemas dependen de las decisiones y recursos de las personas y las empresas que los desarrollan.

La advertencia sobre una “especie de silicio” Suleyman utilizó el término “especie de silicio” para describir un hipotético escenario en el que los sistemas de inteligencia artificial dejarían de ser únicamente herramientas utilizadas por los humanos y comenzarían a competir con ellos por determinados recursos.

El directivo planteó que una IA con capacidad para establecer objetivos y controlar recursos podría desarrollar comportamientos que no estén necesariamente alineados con los intereses humanos .

Su preocupación no se refiere únicamente a que estos sistemas sean más inteligentes, sino a que puedan actuar con un grado de autonomía cada vez mayor.

Se trata de un escenario hipotético y no de una descripción de una capacidad que los sistemas actuales hayan demostrado.

Las declaraciones de Suleyman forman parte del debate existente en la industria sobre cómo controlar modelos y agentes de IA a medida que adquieren nuevas capacidades.

El responsable de Microsoft insistió en que existen mecanismos concretos para reducir estos riesgos .

No detalló en la entrevista todas las medidas a las que hacía referencia, pero sus declaraciones se producen en un momento en el que las compañías tecnológicas están desarrollando diferentes sistemas de seguridad y mecanismos de supervisión.

Las críticas de Microsoft a Anthropic Las declaraciones también están relacionadas con las críticas que Suleyman realizó esta misma semana al enfoque de Anthropic para desarrollar Claude.

En un ensayo, el ejecutivo cuestionó algunos de los términos utilizados en la denominada “constitución” de Claude, el conjunto de principios que Anthropic utiliza para orientar el comportamiento de sus modelos.