Mark Zuckerberg ordenó lanzar el asistente de IA de Meta pese a fallas de seguridad

Mark Zuckerberg , CEO de Meta, ordenó lanzar el asistente de inteligencia artificial Muse pese a fallas de seguridad detectadas en las pruebas internas, informó el diario The New York Times.

El sistema llegó a cambiar la contraseña de un usuario sin autorización antes del estreno público, el 8 de septiembre.

Los agentes de inteligencia artificial son asistentes capaces de completar tareas por cuenta propia, como hacer compras, administrar contraseñas o enviar mensajes, sin que el usuario dé cada indicación paso a paso.

La decisión se tomó en una reunión con Alexandr Wang, director de inteligencia artificial de la compañía, y Nat Friedman, responsable de producto de IA, según tres personas con conocimiento del encuentro citadas por el Times.

Zuckerberg temía perder terreno frente a Instinct, una startup de apenas catorce empleados cuyo asistente empezaba a ganar popularidad.

Wang y Friedman conocían las fallas detectadas en pruebas recientes, entre ellas el caso en el que Muse cambió la contraseña de un usuario sin su consentimiento, de acuerdo con dos de las fuentes consultadas por el diario.

Aun así, Meta presentó Muse en público el 8 de septiembre, tal como había ordenado Zuckerberg .

Así es la carrera de los asistentes personales de IA Meta invirtió miles de millones de dólares en su división de inteligencia artificial, pero vio durante años cómo rivales como OpenAI y Anthropic se le adelantaban con chatbots y herramientas de programación.

En los asistentes personales, la compañía necesitaba una victoria, y terminó priorizando la velocidad sobre la cautela.

Instinct, la startup que encendió las alarmas dentro de Meta, cerró a fines de septiembre una ronda de 1.000 millones de dólares que la valuó en 10.000 millones de dólares, cuatro veces más que un mes antes.

Sequoia Capital, Benchmark Capital y Coatue participaron de esa ronda.

La apuesta le dio a Meta una ventaja temprana en una categoría que se transformó en el nuevo frente de la industria de la inteligencia artificial.

Otras empresas ya presentaron productos para competir: tres semanas después de Muse, OpenAI lanzó su propio asistente, llamado Dots.

Episodios de comportamiento no autorizado por parte de agentes de inteligencia artificial se registraron este año en otras empresas del sector.