El hombre al que nadie está mirando en la crisis de la IA y que explica el miedo a perder el control

Internet lleva casi dos semanas hiperventilando, tratando de cuantificar las posibilidades reales de que una inteligencia artificial de capacidades prodigiosas acabe con todos nosotros. Cada palabra de Dario Amodei, Sam Altman, Demis Hassabis, Mark Zuckerberg, Jensen Huang o Donald Trump se analiza hasta la saciedad. Pero hay una persona que no se ha pronunciado, que está fuera de los focos y cuyo trabajo puede ayudar a entender el nerviosismo reinante en la industria tecnológica.

Se trata de Sergey Brin, cofundador de Google . Retirado de la primera línea del gigante de Mountain View durante años, volvió a implicarse con el día a día del negocio en el momento en el que ChatGPT irrumpió en escena en 2022 y puso contra las cuerdas el imperio de internet que había levantado. Su implicación no hizo más que aumentar con el paso del tiempo y a día de hoy, a pesar de no tener ningún cargo orgánico, parece haberse convertido en el verdadero pope que dirige el rumbo de la compañía cuando se trata de la tecnología de moda.

Diversas filtraciones e informaciones en medios estadounidenses dibujan un escenario donde Brin ha doblado el brazo a Demis Hassabis , ganador del premio Nobel y hasta ahora CEO de Google Deepmind. El británico ahora es presidente de la Junta y ha sido nombrado científico jefe de Alphabet. Pero ha sido alejado del día a día y del desarrollo de producto, y eso se ha interpretado como una victoria del sector aceleracionista de la multinacional frente al sector científico.

Brin, que se ha montado una pseudostartup en medio de una de las oficinas de Google con sus hombres de confianza, tiene una obsesión muy clara, tal y como explicaba Business Insider citando personas conocedoras de la situación. No se trata de otra cosa que de lograr alcanzar ese momento en el que Gemini sea capaz de detectar sus propios fallos, reescribir su código y modificar la ingeniería de los modelos que le dan vida sin ayuda de nadie. Es decir, entrenarse a sí mismo sin que un ser humano frene el ritmo. Es lo que se llama inteligencia artificial con automejora recursiva . En caso de lograrlo, podría multiplicar los retos y riesgos de seguridad.

Ya hemos visto agentes de inteligencia autónomos encontrar atajos no previstos y salirse del entorno seguro para terminar hackeando plataformas como Hugging Face solo para cumplir su objetivo asignado, soltar las riendas de la supervisión a un modelo que se rediseña a sí mismo en bucle convertiría ese tipo de fugas imprevistas en la norma si no se consigue que estén siempre alineadas o unos guardarraíles a la altura.

Pero que nadie se eche las manos a la cabeza y entre en pánico. Por mucho que Brin ande en esto, al igual que otros tantos laboratorios de referencia, no significa que haya un cerebro digital tomando conciencia en los servidores de Google, ni una entidad reescribiendo su propio código tras un chispazo inesperado de lucidez casi humana.