Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo

Ya hablamos de cómo Evan Hubinger, responsable de la división de alineamiento en Anthropic, publicó un polémico mensaje en X en el que indicaba que creía que había un 10% de posibilidades de que la IA acabase con la raza humana.

Ha habido otras personalidades en el pasado que han hablado de esa posibilidad, y aunque esos escenarios no son imposibles, ese 10% es simplemente una estimación subjetiva sobre una tecnología que ni siquiera existe.

No solo eso: entre diseñar un virus en un ordenador y exterminar a 8.000 millones de personas está el mundo real.

El ejemplo del supervirus .

Una de las posibilidades de las que se habla con frecuencia es de la de cómo esa potencial y futura superinteligencia podría acabar diseñando un virus devastador.

Las herramientas de IA para el ámbito de la biología están mejorando rápidamente y ya existen modelos capaces de diseñar virus funcionales que infectan baterias , y hay quienes creen que eso aumenta el riesgo futuro de desarrollo de armas biológicas.

Pero también hay que destacar que esos experimentos a necesitaron científicos de élite, laboratorios avanzados, muchos recursos y centenares de pruebas.

Los modelos actuales no pueden diseñar virus capaces de infectar a seres humanos (de momento).

"Están jugando con nuestras vidas": un investigador de Anthropic cree que hay un 10% de posibilidades de que la IA acabe con la humanidad De fácil, nada .

David Bellamy, que trabaja en el Institute of Foundation Models (creadores del modelo K2 Horizon ), explicaba en X cómo es probablemente uno de las pocas personas que ha entrenado un modelo frontera y ha diseñado virus personalizados con él.

En su opinion esa amenaza de la que hablan algunos es "una farsa total".

Diseñar el virus no es el problema .

De hecho Bellamy está de acuerdo con algunas de las posibles premisas.

Un LLM puede diseñar un genoma viral que podría ser sintetizable e incluso infeccioso.