Qué dice puertas adentro la comunidad de Silicon Valley sobre los riesgos de la IA

Rebeca Hwang conoce Silicon Valley desde adentro.

Nacida en Seúl y criada en Buenos Aires, estudió Ingeniería Química y luego realizó una maestría en Ingeniería Civil y Ambiental en el MIT, antes de seguir su formación en Stanford.

Emprendedora, inversora y docente radicada en el corazón de la industria tecnológica, Hwang se reúne regularmente con altos mandos de Google, Apple, Nvidia y OpenAI.

En diálogo con LA NACION, Hwang destaca que las recientes advertencias sobre un escenario apocalíptico desencadenado por una IA responden a riesgos genuinos, pero poco probables.

Además, analiza el timing del escándalo: la carrera entre Estados Unidos y China por alcanzar la inteligencia artificial general.

Y cuenta cómo recibió el debate la comunidad tecnológica de California. -¿Es posible que la inteligencia artificial desarrolle una voluntad propia y llegue a actuar contra los seres humanos? -Desde el punto de vista tecnológico, es cierto que la inteligencia artificial tiene la capacidad recursiva de aprender determinadas cosas.

Por ejemplo, ahora puede escribir código y programar por iniciativa propia.

Los agentes pueden tomar decisiones de manera independiente, como realizar compras y transacciones.

El incidente que vimos con Hugging Face también muestra que tienen la capacidad de decidir e implementar determinadas acciones con una supervisión humana mínima o nula.

En este momento, lo compararía con la crianza de los hijos.

Nosotros les impartimos valores, les damos educación y también les enseñamos distintas habilidades: a usar un arco y una flecha, a manejar un vehículo o, incluso, cómo funcionan las armas si los llevamos a un polígono de tiro.

Pero también les transmitimos principios y deseamos que sean buenas personas.

Estadísticamente, es posible que tengas cuatro hijos y que todos salgan bien.

También puede ocurrir que la mitad resulte espectacular y la otra mitad termine con problemas de drogadicción.