¿La IA puede salirse de control y dominar a los seres humanos? Los expertos responden la pregunta que encendió las alarmas

La semana pasada, un experto en inteligencia artificial agitó el debate en torno a los riesgos asociados al despliegue irrestricto de esas tecnologías.

Pisó el acelerador sin mesura.

“ Los desarrolladores de IA creen que podrían matarnos a todos a finales de esta década ”, advirtió Jacob Coxon .

Sus comentarios retumbaron con fuerza entre los muchos que circulan en las redes sociales, básicamente porque es un insider .

Coxon trabajó tres años en OpenAI , la organización que desarrolla ChatGPT, y recientemente renunció a Anthropic , la startup que en agosto se convirtió en la más rentable en el mundillo de la IA .

Sus declaraciones despertaron temores y provocaron agitación, pero también reabrieron un debate necesario, con determinaciones que en muchos casos siguen en una especie de limbo.

En ese marco, los ejecutivos involucrados en los señalamientos y referentes del sector coinciden en que la clave radica en establecer controles más estrictos para los desarrollos de IA antes de que las capacidades de los modelos se escapen de nuestras manos. ¿La inteligencia artificial se rebelará y acabará con nosotros? La pregunta se oye con fuerza renovada: ¿cuán cierto es que la IA tendrá la capacidad de generar daños reales, esto en un futuro más cercano que lejano? Según dijo Coxon, esos sistemas “pronto serán sobrehumanos , capaces de hackear cualquier cosa, revolucionar cualquier campo, adquirir poder y recursos reales”.

En sus tuits y posteriormente en apariciones televisivas, el británico de 27 años aseguró que las compañías que lideran en ese negocio no tienen planes para desacelerar.

Marcela Riccillo , profesora de Ciencia de Datos e Inteligencia Artificial en el Instituto Tecnológico de Buenos Aires, relativizó los peligros esgrimidos por el exintegrante de Anthropic.

En diálogo con TN , la especialista señaló que si bien los flamantes agentes de inteligencia artificial ya ejecutan tareas por cuenta propia, solamente pueden hacer aquello que los humanos les permiten y, en ese sentido, subrayó la importancia de la supervisión.

“Igual que ocurre con otras aplicaciones, se necesitan controles de seguridad”, comentó.

Elegida en el 2019 por la revista Robohub entre las 30 mujeres más destacadas del área, Riccillo explicó que aún no existe lo que se conoce como inteligencia artificial general (AGI).

Por eso, remarcó que las máquinas no pueden rebelarse, no tienen intención, ganas, sentimientos o culpa .

“Esto es matemática y programación.