Expertos comparan el avance de la IA con el inicio de la pandemia del COVID-19: rl “febrero de 2020”
La renuncia de Jacob Coxon a Anthropic y su advertencia en X sobre los riesgos de desarrollar una inteligencia artificial capaz de mejorarse a sí misma provocaron reacciones en la industria tecnológica.
Varios investigadores de inteligencia artificial comparan el momento actual con febrero de 2020, cuando la pandemia de COVID-19 apenas comenzaba , según Time.
La analogía apunta a la velocidad con la que una amenaza puede transformar al mundo: al principio, los cambios parecen graduales; luego, se aceleran de manera repentina.
La duda, plantean, es si la sociedad podrá responder a tiempo ante los riesgos de sistemas de IA cada vez más avanzados.
La eventual llegada de una IA superinteligente plantea desafíos que exceden el ámbito tecnológico.
Implica intereses económicos de billones de dólares, rivalidad entre empresas, competencia geopolítica y posibles impactos en el empleo.
También podría exigir regulaciones que hasta hace poco parecían inviables.
Geoffrey Irving, exinvestigador sénior de alineación en OpenAI y DeepMind y ex científico jefe del Instituto de Seguridad de IA del Reino Unido, considera que las empresas deberían dejar de entrenar nuevos modelos, incluso si no existe una regulación específica ni tratados internacionales que las obliguen.
Según el medio citado, Irving estima en 50% la probabilidad de extinción humana durante la próxima década como consecuencia de la IA.
Entre los escenarios que preocupan a quienes advierten sobre esos riesgos figura el uso de estos sistemas para crear nuevos patógenos.
El medio estadounidense recoge que la posibilidad de que una IA ayude a desarrollar un agente infeccioso capaz de provocar una pandemia global más grave que la de COVID-19 es uno de los ejemplos que citan.
Las alertas y reacciones que produjo la advertencia de Jacob Coxon La línea del tiempo de alertas y reacciones que surgieron tras la advertencia de Jacob Coxon es la siguiente: 8 de septiembre: Jacob Coxon anunció su renuncia y lanzó la advertencia.
El investigador británico comunicó en X que había renunciado a Anthropic tras haber trabajado durante tres años en investigación de preentrenamiento en OpenAI y Anthropic.
Coxon sostuvo que las dos empresas avanzaban hacia una superinteligencia capaz de mejorarse a sí misma sin actuar de manera responsable.
5News agregó este resumen a partir del feed público del medio. La nota completa, con todo el contexto, está en www.infobae.com — el contenido pertenece a Infobae (Tecno).
