Tres investigadores de seguridad fueron despedidos de OpenAI: la empresa habla de confidencialidad y ellos, de represalias

Dos versiones encontradas sobre las razones del despido de tres investigadores de seguridad de OpenAI tienen a la compañía dando explicaciones y a sus críticos cuestionando si, de verdad, la seguridad de sus productos es su prioridad.

Los empleados despedidos son Jasmine Wang, Tomek Korbak y Mikita Balesni, que fueron separados de sus cargos la semana pasada.

Trabajaban en alineación, la disciplina que se encarga de velar porque los modelos de IA funcionen de forma segura según las instrucciones de sus operadores humanos.

Wang, Korbak y Balesni publicaron hoy una carta abierta en la que denuncian haber sido despedidos injustamente por cuestionar a la empresa en materia de seguridad de la inteligencia artificial y por su colaboración con evaluadores externos.

La empresa desmintió estas acusaciones y aseguró que las salidas ocurrieron debido a una violación grave de las políticas sobre el manejo de información confidencial.

Los motivos de OpenAI La versión oficial de OpenAI es que los despidos se produjeron tras una investigación interna que concluyó que los empleados violaron las políticas de la empresa sobre el manejo de información sensible, lo que constituye, según la firma, una “ruptura significativa de la confianza”.

La empresa rechaza de plano que las salidas se deban a que los trabajadores expresaran abiertamente sus preocupaciones sobre los riesgos de la IA o colaboraran con evaluadores externos.

De hecho, en su blog oficial , manifestó: “Queremos dejar muy claro que estas decisiones no se tomaron para plantear preocupaciones de seguridad ni para expresar opiniones.

En OpenAI, los debates sobre seguridad e investigación son cotidianos, a menudo animados y muy críticos.

Fomentamos activamente estas discusiones y las consideramos esenciales para tomar las decisiones correctas.

No podemos realizar el trabajo que tenemos por delante sin un alto grado de confianza.

Seguiremos siendo extremadamente comprensivos con los miembros de nuestro equipo que cometan errores de buena fe.

No hemos despedido ni despediremos a ninguno de nuestros empleados por expresar sus preocupaciones”.

En Xataka México ​OpenAI podría haber resuelto los enigmas matemáticos más complejos de la historia, pero nadie puede comprobar si es verdad Por su parte, los extrabajadores alegan que los motivos dados por la empresa son pretextos y que en realidad se les sancionó por sus posturas críticas respecto a la seguridad de la tecnología y su estrecha colaboración con entidades externas de evaluación como METR y Redwood Research.