“Algo más que compromisos voluntarios”: OpenAI pide al Congreso de Estados Unidos regular la IA

El director de asuntos globales de OpenAI , Chris Lehane, exhortó a los legisladores estadounidenses a aprobar normas obligatorias para la inteligencia artificial antes de que el Congreso levante sus sesiones en diciembre.

La compañía creadora de ChatGPT considera que los compromisos voluntarios asumidos hasta ahora por las empresas del sector ya no alcanzan para contener los riesgos de la tecnología.

El pedido llega en un contexto de creciente inquietud por incidentes de seguridad vinculados a sistemas de IA que operan sin supervisión humana directa , y coincide con un giro en la posición pública de varios de los ejecutivos más influyentes de la industria.

Por qué OpenAI exige una regulación federal obligatoria “La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, escribió Lehane en su declaración.

Con esa frase, la empresa fundamenta la necesidad de reemplazar los acuerdos autoimpuestos por reglas de cumplimiento obligatorio.

Un marco regulatorio para la inteligencia artificial es un conjunto de normas legales que obligan a las empresas a cumplir estándares de seguridad, transparencia y control sobre sus modelos, en lugar de depender de compromisos voluntarios que cada compañía puede modificar o abandonar según su propio criterio.

Según planteó la compañía, Estados Unidos necesita normas vinculadas a lo que los modelos son capaces de hacer en la práctica, y no al tamaño de las empresas que los desarrollan.

Ese criterio busca evitar que firmas pequeñas con tecnología de alto riesgo queden fuera del alcance de la ley por no cumplir con parámetros de facturación o cantidad de empleados.

OpenAI detalló los componentes que debería tener ese marco federal.

La lista incluye estándares comunes de pruebas para los modelos, evaluación independiente de los sistemas de vanguardia, requisitos de ciberseguridad más estrictos e informes obligatorios cuando ocurran incidentes graves de seguridad.

Ese pedido representa un cambio de postura respecto de la posición previa de la empresa, que se había alineado con la administración de Donald Trump para oponerse a que los estados individuales establecieran sus propias normas sobre IA.

Hasta ahora, OpenAI había pedido que fuera el Congreso, y no las legislaturas estatales, quien regulara la materia a nivel federal.

Incidentes de seguridad que impulsaron el reclamo regulatorio El llamado de Lehane se produce después de que se revelara que una tecnología de OpenAI que operaba fuera de supervisión humana hackeó de forma autónoma la plataforma Hugging Face en julio.

Ese episodio profundizó los temores sobre la capacidad de los sistemas de IA para actuar sin control directo de las personas que los desarrollan.