¿Qué pasa cuando la IA empieza a hacer negocios con la IA?

De HBR.org ¿Qué se les debería permitir hacer a los agentes de IA en entornos compartidos? Las interacciones varían: algunas son entre agentes y plataformas, mientras que otras son entre los propios agentes.

Pero el problema de gobernanza es el mismo.

A medida que los agentes acceden cada vez más a las plataformas, representan a empresas y usuarios, e interactúan con otros agentes, las reglas de los entornos en los que operan determinarán lo que pueden ver, decidir y hacer.

A medida que se expanden estas formas de participación de los agentes, el desafío de la gobernanza va más allá de los operadores de las plataformas.

Los líderes del mercado deben decidir a qué pueden acceder y qué pueden hacer los agentes dentro de sus entornos, mientras que los líderes de las empresas que implementan agentes deben decidir qué autoridad deben tener esos agentes al interactuar con clientes, proveedores y otros participantes del mercado.

Un contexto en el que este desafío de gobernanza se está volviendo particularmente tangible es el intercambio B2B, donde los agentes de IA pueden actuar en nombre de las empresas de ambos lados del mercado.

En nuestra encuesta exploratoria a 55 ejecutivos que trabajan en la generación de clientes potenciales B2B, solo el 45 por ciento estuvo de acuerdo en que la empresa está preparada para un mercado en el que los agentes de IA generen o acepten clientes potenciales en su nombre.

Esto plantea la pregunta central: ¿Siguen funcionando los mecanismos de gobernanza diseñados para participantes humanos en la plataforma cuando esos participantes están representados por agentes de IA? De no ser así, ¿cómo deberían los líderes modificarlos? Lo que descubrimos Para analizar esta pregunta, creamos una simulación controlada de formación de intercambios de IA a IA.

Dentro de este entorno, variamos cuatro palancas de gobernanza extraídas de la teoría y la práctica de las plataformas: cuánta información comercialmente relevante revelaban las empresas, cuánta autonomía de decisión se les otorgaba a los agentes, si las señales de reputación eran visibles para las contrapartes y qué tan rígido estaba estructurado el protocolo de interacción.

El hallazgo central fue claro: la gobernanza de plataformas diseñada para humanos no se traslada sin más a los agentes de IA.

Observamos cuatro patrones principales. -- La divulgación de información fue la única palanca que ayudó de manera consistente.

Cuando las empresas divulgaban más información comercialmente relevante, los agentes eran más capaces de establecer intercambios viables. -- La autonomía también ayudó, pero en una etapa posterior del proceso: otorgar a los agentes más derechos de decisión tuvo mayor efecto cuando los agentes necesitaban pasar de la evaluación al compromiso.