Dario Amodei contra Adam Smith

Dario Amodei quiere ser Oppenheimer, pero con 'stock options' .

No porque pretenda construir una bomba, sino porque empieza a imaginar la inteligencia artificial como Oppenheimer imaginó la física nuclear: una tecnología límite demasiado importante para dejarla al funcionamiento ordinario del mercado y demasiado estratégica para permitir que el adversario llegue primero .

La diferencia es que Amodei no quiere Los Álamos.

Quiere algo más vulgar: beneficios privados bajo el paraguas de una política de seguridad nacional que determine quién compite, qué puede comprar China y hasta qué punto las compañías estadounidenses pueden coordinarse entre ellas.Su ensayo parte de una preocupación razonable: la IA avanza deprisa y las máquinas empiezan a contribuir al desarrollo de sus sucesoras.

Sus capacidades crecen más rápido que nuestra habilidad para comprenderlas y controlarlas .

De ahí su propuesta de reducir la velocidad y ganar tiempo para domesticarlas .El problema está en su plan.

Anthropic, OpenAI , Google y sus competidores tienen incentivos para correr: si uno frena y los demás no, pierde.

Para escapar de ese dilema, Amodei propone que las empresas coordinen estándares de seguridad e incluso límites al ritmo de progreso.

Y como esas conversaciones pueden chocar con las normas antimonopolio, pide al Gobierno estadounidense excepciones legales.Adam Smith advirtió hace dos siglos y medio que las personas del mismo oficio rara vez se reúnen sin que la conversación termine en alguna conspiración contra el público .

Amodei responde con el viejo argumento de que esta vez es diferente porque la amenaza es existencial.

Si existiera un catálogo de los que abusan de la idea de Carl Schmitt de que «soberano es quien decide sobre el estado de excepción» más allá del ámbito del Derecho, los dueños de la IA y los alarmistas climáticos figurarían entre los primeros de la fila .

Con todo, su argumento económico no es absurdo.

Los beneficios de desarrollar antes un modelo mejor son privados; pero muchos riesgos recaerían sobre la sociedad.

Puede existir una externalidad que lleve a las empresas a avanzar más rápido de lo socialmente prudente.