Plateau ou estratégia de mercado?

OpenAI, Anthropic e Google DeepMind, pretendem vender a ideia que, até há pouco tempo, parecia improvável. Os concorrentes na IA querem coordenar-se para lidar com os riscos de modelos mais avançados.

Demis, CEO da DeepMind, chegou a defender a criação de uma entidade dedicada aos modelos de fronteira . Financiada pela própria indústria, mas obviamente com supervisão pública, numa espécie de FINRA norte-americana. Recentemente, a OpenAI confirmou que mantém conversações com a Anthropic e a DeepMind sobre segurança.

À primeira vista, não há grande coisa a contestar. Estas empresas acreditam genuinamente que estão a construir sistemas capazes de causar danos de grande escala, é razoável que procurem mecanismos de controlo.

Mas existe uma questão menos confortável que merece ser colocada: quando as empresas que lideram um mercado começam a pedir regras para o mesmo mercado, estarão apenas a proteger a sociedade ou estarão a proteger a sua própria posição?

É importante se dizer que as duas opções podem ser verdadeiras ao mesmo tempo.

Existe um risco neste pedido de regulação, que se pode tornar uma barreira à entrada de concorrentes.

A indústria já tem experiência neste tipo de coordenações. A título de exemplo, 2023 a Anthropic, Google, Microsoft e a OpenAI, fundaram o Frontier Model Forum, eventualmente alargado à Amazon e Meta. Este fórum visa desenvolver práticas e investigações relacionadas com a segurança dos modelos de fronteira.

Agora, o que está a ser discutido é potencialmente um passo bem longo.

Vemos os maiores players a defenderem avaliações obrigatórias, auditores externos, requisitos técnicos, mecanismos de supervisão, etc. Isto no papel e na perceção pública parece tornar efetivamente a IA mais segura.

No entanto, estão também a propor um mundo no qual para se desenvolver um modelo de fronteira, exige cada vez mais capital, infraestrutura, juristas, especialistas em segurança e capacidade em cumprir requisitos e processos regulatórios mais complexos.

A resposta é simples. Empresas do topo conseguem. Pequenos concorrentes a entrar no mercado não.

É aqui que a fronteira entre a captura regulatória por interesses e a segurança se tornam um tema interessante de discussão.

A preocupação já não é meramente teórica. O presidente da FTC (Federal Trade Commission), dos EUA, manifestou publicamente reservas nestas propostas de exceções às regras de antitrust (aquilo que protege o consumidor do cartel económico e fortalece a concorrência justa e leal), para que estas exceções dessem a possibilidade das grandes empresas de IA coordenar uma desaceleração ao desenvolvimento. A OpenAI, por sua vez, diz que consegue coordenar os esforços sem precisar de exceções (o que é bom).

Não é preciso uma conspiração à porta fechada. O próprio Mark Zuckerberg, fundador da Meta, afirmou que já existem incentivos para que as empresas sejam cautelosas nos potenciais danos que os modelos possam causar, dando o exemplo do modelo da Meta, Muse, ter sido, por vários meses, atrasado para garantir conformidade e segurança na responsabilidade civil que as ações desse mesmo modelo possa ter.