Altman alerta para dois perigos da IA

Depois de o diretor executivo da Anthropic ter partilhado as suas preocupações quanto ao ritmo de desenvolvimento da inteligência artificial, outras figuras de destaque do setor têm manifestado o seu acordo. Esta segunda-feira, Sam Altman, CEO da OpenAI, a empresa por trás do ChatGPT, e um dos rostos da atual vaga da inteligência artificial (IA), recorreu ao X para discorrer sobre duas formas em que, na sua opinião, a inteligência artificial pode correr “muito mal”.

There are two ways AI progress could go very badly and that we must avoid.

First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v

“Primeiro, podemos perder o controlo sobre o futuro da IA . Isto é inaceitável”, começou por escrever Altman, acrescentando que a inteligência artificial deve “servir sempre as pessoas” e que, para tal, as “técnicas de alinhamento e segurança” têm de se antecipar às capacidades dos modelos.

Segundo Altman, há ainda o perigo de termos um mundo em que o poder da IA esteja amplamente concentrado. “Se uma IA extraordinariamente poderosa for utilizada por uma pessoa ou empresa para impor a sua visão do mundo a todos os outros, os resultados poderão ser extremamente distópicos”, advertiu.

“Evitar estas duas ameaças requer trilhar um caminho intermédio”, continuou.

“Não se deixa limitar pela verdade”, “sociopata” e “com truques de Jedi”. O retrato de Sam Altman, descrito como o “problema” da OpenAI

Num tweet subsequente, o CEO da OpenAI disse ainda: “O mundo merece ter a certeza de que as empresas americanas que desenvolvem IA cada vez mais avançada agirão de forma responsável, especialmente agora que a trajetória do progresso se tornou mais acentuada. Todos os laboratórios de ponta têm de cumprir esta exigência, e não há razão para que qualquer um de nós venha trabalhar se não for capaz de o fazer”.

As palavras de Altman surgem dias depois de Jacob Coxon, investigador da empresa de IA Anthropic, ter anunciado a sua demissão , deixando uma série de alertas sobre os perigos da IA — incluindo o aviso de que “a IA poderá matar-nos a todos até ao fim da década”.