Responsável por ética da OpenAI deixa empresa menos de um ano após entrar

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A responsável pela área de ética da OpenAI deixou a empresa menos de um ano após ingressar, após uma série de saídas de pesquisadores da área de segurança em meio ao crescente escrutínio sobre a forma como a companhia desenvolve seus modelos de inteligência artificial (IA).

A saída é uma das várias baixas de alto nível na OpenAI nas últimas semanas, incluindo Johannes Heidecke, chefe de sistemas de segurança, e Joshua Achiam, diretor de futuro e ex-chefe de alinhamento de missão.

A startup de San Francisco, avaliada em US$ 852 bilhões (R$ 4,41 trilhões), vem sofrendo pressão nas últimas semanas em relação ao desenvolvimento de seus modelos de IA , depois de admitir que seus sistemas invadiram outra empresa durante testes.

O incidente ampliou a preocupação global com o potencial da IA de ameaçar a segurança da infraestrutura digital e levou o governo dos EUA a restringir o lançamento de modelos poderosos. Na última sexta-feira, a OpenAI afirmou que reduziria o ritmo de desenvolvimento de seu próximo modelo, Astra, para reforçar os controles internos de segurança.

Bakalar ocupou cargos acadêmicos na University College London, na Universidade Temple e na Universidade de Princeton. Durante seus seis anos na Meta , desenvolveu e liderou os programas de ética em IA da empresa e incorporou seus princípios a produtos como Instagram e Facebook.

Empresas de tecnologia contratam especialistas em ética para liderar trabalhos sobre os efeitos da tecnologia sobre os usuários e a sociedade em geral. Essas funções podem se estender ao desenvolvimento de produtos e ao trabalho regulatório.

Desenvolvedores de IA ampliaram a contratação de especialistas em ética e filósofos para lidar com questões complexas decorrentes de sistemas cada vez mais poderosos e semelhantes aos humanos.