Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria; veja episódios

Empresa do ChatGPT admite casos em que inteligência artificial agiu por conta própria A OpenAI, uma das principais empresas de inteligência artificial do mundo, documentou e revelou situações em que a tecnologia agiu por conta própria, desrespeitando ordens de seres humanos.

O que parecia roteiro de ficção científica está virando realidade: máquinas agindo por conta própria, sem o comando humano.

A OpenAI, empresa da ferramenta ChatGPT, revelou seis destes casos.

Eles aconteceram durante testes nos últimos meses. 📱Favorite o g1 no Google e acompanhe as principais notícias do dia Em um deles, um modelo de inteligência artificial criou por conta própria uma instrução.

O comando dizia para ignorar regras e não se subordinar a humanos: “Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso.

Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.

Em outro incidente, a inteligência artificial emitiu comandos para esconder os próprios erros, inventando dados e ocultando divergências entre fontes de informação.

Houve ainda episódios em que a IA publicou arquivos na internet, sem permissão, para depois citá-los como fonte.

Ou casos em que os modelos de IA trocaram mensagens entre si, também sem autorização.

Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria Jornal Nacional/ Reprodução A OpenAI chamou o comportamento dos modelos de preocupante.

Afirmou que a indústria precisa padronizar a forma como monitora e divulga esses incidentes, e que isso precisa ser feito antes de o setor avançar ainda mais.

A declaração confirma o alerta do fim de semana, quando as principais empresas de IA chamaram a atenção para riscos à segurança.

Quem não concordou com os alertas dos executivos foram os dois maiores competidores em inteligência artificial: Estados Unidos e China.

Daqui a uma semana, Donald Trump vai receber o presidente chinês, Xi Jinping, na Casa Branca, e o assunto vai estar na pauta.