Livro trata de ‘coevolução’ entre humanos e agentes de IA

O estrategista em inovação André Magno está lançando o livro “O novo nós.

A coevolução entre humanos e agentes artificiais”, em que discute a melhor forma de lidar com a inteligência artificial.

A sugestão dele é um modelo que garanta que as máquinas sejam autorizadas a operar em nome dos humanos e atuem dentro de limites éticos aceitáveis.

A estratégia se traduz em cinco princípios práticos: particionamento de autoridade, para definir quem decide; cultura de fluência, para estabelecer como humano e máquina vão trabalhar juntos; rastreabilidade e explicabilidade, para saber o que aconteceu no processo; segurança sociotécnica por design, para evitar danos; governança do ciclo de vida, para garantir o alinhamento do sistema ao longo do tempo.

André Magno já trabalhou em empresas como Microsoft, SAP e Amazon Web Services.

Continua após a publicidade Para ele, a IA já consegue participar ativamente das dinâmicas humanas, mas o sentido que orienta sua decisão continua sendo definido por pessoas.

“Não podemos confundir a função da autonomia operacional com agência moral, nem acreditar que uma coisa elimina a outra.

Enquanto a autonomia operacional se limita à capacidade técnica de a IA executar tarefas e aprender de forma independente no ambiente, a agência moral exige consciência, intencionalidade e a responsabilidade ética pelas consequências dessas ações”, diz.

Continua após a publicidade Segundo o estrategista em inovação, nós, seres humanos, temos a capacidade de extrair significado de nossas ações e compartilhar objetivos, agindo de maneira coletiva.

A IA, por sua vez, ainda não é capaz disso.

Para esses fins, a inteligência não basta.

“A capacidade de processar informações, reconhecer padrões e executar tarefas complexas representa um avanço extraordinário, mas não é suficiente.

Não para produzir sentido ou definir direções”, enfatiza.

Continua após a publicidade André Magno se incomoda com narrativas apocalípticas sobre a IA, que preveem a substituição do homem pela máquina.