Brasil define diretrizes éticas para utilização de IA em pesquisas com seres humanos

Diretrizes estabelecem parâmetros para análise de riscos e incluem ferramenta eletrônica para apoiar avaliação dos comitês

A Instância Nacional de Ética em Pesquisa (Inaep) aprovou, na última quarta-feira, 16, um guia de diretrizes éticas para uso de inteligência artificial em pesquisas com seres humanos. Segundo Meiruze Fr e it as , dir e t o r a d o De p a rt a m e nt o de Ci ê nci a e T e cn o l o gi a d o Minist é ri o d a S a ú de, a principal mudança é a adoção de uma abordagem proporcional ao risco, que considera a finalidade da tecnologia, o contexto de uso, o grau de autonomia do sistema e possíveis impactos sobre os participantes dos estudos.

“ Nem toda pesquisa que utiliza inteligência artificial apresenta o mesmo nível de risco, por exemplo. Um sistema que interfere em uma decisão clínica exige uma análise diferente daquela necessária para uma ferramenta utilizada apenas para organizar informações. Essa iniciativa favorece a segurança dos participantes e oferece maior previsibilidade aos pesquisadores e às instituições”, disse ao Futuro da Saúde.

A proposta é orientar o sistema diante dos riscos, benefícios e desafios introduzidos pelo uso de IA nos estudos. O documento estabelece parâmetros para que pesquisadores e Comitês de Ética em Pesquisa (CEPs) avaliem vulnerabilidades relacionadas ao uso dessas tecnologias, como vieses, representatividade dos dados, supervisão humana e mudanças no funcionamento dos sistemas ao longo de uma pesquisa.

Segundo Meiruze, na prática, os pesquisadores passam a contar com orientações mais claras sobre as informações que precisam apresentar no protocolo, incluindo a finalidade do uso da inteligência artificial, os dados utilizados, os riscos previstos e as medidas de proteção. “Para os CEPs, o guia oferece orientações estratégicas que ajudam a identificar os pontos de maior atenção e a definir a profundidade necessária da avaliação de cada estudo”, explica.

Segundo a Inaep, o guia busca padronizar práticas de avaliação da inteligência artificial nos comitês de pesquisa, já que eles dispõem de repertórios institucionais desiguais. Desse modo, a falta de uma orientação nacional poderia produzir assimetrias de análise e proteção. O tema era trabalhado na instância desde maio por um grupo de trabalho e considerou referências nacionais e internacionais sobre ética, governança e regulação de inteligência artificial para a consolidação das diretrizes.

“Os C E Ps j á a n a lis a m pesquisas que utiliza m inteligência artificial , m as a ind a h a vi a dúvid as s o br e que st õe s e sp e cífic as , c o m o pr o t e ç ão de d ados , vi e s e s, discrimin a ç ão , tr a nsp a r ê nci a , r e pr e s e nt a tivid ade d as b ase s de d ados , sup e rvis ão h uma n a e r e sp o ns a biliz a ç ão .