Brasil busca harmonizar avaliação ética de pesquisas com IA

Brasil busca harmonizar avaliação ética de pesquisas com IA

A Instância Nacional de Ética em Pesquisa tomou uma decisão relevante na última quarta-feira, 16, ao aprovar um conjunto de diretrizes que visa orientar a análise ética do uso de inteligência artificial em estudos envolvendo participantes humanos. O documento chega em um momento em que tecnologias de IA se expandem em diversas áreas da pesquisa científica, gerando questões éticas complexas que exigem análise cuidadosa e sistematizada.

O guia representa uma tentativa do Brasil de estabelecer parâmetros claros e unificados para que pesquisadores e comitês especializados possam avaliar de forma adequada os riscos e benefícios associados ao emprego dessas tecnologias. Segundo Meiruze Freitas, diretora do Departamento de Ciência e Tecnologia do Ministério da Saúde, a inovação fundamental da proposta reside em reconhecer que nem todas as aplicações de inteligência artificial representam o mesmo grau de complexidade ética.

Uma abordagem ajustada aos riscos reais

A metodologia adotada no guia estabelece uma análise proporcional ao risco, que leva em consideração múltiplos fatores. Entre eles estão a finalidade específica para a qual a tecnologia será aplicada, o contexto em que ela funcionará, o nível de autonomia que o sistema possui para tomar decisões sem intervenção humana, e as possíveis consequências que podem afetar os indivíduos participantes dos estudos.

Freitas ilustrou essa distinção com exemplos práticos. Um sistema que interfere diretamente em uma decisão de natureza clínica exige um tipo de análise completamente distinto daquele necessário para uma ferramenta que simplesmente organiza ou cataloga informações. Essa diferenciação é crucial, pois permite que a avaliação seja proporcional à severidade dos possíveis danos, evitando ao mesmo tempo uma burocracia excessiva para aplicações de menor risco.

A abordagem reconhece explicitamente que a segurança dos participantes de pesquisas é a prioridade, enquanto oferece aos pesquisadores e às instituições de pesquisa uma previsibilidade maior sobre como seus projetos serão avaliados. Isso reduz incertezas e facilita o cumprimento de requisitos éticos.

Parâmetros específicos para avaliação

O documento estabelece diretrizes concretas para que pesquisadores e Comitês de Ética em Pesquisa identifiquem e avaliem vulnerabilidades relacionadas ao uso de inteligência artificial. Entre as questões abordadas estão a possibilidade de vieses nos sistemas, a representatividade adequada dos dados utilizados para treinar ou alimentar os modelos, o nível e a qualidade da supervisão humana mantida ao longo do processo, e a monitoração de mudanças no funcionamento dos sistemas conforme uma pesquisa avança.

Esses parâmetros surgiram de uma compreensão de que tecnologias de inteligência artificial podem apresentar comportamentos inesperados ou evoluir de maneiras não previstas inicialmente. A inclusão de critérios sobre mudanças de funcionamento reconhece essa realidade dinâmica e exige que pesquisadores mantenham vigilância contínua.

Orientações práticas para pesquisadores e comitês

Na implementação, o guia oferece aos pesquisadores orientações mais claras sobre quais informações devem constar nos protocolos de pesquisa quando inteligência artificial estiver envolvida. Eles precisarão descrever a finalidade específica do uso da tecnologia, detalhar os conjuntos de dados que serão utilizados, antecipar os riscos previstos e explicitar as medidas de proteção que serão adotadas.

Para os Comitês de Ética em Pesquisa, o guia funciona de forma diferente, oferecendo orientações estratégicas que ajudam a identificar quais são os pontos que merecem maior atenção durante a análise de cada estudo, além de indicar a profundidade necessária da avaliação em cada caso específico.

Contexto: Por que essa padronização era necessária

Os Comitês de Ética em Pesquisa existem no Brasil há décadas como estruturas fundamentais para a proteção de participantes de estudos científicos. Esses comitês, também conhecidos como CEPs, operam em instituições de pesquisa e têm como atribuição revisar protocolos antes que qualquer estudo com seres humanos seja iniciado. Sua função é garantir que benefícios potenciais superem os riscos e que direitos dos participantes sejam respeitados.

Porém, historicamente, os comitês dispunham de repertórios institucionais desiguais. Isso significa que diferentes CEPs, em diferentes regiões e instituições, desenvolveram práticas e critérios que podiam variar significativamente. A ausência de uma orientação nacional padronizada criava o risco de que a mesma pesquisa recebesse avaliações completamente diferentes em contextos distintos, produzindo assimetrias tanto na análise quanto na proteção oferecida aos participantes.

A inteligência artificial agravou esse problema. Já há alguns anos, os CEPs enfrentam pesquisas que utilizam essas tecnologias, mas essa experiência trouxe à tona múltiplas dúvidas que não tinham respostas claras. Como avaliar proteção de dados quando algoritmos estão envolvidos? Como identificar vieses que possam discriminar grupos específicos de pessoas? Como garantir transparência quando sistemas de aprendizado de máquina funcionam como caixas pretas? Como assegurar que bases de dados sejam representativas? Como supervisionar sistemas de inteligência artificial de forma adequada? A quem responsabilizar quando algo dá errado?

O processo de desenvolvimento das diretrizes

As diretrizes foram elaboradas por um grupo de trabalho dentro da Inaep ao longo de vários meses, tendo iniciado suas atividades em maio. O processo de desenvolvimento considerou referências tanto nacionais quanto internacionais sobre ética, governança e regulação de inteligência artificial. Essa perspectiva comparada permitiu aprender com experiências de outros países e contextos, incorporando as melhores práticas globais enquanto reconhecia as particularidades do sistema de pesquisa brasileiro.

O que acompanhar

Nos próximos meses, será importante observar como as diretrizes serão recebidas pela comunidade de pesquisadores e pelos Comitês de Ética em Pesquisa. Um processo de adaptação será necessário, envolvendo treinamento de pesquisadores e membros dos comitês. Também é relevante acompanhar se as novas orientações conseguem realmente reduzir as assimetrias de análise entre diferentes instituições, ou se persistem discrepâncias regionais. Além disso, merece atenção como os pesquisadores modificarão seus protocolos de pesquisa em resposta às novas exigências, e se isso resultará em pesquisas mais robustas e étnicas com inteligência artificial. Finalmente, a avaliação de como a ferramenta eletrônica de apoio aos comitês funcionará na prática pode indicar se as novas diretrizes realmente facilitam ou complexificam o processo de avaliação.

Principais pontos:

• A Inaep aprovou guia de diretrizes éticas para uso de inteligência artificial em pesquisas com seres humanos, estabelecendo uma abordagem proporcional ao risco baseada na finalidade da tecnologia, contexto de uso e impactos potenciais.

• O documento oferece aos pesquisadores orientações sobre informações necessárias em protocolos de pesquisa, incluindo finalidade da IA, dados utilizados, riscos previstos e medidas de proteção, enquanto oferece aos CEPs critérios estratégicos para identificar pontos críticos de análise.

• A iniciativa busca padronizar práticas de avaliação entre comitês de diferentes instituições que historicamente operavam com repertórios desiguais, reduzindo assimetrias na proteção de participantes de pesquisas.

• O guia aborda vulnerabilidades específicas como vieses, representatividade de dados, supervisão humana, transparência, discriminação potencial e responsabilização, questões que geravam dúvidas entre os comitês na ausência de orientação nacional clara.