Inteligência artificial em uso, responsabilidade em aberto – por Daniel Rocha

Em novo artigo, Daniel Rocha reflete sobre os desafios da governança de inteligência artificial dentro das instituições

A inteligência artificial abriu possibilidades que, há poucos anos, pareciam distantes da realidade dos hospitais. Na verdade, não só deles, mas de todos nós. Hoje, já conseguimos imaginar uma operação na qual a tecnologia não apenas registra informações, mas ajuda a organizá-las, relacioná-las e levá-las a quem precisa decidir.

Esse avanço me entusiasma. A saúde lida diariamente com falta de tempo, pressão por eficiência e profissionais sobrecarregados. Se a tecnologia puder reduzir tarefas repetitivas, antecipar informações relevantes e apoiar decisões mais bem fundamentadas, teremos uma oportunidade real de melhorar a operação e devolver tempo ao cuidado.

Isso já está presente nos discursos, nas reuniões e nas mesas dos conselhos. Também começa a aparecer nos números. O Work Trend Index 2026, da Microsoft, ouviu 20 mil usuários de inteligência artificial em dez países. Entre eles, 66% afirmaram que a tecnologia permite dedicar mais tempo a atividades de maior valor. E esse sabemos que é só o começo.

A discussão, portanto, já avançou para além do potencial da inteligência artificial. Agora precisamos falar com a mesma intensidade sobre a responsabilidade que cresce com essa capacidade de transformar operações.

Quando a tecnologia passa a acessar dados, acompanhar processos e influenciar decisões, precisamos saber onde está sendo utilizada, para qual finalidade, com que limites e quem responde pelo que acontece a partir dela. Quem está no comando de um negócio tem que, minimamente, ter esse controle. Isso não é microgerenciamento. É preocupação real com o negócio.

Na saúde, que, além da eficiência operacional propriamente dita, temos que nos preocupar com a segurança do paciente, essa discussão ganhou um novo marco com a entrada em vigor, em 26 de agosto, da Resolução n.º 2.454/2026 do Conselho Federal de Medicina. A norma aborda avaliação de risco, supervisão humana, transparência, registro, auditoria e monitoramento, preservando a responsabilidade do médico pela decisão clínica.

Em um primeiro olhar, o ponto de partida parece regulatório. O impacto, porém, chega diretamente à gestão. Ele alcança a forma como hospitais e clínicas escolhem tecnologias, contratam fornecedores e incorporam novas soluções à rotina; afinal, a IA não pode, como deve, estar em todas as áreas dos negócios contemporâneos.

Ou seja, a inteligência artificial pode estar em um sistema contratado oficialmente, em uma funcionalidade adicionada a uma plataforma já utilizada ou em uma ferramenta adotada diretamente por uma equipe. Pode automatizar uma tarefa administrativa, organizar informações ou produzir recomendações capazes de influenciar o cuidado. Mas ela também pode estar em ferramentas que não seguem requisitos importantes de segurança e nem de governança; em IAs que estão longe de serem IAs; em soluções construídas em cima de um ChatGPT, sem um LLM próprio e seguro, e por aí vai.

Cada uso traz possibilidades, riscos e responsabilidades diferentes.