“A IA não pode tomar decisões de forma autônoma”, afirma professor José Roberto Goldim

Especialista em Biomedicina e proteção de dados destaca que os usos dos recursos tecnológicos devem ser equilibrados com a área humana dos tratamentos

Biólogo, mestre em Educação, doutor em Clínica Médica/Bioética e professor da PUCRS, José Roberto Goldim atualmente estuda bioética, complexidade e processos de tomada de decisão em saúde, especialmente o processo de consentimento informado, vulnerabilidade, capacidade, autodeterminação e envelhecimento. Em sua fala no Tedx Unisinos Salon – Experiência & Afeto, Goldim explicou que os tratamentos médicos atuais devem destacar as necessidades dos pacientes como seres humanos. O evento buscou debater a experiência em saúde que transcende a aplicação de conhecimentos técnicos e científicos.

O médico recebeu a equipe da Beta Redação para discutir os temas da tecnologia na área da saúde, a humanização no tratamento médico e a bioética.

José Roberto Goldim palestra sobre o uso de Inteligência Artificial na medicina no palco do Teatro Unisinos, durante o TEDx Salon 2025. DENER PEDRO / BETA REDAÇÃO

Beta Redação: Como a inteligência artificial ajuda na área da saúde?

José Roberto Goldim: A inteligência artificial (IA) é uma ferramenta que agrega, sem dúvida nenhuma. O grande problema, atualmente, é que o grande público fantasia que a IA vai substituir os profissionais de saúde. A realidade está longe disso, mas é uma ferramenta importante e, em algumas áreas, fundamental. Entretanto, a inteligência artificial não é uma ferramenta de tomada de decisão autônoma. Isso, sim, é um equívoco total. Ela nunca deve prescindir do olhar humano para tomar alguma decisão.

Quais as áreas da saúde onde a IA pode auxiliar?

Toda a área de diagnóstico de imagem. Principalmente, as ferramentas de leitura de padrões para diagnóstico. Nesse tema, é um acréscimo fantástico, e que já acontece. Também podemos usar para fazer resumos, por exemplo, de longos conteúdos de textos.

Qual a relação entre a IA e a ciência de dados na saúde?

É totalmente integrado. As grandes bases de dados que se tem no mundo são da área da saúde, por exemplo, grandes hospitais, como o Hospital de Clínicas de Porto Alegre, tem uma base de dados de milhões de pacientes atendidos, com centenas ou milhares de exames associados com conteúdos gigantescos de texto. Sem ter todo um aporte dessas ferramentas computacionais é inviável. Podemos pegar, por exemplo: eu tenho um banco de dados de quase 7 mil consultorias de bioética registradas. Se fosse fazer isso manualmente com as ferramentas usuais não teria nada. Essas ferramentas me permitem fazer análises qualitativas. São ferramentas fundamentais. A questão é não fazer delas um fim. Elas sempre são um meio.

Como funciona a proteção a esse dado também na área da saúde?

A área da saúde tem uma tradição milenar de proteção de informação. Antigamente tinha o nome de sigilo médico. Isso os hospitais incorporaram. Você pensa que quando surgiu a Lei Geral de Proteção de Dados a área da saúde foi primeira a estar pronta, porque ela já tinha toda uma série de regulamentações, não legais. Regulamentações que vinham de resoluções do Conselho Federal de Medicina e assim por diante que permitiam fazer toda uma proteção efetiva dos dados na formação dos alunos da área da saúde.

Humanização na saúde também foi tema da fala de José Roberto Goldim DENER PEDRO / BETA REDAÇÃO

Como fica a questão da confidencialidade?

É um dos pontos básicos de capacitação que a gente faz. Para a área da saúde não foi uma novidade, mas foi um acréscimo no sentido de alertar que agora o risco não é só moral; o risco agora é legal dessa proteção. Sem dúvida nenhuma a área bancária e a área da saúde são as duas que mais trabalharam essa questão ao longo dos anos.

O que é a bioética?

Bioética não é nada mais do que um campo interdisciplinar que permite fazer com que profissionais da saúde de diferentes especialidades e de profissionais de fora da área da saúde, da área de ciências sociais aplicadas, por exemplo, o pessoal do direito, da sociologia, troquem informações e, com isso, a gente consegue melhorar o entendimento das decisões que a gente tem que tomar. Então, a bioética não é só uma ética aplicada, como muita gente fala, ela é bem mais do que isso. A bioética é justamente essa possibilidade de troca de saberes com um objetivo central que é melhorar a capacidade de tomar de decisão envolvendo temas de saúde, hoje em dia envolvendo temas ambientais, e assim por diante.

Como a bioética trabalha com os riscos?

Trabalhamos com risco como uma probabilidade de ocorrência de um evento ruim, de um evento adverso. É necessário estabelecer um risco para uma pesquisa de que o paciente que vai submeter um procedimento possa ter algum evento adverso com base naquilo que já ocorreu no passado. E a gente pode estabelecer escalas que digam se é um risco raro, frequente, muito frequente, comum e assim por diante. Se é um risco grave, se é um risco não grave, se é um risco severo ou não severo.

Como equilibrar a tecnologia com o atendimento humanizado?

Isso é um problema sério. A questão da ultratecnologização da saúde esfria a relação. A grande questão que eu defendo é que a alta tecnologia tem que ser acompanhada por alta sensibilidade do profissional. Nós temos que capacitar os nossos alunos a ter toda essa formação científica e tecnológica, mas principalmente agregar a questão tecnológica com uma formação humanista que possa permitir justamente fazer esse trabalho de grande sensibilidade junto com os pacientes.

Goldim palestra sobre o uso de inteligência artificial na medicina, no palco do Teatro Unisinos, durante o TEDx Salon 2025. DENER PEDRO/ BETA REDAÇÃO

Em sua fala no TEDx, o senhor falou muito em humanização. Como a graduação pode auxiliar os estudantes nessa área da humanização com tanta informação atualmente?

Saindo da questão meramente informativa para entrar na questão formativa. É necessário dar um espaço para que os alunos que estão em formação possam exercitar essas outras habilidades, que não as científicas e tecnológicas, que são as habilidades de comunicação, as habilidades de como lidar com conflitos, de como tomar decisão. Ou seja, é preciso ter um espaço dentro da formação que permita esse exercitar de habilidades que complementam os conhecimentos científicos e tecnológicos e que permitem, então, essa questão da humanização ser feita de uma forma um pouco mais ativa.

Como atingir o equilíbrio entre a exploração dos dados e humanização na saúde?

Eu acho que isso é tranquilo. Porque não adianta eu ser contra. O progresso vem, ele vai atropelando. Essas ferramentas estão aí e vão ser utilizadas. A questão é a gente ter um espaço de reflexão para que elas sejam utilizadas de forma adequada. Meu desejo é que elas sejam utilizadas de uma maneira que a gente possa ter, não um uso desenfreado, mas sim, no mínimo, boas práticas, que permitam a utilização adequada dessas ferramentas. Por exemplo, as ferramentas de IA não podem tomar decisões sobre questões de saúde de forma autônoma. Por isso que é preciso sempre ter a presença de um profissional de saúde utilizando os dados gerados pela IA. Esse profissional, sim, precisa fazer o processo de tomada de decisão. E que não haja uma delegação para que esses sistemas assumam o controle das decisões.

Goldim palestra sobre o uso de Inteligência Artificial na medicina, no palco do Teatro Unisinos, durante o TEDx Salon 2025. DENER PEDRO/ BETA REDAÇÃO

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Leia também