A regulação da explicabilidade algorítmica na saúde: entre a transparência clínica e a responsabilidade jurídica

Abstract

Este artigo investiga o papel da explicabilidade algorítmica na regulação da inteligência artificial aplicada à saúde. Diante da crescente adoção de sistemas automatizados em processos diagnósticos e terapêuticos, argumenta-se que a opacidade desses sistemas compromete a autonomia dos pacientes, a transparência clínica e a responsabilização jurídica. O objetivo do estudo é demonstrar que a explicabilidade deve ser tratada como requisito técnico, ético e jurídico central na construção de um arcabouço regulatório brasileiro eficaz. A metodologia utilizada é de caráter qualitativo, com base em revisão bibliográfica nacional e internacional, análise comparada dos marcos regulatórios da União Europeia, Estados Unidos e OMS, e estudo crítico da legislação brasileira vigente. O artigo propõe diretrizes normativas para o contexto brasileiro, incluindo a Uso exclusivo – Proibida a veiculação classificação por risco, a exigência de relatórios de explicação, a governança algorítmica interinstitucional e a capacitação técnica. Conclui-se que a explicabilidade algorítmica deve ser reconhecida como um princípio estruturante da regulação sanitária contemporânea, essencial para garantir a responsabilização jurídica, o direito à informação e a legitimidade das decisões automatizadas na saúde digital.