Resumo: A criação do Painel Científico Internacional Independente sobre Inteligência Artificial das Nações Unidas representa uma tentativa inédita de organizar uma base científica comum para a governança global da inteligência artificial. Seu primeiro relatório preliminar reconhece simultaneamente as oportunidades da IA para a ciência, a saúde, a educação e o desenvolvimento econômico e os riscos associados à concentração tecnológica, à discriminação, à desinformação, ao deslocamento do trabalho e à crescente autonomia dos sistemas. Este ensaio argumenta que o Painel constitui um avanço importante, mas insuficiente. Embora apresente a IA como um sistema sociotécnico e reconheça as desigualdades internacionais, o relatório ainda corre o risco de tratar relações estruturais de poder como lacunas de capacidade que poderiam ser superadas apenas por acesso, qualificação e cooperação. Em diálogo com Sheila Jasanoff, Kate Crawford, Shakir Mohamed, Safiya Noble, Fernanda Bruno, Dora Kaufman, Tarcízio Silva e a literatura sobre IA em saúde, sustenta-se que a governança da inteligência artificial deve ir além da gestão de riscos tecnológicos. Ela precisa enfrentar a concentração de infraestrutura, a dependência tecnológica, a extração de dados, a reprodução algorítmica das desigualdades e a distribuição assimétrica da autoridade para definir quais riscos são aceitáveis. No campo da saúde, o problema torna-se particularmente evidente: desempenho computacional não equivale automaticamente a valor clínico, justiça sanitária ou fortalecimento dos sistemas públicos. Para países como o Brasil, a questão decisiva não é apenas como utilizar IA, mas como construir soberania tecnológica, capacidade pública de avaliação e formas democráticas de decidir quais sistemas devem ou não integrar políticas e serviços essenciais.
Palavras-chave: inteligência artificial; governança global; saúde digital; desigualdade; soberania tecnológica; ONU.
Introdução: um painel científico para uma tecnologia política
A criação do Painel Científico Internacional Independente sobre Inteligência Artificial da Organização das Nações Unidas constitui um acontecimento institucional relevante. Estabelecido pela Assembleia Geral em 2025 e apresentado como o primeiro organismo científico global dedicado exclusivamente à inteligência artificial, o Painel procura oferecer aos Estados uma base compartilhada de evidências sobre capacidades, oportunidades, riscos e impactos da IA. Seu relatório preliminar, publicado em julho de 2026, parte de uma constatação incontornável: as capacidades dos sistemas avançam mais rapidamente que os mecanismos públicos de compreensão, avaliação e controle.
Essa constatação, entretanto, admite pelo menos duas leituras. A primeira, predominante no debate tecnológico, interpreta o problema como uma corrida entre inovação e regulação: de um lado, sistemas cada vez mais capazes; de outro, governos que precisam acelerar normas, testes e salvaguardas. A segunda leitura, que orienta este ensaio, considera que a questão não é somente a velocidade do desenvolvimento técnico, mas a estrutura de poder dentro da qual esse desenvolvimento acontece. A IA não avança por conta própria. Ela é produzida por empresas, financiada por Estados e investidores, alimentada por dados, sustentada por infraestruturas materiais e implementada em instituições atravessadas por desigualdades históricas.
O mérito inicial do relatório é recusar tanto o entusiasmo tecnossolucionista quanto o catastrofismo simplista. A IA aparece como fonte potencial de ganhos científicos, médicos e produtivos, mas também como instrumento capaz de intensificar vigilância, discriminação, concentração econômica e manipulação informacional. O problema é que equilibrar discursivamente oportunidades e riscos não resolve a disputa política sobre quem captura as oportunidades e quem suporta os riscos.
A contribuição mais importante do Painel talvez não seja, portanto, fornecer uma resposta definitiva, mas institucionalizar uma pergunta: quem possui autoridade científica, econômica e política para definir o futuro da inteligência artificial?
1. A autoridade científica e os limites da neutralidade
A criação de um painel internacional pode reduzir a assimetria informacional entre os países que desenvolvem os sistemas mais avançados e aqueles que apenas os importam. Muitos governos não possuem laboratórios, capacidade computacional ou equipes técnicas capazes de verificar declarações feitas pelas próprias empresas desenvolvedoras. Um organismo multilateral pode, nesse sentido, funcionar como infraestrutura pública de conhecimento.
Contudo, uma avaliação científica jamais é apenas a acumulação neutra de fatos. Escolher quais riscos devem ser investigados, quais estudos são considerados robustos e quais horizontes temporais merecem prioridade envolve julgamentos normativos. Uma análise concentrada na possibilidade futura de sistemas extremamente autônomos produzirá uma agenda diferente daquela centrada nos trabalhadores invisibilizados que classificam dados, nas comunidades submetidas à vigilância biométrica ou nas populações afetadas por decisões automatizadas.
Jasanoff (2003) propõe que, diante de sistemas sociotécnicos complexos, as instituições substituam "tecnologias de arrogância", baseadas na pretensão de previsão e controle completos, por "tecnologias de humildade". Isso significa reconhecer incertezas, explicitar os limites do conhecimento e incorporar os grupos afetados à definição dos problemas. A função de um painel científico não deveria ser apenas calcular probabilidades, mas tornar visíveis as diferentes formas de vulnerabilidade e os distintos valores sociais em disputa.
O desafio do Painel da ONU será demonstrar que sua independência não se resume à atuação pessoal de seus integrantes. A legitimidade do organismo dependerá da transparência sobre seleção bibliográfica, conflitos de interesse, critérios de consenso, posições divergentes e dependência de informações fornecidas pela indústria. Em um campo no qual os sistemas mais avançados são privados e suas características técnicas são protegidas por segredos comerciais, a ciência pública frequentemente avalia objetos que não pode inspecionar integralmente.
Nesse cenário, "basear a política em evidências" não pode significar aguardar certeza científica absoluta. A ausência de evidência conclusiva pode decorrer não da inexistência do risco, mas da opacidade das empresas, da insuficiência de estudos independentes ou da falta de acesso aos sistemas. A incerteza deve ser tratada como parte do problema político, e não como justificativa automática para a inação.
2. A IA não é uma ferramenta: é uma infraestrutura de poder
Um dos riscos das narrativas sobre inteligência artificial é representar seus sistemas como ferramentas abstratas, quase imateriais. Nessa concepção, os benefícios ou danos dependeriam principalmente da intenção de quem os utiliza. Crawford (2021) contesta essa visão ao demonstrar que a IA é uma indústria material e extrativa, dependente de minerais, energia, água, trabalho, dados e infraestrutura computacional. A inteligência artificial não existe apenas nos modelos: existe também nas minas, nos centros de dados, nas cadeias logísticas, nas plataformas de trabalho e nas relações de propriedade que sustentam sua produção.
A contribuição brasileira de Fernanda Bruno permite aprofundar essa análise. Seus estudos sobre vigilância mostram que as tecnologias digitais não apenas observam indivíduos já constituídos. Elas classificam comportamentos, produzem perfis, antecipam condutas e interferem na própria formação das subjetividades. O poder algorítmico não consiste somente em saber mais sobre as pessoas, mas em construir ambientes nos quais determinadas escolhas, identidades e trajetórias se tornam mais prováveis que outras (BRUNO, 2013).
Esse deslocamento é fundamental. Quando um sistema recomenda conteúdos, classifica um paciente, calcula um risco ou seleciona uma candidatura, ele não está apenas descrevendo o mundo. Está participando de sua organização. Sistemas algorítmicos distribuem visibilidade, atenção, oportunidades, suspeitas e recursos.
Selbst et al. (2019) demonstram que problemas de justiça não podem ser resolvidos isolando o algoritmo do sistema social no qual ele opera. A tentativa de converter desigualdades complexas em métricas técnicas frequentemente produz "armadilhas de abstração": o sistema otimiza uma variável mensurável e ignora as instituições, relações históricas e práticas sociais que dão sentido àquela variável.
A mesma advertência está presente na literatura brasileira. Kaufman (2024) caracteriza a IA como uma tecnologia de propósito geral capaz de reconfigurar economias, organizações e relações sociais. Por isso, sustenta que a regulação é necessária, mas insuficiente: normas jurídicas precisam ser combinadas com supervisão, auditabilidade, padrões técnicos e mecanismos permanentes de governança.
O ponto crítico é que princípios como transparência, equidade e responsabilidade podem permanecer abstratos. Uma empresa pode declarar compromisso com a ética sem revelar dados, permitir auditorias externas ou assumir responsabilidade pelos danos. Raji et al. (2020) mostram que a accountability exige procedimentos distribuídos por todo o ciclo de vida: definição do problema, composição dos dados, desenvolvimento, validação, implantação, monitoramento e retirada do sistema. Auditoria não deve ser um ritual realizado ao final, mas uma arquitetura institucional contínua.
3. A desigualdade global não é somente uma lacuna de acesso
O relatório da ONU reconhece a concentração da capacidade computacional, dos modelos avançados e das infraestruturas de IA em poucas empresas e países. Esse diagnóstico é indispensável, mas sua interpretação exige cuidado. Caso a desigualdade seja compreendida apenas como uma "divisão digital", a solução tenderá a se restringir à expansão do acesso, à capacitação profissional e à transferência de tecnologias.
O acesso, contudo, pode aprofundar a dependência. Um país pode ampliar o uso de IA enquanto perde capacidade de decidir como seus dados são processados, quais valores orientam os sistemas, onde a infraestrutura está localizada e quais critérios determinam atualizações ou interrupções do serviço. Ser consumidor intensivo de tecnologias estrangeiras não equivale a possuir soberania tecnológica.
Mohamed, Png e Isaac (2020) propõem uma abordagem decolonial da IA justamente para deslocar o debate da inclusão passiva para a redistribuição de poder. Para os autores, o colonialismo algorítmico aparece na extração de dados, na divisão internacional do trabalho digital, na imposição de categorias produzidas em centros tecnológicos e na marginalização de outros sistemas de conhecimento.
No contexto brasileiro, Tarcízio Silva (2022) mostra que o racismo algorítmico não deve ser compreendido como simples erro de programação. Ele representa uma atualização tecnológica de relações estruturais, na medida em que bancos de dados, classificações e imaginários sociotécnicos são construídos em sociedades racialmente hierarquizadas. A aparente neutralidade matemática pode conferir legitimidade renovada a desigualdades antigas.
Essa perspectiva dialoga com Noble (2018) e Benjamin (2019), para quem as tecnologias de classificação podem reproduzir opressões precisamente porque são apresentadas como objetivas, eficientes e despolitizadas. A automação não elimina os valores sociais: ela pode ocultá-los dentro de sistemas tecnicamente complexos.
O Painel da ONU deve, portanto, evitar que a representação geográfica de seus integrantes seja confundida com pluralidade epistemológica substantiva. Incluir pesquisadores do Sul Global é necessário, mas não suficiente. É preciso incorporar problemas, conceitos e prioridades produzidos nesses contextos. Para países como o Brasil, Índia, África do Sul ou Indonésia, a agenda de IA envolve não somente segurança de modelos avançados, mas infraestrutura pública, desigualdade territorial, trabalho precarizado, diversidade linguística, autonomia regulatória e capacidade de orientar a tecnologia para políticas universais.
4. A saúde como teste decisivo
A saúde é talvez o campo no qual as promessas e contradições da inteligência artificial se tornam mais evidentes. Sistemas de IA podem auxiliar a interpretação de imagens, identificar padrões em grandes bases de dados, apoiar a pesquisa farmacêutica, reduzir tarefas administrativas e ampliar capacidades diagnósticas. Topol (2019) argumenta que a convergência entre inteligência humana e artificial pode melhorar fluxos assistenciais e reduzir erros, mas reconhece riscos relacionados à privacidade, ao viés, à segurança e à perda de transparência.
A questão central é que bom desempenho computacional não equivale automaticamente a benefício clínico. Um sistema pode alcançar alta acurácia em um banco de dados e falhar quando utilizado em outra população, instituição ou região. Pode também melhorar um indicador intermediário sem produzir melhores resultados de saúde.
O estudo de Obermeyer et al. (2019) tornou-se uma referência justamente porque revelou como um algoritmo utilizado na gestão de saúde reproduzia desigualdades raciais. O sistema empregava gastos médicos como indicador das necessidades de saúde. Como pacientes negros historicamente recebiam menos recursos e serviços, o algoritmo interpretava menores gastos como menor necessidade clínica. O viés não resultava de uma variável racial explicitamente discriminatória, mas da escolha de um proxy aparentemente neutro.
O caso confirma a crítica de Selbst et al. (2019): não basta examinar a fórmula. É necessário compreender o contexto institucional e a história social dos dados. Em uma sociedade desigual, prever o passado com grande precisão pode significar reproduzir a desigualdade com maior eficiência.
As diretrizes da Organização Mundial da Saúde estabelecem que a IA em saúde deve proteger autonomia, segurança, transparência, responsabilidade, inclusão e sustentabilidade. A OMS também ressalta que ética e direitos humanos devem estar presentes desde a concepção até a utilização dos sistemas, e não ser acrescentados posteriormente como mecanismo de legitimação.
Wiens et al. (2019), por sua vez, defendem que o princípio médico de não causar dano deve orientar todas as etapas do aprendizado de máquina em saúde. Isso envolve formular um problema clinicamente relevante, utilizar dados adequados, validar o sistema no contexto real de uso, avaliar consequências não intencionais e monitorar seu desempenho após a implantação.
No SUS, essa discussão adquire características próprias. A finalidade de um sistema público universal não é apenas maximizar eficiência individual, mas promover integralidade, equidade e acesso. Um algoritmo que reduz custos pode simultaneamente excluir pacientes complexos. Uma tecnologia que melhora o atendimento em hospitais altamente digitalizados pode ampliar a distância em relação a municípios com infraestrutura precária. Um modelo treinado em dados privados pode não representar adequadamente a população atendida pela atenção básica.
A governança da IA no SUS deveria partir de perguntas institucionais: qual problema sanitário será enfrentado? A tecnologia é realmente necessária? Quem participou da escolha? Quais populações estão ausentes dos dados? O sistema foi validado regionalmente? Existe alternativa pública ou aberta? Quem responde pelo erro? Profissionais e usuários podem contestar a decisão? O sistema poderá ser suspenso?
A tecnologia deve ser avaliada não apenas por sua precisão, mas por sua contribuição ao direito à saúde.
5. Do principialismo à capacidade institucional
O relatório do Painel da ONU possui mandato científico e procura evitar recomendações políticas excessivamente prescritivas. Essa posição pode favorecer sua aceitação entre Estados com interesses divergentes. Contudo, também produz uma limitação: diagnósticos podem se acumular sem se converter em instituições capazes de modificar condutas.
A experiência recente da ética da IA demonstra a proliferação de princípios e declarações. Transparência, justiça, responsabilidade e supervisão humana aparecem repetidamente em documentos públicos e privados. O problema não é a falta de princípios, mas a ausência de condições para aplicá-los.
Uma governança efetiva exige, ao menos:
- avaliação de impacto algorítmico antes da adoção;
- documentação dos dados e das limitações dos modelos;
- auditoria independente;
- comunicação obrigatória de incidentes;
- monitoramento após a implantação;
- canais de contestação e reparação;
- regras específicas para compras públicas;
- proteção dos trabalhadores afetados;
- participação das comunidades;
- capacidade estatal de suspender ou retirar sistemas inseguros.
Esses mecanismos não devem ser reduzidos a conformidade burocrática. Uma avaliação de impacto controlada exclusivamente pela organização que implantará o sistema pode tornar-se exercício de autolegitimação. A independência das auditorias, a publicidade das conclusões e a participação dos afetados são condições fundamentais.
Também é necessário distinguir transparência de inteligibilidade. A divulgação de milhares de páginas de documentação técnica pode cumprir formalmente uma obrigação sem permitir controle social efetivo. A questão não é somente abrir a "caixa-preta", mas fornecer informações adequadas a reguladores, profissionais, usuários e pesquisadores.
6. O desafio brasileiro: da adoção à soberania
O Brasil possui vantagens importantes: um sistema universal de saúde, instituições científicas consolidadas, tradição em saúde pública, capacidade regulatória, infraestrutura nacional de dados e experiência em cooperação multilateral. Ao mesmo tempo, enfrenta desigualdades regionais, dependência de fornecedores estrangeiros, fragmentação informacional, limitações de infraestrutura e escassez de especialistas no setor público.
Uma política brasileira de IA não pode limitar-se a incentivar inovação empresarial ou importar modelos. Ela deve construir capacidade pública de formular problemas, contratar tecnologias, avaliar riscos e desenvolver soluções próprias. Isso não significa buscar autarquia tecnológica, mas reduzir dependências que impeçam decisões soberanas.
Na saúde, soberania tecnológica envolve controlar finalidades, padrões e condições de utilização dos dados; garantir que modelos possam ser auditados; desenvolver infraestrutura pública ou compartilhada; apoiar pesquisa nacional; formar servidores e profissionais; e participar da definição de padrões internacionais.
O Brasil também pode oferecer uma contribuição normativa ao debate global. O SUS demonstra que inovação em saúde pode ser orientada por universalidade, equidade e responsabilidade pública, e não apenas por rentabilidade ou personalização do consumo. A experiência brasileira permite sustentar que a governança da IA deve ser julgada pela capacidade de ampliar direitos e fortalecer sistemas públicos.
Considerações finais
O primeiro relatório do Painel Científico da ONU representa uma conquista institucional: reconhece que a inteligência artificial se tornou questão global e que sua governança não pode depender exclusivamente das empresas que desenvolvem os sistemas ou dos poucos Estados que concentram infraestrutura computacional.
Entretanto, a autoridade científica do Painel precisará ser acompanhada de reflexividade política. A IA não é uma força externa que chega à sociedade trazendo benefícios e riscos. Ela é produzida dentro de relações econômicas, geopolíticas, raciais e institucionais específicas.
A principal insuficiência das abordagens dominantes de governança é transformar conflitos políticos em problemas técnicos. Discriminação torna-se viés estatístico; concentração econômica torna-se lacuna de acesso; exploração torna-se déficit de qualificação; dependência torna-se atraso na adoção; e decisões sobre direitos tornam-se exercícios de otimização.
Uma governança democrática deve realizar o movimento contrário: devolver à política aquilo que foi apresentado como inevitabilidade tecnológica.
A pergunta fundamental não é até onde a IA poderá chegar, mas quais sociedades estão sendo construídas por meio dela. Também não basta perguntar se um sistema funciona. É necessário perguntar para quem funciona, segundo quais critérios, sob o controle de quem, com quais recursos e às custas de quais pessoas.
No campo da saúde, essa distinção é decisiva. A IA pode contribuir para a ciência e para o cuidado, mas somente produzirá valor público quando estiver subordinada aos direitos, às necessidades sanitárias e às instituições democráticas. Sem essa subordinação, a eficiência algorítmica poderá modernizar precisamente as desigualdades que deveria combater.
Referências
BENDER, Emily M. et al. On the dangers of stochastic parrots: can language models be too big? In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 2021. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2021. p. 610–623. DOI: 10.1145/3442188.3445922.
BENJAMIN, Ruha. Race after technology: abolitionist tools for the New Jim Code. Cambridge, UK; Medford, MA: Polity, 2019.
BRUNO, Fernanda. Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Porto Alegre: Sulina, 2013.
CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.
JASANOFF, Sheila. Technologies of humility: citizen participation in governing science. Minerva, Dordrecht, v. 41, n. 3, p. 223–244, 2003. DOI: 10.1023/A:1025557512320.
KAUFMAN, Dora. Lógica e fundamentos da inteligência artificial e reações da sociedade para maximizar benefícios e mitigar danos. Filosofia Unisinos, São Leopoldo, v. 25, n. 1, p. 1–13, 2024. DOI: 10.4013/fsu.2024.251.10.
MOHAMED, Shakir; PNG, Marie-Therese; ISAAC, William. Decolonial AI: decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy & Technology, Dordrecht, v. 33, p. 659–684, 2020. DOI: 10.1007/s13347-020-00405-8.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York: New York University Press, 2018.
OBERMEYER, Ziad et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, Washington, DC, v. 366, n. 6464, p. 447–453, 2019. DOI: 10.1126/science.aax2342.
RAJI, Inioluwa Deborah et al. Closing the AI accountability gap: defining an end-to-end framework for internal algorithmic auditing. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 2020. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2020. p. 33–44. DOI: 10.1145/3351095.3372873.
SELBST, Andrew D. et al. Fairness and abstraction in sociotechnical systems. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 2019. Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2019. p. 59–68. DOI: 10.1145/3287560.3287598.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
TOPOL, Eric J. High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, London, v. 25, p. 44–56, 2019. DOI: 10.1038/s41591-018-0300-7.
UNITED NATIONS. Independent International Scientific Panel on Artificial Intelligence. Preliminary report of the Independent International Scientific Panel on Artificial Intelligence: evidence-based assessment of opportunities, risks and impacts of AI. New York: United Nations, 2026.
WIENS, Jenna et al. Do no harm: a roadmap for responsible machine learning for health care. Nature Medicine, London, v. 25, p. 1337–1340, 2019. DOI: 10.1038/s41591-019-0548-6.
WORLD HEALTH ORGANIZATION. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization, 2021.
