O Futuro das Inteligências Artificiais

 A corrida pela inteligência artificial explicável (XAI) deixou de ser apenas um problema técnico. Hoje, ela é uma exigência regulatória — vide o EU AI Act — e uma demanda ética urgente, especialmente quando algoritmos tomam decisões em saúde, justiça ou políticas ambientais.

Mas explicar por que uma IA chegou a uma decisão ainda é um desafio em aberto. Métricas estatísticas como SHAP, LIME ou Feature Importance não respondem a perguntas causais. Elas medem correlação, não causação. O resultado? Sistemas opacos, difíceis de auditar e praticamente inúteis quando precisamos responsabilizar algoritmos por decisões.

Neste artigo, proponho uma abordagem técnico-filosófica robusta para resolver essa lacuna: o uso de GFlowNets (Redes de Fluxo Generativo) em conjunto com estruturas neuro-simbólicas, ancoradas em métricas causais formais e diretrizes normativas como o padrão ISO 690 e os princípios FAIR.

O Problema: Correlacionar Não É Explicar

Imagine um modelo que relaciona o aumento de CO₂ com o aumento da temperatura média global. Ele pode ter acurácia alta, R² elevado e parecer convincente. Mas sem evidência de que o CO₂ causa a elevação da temperatura (e não é apenas uma proxy), esse modelo é inútil do ponto de vista explicativo e normativo.

Este é o chamado "confundimento estrutural", um vício que ocorre quando variáveis correlacionadas escondem relações causais latentes. Para resolver isso, precisamos de algo além da estatística padrão. Precisamos de inferência causal.

A Solução: GFlowNets + Causalidade Estrutural

GFlowNets, ou Generative Flow Networks, são uma arquitetura proposta por Bengio et al. que modela distribuições estruturais baseadas em caminhos de geração de decisões. Diferente de redes bayesianas ou MCMC, elas exploram o espaço de políticas ou decisões como um fluxo, permitindo modelar múltiplas trajetórias causais com balanceamento energético.

Essa abordagem permite construir explicações que não são apenas localmente fiéis (como LIME), mas globalmente consistentes com uma estrutura causal postulada. Ou seja, podemos usar GFlowNets para identificar trajetórias causais plausíveis que levaram a uma decisão de IA — mesmo em modelos opacos como redes neurais profundas.

Ao integrarmos sistemas neuro-simbólicos — que combinam aprendizado profundo com lógica simbólica (ex: DeepProbLog) — conseguimos elevar ainda mais o grau de auditabilidade. O resultado é uma IA que explica o que fez, por que fez e o que teria acontecido se tivesse feito diferente.

Métricas Técnicas: CAS, E-value e Explanation Fidelity

Não basta propor ferramentas. É preciso medir sua efetividade. Eis três métricas que usamos:

CAS (Causal Adequacy Score): mede o quão bem a explicação obtida alinha-se com relações causais esperadas.

E-value (Value of Evidence): quantifica a força de uma relação causal como evidência contrafactual.

EF (Explanation Fidelity): avalia a consistência entre a explicação gerada e o comportamento real do modelo.

Exemplo prático: em um modelo climático, encontramos uma correlação espúria entre chuvas e desmatamento. Ao aplicar GFlowNets com inferência causal e simulações contrafactuais, obtivemos um CAS de 0.91 para a variável CO₂, e apenas 0.31 para "chuvas intensas". Resultado? Uma explicação tecnicamente auditável, com robustez causal mensurada.

A IA do futuro será causal, audível e explicável.