A method-selection chapter for explaining validated predictive models through global importance, local attribution, response profiles, instance-level effects, accumulated effects, and extracted decision rules.
Un capítulo de selección de métodos para explicar modelos predictivos validados mediante importancia global, atribución local, perfiles de respuesta, efectos por instancia, efectos acumulados y reglas de decisión extraídas.
Module III principlePrincipio del Módulo IIIExplanation methods are selected only after a predictive model has been validated. They explain model behavior—not necessarily the real-world mechanism.Los métodos de explicación se seleccionan solamente después de validar un modelo predictivo. Explican el comportamiento del modelo, no necesariamente el mecanismo real.
Module progress · Chapter 7 of 9Progreso del módulo · Capítulo 7 de 9
Black-box rule of the chapter
Regla de caja negra del capítulo
Assume that an ESS has declared explanation evidence as Conditional and that a predictive model has already passed the Module III prediction gate.Asumir que un ESS declaró evidencia de explicación como Condicional y que un modelo predictivo ya superó la puerta de predicción del Módulo III.
The chapter does not yet know the implementation. Its responsibility is to determine whether the explanation need is global or local, model-specific or model-agnostic, feature-level or rule-level, additive or profile-based, and whether correlated predictors, interactions, extrapolation, and explanation instability can be controlled.
El capítulo todavía no conoce la implementación. Su responsabilidad es determinar si la necesidad explicativa es global o local, específica o agnóstica al modelo, por variable o por regla, aditiva o basada en perfiles, y si pueden controlarse predictores correlacionados, interacciones, extrapolación e inestabilidad.
Boundary: explanation methods describe how a fitted model uses inputs. They do not automatically reveal causal effects, biological mechanisms, human reasoning, or the true process that generated the data.Frontera: los métodos de explicación describen cómo un modelo ajustado utiliza las entradas. No revelan automáticamente efectos causales, mecanismos biológicos, razonamiento humano ni el proceso real que generó los datos.
Chapter learning objectives
Objetivos de aprendizaje del capítulo
Define explanation evidenceDefinir evidencia explicativaSeparate global behavior, local attribution, response profile, interaction, and rule extraction.Separar comportamiento global, atribución local, perfil de respuesta, interacción y extracción de reglas.
Validate explanation eligibilityValidar elegibilidad explicativaExplain only models that already generalize and satisfy prediction requirements.Explicar solamente modelos que ya generalizan y cumplen requisitos predictivos.
Match method to explanation questionAlinear método con pregunta explicativaDistinguish attribution, local surrogate, global profile, individual profile, accumulated effect, importance, and rules.Distinguir atribución, sustituto local, perfil global, perfil individual, efecto acumulado, importancia y reglas.
Select conditionallySeleccionar condicionalmenteChoose the explanation method that matches the validated model and intended audience.Elegir el método explicativo que corresponde con el modelo validado y la audiencia prevista.
1. What does it mean to produce explanation evidence?
1. ¿Qué significa producir evidencia de explicación?
Producing explanation evidence means creating a defensible description of how a validated model transforms its inputs into predictions, either across the full model, for one observation, for one feature, for an interaction, or through simplified decision rules.
Producir evidencia de explicación significa crear una descripción defendible de cómo un modelo validado transforma entradas en predicciones, ya sea globalmente, para una observación, para una variable, para una interacción o mediante reglas simplificadas.
Global importanceImportancia globalWhich variables matter most to the model overall?¿Qué variables importan más globalmente?
Local attributionAtribución localWhy did the model produce this prediction?¿Por qué el modelo produjo esta predicción?
Global responseRespuesta globalHow does predicted output change as one feature changes?¿Cómo cambia la predicción al cambiar una variable?
Individual responseRespuesta individualHow does one observation’s prediction react to feature changes?¿Cómo reacciona la predicción de una observación?
Accumulated effectEfecto acumuladoWhat local average effect appears while respecting feature dependence?¿Qué efecto promedio local aparece respetando dependencia entre variables?
Rule explanationExplicación por reglasCan behavior be represented by human-readable conditions?¿Puede representarse el comportamiento con condiciones legibles?
Explaining an invalid or poorly generalizing model gives precise explanations of unreliable behavior.Explicar un modelo inválido produce explicaciones precisas de comportamiento poco fiable.
Global importance, local attribution, feature effect, and rule extraction are not interchangeable.Importancia global, atribución local, efecto de variable y reglas no son intercambiables.
Reference or baseline definitionReferencia o línea base
Many attribution methods depend on the chosen background or expected prediction.Muchos métodos de atribución dependen del fondo o predicción esperada elegidos.
Feature dependence strategyEstrategia de dependencia entre variables
Correlated predictors can make explanations unstable or unrealistic.Predictores correlacionados pueden volver explicaciones inestables o irreales.
Locality definitionDefinición de localidad
Local surrogate and neighborhood-based explanations depend on what “near” means.Explicaciones locales dependen de qué significa “cerca”.
Model-access levelNivel de acceso al modelo
Some methods require internal model structure; others need only predictions.Algunos métodos requieren estructura interna; otros solo predicciones.
Stability and fidelityEstabilidad y fidelidad
An explanation must be reproducible and faithful to the model in the intended region.Una explicación debe ser reproducible y fiel al modelo en la región prevista.
Audience and decision useAudiencia y uso decisional
Technical debugging, governance, clinicians, executives, and end users require different explanation forms.Depuración, gobernanza, clínicos, ejecutivos y usuarios requieren formas distintas.
3. Method-selection map by explanation configuration
3. Mapa de selección por configuración explicativa
Additive local and global feature attributionAtribución aditiva local y global
SHAP
Local model-agnostic explanation around one observationExplicación local agnóstica alrededor de una observación
LIME
Average global prediction response to one or two featuresRespuesta predictiva global promedio ante una o dos variables
Partial Dependence
Observation-level heterogeneity in feature responseHeterogeneidad individual en respuesta a variables
ICE
Feature effect under correlated predictors with local averagingEfecto de variable bajo predictores correlacionados y promedio local
ALE
Global ranking of predictive contributionRanking global de contribución predictiva
Feature Importance
Human-readable approximation through rulesAproximación legible mediante reglas
Rule Extraction
No universal explanation winner: local attribution, global effect, importance, and rule extraction answer different explanation questions.No existe ganador explicativo universal: atribución local, efecto global, importancia y reglas responden preguntas distintas.
4. Standard method card
4. Ficha estándar del método
Method Name
Scientific Purpose
Evidence Produced
Best Explanation Configuration
Model Access Requirements
Global / Local Scope
Strengths
Weaknesses
Assumptions
Limitations
Computational Cost
Interpretability
Robustness
Critical Parameters
Validation Metrics
Acceptance Interpretation
Failure Modes
Complementary Methods
Module III Selection Status
5. SHAP
5. SHAP
Scientific purposePropósito científico
Attribute a prediction to feature contributions using Shapley-value principles.Atribuir una predicción a contribuciones de variables mediante principios de valores de Shapley.
Evidence producedEvidencia producida
Local additive contributions that can be aggregated into global summaries.Contribuciones aditivas locales que pueden agregarse en resúmenes globales.
Best configurationMejor configuración
Validated models requiring local attribution, global importance, direction, and interaction exploration.Modelos validados que requieren atribución local, importancia global, dirección e interacciones.
StrengthsFortalezas
Unified local/global framework, additive consistency, and broad model support.Marco unificado local/global, consistencia aditiva y amplio soporte de modelos.
WeaknessesDebilidades
Computational cost, baseline dependence, correlated-feature ambiguity, and risk of overinterpretation.Costo computacional, dependencia de línea base, ambigüedad con variables correlacionadas y riesgo de sobreinterpretación.
AssumptionsSupuestos
A valid model, defensible background distribution, and an explicit treatment of feature dependence.Modelo válido, distribución de referencia defendible y tratamiento explícito de dependencia entre variables.
Additivity check, stability across background samples, consistency across folds/seeds, local fidelity.
Failure modesModos de fallo
Unrealistic feature coalitions, unstable baselines, correlated-variable credit splitting, and causal interpretation.Combinaciones irreales, líneas base inestables, reparto de crédito entre correlacionadas e interpretación causal.
Complementary methodsMétodos complementarios
ALE, PDP, permutation importance, domain review.
6. LIME
6. LIME
Scientific purposePropósito científico
Explain one prediction through a simple surrogate model fitted near the observation.Explicar una predicción mediante un modelo sustituto simple ajustado cerca de la observación.
Evidence producedEvidencia producida
Local feature weights or rules approximating model behavior around one instance.Pesos o reglas locales que aproximan el comportamiento alrededor de una instancia.
Best configurationMejor configuración
Model-agnostic local explanation when prediction access exists but model internals may not.Explicación local agnóstica cuando hay acceso a predicciones pero no necesariamente a la estructura interna.
StrengthsFortalezas
Flexible, local, model-agnostic, and easy to communicate.Flexible, local, agnóstico al modelo y fácil de comunicar.
WeaknessesDebilidades
Sensitive to neighborhood sampling, kernel width, discretization, and random seed.Sensible a muestreo local, ancho de kernel, discretización y semilla.
AssumptionsSupuestos
The complex model is approximately simple within the chosen local neighborhood.El modelo complejo es aproximadamente simple dentro de la vecindad elegida.
Critical parametersParámetros críticos
Kernel width, perturbation distribution, number of samples, surrogate complexity.
Validation metricsMétricas de validación
Local surrogate fidelity, stability across seeds, neighborhood sensitivity, sparsity.
Failure modesModos de fallo
Unrealistic perturbations, unstable explanations, weak local fidelity, and global overgeneralization.Perturbaciones irreales, explicaciones inestables, baja fidelidad local y generalización global.
Show the average predicted response as one or two features vary while averaging over other features.Mostrar la respuesta predictiva promedio al variar una o dos variables y promediar las demás.
Evidence producedEvidencia producida
A global response profile for one feature or feature pair.Un perfil global de respuesta para una variable o par.
Best configurationMejor configuración
Global model-behavior summaries when feature independence is plausible or extrapolation is controlled.Resúmenes globales cuando independencia de variables es plausible o extrapolación está controlada.
StrengthsFortalezas
Intuitive global visualization and broad model-agnostic applicability.Visualización global intuitiva y amplia aplicabilidad agnóstica.
WeaknessesDebilidades
Can average away heterogeneity and create unrealistic combinations under correlated predictors.Puede ocultar heterogeneidad y crear combinaciones irreales con predictores correlacionados.
AssumptionsSupuestos
Feature interventions remain within supported regions and averaging is scientifically meaningful.Las intervenciones permanecen dentro del soporte y el promedio es científicamente significativo.
Support coverage, bootstrap stability, comparison with ICE/ALE, interaction sensitivity.
Failure modesModos de fallo
Extrapolation, correlation bias, hidden subgroup effects, and treating profile shape as causal effect.Extrapolación, sesgo por correlación, efectos ocultos de subgrupo y tratar perfil como efecto causal.
Complementary methodsMétodos complementarios
ICE, ALE, SHAP dependence plots.
8. Individual Conditional Expectation (ICE)
8. Expectativa Condicional Individual (ICE)
Scientific purposePropósito científico
Display how each observation’s prediction changes as a selected feature varies.Mostrar cómo cambia la predicción de cada observación al variar una variable.
Evidence producedEvidencia producida
A collection of individual response curves revealing heterogeneity and interactions.Una colección de curvas individuales que revela heterogeneidad e interacciones.
Best configurationMejor configuración
Models where average PDP effects may hide subgroups or interactions.Modelos donde PDP promedio puede ocultar subgrupos o interacciones.
StrengthsFortalezas
Reveals individual heterogeneity and interaction patterns hidden by averaging.Revela heterogeneidad individual e interacciones ocultas por promedios.
WeaknessesDebilidades
Can become visually dense, inherits extrapolation problems, and may be difficult to summarize.Puede ser visualmente denso, hereda extrapolación y puede ser difícil de resumir.
AssumptionsSupuestos
The varied feature values are plausible for each observation and model predictions are valid in that region.Los valores variados son plausibles para cada observación y las predicciones son válidas en esa región.
Critical parametersParámetros críticos
Grid, centered ICE option, sample selection, grouping or clustering of curves.
Validation metricsMétricas de validación
Curve stability, support diagnostics, subgroup consistency, comparison with PDP/ALE.
Failure modesModos de fallo
Unsupported counterfactual values, visual overload, sample cherry-picking, and causal interpretation.Valores contrafactuales no soportados, sobrecarga visual, selección sesgada de casos e interpretación causal.
Complementary methodsMétodos complementarios
PDP, ALE, SHAP interaction analysis.
9. Accumulated Local Effects (ALE)
9. Efectos Locales Acumulados (ALE)
Scientific purposePropósito científico
Estimate average local changes in prediction across observed feature intervals and accumulate them into a global effect curve.Estimar cambios locales promedio en predicción a través de intervalos observados y acumularlos en una curva global.
Evidence producedEvidencia producida
A centered global feature-effect profile designed to reduce extrapolation under correlated predictors.Un perfil global centrado diseñado para reducir extrapolación con predictores correlacionados.
Best configurationMejor configuración
Global feature-effect explanation when predictors are correlated and PDP may be misleading.Explicación global cuando predictores están correlacionados y PDP puede ser engañoso.
StrengthsFortalezas
Uses local changes in observed regions, reduces unrealistic extrapolation, and is model agnostic.Usa cambios locales en regiones observadas, reduce extrapolación irreal y es agnóstico.
WeaknessesDebilidades
Depends on binning and sample density; interpretation is less familiar than PDP.Depende de bins y densidad; su interpretación es menos familiar que PDP.
AssumptionsSupuestos
Sufficient observations within local intervals and a meaningful accumulation order.Observaciones suficientes dentro de intervalos locales y orden de acumulación significativo.
Critical parametersParámetros críticos
Number of intervals, quantile/equal-width bins, smoothing, centering.
Validation metricsMétricas de validación
Bin stability, bootstrap uncertainty, support density, comparison with PDP/ICE.
Failure modesModos de fallo
Sparse bins, unstable local differences, excessive smoothing, and interpreting accumulated effect as causal.Bins escasos, diferencias locales inestables, suavizado excesivo e interpretar efecto acumulado como causal.
Complementary methodsMétodos complementarios
PDP, ICE, SHAP dependence plots.
10. Feature Importance
10. Importancia de Variables
Scientific purposePropósito científico
Rank predictors by their contribution to model fit, split quality, or predictive performance.Ordenar predictores por su contribución al ajuste, calidad de división o rendimiento predictivo.
Evidence producedEvidencia producida
A global ranking or score of model reliance on features.Un ranking o puntuación global de dependencia del modelo respecto de variables.
Best configurationMejor configuración
High-level global screening, model debugging, and predictor prioritization.Exploración global, depuración y priorización de predictores.
StrengthsFortalezas
Simple summary, easy ranking, and broad availability across model classes.Resumen simple, ranking fácil y amplia disponibilidad.
WeaknessesDebilidades
Meaning varies by importance definition; correlated features and cardinality can distort rankings.El significado varía según definición; correlación y cardinalidad pueden distorsionar rankings.
AssumptionsSupuestos
The selected importance definition matches the scientific question and validation data are representative.La definición elegida corresponde con la pregunta y los datos de validación son representativos.
Critical parametersParámetros críticos
Importance type, validation set, permutation count, grouping of correlated variables.
Validation metricsMétricas de validación
Ranking stability, fold/seed consistency, grouped importance, predictive drop under permutation.
Failure modesModos de fallo
Impurity bias, correlated-feature dilution, leakage, unstable ranking, and equating importance with effect direction or causality.Sesgo de impureza, dilución por correlación, fuga, ranking inestable y confundir importancia con dirección o causalidad.
Approximate model behavior with human-readable if–then rules or compact decision structures.Aproximar el comportamiento con reglas si–entonces o estructuras decisionales compactas.
Evidence producedEvidencia producida
A simplified rule set describing important decision regions or model logic.Un conjunto simplificado de reglas que describe regiones importantes o lógica del modelo.
Best configurationMejor configuración
Governance, audit, communication, and operational use requiring compact decision logic.Gobernanza, auditoría, comunicación y uso operativo que requieren lógica compacta.
StrengthsFortalezas
Human-readable, actionable, and useful for policy or model approximation.Legible, accionable y útil para política o aproximación del modelo.
WeaknessesDebilidades
Simplification can reduce fidelity; rule sets can become unstable or overly complex.La simplificación puede reducir fidelidad; las reglas pueden ser inestables o complejas.
AssumptionsSupuestos
The model can be approximated sufficiently well by the chosen rule representation.El modelo puede aproximarse suficientemente bien con la representación elegida.
Critical parametersParámetros críticos
Maximum rule depth, number of rules, minimum support, fidelity threshold, pruning.
Validation metricsMétricas de validación
Fidelity to original model, coverage, rule stability, complexity, human comprehensibility.
Failure modesModos de fallo
Low-fidelity simplification, unstable thresholds, sparse rule support, cherry-picked rules, and causal interpretation.Simplificación de baja fidelidad, umbrales inestables, poco soporte, selección sesgada e interpretación causal.
Complementary methodsMétodos complementarios
SHAP, LIME, surrogate trees, expert review.
12. Conditional ranking of the top explanation methods
12. Ranking condicional de los principales métodos de explicación
Rank within configurationPosición dentro de la configuración
Ranks 1A–1G identify the preferred method inside different explanation questions. They do not define a universal hierarchy.Las posiciones 1A–1G identifican el método preferido dentro de preguntas explicativas distintas. No definen una jerarquía universal.
13. Validation metrics and acceptance interpretation
13. Métricas de validación e interpretación de aceptación
Validation dimensionDimensión de validación
Required evidenceEvidencia requerida
Model validityValidez del modelo
The explained model has already passed prediction validation.El modelo explicado ya superó validación predictiva.
FidelityFidelidad
The explanation accurately represents model behavior in the intended global or local scope.La explicación representa con precisión el comportamiento en el alcance previsto.
StabilityEstabilidad
Results remain defensible across seeds, samples, folds, baselines, and plausible parameters.Resultados defendibles entre semillas, muestras, folds, referencias y parámetros plausibles.
Support validityValidez del soporte
Explanations avoid unrealistic feature combinations and unsupported regions.Las explicaciones evitan combinaciones irreales y regiones sin soporte.
Correlation sensitivitySensibilidad a correlación
Attribution and effect conclusions remain defensible under correlated predictors.Conclusiones de atribución y efecto permanecen defendibles con predictores correlacionados.
Human usefulnessUtilidad humana
The explanation is understandable, actionable, and appropriately scoped for its audience.La explicación es comprensible, accionable y apropiada para su audiencia.
No universal “excellent explanation” score: explanation quality depends on fidelity, stability, scope, audience, support, and the consequences of misinterpretation.No existe puntuación universal de “explicación excelente”: la calidad depende de fidelidad, estabilidad, alcance, audiencia, soporte y consecuencias de malinterpretación.
14. Method selection protocol for explanation evidence
14. Protocolo de selección para evidencia explicativa
Confirm that the predictive model has passed Module III validation.
Confirmar que el modelo predictivo superó validación del Módulo III.
Read the ESS explanation question, intended audience, decision use, and required scope.
Leer pregunta explicativa, audiencia, uso y alcance requeridos por el ESS.
Classify the need as global importance, local attribution, global response, individual response, accumulated effect, or rule extraction.
Clasificar la necesidad como importancia global, atribución local, respuesta global, respuesta individual, efecto acumulado o reglas.
Determine model access, feature dependence, baseline, locality, support, and interaction constraints.
Determinar acceso al modelo, dependencia entre variables, referencia, localidad, soporte e interacciones.
Generate eligible explanation methods and define fidelity and stability tests.
Generar métodos elegibles y definir pruebas de fidelidad y estabilidad.
Compare interpretability, computation, global/local scope, correlation sensitivity, and audience usefulness.
Comparar interpretabilidad, cómputo, alcance, sensibilidad a correlación y utilidad.
Reject explanations that rely on unsupported combinations or unstable parameter choices.
Rechazar explicaciones que dependan de combinaciones sin soporte o parámetros inestables.
Record primary method, alternatives, reference definition, validation, and interpretation boundary in the MSS.
Registrar método principal, alternativas, referencia, validación y frontera interpretativa en el MSS.
15. Chapter workshop
15. Taller del capítulo
Case A: explain one prediction and also summarize global feature contributionsCaso A: explicar una predicción y resumir contribuciones globales
Primary candidate: SHAP, conditional on a defensible background set and correlated-feature strategy.Candidato principal: SHAP, condicionado a referencia defendible y estrategia para variables correlacionadas.
Case B: provide a simple local explanation for one black-box predictionCaso B: proporcionar una explicación local simple para una predicción de caja negra
Primary candidate: LIME, with repeated seeds, locality sensitivity, and surrogate-fidelity validation.Candidato principal: LIME, con semillas repetidas, sensibilidad de localidad y validación de fidelidad.
Case C: correlated predictors make PDP extrapolation unsafeCaso C: predictores correlacionados vuelven inseguro el PDP
Primary candidate: ALE, with bin sensitivity and bootstrap stability checks.Candidato principal: ALE, con sensibilidad a bins y estabilidad bootstrap.
Case D: governance requires a compact human-readable approximationCaso D: gobernanza requiere una aproximación compacta y legible
Primary candidate: Rule Extraction, conditional on fidelity, coverage, stability, and complexity limits.Candidato principal: Extracción de Reglas, condicionada a fidelidad, cobertura, estabilidad y límites de complejidad.
16. Chapter 7 MSS handoff template
16. Plantilla de entrega MSS del Capítulo 7
METHOD SELECTION SUMMARY — EXPLANATION
ESS Explanation Requirement ID:
Validated Predictive Model ID:
Model Validation Status:
Explanation Question:
Global / Local Scope:
Intended Audience:
Decision Use:
Model Access Level:
Feature Dependence Constraints:
Reference / Baseline Definition:
Primary Selected Method:
Exact Variant:
Selection Status:
Scientific Justification:
Alternative Method 1:
Alternative Method 2:
Required Fidelity Test:
Required Stability Test:
Required Support Diagnostics:
Critical Parameters:
Critical Assumptions:
Critical Failure Modes:
Interpretation Boundary:
Causal Interpretation:
PROHIBITED unless separately validated
Module IV Implementation Readiness:
[READY / CONDITIONAL / RETURN TO PREDICTION]
Chapter closing
Cierre del capítulo
Explanation-method selection begins only after predictive validity is established. SHAP provides additive local and global attribution. LIME provides local surrogate explanations. Partial Dependence summarizes average global response. ICE reveals individual response heterogeneity. ALE estimates accumulated local effects under correlated predictors. Feature Importance ranks model reliance. Rule Extraction creates human-readable approximations. None is universally best. The correct method is the one whose scope, fidelity, stability, support, audience, and interpretation boundary match the ESS.
La selección de métodos de explicación comienza solamente después de establecer validez predictiva. SHAP ofrece atribución aditiva local y global. LIME ofrece explicaciones sustitutas locales. Dependencia Parcial resume respuesta global promedio. ICE revela heterogeneidad individual. ALE estima efectos locales acumulados con predictores correlacionados. Importancia ordena dependencia del modelo. Extracción de Reglas crea aproximaciones legibles. Ninguno es universalmente superior. El método correcto es aquel cuyo alcance, fidelidad, estabilidad, soporte, audiencia y frontera interpretativa corresponden con el ESS.
Next: Chapter 8 — Methods for Measuring Causality →Siguiente: Capítulo 8 — Métodos para Medir Causalidad →