Module III · Chapter 7 Módulo III · Capítulo 7

Methods for Measuring Explanation

Métodos para Medir Explicación

A method-selection chapter for explaining validated predictive models through global importance, local attribution, response profiles, instance-level effects, accumulated effects, and extracted decision rules.

Un capítulo de selección de métodos para explicar modelos predictivos validados mediante importancia global, atribución local, perfiles de respuesta, efectos por instancia, efectos acumulados y reglas de decisión extraídas.

Module III principle Principio del Módulo III Explanation methods are selected only after a predictive model has been validated. They explain model behavior—not necessarily the real-world mechanism. Los métodos de explicación se seleccionan solamente después de validar un modelo predictivo. Explican el comportamiento del modelo, no necesariamente el mecanismo real.
Module progress · Chapter 7 of 9 Progreso del módulo · Capítulo 7 de 9

Black-box rule of the chapter

Regla de caja negra del capítulo

Assume that an ESS has declared explanation evidence as Conditional and that a predictive model has already passed the Module III prediction gate. Asumir que un ESS declaró evidencia de explicación como Condicional y que un modelo predictivo ya superó la puerta de predicción del Módulo III.

The chapter does not yet know the implementation. Its responsibility is to determine whether the explanation need is global or local, model-specific or model-agnostic, feature-level or rule-level, additive or profile-based, and whether correlated predictors, interactions, extrapolation, and explanation instability can be controlled.

El capítulo todavía no conoce la implementación. Su responsabilidad es determinar si la necesidad explicativa es global o local, específica o agnóstica al modelo, por variable o por regla, aditiva o basada en perfiles, y si pueden controlarse predictores correlacionados, interacciones, extrapolación e inestabilidad.

Boundary: explanation methods describe how a fitted model uses inputs. They do not automatically reveal causal effects, biological mechanisms, human reasoning, or the true process that generated the data. Frontera: los métodos de explicación describen cómo un modelo ajustado utiliza las entradas. No revelan automáticamente efectos causales, mecanismos biológicos, razonamiento humano ni el proceso real que generó los datos.

Chapter learning objectives

Objetivos de aprendizaje del capítulo

Define explanation evidence Definir evidencia explicativa Separate global behavior, local attribution, response profile, interaction, and rule extraction. Separar comportamiento global, atribución local, perfil de respuesta, interacción y extracción de reglas.
Validate explanation eligibility Validar elegibilidad explicativa Explain only models that already generalize and satisfy prediction requirements. Explicar solamente modelos que ya generalizan y cumplen requisitos predictivos.
Match method to explanation question Alinear método con pregunta explicativa Distinguish attribution, local surrogate, global profile, individual profile, accumulated effect, importance, and rules. Distinguir atribución, sustituto local, perfil global, perfil individual, efecto acumulado, importancia y reglas.
Select conditionally Seleccionar condicionalmente Choose the explanation method that matches the validated model and intended audience. Elegir el método explicativo que corresponde con el modelo validado y la audiencia prevista.

1. What does it mean to produce explanation evidence?

1. ¿Qué significa producir evidencia de explicación?

Producing explanation evidence means creating a defensible description of how a validated model transforms its inputs into predictions, either across the full model, for one observation, for one feature, for an interaction, or through simplified decision rules.

Producir evidencia de explicación significa crear una descripción defendible de cómo un modelo validado transforma entradas en predicciones, ya sea globalmente, para una observación, para una variable, para una interacción o mediante reglas simplificadas.

Global importanceImportancia globalWhich variables matter most to the model overall?¿Qué variables importan más globalmente?
Local attributionAtribución localWhy did the model produce this prediction?¿Por qué el modelo produjo esta predicción?
Global responseRespuesta globalHow does predicted output change as one feature changes?¿Cómo cambia la predicción al cambiar una variable?
Individual responseRespuesta individualHow does one observation’s prediction react to feature changes?¿Cómo reacciona la predicción de una observación?
Accumulated effectEfecto acumuladoWhat local average effect appears while respecting feature dependence?¿Qué efecto promedio local aparece respetando dependencia entre variables?
Rule explanationExplicación por reglasCan behavior be represented by human-readable conditions?¿Puede representarse el comportamiento con condiciones legibles?

2. What does explanation evidence require?

2. ¿Qué requiere la evidencia de explicación?

RequirementRequisitoWhy it mattersPor qué importa
Validated predictive modelModelo predictivo validadoExplaining an invalid or poorly generalizing model gives precise explanations of unreliable behavior.Explicar un modelo inválido produce explicaciones precisas de comportamiento poco fiable.
Explicit explanation questionPregunta explicativa explícitaGlobal importance, local attribution, feature effect, and rule extraction are not interchangeable.Importancia global, atribución local, efecto de variable y reglas no son intercambiables.
Reference or baseline definitionReferencia o línea baseMany attribution methods depend on the chosen background or expected prediction.Muchos métodos de atribución dependen del fondo o predicción esperada elegidos.
Feature dependence strategyEstrategia de dependencia entre variablesCorrelated predictors can make explanations unstable or unrealistic.Predictores correlacionados pueden volver explicaciones inestables o irreales.
Locality definitionDefinición de localidadLocal surrogate and neighborhood-based explanations depend on what “near” means.Explicaciones locales dependen de qué significa “cerca”.
Model-access levelNivel de acceso al modeloSome methods require internal model structure; others need only predictions.Algunos métodos requieren estructura interna; otros solo predicciones.
Stability and fidelityEstabilidad y fidelidadAn explanation must be reproducible and faithful to the model in the intended region.Una explicación debe ser reproducible y fiel al modelo en la región prevista.
Audience and decision useAudiencia y uso decisionalTechnical debugging, governance, clinicians, executives, and end users require different explanation forms.Depuración, gobernanza, clínicos, ejecutivos y usuarios requieren formas distintas.

3. Method-selection map by explanation configuration

3. Mapa de selección por configuración explicativa

Explanation configurationConfiguración explicativaPrimary candidateCandidato principal
Additive local and global feature attributionAtribución aditiva local y globalSHAP
Local model-agnostic explanation around one observationExplicación local agnóstica alrededor de una observaciónLIME
Average global prediction response to one or two featuresRespuesta predictiva global promedio ante una o dos variablesPartial Dependence
Observation-level heterogeneity in feature responseHeterogeneidad individual en respuesta a variablesICE
Feature effect under correlated predictors with local averagingEfecto de variable bajo predictores correlacionados y promedio localALE
Global ranking of predictive contributionRanking global de contribución predictivaFeature Importance
Human-readable approximation through rulesAproximación legible mediante reglasRule Extraction
No universal explanation winner: local attribution, global effect, importance, and rule extraction answer different explanation questions. No existe ganador explicativo universal: atribución local, efecto global, importancia y reglas responden preguntas distintas.

4. Standard method card

4. Ficha estándar del método

Method Name
Scientific Purpose
Evidence Produced
Best Explanation Configuration
Model Access Requirements
Global / Local Scope
Strengths
Weaknesses
Assumptions
Limitations
Computational Cost
Interpretability
Robustness
Critical Parameters
Validation Metrics
Acceptance Interpretation
Failure Modes
Complementary Methods
Module III Selection Status

5. SHAP

5. SHAP

Scientific purposePropósito científicoAttribute a prediction to feature contributions using Shapley-value principles.Atribuir una predicción a contribuciones de variables mediante principios de valores de Shapley.
Evidence producedEvidencia producidaLocal additive contributions that can be aggregated into global summaries.Contribuciones aditivas locales que pueden agregarse en resúmenes globales.
Best configurationMejor configuraciónValidated models requiring local attribution, global importance, direction, and interaction exploration.Modelos validados que requieren atribución local, importancia global, dirección e interacciones.
StrengthsFortalezasUnified local/global framework, additive consistency, and broad model support.Marco unificado local/global, consistencia aditiva y amplio soporte de modelos.
WeaknessesDebilidadesComputational cost, baseline dependence, correlated-feature ambiguity, and risk of overinterpretation.Costo computacional, dependencia de línea base, ambigüedad con variables correlacionadas y riesgo de sobreinterpretación.
AssumptionsSupuestosA valid model, defensible background distribution, and an explicit treatment of feature dependence.Modelo válido, distribución de referencia defendible y tratamiento explícito de dependencia entre variables.
Critical parametersParámetros críticosExplainer type, background set, conditional/interventional formulation, sample size.
Validation metricsMétricas de validaciónAdditivity check, stability across background samples, consistency across folds/seeds, local fidelity.
Failure modesModos de falloUnrealistic feature coalitions, unstable baselines, correlated-variable credit splitting, and causal interpretation.Combinaciones irreales, líneas base inestables, reparto de crédito entre correlacionadas e interpretación causal.
Complementary methodsMétodos complementariosALE, PDP, permutation importance, domain review.

6. LIME

6. LIME

Scientific purposePropósito científicoExplain one prediction through a simple surrogate model fitted near the observation.Explicar una predicción mediante un modelo sustituto simple ajustado cerca de la observación.
Evidence producedEvidencia producidaLocal feature weights or rules approximating model behavior around one instance.Pesos o reglas locales que aproximan el comportamiento alrededor de una instancia.
Best configurationMejor configuraciónModel-agnostic local explanation when prediction access exists but model internals may not.Explicación local agnóstica cuando hay acceso a predicciones pero no necesariamente a la estructura interna.
StrengthsFortalezasFlexible, local, model-agnostic, and easy to communicate.Flexible, local, agnóstico al modelo y fácil de comunicar.
WeaknessesDebilidadesSensitive to neighborhood sampling, kernel width, discretization, and random seed.Sensible a muestreo local, ancho de kernel, discretización y semilla.
AssumptionsSupuestosThe complex model is approximately simple within the chosen local neighborhood.El modelo complejo es aproximadamente simple dentro de la vecindad elegida.
Critical parametersParámetros críticosKernel width, perturbation distribution, number of samples, surrogate complexity.
Validation metricsMétricas de validaciónLocal surrogate fidelity, stability across seeds, neighborhood sensitivity, sparsity.
Failure modesModos de falloUnrealistic perturbations, unstable explanations, weak local fidelity, and global overgeneralization.Perturbaciones irreales, explicaciones inestables, baja fidelidad local y generalización global.
Complementary methodsMétodos complementariosSHAP, ICE, counterfactual diagnostics, repeated-seed analysis.

7. Partial Dependence

7. Dependencia Parcial

Scientific purposePropósito científicoShow the average predicted response as one or two features vary while averaging over other features.Mostrar la respuesta predictiva promedio al variar una o dos variables y promediar las demás.
Evidence producedEvidencia producidaA global response profile for one feature or feature pair.Un perfil global de respuesta para una variable o par.
Best configurationMejor configuraciónGlobal model-behavior summaries when feature independence is plausible or extrapolation is controlled.Resúmenes globales cuando independencia de variables es plausible o extrapolación está controlada.
StrengthsFortalezasIntuitive global visualization and broad model-agnostic applicability.Visualización global intuitiva y amplia aplicabilidad agnóstica.
WeaknessesDebilidadesCan average away heterogeneity and create unrealistic combinations under correlated predictors.Puede ocultar heterogeneidad y crear combinaciones irreales con predictores correlacionados.
AssumptionsSupuestosFeature interventions remain within supported regions and averaging is scientifically meaningful.Las intervenciones permanecen dentro del soporte y el promedio es científicamente significativo.
Critical parametersParámetros críticosGrid resolution, feature range, sample weighting, centered/non-centered display.
Validation metricsMétricas de validaciónSupport coverage, bootstrap stability, comparison with ICE/ALE, interaction sensitivity.
Failure modesModos de falloExtrapolation, correlation bias, hidden subgroup effects, and treating profile shape as causal effect.Extrapolación, sesgo por correlación, efectos ocultos de subgrupo y tratar perfil como efecto causal.
Complementary methodsMétodos complementariosICE, ALE, SHAP dependence plots.

8. Individual Conditional Expectation (ICE)

8. Expectativa Condicional Individual (ICE)

Scientific purposePropósito científicoDisplay how each observation’s prediction changes as a selected feature varies.Mostrar cómo cambia la predicción de cada observación al variar una variable.
Evidence producedEvidencia producidaA collection of individual response curves revealing heterogeneity and interactions.Una colección de curvas individuales que revela heterogeneidad e interacciones.
Best configurationMejor configuraciónModels where average PDP effects may hide subgroups or interactions.Modelos donde PDP promedio puede ocultar subgrupos o interacciones.
StrengthsFortalezasReveals individual heterogeneity and interaction patterns hidden by averaging.Revela heterogeneidad individual e interacciones ocultas por promedios.
WeaknessesDebilidadesCan become visually dense, inherits extrapolation problems, and may be difficult to summarize.Puede ser visualmente denso, hereda extrapolación y puede ser difícil de resumir.
AssumptionsSupuestosThe varied feature values are plausible for each observation and model predictions are valid in that region.Los valores variados son plausibles para cada observación y las predicciones son válidas en esa región.
Critical parametersParámetros críticosGrid, centered ICE option, sample selection, grouping or clustering of curves.
Validation metricsMétricas de validaciónCurve stability, support diagnostics, subgroup consistency, comparison with PDP/ALE.
Failure modesModos de falloUnsupported counterfactual values, visual overload, sample cherry-picking, and causal interpretation.Valores contrafactuales no soportados, sobrecarga visual, selección sesgada de casos e interpretación causal.
Complementary methodsMétodos complementariosPDP, ALE, SHAP interaction analysis.

9. Accumulated Local Effects (ALE)

9. Efectos Locales Acumulados (ALE)

Scientific purposePropósito científicoEstimate average local changes in prediction across observed feature intervals and accumulate them into a global effect curve.Estimar cambios locales promedio en predicción a través de intervalos observados y acumularlos en una curva global.
Evidence producedEvidencia producidaA centered global feature-effect profile designed to reduce extrapolation under correlated predictors.Un perfil global centrado diseñado para reducir extrapolación con predictores correlacionados.
Best configurationMejor configuraciónGlobal feature-effect explanation when predictors are correlated and PDP may be misleading.Explicación global cuando predictores están correlacionados y PDP puede ser engañoso.
StrengthsFortalezasUses local changes in observed regions, reduces unrealistic extrapolation, and is model agnostic.Usa cambios locales en regiones observadas, reduce extrapolación irreal y es agnóstico.
WeaknessesDebilidadesDepends on binning and sample density; interpretation is less familiar than PDP.Depende de bins y densidad; su interpretación es menos familiar que PDP.
AssumptionsSupuestosSufficient observations within local intervals and a meaningful accumulation order.Observaciones suficientes dentro de intervalos locales y orden de acumulación significativo.
Critical parametersParámetros críticosNumber of intervals, quantile/equal-width bins, smoothing, centering.
Validation metricsMétricas de validaciónBin stability, bootstrap uncertainty, support density, comparison with PDP/ICE.
Failure modesModos de falloSparse bins, unstable local differences, excessive smoothing, and interpreting accumulated effect as causal.Bins escasos, diferencias locales inestables, suavizado excesivo e interpretar efecto acumulado como causal.
Complementary methodsMétodos complementariosPDP, ICE, SHAP dependence plots.

10. Feature Importance

10. Importancia de Variables

Scientific purposePropósito científicoRank predictors by their contribution to model fit, split quality, or predictive performance.Ordenar predictores por su contribución al ajuste, calidad de división o rendimiento predictivo.
Evidence producedEvidencia producidaA global ranking or score of model reliance on features.Un ranking o puntuación global de dependencia del modelo respecto de variables.
Best configurationMejor configuraciónHigh-level global screening, model debugging, and predictor prioritization.Exploración global, depuración y priorización de predictores.
StrengthsFortalezasSimple summary, easy ranking, and broad availability across model classes.Resumen simple, ranking fácil y amplia disponibilidad.
WeaknessesDebilidadesMeaning varies by importance definition; correlated features and cardinality can distort rankings.El significado varía según definición; correlación y cardinalidad pueden distorsionar rankings.
AssumptionsSupuestosThe selected importance definition matches the scientific question and validation data are representative.La definición elegida corresponde con la pregunta y los datos de validación son representativos.
Critical parametersParámetros críticosImportance type, validation set, permutation count, grouping of correlated variables.
Validation metricsMétricas de validaciónRanking stability, fold/seed consistency, grouped importance, predictive drop under permutation.
Failure modesModos de falloImpurity bias, correlated-feature dilution, leakage, unstable ranking, and equating importance with effect direction or causality.Sesgo de impureza, dilución por correlación, fuga, ranking inestable y confundir importancia con dirección o causalidad.
Complementary methodsMétodos complementariosSHAP, permutation importance, PDP/ALE, grouped-feature analysis.

11. Rule Extraction

11. Extracción de Reglas

Scientific purposePropósito científicoApproximate model behavior with human-readable if–then rules or compact decision structures.Aproximar el comportamiento con reglas si–entonces o estructuras decisionales compactas.
Evidence producedEvidencia producidaA simplified rule set describing important decision regions or model logic.Un conjunto simplificado de reglas que describe regiones importantes o lógica del modelo.
Best configurationMejor configuraciónGovernance, audit, communication, and operational use requiring compact decision logic.Gobernanza, auditoría, comunicación y uso operativo que requieren lógica compacta.
StrengthsFortalezasHuman-readable, actionable, and useful for policy or model approximation.Legible, accionable y útil para política o aproximación del modelo.
WeaknessesDebilidadesSimplification can reduce fidelity; rule sets can become unstable or overly complex.La simplificación puede reducir fidelidad; las reglas pueden ser inestables o complejas.
AssumptionsSupuestosThe model can be approximated sufficiently well by the chosen rule representation.El modelo puede aproximarse suficientemente bien con la representación elegida.
Critical parametersParámetros críticosMaximum rule depth, number of rules, minimum support, fidelity threshold, pruning.
Validation metricsMétricas de validaciónFidelity to original model, coverage, rule stability, complexity, human comprehensibility.
Failure modesModos de falloLow-fidelity simplification, unstable thresholds, sparse rule support, cherry-picked rules, and causal interpretation.Simplificación de baja fidelidad, umbrales inestables, poco soporte, selección sesgada e interpretación causal.
Complementary methodsMétodos complementariosSHAP, LIME, surrogate trees, expert review.

12. Conditional ranking of the top explanation methods

12. Ranking condicional de los principales métodos de explicación

Rank within configurationPosición dentro de la configuraciónMethodMétodoBest forMejor paraMain limitationLimitación principalRobustness profilePerfil de robustez
1ASHAPUnified local/global attributionAtribución local/global unificadaBaseline and correlation sensitivitySensibilidad a referencia y correlación★★★★☆
1BLIMELocal model-agnostic explanationExplicación local agnósticaNeighborhood instabilityInestabilidad de vecindad★★☆☆☆
1CPartial DependenceAverage global response profilePerfil global promedioCorrelation and averaging biasSesgo por correlación y promedio★★★☆☆
1DICEIndividual response heterogeneityHeterogeneidad individualVisual complexity and extrapolationComplejidad visual y extrapolación★★★☆☆
1EALEGlobal effects with correlated featuresEfectos globales con variables correlacionadasBinning sensitivitySensibilidad a bins★★★★☆
1FFeature ImportanceGlobal ranking and screeningRanking global y exploraciónDefinition and correlation biasSesgo por definición y correlación★★★☆☆
1GRule ExtractionHuman-readable decision logicLógica decisional legibleFidelity–simplicity tradeoffEquilibrio fidelidad–simplicidad★★★☆☆
Ranks 1A–1G identify the preferred method inside different explanation questions. They do not define a universal hierarchy. Las posiciones 1A–1G identifican el método preferido dentro de preguntas explicativas distintas. No definen una jerarquía universal.

13. Validation metrics and acceptance interpretation

13. Métricas de validación e interpretación de aceptación

Validation dimensionDimensión de validaciónRequired evidenceEvidencia requerida
Model validityValidez del modeloThe explained model has already passed prediction validation.El modelo explicado ya superó validación predictiva.
FidelityFidelidadThe explanation accurately represents model behavior in the intended global or local scope.La explicación representa con precisión el comportamiento en el alcance previsto.
StabilityEstabilidadResults remain defensible across seeds, samples, folds, baselines, and plausible parameters.Resultados defendibles entre semillas, muestras, folds, referencias y parámetros plausibles.
Support validityValidez del soporteExplanations avoid unrealistic feature combinations and unsupported regions.Las explicaciones evitan combinaciones irreales y regiones sin soporte.
Correlation sensitivitySensibilidad a correlaciónAttribution and effect conclusions remain defensible under correlated predictors.Conclusiones de atribución y efecto permanecen defendibles con predictores correlacionados.
Human usefulnessUtilidad humanaThe explanation is understandable, actionable, and appropriately scoped for its audience.La explicación es comprensible, accionable y apropiada para su audiencia.
No universal “excellent explanation” score: explanation quality depends on fidelity, stability, scope, audience, support, and the consequences of misinterpretation. No existe puntuación universal de “explicación excelente”: la calidad depende de fidelidad, estabilidad, alcance, audiencia, soporte y consecuencias de malinterpretación.

14. Method selection protocol for explanation evidence

14. Protocolo de selección para evidencia explicativa

  1. Confirm that the predictive model has passed Module III validation.
  2. Confirmar que el modelo predictivo superó validación del Módulo III.
  3. Read the ESS explanation question, intended audience, decision use, and required scope.
  4. Leer pregunta explicativa, audiencia, uso y alcance requeridos por el ESS.
  5. Classify the need as global importance, local attribution, global response, individual response, accumulated effect, or rule extraction.
  6. Clasificar la necesidad como importancia global, atribución local, respuesta global, respuesta individual, efecto acumulado o reglas.
  7. Determine model access, feature dependence, baseline, locality, support, and interaction constraints.
  8. Determinar acceso al modelo, dependencia entre variables, referencia, localidad, soporte e interacciones.
  9. Generate eligible explanation methods and define fidelity and stability tests.
  10. Generar métodos elegibles y definir pruebas de fidelidad y estabilidad.
  11. Compare interpretability, computation, global/local scope, correlation sensitivity, and audience usefulness.
  12. Comparar interpretabilidad, cómputo, alcance, sensibilidad a correlación y utilidad.
  13. Reject explanations that rely on unsupported combinations or unstable parameter choices.
  14. Rechazar explicaciones que dependan de combinaciones sin soporte o parámetros inestables.
  15. Record primary method, alternatives, reference definition, validation, and interpretation boundary in the MSS.
  16. Registrar método principal, alternativas, referencia, validación y frontera interpretativa en el MSS.

15. Chapter workshop

15. Taller del capítulo

Case A: explain one prediction and also summarize global feature contributions Caso A: explicar una predicción y resumir contribuciones globales
Primary candidate: SHAP, conditional on a defensible background set and correlated-feature strategy.Candidato principal: SHAP, condicionado a referencia defendible y estrategia para variables correlacionadas.
Case B: provide a simple local explanation for one black-box prediction Caso B: proporcionar una explicación local simple para una predicción de caja negra
Primary candidate: LIME, with repeated seeds, locality sensitivity, and surrogate-fidelity validation.Candidato principal: LIME, con semillas repetidas, sensibilidad de localidad y validación de fidelidad.
Case C: correlated predictors make PDP extrapolation unsafe Caso C: predictores correlacionados vuelven inseguro el PDP
Primary candidate: ALE, with bin sensitivity and bootstrap stability checks.Candidato principal: ALE, con sensibilidad a bins y estabilidad bootstrap.
Case D: governance requires a compact human-readable approximation Caso D: gobernanza requiere una aproximación compacta y legible
Primary candidate: Rule Extraction, conditional on fidelity, coverage, stability, and complexity limits.Candidato principal: Extracción de Reglas, condicionada a fidelidad, cobertura, estabilidad y límites de complejidad.

16. Chapter 7 MSS handoff template

16. Plantilla de entrega MSS del Capítulo 7

METHOD SELECTION SUMMARY — EXPLANATION

ESS Explanation Requirement ID:
Validated Predictive Model ID:
Model Validation Status:
Explanation Question:
Global / Local Scope:
Intended Audience:
Decision Use:
Model Access Level:
Feature Dependence Constraints:
Reference / Baseline Definition:

Primary Selected Method:
Exact Variant:
Selection Status:
Scientific Justification:

Alternative Method 1:
Alternative Method 2:

Required Fidelity Test:
Required Stability Test:
Required Support Diagnostics:
Critical Parameters:
Critical Assumptions:
Critical Failure Modes:
Interpretation Boundary:
Causal Interpretation:
PROHIBITED unless separately validated

Module IV Implementation Readiness:
[READY / CONDITIONAL / RETURN TO PREDICTION]

Chapter closing

Cierre del capítulo

Explanation-method selection begins only after predictive validity is established. SHAP provides additive local and global attribution. LIME provides local surrogate explanations. Partial Dependence summarizes average global response. ICE reveals individual response heterogeneity. ALE estimates accumulated local effects under correlated predictors. Feature Importance ranks model reliance. Rule Extraction creates human-readable approximations. None is universally best. The correct method is the one whose scope, fidelity, stability, support, audience, and interpretation boundary match the ESS.

La selección de métodos de explicación comienza solamente después de establecer validez predictiva. SHAP ofrece atribución aditiva local y global. LIME ofrece explicaciones sustitutas locales. Dependencia Parcial resume respuesta global promedio. ICE revela heterogeneidad individual. ALE estima efectos locales acumulados con predictores correlacionados. Importancia ordena dependencia del modelo. Extracción de Reglas crea aproximaciones legibles. Ninguno es universalmente superior. El método correcto es aquel cuyo alcance, fidelidad, estabilidad, soporte, audiencia y frontera interpretativa corresponden con el ESS.