Black-box rule of the chapter
Regla de caja negra del capítulo
Assume an abstract model F that transforms variables or groups X¹…Xᵍ into one or more estimated objectives Ŷ₁…Ŷₘ.
Asumir un modelo abstracto F que transforma variables o grupos X¹…Xᵍ en uno o más objetivos estimados Ŷ₁…Ŷₘ.
The domain, dataset, algorithm, and real mechanism remain unknown. The chapter studies explanation as a capability to describe contribution, importance, effects, interactions, local decisions, and possible alternatives inside or around the model.
El dominio, el dataset, el algoritmo y el mecanismo real permanecen desconocidos. El capítulo estudia explicación como capacidad para describir contribución, importancia, efectos, interacciones, decisiones locales y posibles alternativas dentro o alrededor del modelo.
Restriction: Feature Importance, Permutation Importance, SHAP, LIME, Partial Dependence, ICE, ALE, counterfactual explanations, and surrogate models appear only after the explanation capability is defined.
Restricción: Feature Importance, Permutation Importance, SHAP, LIME, Partial Dependence, ICE, ALE, explicaciones contrafactuales y modelos sustitutos aparecen solamente después de definir la capacidad explicativa.
Chapter-specific learning objectives
Objetivos específicos del capítulo
Separate prediction from explanation
Separar predicción de explicación
Understand why an accurate model may remain opaque and why a transparent model may predict poorly.
Comprender por qué un modelo preciso puede seguir siendo opaco y por qué un modelo transparente puede predecir mal.
Distinguish model from phenomenon explanation
Distinguir explicación del modelo y del fenómeno
Identify whether the explanation concerns the internal behavior of F or the real-world system.
Identificar si la explicación concierne el comportamiento interno de F o el sistema real.
Recognize global, local, and interactive explanations
Reconocer explicaciones globales, locales e interactivas
Describe average contributions, individual predictions, partial effects, and interactions.
Describir contribuciones promedio, predicciones individuales, efectos parciales e interacciones.
Evaluate counterfactual feasibility
Evaluar factibilidad contrafactual
Separate mathematically possible changes from feasible, actionable, and ethically acceptable changes.
Separar cambios matemáticamente posibles de cambios factibles, accionables y éticamente aceptables.
1. The fundamental explanation question
1. La pregunta fundamental de explicación
X¹…Xᵍ
→
F
→
Ŷ₁…Ŷₘ
How did the variables, groups, and model structure contribute to this prediction or estimated behavior?
¿Cómo contribuyeron las variables, grupos y estructura del modelo a esta predicción o comportamiento estimado?
Explanation begins after a predictive or estimated behavior exists. It organizes the contribution structure that produced the output, but it must preserve the boundary between model behavior and real-world mechanism.
La explicación comienza después de existir una predicción o comportamiento estimado. Organiza la estructura de contribuciones que produjo la salida, pero debe preservar la frontera entre comportamiento del modelo y mecanismo del mundo real.
2. Explanation versus prediction
2. Explicación frente a predicción
| DimensionDimensión | PredictionPredicción | ExplanationExplicación |
|---|---|---|
| Primary questionPregunta principal | Can unseen Y be anticipated?¿Puede anticiparse Y no visto? | How did the model produce or organize the estimate?¿Cómo produjo u organizó el modelo la estimación? |
| Success criterionCriterio de éxito | Generalization and predictive performance.Generalización y desempeño predictivo. | Faithful, stable, useful, and understandable description.Descripción fiel, estable, útil y comprensible. |
| Possible outcomeResultado posible | Correct prediction with an opaque model.Predicción correcta con modelo opaco. | Comprehensible model with limited predictive strength.Modelo comprensible con fuerza predictiva limitada. |
Critical distinction: predictive accuracy and explanatory clarity are separate evidence dimensions.
Distinción crítica: precisión predictiva y claridad explicativa son dimensiones de evidencia separadas.
3. Explanation architectures
3. Arquitecturas de explicación
3.1 Variable-to-objective explanation
3.1 Explicación variable–objetivo
Xᵢ
→
Ŷⱼ
How does one variable contribute to one estimated objective?
¿Cómo contribuye una variable a un objetivo estimado?
3.2 Group-to-objective explanation
3.2 Explicación grupo–objetivo
Xᵍ = {X₁…Xₚ}
→
Ŷⱼ
How does a variable group jointly contribute to one prediction?
¿Cómo contribuye conjuntamente un grupo de variables a una predicción?
3.3 Multi-objective explanation
3.3 Explicación multiobjetivo
Xᵍ
→
{Ŷ₁…Ŷₘ}
Does the same predictor group contribute differently across several objectives?
¿El mismo grupo predictor contribuye de manera diferente entre varios objetivos?
3.4 Objective-to-objective explanation
3.4 Explicación objetivo–objetivo
Y₁ or Ŷ₁
→
Ŷ₂
How does one objective participate in estimating or interpreting another?
¿Cómo participa un objetivo en la estimación o interpretación de otro?
3.5 Set-to-set explanation
3.5 Explicación conjunto–conjunto
{X₁…Xₚ}
→
{Ŷ₁…Ŷₘ}
Is the explanation describing one contribution, one group, one prediction, several objectives, or the complete model architecture?
¿La explicación describe una contribución, un grupo, una predicción, varios objetivos o la arquitectura completa del modelo?
4. Model explanation versus phenomenon explanation
4. Explicación del modelo frente a explicación del fenómeno
Model explanation
Explicación del modelo
Describes how F uses variables, groups, thresholds, interactions, and internal structures to produce Ŷ.
Describe cómo F utiliza variables, grupos, umbrales, interacciones y estructuras internas para producir Ŷ.
Phenomenon explanation
Explicación del fenómeno
Attempts to describe the real mechanism, process, or reason why Y occurs in the system.
Intenta describir el mecanismo, proceso o razón real por la que Y ocurre en el sistema.
Boundary: a faithful explanation of F can still be an incorrect explanation of the real phenomenon if F learned proxies, artifacts, omitted-context patterns, or historical bias.
Frontera: una explicación fiel de F puede seguir siendo una explicación incorrecta del fenómeno real si F aprendió proxies, artefactos, patrones de contexto omitido o sesgo histórico.
5. Global explanation and global importance
5. Explicación global e importancia global
Global explanation summarizes how the model generally behaves across many observations.
La explicación global resume cómo se comporta generalmente el modelo entre muchas observaciones.
Most influential variables
Variables más influyentes
Variables that most strongly shape model outputs under the selected importance definition.
Variables que más fuertemente moldean las salidas del modelo bajo la definición de importancia seleccionada.
Average contribution
Contribución promedio
Typical contribution calculated across records, groups, contexts, or objectives.
Contribución típica calculada entre registros, grupos, contextos u objetivos.
Variable ranking
Ranking de variables
An ordered summary of variables according to their measured model influence.
Un resumen ordenado de variables según su influencia medida dentro del modelo.
Ranking stability
Estabilidad del ranking
Whether the ranking remains similar across samples, models, objectives, or perturbations.
Si el ranking permanece similar entre muestras, modelos, objetivos o perturbaciones.
Redundancy
Redundancia
Several variables carry overlapping explanatory or predictive content.
Varias variables transportan contenido explicativo o predictivo superpuesto.
Correlated variables
Variables correlacionadas
Importance may be shared, diluted, transferred, or unstable among related variables.
La importancia puede compartirse, diluirse, transferirse o volverse inestable entre variables relacionadas.
6. Local explanation
6. Explicación local
Local explanation describes why the model produced one specific prediction or estimate for one record, entity, time, location, or objective configuration.
La explicación local describe por qué el modelo produjo una predicción o estimación específica para un registro, entidad, tiempo, ubicación o configuración de objetivos.
Contribution by record
Contribución por registro
Each variable receives a contribution for the selected prediction.
Cada variable recibe una contribución para la predicción seleccionada.
Factors increasing the output
Factores que aumentan el resultado
Variables or states that push the estimate above a reference value.
Variables o estados que empujan la estimación por encima de un valor de referencia.
Factors reducing the output
Factores que reducen el resultado
Variables or states that push the estimate below a reference value.
Variables o estados que empujan la estimación por debajo de un valor de referencia.
Global-local contrast
Contraste global-local
A globally influential variable may contribute little or oppositely for one record.
Una variable influyente globalmente puede contribuir poco o en sentido opuesto para un registro.
Objective-specific local explanation
Explicación local específica por objetivo
The same record may receive different explanations for Ŷ₁ and Ŷ₂.
El mismo registro puede recibir explicaciones diferentes para Ŷ₁ y Ŷ₂.
Local explanation stability
Estabilidad de la explicación local
Small input or model changes should not arbitrarily reverse the explanation.
Pequeños cambios de entrada o modelo no deberían invertir arbitrariamente la explicación.
7. Partial effects and response shapes
7. Efectos parciales y formas de respuesta
Partial-effect capabilities describe how the model output is expected to change when one variable varies while the remaining model context is summarized or held according to a defined rule.
Las capacidades de efectos parciales describen cómo se espera que cambie la salida del modelo cuando una variable varía mientras el contexto restante se resume o mantiene según una regla definida.
Expected change
Cambio esperado
How Ŷ changes as Xᵢ moves through its observed range.
Cómo cambia Ŷ mientras Xᵢ recorre su rango observado.
Model-conditioned average
Promedio condicionado por el modelo
An average model response after accounting for the selected variable context.
Una respuesta promedio del modelo después de considerar el contexto seleccionado de variables.
Partial dependence
Dependencia parcial
A global response profile for one or more variables within the fitted model.
Un perfil global de respuesta para una o más variables dentro del modelo ajustado.
Individual effects
Efectos individuales
Record-specific response trajectories rather than one average curve.
Trayectorias de respuesta específicas por registro en lugar de una curva promedio.
Nonlinear forms
Formas no lineales
Curves, plateaus, reversals, steps, and complex response patterns.
Curvas, mesetas, inversiones, escalones y patrones complejos de respuesta.
Thresholds and saturation
Umbrales y saturación
Points where the response begins, changes sharply, or stops increasing meaningfully.
Puntos donde la respuesta comienza, cambia bruscamente o deja de aumentar significativamente.
A partial-effect curve describes model behavior under a constructed variation rule. It is not automatically an intervention effect.
Una curva de efecto parcial describe comportamiento del modelo bajo una regla de variación construida. No es automáticamente un efecto de intervención.
8. Explanatory interactions
8. Interacciones explicativas
Interaction explanations describe how the contribution or effect of one variable changes according to another variable, group, context, or objective state.
Las explicaciones de interacción describen cómo la contribución o efecto de una variable cambia según otra variable, grupo, contexto o estado de objetivo.
Variables acting together
Variables que actúan juntas
The model uses a combination rather than independent additive contributions.
El modelo utiliza una combinación y no contribuciones aditivas independientes.
Contextual dependence
Dependencia contextual
The contribution of X₁ depends on the state of X₂ or Xᶜ.
La contribución de X₁ depende del estado de X₂ o Xᶜ.
Local interaction
Interacción local
An interaction is relevant for one prediction or limited region of the input space.
Una interacción es relevante para una predicción o región limitada del espacio de entrada.
Global interaction
Interacción global
The interaction contributes systematically across many records.
La interacción contribuye sistemáticamente entre muchos registros.
Emergent effects
Efectos emergentes
The combined explanatory contribution is unavailable from individual variables alone.
La contribución explicativa combinada no está disponible desde variables individuales.
Interaction hierarchy
Jerarquía de interacciones
Interactions can be ranked by strength, stability, scope, or objective relevance.
Las interacciones pueden ordenarse por fuerza, estabilidad, alcance o relevancia para el objetivo.
9. Counterfactual explanations
9. Explicaciones contrafactuales
What would need to change in X for the model to produce a different outcome Ŷ*?
¿Qué tendría que cambiar en X para que el modelo produjera un resultado diferente Ŷ*?
Required change
Cambio requerido
The variables or states that must differ to reach an alternative model output.
Las variables o estados que deben diferir para alcanzar una salida alternativa del modelo.
Minimum change
Cambio mínimo
The smallest modeled modification that crosses the desired output boundary.
La modificación modelada más pequeña que cruza el límite de salida deseado.
Alternative outcome
Resultado alternativo
The prediction, class, score, or objective state sought.
La predicción, clase, puntuación o estado de objetivo buscado.
Feasibility
Factibilidad
Whether the proposed combination can exist in the real system.
Si la combinación propuesta puede existir en el sistema real.
Operational constraints
Restricciones operativas
Time, cost, policy, physical, legal, and process limits on change.
Límites de tiempo, costo, política, físicos, legales y de proceso sobre el cambio.
Actionable versus non-actionable variables
Variables accionables y no accionables
Some inputs can be changed by decision; others are fixed, historical, protected, or outside control.
Algunas entradas pueden cambiarse mediante decisión; otras son fijas, históricas, protegidas o están fuera de control.
Critical restriction: a counterfactual explanation states what would change the model output, not necessarily what would change the real outcome.
Restricción crítica: una explicación contrafactual declara qué cambiaría la salida del modelo, no necesariamente qué cambiaría el resultado real.
10. Multi-objective explanation networks
10. Redes de explicación multiobjetivo
In Multi-X/Y systems, explanations must preserve differences among objectives rather than collapsing all contributions into one global summary.
En sistemas Multi-X/Y, las explicaciones deben preservar diferencias entre objetivos y no colapsar todas las contribuciones en un resumen global.
| Explanation pathRuta de explicación | Capability questionPregunta de capacidad |
|---|---|
| Xᴱ → Ŷ₁ | Which variables explain one objective specifically?¿Qué variables explican específicamente un objetivo? |
| Xˢ → {Ŷ₁, Ŷ₂} | How does one shared group contribute differently across objectives?¿Cómo contribuye de manera diferente un grupo compartido entre objetivos? |
| Xᴳ → Ŷ-system | Which factors explain the joint model behavior?¿Qué factores explican el comportamiento conjunto del modelo? |
| Y₁ → Ŷ₂ | How does one objective participate in another model output?¿Cómo participa un objetivo en otra salida del modelo? |
| {X₁…Xₚ} ↔ {Ŷ₁…Ŷₘ} | How are explanatory contributions distributed across the complete architecture?¿Cómo se distribuyen las contribuciones explicativas en toda la arquitectura? |
A variable can be globally important for the objective system while being irrelevant, protective, or oppositely directed for one specific objective.
Una variable puede ser globalmente importante para el sistema de objetivos y ser irrelevante, protectora o dirigida en sentido opuesto para un objetivo específico.
11. Evidence capabilities of explanation methods
11. Capacidades evidenciales de los métodos de explicación
| CapabilityCapacidad | Abstract questionPregunta abstracta |
|---|---|
| Classify contributionsClasificar contribuciones | Which variables or groups increase, reduce, or stabilize the estimate?¿Qué variables o grupos aumentan, reducen o estabilizan la estimación? |
| Explain individual predictionsExplicar predicciones individuales | Why did F produce this output for this record?¿Por qué F produjo esta salida para este registro? |
| Show shapes and thresholdsMostrar formas y umbrales | How does model response change across the range of X?¿Cómo cambia la respuesta del modelo en el rango de X? |
| Detect interactionsDetectar interacciones | Which variables act jointly or contextually?¿Qué variables actúan de forma conjunta o contextual? |
| Compare explanationsComparar explicaciones | Do explanations remain similar across models, groups, times, locations, and objectives?¿Las explicaciones permanecen similares entre modelos, grupos, tiempos, ubicaciones y objetivos? |
| Propose counterfactual changesProponer cambios contrafactuales | What modeled changes would produce an alternative output?¿Qué cambios modelados producirían una salida alternativa? |
| Translate complex modelsTraducir modelos complejos | Can an opaque architecture be approximated by a simpler explanatory representation?¿Una arquitectura opaca puede aproximarse mediante una representación explicativa más simple? |
12. Representative methods appear after the capability
12. Los métodos representativos aparecen después de la capacidad
The following methods are inhabitants of the explanation landscape. They do not define the landscape.
Los métodos siguientes son habitantes del panorama de explicación. No definen el panorama.
| Explanation capability familyFamilia de capacidad explicativa | Representative inhabitantsRepresentantes |
|---|---|
| Built-in global importanceImportancia global interna | Feature Importance |
| Performance-based importanceImportancia basada en desempeño | Permutation Importance |
| Local and global additive contributionContribución aditiva local y global | SHAP |
| Local surrogate explanationExplicación local mediante sustituto | LIME |
| Average partial responseRespuesta parcial promedio | Partial Dependence |
| Individual response profilesPerfiles individuales de respuesta | Individual Conditional Expectation |
| Local accumulated effectsEfectos locales acumulados | Accumulated Local Effects |
| Alternative-output explanationExplicación de salida alternativa | Counterfactual Explanations |
| Model translationTraducción del modelo | Surrogate Models |
13. What model explanation cannot demonstrate
13. Qué no puede demostrar la explicación de modelos
Not causalityNo causalidadModel contribution does not prove causal effect.Contribución del modelo no demuestra efecto causal.
Not mechanism truthNo verdad del mecanismoA faithful model explanation may not represent the true system process.Una explicación fiel del modelo puede no representar el proceso verdadero del sistema.
Not necessity of a variableNo necesidad de una variableImportance does not prove that the real outcome requires that variable.Importancia no demuestra que el resultado real requiera esa variable.
Not the correct actionNo la acción correctaAn explanation does not automatically prescribe the best intervention.Una explicación no prescribe automáticamente la mejor intervención.
Not model fairnessNo justicia del modeloA transparent explanation does not guarantee equitable treatment.Una explicación transparente no garantiza tratamiento equitativo.
Not absence of biasNo ausencia de sesgoThe model may faithfully expose biased patterns without removing them.El modelo puede exponer fielmente patrones sesgados sin eliminarlos.
Not future stabilityNo estabilidad futuraExplanations may change after drift, retraining, or regime change.Las explicaciones pueden cambiar después de drift, reentrenamiento o cambio de régimen.
14. Conditions of validity
14. Condiciones de validez
Model fidelityFidelidad al modeloThe explanation must accurately represent the behavior of F.La explicación debe representar con precisión el comportamiento de F.
Data supportSoporte de datosExplanations should remain within realistic and sufficiently observed regions.Las explicaciones deben permanecer dentro de regiones realistas y suficientemente observadas.
Correlation handlingManejo de correlaciónRelated variables can redistribute importance and create unrealistic perturbations.Variables relacionadas pueden redistribuir importancia y crear perturbaciones irreales.
Reference definitionDefinición de referenciaLocal contributions depend on the selected baseline or comparison distribution.Contribuciones locales dependen de la línea base o distribución de comparación seleccionada.
Explanation stabilityEstabilidad explicativaReasonable perturbations should not produce arbitrary explanation changes.Perturbaciones razonables no deberían producir cambios explicativos arbitrarios.
Objective alignmentAlineación de objetivosEach Ŷ must retain its own contribution scale, reference, and interpretation.Cada Ŷ debe conservar su propia escala de contribución, referencia e interpretación.
Counterfactual feasibilityFactibilidad contrafactualProposed changes must respect real constraints and variable dependencies.Los cambios propuestos deben respetar restricciones reales y dependencias entre variables.
Communication fitnessAdecuación comunicativaThe explanation must match the knowledge and decision needs of its audience.La explicación debe corresponder al conocimiento y necesidades decisionales de su audiencia.
15. Principal interpretation risks
15. Principales riesgos de interpretación
Importance confused with causalityImportancia confundida con causalidadA high model contribution is treated as a causal effect.Una contribución alta del modelo se trata como efecto causal.
Correlated-variable instabilityInestabilidad por variables correlacionadasImportance moves among variables carrying similar information.La importancia se desplaza entre variables que transportan información similar.
Unstable explanationsExplicaciones inestablesSmall changes produce very different explanatory stories.Pequeños cambios producen historias explicativas muy diferentes.
Model dependenceDependencia del modeloDifferent models generate different explanations for the same case.Modelos diferentes generan explicaciones diferentes para el mismo caso.
Locally correct but globally misleadingLocalmente correcta pero globalmente engañosaA valid local explanation is generalized beyond its intended scope.Una explicación local válida se generaliza más allá de su alcance.
Proxy variablesVariables proxyThe explanation highlights variables standing in for hidden or sensitive factors.La explicación resalta variables que representan factores ocultos o sensibles.
Impossible counterfactualsContrafactuales imposiblesThe proposed alternative violates physical, logical, legal, temporal, or operational constraints.La alternativa propuesta viola restricciones físicas, lógicas, legales, temporales u operativas.
Explanation launderingLavado explicativoA polished visualization gives unjustified credibility to a weak or biased model.Una visualización pulida otorga credibilidad injustificada a un modelo débil o sesgado.
16. Black-box capability workshop
16. Taller de capacidades de caja negra
Case A: the model predicts well but no one can describe why
Caso A: el modelo predice bien, pero nadie puede describir por qué
Which capability is missing?
¿Qué capacidad falta?
Model explanation or interpretability capability.Capacidad de explicación o interpretabilidad del modelo.
Case B: X₁ ranks first globally but contributes almost nothing to one record
Caso B: X₁ ocupa el primer lugar globalmente, pero casi no contribuye a un registro
What distinction is required?
¿Qué distinción se requiere?
Global importance versus local contribution.Importancia global frente a contribución local.
Case C: changing X₁ has a different modeled effect depending on X₂
Caso C: cambiar X₁ tiene un efecto modelado diferente según X₂
What structure is present?
¿Qué estructura está presente?
Contextual explanatory interaction.Interacción explicativa contextual.
Case D: the smallest modeled change requires altering a fixed historical variable
Caso D: el cambio modelado mínimo requiere alterar una variable histórica fija
What problem is present?
¿Qué problema está presente?
An infeasible counterfactual involving a non-actionable variable.Un contrafactual no factible que involucra una variable no accionable.
Case E: the same X-group explains Ŷ₁ strongly and Ŷ₂ weakly
Caso E: el mismo grupo X explica fuertemente Ŷ₁ y débilmente Ŷ₂
What must be preserved?
¿Qué debe preservarse?
Objective-specific explanation within the Multi-X/Y architecture.Explicación específica por objetivo dentro de la arquitectura Multi-X/Y.
Case F: a model explanation is presented as proof of the real mechanism
Caso F: una explicación del modelo se presenta como prueba del mecanismo real
What scientific error occurred?
¿Qué error científico ocurrió?
Model explanation was confused with phenomenon explanation and causality.Se confundió explicación del modelo con explicación del fenómeno y causalidad.
17. Black-box decision map
17. Mapa de decisión de caja negra
- Define the explanation architecture: model F, variables or groups X, and objectives Ŷ₁…Ŷₘ.
- Definir la arquitectura explicativa: modelo F, variables o grupos X y objetivos Ŷ₁…Ŷₘ.
- Clarify whether the goal is to explain the model or the real phenomenon.
- Aclarar si el objetivo es explicar el modelo o el fenómeno real.
- Determine whether the explanation must be global, local, partial, interactive, comparative, or counterfactual.
- Determinar si la explicación debe ser global, local, parcial, interactiva, comparativa o contrafactual.
- Specify whether the architecture is variable-to-objective, group-to-objective, objective-to-objective, or set-to-set.
- Especificar si la arquitectura es variable–objetivo, grupo–objetivo, objetivo–objetivo o conjunto–conjunto.
- Define the reference value, comparison population, and contribution scale.
- Definir el valor de referencia, población de comparación y escala de contribución.
- Evaluate correlated variables, interactions, stability, and objective-specific behavior.
- Evaluar variables correlacionadas, interacciones, estabilidad y comportamiento específico por objetivo.
- For counterfactuals, separate mathematical possibility from feasibility and actionability.
- Para contrafactuales, separar posibilidad matemática de factibilidad y accionabilidad.
- Select the required explanation capability.
- Seleccionar la capacidad explicativa requerida.
- Only then identify representative methods.
- Solo entonces identificar métodos representativos.
- State whether the result explains F, supports a hypothesis about the phenomenon, or remains insufficient for causal interpretation.
- Declarar si el resultado explica F, sustenta una hipótesis sobre el fenómeno o sigue siendo insuficiente para interpretación causal.
Am I explaining the real phenomenon, or only the internal behavior of a model?
¿Estoy explicando el fenómeno real o solamente el comportamiento interno de un modelo?
Chapter closing
Cierre del capítulo
Explanation organizes how a model uses variables, groups, thresholds, interactions, and reference structures to produce one or several outputs. It can classify contributions, explain individual predictions, reveal response shapes, compare explanations, and propose counterfactual alternatives. Yet it must never silently cross the boundary from model behavior into causal truth. Explanation architecture first. Scope second. Fidelity third. Capability fourth. Method fifth. Causal interpretation remains separate.
La explicación organiza cómo un modelo utiliza variables, grupos, umbrales, interacciones y estructuras de referencia para producir una o varias salidas. Puede clasificar contribuciones, explicar predicciones individuales, revelar formas de respuesta, comparar explicaciones y proponer alternativas contrafactuales. Sin embargo, nunca debe cruzar silenciosamente la frontera desde comportamiento del modelo hacia verdad causal. Arquitectura explicativa primero. Alcance después. Fidelidad tercero. Capacidad cuarto. Método quinto. La interpretación causal permanece separada.
Applied reflection
Reflexión aplicada
Short publication text
Texto breve para publicar
Model explanation answers how variables, groups, thresholds, and interactions contributed to a prediction. It may be global, local, partial, interactive, comparative, or counterfactual. But a faithful explanation of model behavior is not automatically an explanation of the real phenomenon and never proves causality by itself.
La explicación de modelos responde cómo variables, grupos, umbrales e interacciones contribuyeron a una predicción. Puede ser global, local, parcial, interactiva, comparativa o contrafactual. Pero una explicación fiel del comportamiento del modelo no es automáticamente una explicación del fenómeno real y nunca demuestra causalidad por sí sola.