Inteligencia Artificial (IA) en salud: la era de la caja negra

Resumen

Objetivo general: Analizar las condiciones mínimas para adoptar inteligencia artificial en salud sin degradar la confianza, la justicia y la seguridad, considerando el riesgo de decisiones basadas en “cajas negras”.
Resultados o recomendaciones: Se argumenta que los fallos no provienen solo del modelo, sino del sistema de datos y uso: expedientes incompletos, sesgos por población, dependencia de artefactos administrativos y opacidad en la rendición de cuentas. Se recomiendan auditorías antes y después del despliegue, trazabilidad de cambios, monitoreo por subgrupos, minimización y control de accesos a datos, y responsabilidad clínica explícita en decisiones críticas como triage.
Conclusiones: La innovación relevante no será solo mayor precisión, sino integrar desempeño con gobernanza, explicabilidad útil, seguridad real y equidad.
Invitación: Se invita a la comunidad a leer el artículo y debatir qué reglas éticas, científicas y políticas deben exigirse para una adopción legítima de IA en medicina.