Esta edición está destinada a lectura. No se ofrece un archivo de descarga del documento desde esta página.
Vol 3 - 2026
Verificabilidad y responsabilidad jurídica en IA
educativa
Por Giovany Guarín Ramírez
La expansión de la inteligencia artificial en entornos educativos plantea una pregunta que los
marcos normativos latinoamericanos aún no han respondido con claridad: ¿qué ocurre cuando
un sistema de IA toma una decisión que afecta los derechos de un estudiante con discapacidad y
esa decisión no puede ser auditada? Este artículo examina los desafíos de verificabilidad,
trazabilidad y acreditabilidad en plataformas de IA aplicados a la educación inclusiva, con
referencia al marco jurisprudencial colombiano de 2025 y al caso del ecosistema MENS·SCCA
como arquitectura diseñada para operar en contextos de alta responsabilidad legal.
Un sistema que decide sobre un niño La promesa es poderosa. No obstante, la pregunta que
En Colombia, 217.511 estudiantes con alguna el sector aún no ha respondido con rigor es más
discapacidad están matriculados en instituciones incómoda: ¿qué ocurre cuando el sistema se equivoca,
educativas. Cada uno de ellos tiene derecho, por y nadie puede explicar por qué?
mandato legal del Decreto 1421 de 2017, a un Plan
Individual de Ajustes Razonables —el PIAR—: un La opacidad como riesgo jurídico
documento jurídicamente vinculante que determina Los sistemas de inteligencia artificial aplicados a la
las adaptaciones pedagógicas, los apoyos educación operan, en su mayoría, como cajas negras:
institucionales y el seguimiento de su proceso producen resultados a partir de modelos estadísticos
educativo. cuyo razonamiento interno no es directamente legible
por un docente, un rector ni un juez.
El PIAR no es un trámite administrativo. Es un
instrumento legal que puede ser objeto de tutela, En contextos de bajo riesgo, esto es aceptable. En
revisión judicial y sanción institucional si no se contextos donde la decisión de la herramienta tiene
formula correctamente. La Sentencia T-049 de 2025 consecuencias jurídicas sobre los derechos
de la Corte Constitucional lo dejó en evidencia al fundamentales de un menor con discapacidad, la
ordenar medidas concretas contra una secretaría de opacidad deja de ser una característica técnica y se
educación por incumplimiento sistemático en la convierte en un riesgo legal.
formulación e implementación de PIAR, identificando
como barrera crítica la ausencia de herramientas La jurisprudencia colombiana de 2025 introduce una
pedagógicas adecuadas para los docentes. exigencia implícita pero determinante: los
instrumentos utilizados para formular el PIAR deben
Ante este escenario, las plataformas de inteligencia ser verificables, sus resultados deben ser trazables, y la
artificial están comenzando a ocupar un lugar institución educativa que los usa asume
protagónico: generan automáticamente ajustes responsabilidad sobre sus consecuencias.
razonables, perfiles cognitivos, recomendaciones
pedagógicas y evidencias de seguimiento.
1
Vol 3 - 2026
La Sentencia T-040 de 2025, que ordenó al Ministerio proceso: quién ingresó los datos, cuándo, qué versión
de Educación reglamentar el PIAR para estudiantes de la arquitectura los procesó, qué resultado produjo y
con TDAH, ampliando el universo de obligados más si fue modificado posteriormente.
allá de las discapacidades tradicionales— profundiza
esta exigencia: los vacíos normativos no eximen a las En contextos donde los datos pertenecen a menores
instituciones de implementar ajustes razonables con con discapacidad, protegidos por la Ley 1581 de 2012 y
herramientas validadas. sus normas reglamentarias, la trazabilidad no es
opcional: es una exigencia de habeas data y de
Surge entonces una tensión que buena parte de la responsabilidad institucional. Una cadena de custodia
industria EdTech latinoamericana no ha abordado con digital es tan importante como una cadena de custodia
suficiente profundidad: las plataformas de IA más en un expediente físico.
adoptadas son también los más opacas. Un SaaS en la
nube que genera un perfil cognitivo a partir de Acreditabilidad
respuestas de un formulario puede ser eficiente, Un sistema es acreditable cuando sus metodologías
escalable y visualmente atractivo. Pero si su lógica han sido validadas por actores externos con autoridad
interna no puede ser auditada por la institución, y si reconocida: instituciones académicas, entidades
sus resultados no quedan registrados de forma gubernamentales o comunidades profesionales
inmutable con trazabilidad de versión, ¿quién especializadas.
responde ante una tutela?
En el caso de los motores cognitivos que generan
Tres dimensiones del problema perfiles de estudiantes con discapacidad, la
Para comprender el desafío en su totalidad, conviene acreditabilidad es particularmente sensible: un
distinguir tres dimensiones que frecuentemente se baremo construido sin validación clínica o pedagógica
confunden en el debate sobre IA educativa: externa puede generar perfiles sesgados, incompletos o
directamente perjudiciales para el estudiante. La
Verificabilidad eficiencia tecnológica no reemplaza el rigor
Un sistema es verificable cuando sus resultados metodológico.
pueden ser contrastados con criterios externos y su
lógica de producción puede ser inspeccionada. En el Diversas corrientes contemporáneas relacionadas con
contexto del PIAR, esto significa que los ajustes la inteligencia artificial explicable (Explainable AI), la
razonables generados por la herramienta deben poder gobernanza algorítmica y la auditoría de sistemas
explicarse en términos pedagógicos y normativos automatizados han señalado desafíos similares en
reconocibles, no solo como salidas de un modelo sectores sensibles como la salud, la educación y la
estadístico. La verificabilidad es la condición mínima administración pública. Aunque los enfoques técnicos
para que un docente pueda firmar un PIAR con difieren, existe un consenso creciente sobre la
respaldo, no solo con confianza ciega en la máquina. necesidad de que los sistemas capaces de influir en
Trazabilidad decisiones con impacto sobre derechos fundamentales
Un sistema es trazable cuando cada decisión queda incorporen mecanismos de transparencia, trazabilidad
registrada de forma que permita reconstruir el y rendición de cuentas.
2
Vol 3 - 2026
El caso de una arquitectura diseñada para implicación de soberanía de datos: la información
responder sensible de menores no sale del perímetro
En este contexto emerge una pregunta de diseño que institucional.
va más allá de la funcionalidad: ¿es posible construir
un sistema de IA educativa que sea, desde su Motor normativo soberano. El sistema no delega el
arquitectura, verificable, trazable y acreditable? Y si es razonamiento jurídico-pedagógico a un modelo de
posible, ¿qué decisiones técnicas implica? lenguaje externo de tipo caja negra. Utiliza un motor
TF-IDF propio con corpus normativo explícito,
El ecosistema MENS·SCCA —Motor Especializado de Decreto 1421/2017, Sentencias T-040 y T-049/2025,
Núcleo Sistémico / Sistema de Cortezas Cognitivas Ley 1618/2013, cuyas reglas pueden ser
Acreditables— desarrollado en Colombia con registro inspeccionadas, auditadas y actualizadas de forma
DNDA 1-2026-55183, ofrece un caso de referencia para independiente por la institución o por un auditor
esta discusión. No por su trayectoria de adopción — se externo.
trata de una plataforma muy reciente, sin adopción
documentada pública a la fecha— sino por las Estas decisiones no resuelven todos los
decisiones arquitectónicas que tomó frente al problemas
problema de la responsabilidad legal. El motor cognitivo propio del sistema, con
metodologías como el perfil Omega y los genes FEVC,
Tres decisiones merecen atención analítica componentes analíticos propios del modelo cognitivo
Evidencias jurídicas inmutables. El sistema utiliza desarrollado por el sistema, requiere validación
HMAC-SHA256 en modo append-only para registrar externa por parte de instituciones académicas
cada intervención sobre el expediente del estudiante. especializadas en educación especial o psicología
educativa antes de que sus resultados puedan
Esto significa que cualquier modificación queda considerarse acreditables en el sentido estricto. La
registrada como un evento nuevo, no como una validación externa constituye hoy la principal brecha
sobreescritura. El resultado es un log verificable que que la herramienta debe superar para que su
puede ser presentado en un proceso de tutela como propuesta diferencial pueda traducirse también en una
prueba de la secuencia de decisiones institucionales. garantía jurídica.
Operación offline-first con federación. A diferencia de Implicaciones para el sector EdTech
los SaaS en nube, el sistema opera localmente en la El caso no es único en su problemática, aunque sí lo
institución educativa, con capacidad de sincronización sea en su enfoque arquitectónico. Toda la industria
federada entre instituciones mediante USB o red local. EdTech que opera en contextos de educación inclusiva
enfrenta, en mayor o menor medida, el mismo desafío:
Esta decisión responde a un problema real del el mercado recompensa la velocidad de adopción, la
contexto colombiano: las instituciones rurales y las interfaz amigable y la capacidad de generar reportes en
zonas sin conectividad estable concentran una parte segundos. La verificabilidad, la trazabilidad y la
significativa de la población con discapacidad que más acreditabilidad son costosas, lentas y técnicamente
necesita estos servicios. Pero también tiene una complejas. No aparecen en los demos comerciales.
3
Vol 3 - 2026
No obstante, el marco jurisprudencial colombiano de tecnológica funciona bien. La pregunta es si el sistema
2025 está cambiando los incentivos. Cuando una puede demostrar que funcionó bien, ante quién y bajo
secretaría de educación es sancionada por tutela qué condiciones.
debido a PIAR mal formulados, y cuando el Ministerio
de Educación recibe una orden judicial de reglamentar La verificabilidad no es un atributo técnico secundario.
nuevas categorías de discapacidad, el costo de la Es la condición de posibilidad para que la tecnología
opacidad se vuelve visible. El riesgo legal comienza a educativa opere con legitimidad en contextos de
superar el costo de construir sistemas auditables. derechos fundamentales. Y en América Latina, donde
la brecha entre la obligación legal y la capacidad
Esta dinámica tiene implicaciones para tres tipos de institucional es estructural, las plataformas que no
actores: puedan responder esta pregunta enfrentan un riesgo
• Las instituciones educativas adoptantes necesitan que no desaparecerá con mejores interfaces ni con
exigir a sus proveedores de tecnología modelos más potentes.
documentación sobre la trazabilidad de los datos, la
auditabilidad de los algoritmos y la acreditación de La inteligencia artificial en educación no es solo una
las metodologías. La firma de un contrato con un cuestión de eficiencia, es una cuestión de
proveedor EdTech no transfiere la responsabilidad responsabilidad y la responsabilidad, en última
jurídica sobre el PIAR: la institución sigue siendo el instancia, siempre tiene un nombre, una firma y un
administrador de datos y el responsable ante la ley. expediente. El desafío no es tecnológico. Es de diseño
• Los desarrolladores de software educativo necesitan con conciencia jurídica. Y ese es, quizás, el debate más
incorporar el diseño para la auditabilidad desde la urgente que la academia, la industria y el Estado deben
arquitectura, no como una capa añadida al final. Las sostener antes de que la adopción masiva convierta la
decisiones sobre persistencia de datos, registro de opacidad en norma.
eventos y legibilidad de la lógica de negocio tienen
consecuencias jurídicas que no pueden resolverse
con términos y condiciones.
• Las instituciones académicas y de investigación Giovany Guarín Ramírez es ingeniero de sistemas, autor del
ecosistema MENS·SCCA, con registro de obra intelectual DNDA 1-
tienen un papel central en la validación de 2026-55183. Su trabajo se enfoca como arquitectura de software
soberano para contextos educativos, normativos y jurídicos
metodologías cognitivas y pedagógicas. La sensibles, con especial énfasis en la intersección entre tecnología,
normativa de educación inclusiva y protección de datos.
acreditabilidad no puede ser autorreferencial: una
herramienta que valida sus propias metodologías no
ofrece garantía jurídica a nadie. Declaración de interés
El autor es titular y desarrollador único del sistema MENS·SCCA
descrito como caso de referencia en este artículo (DNDA 1-2026-
La pregunta que el mercado aún no se hace 55183). El análisis se ofrece como reflexión desde el diseño y no
como evaluación independiente.
Cuando un sistema de inteligencia artificial genera el
perfil cognitivo de un niño con discapacidad y ese
perfil determina los apoyos que recibirá durante su
trayectoria escolar, la pregunta no es solo si la solución
4
Vol 3 - 2026
REFERENCIAS
[1] Ministerio de Educación Nacional. (2026, febrero).
Comunicado de prensa: matrícula de estudiantes con
discapacidad. mineducacion.gov.co
[2] Corte Constitucional de Colombia. (2025). Sentencia T-
040/2025. M.P. Jorge Enrique Ibáñez Najar.
corteconstitucional.gov.co
[3] Corte Constitucional de Colombia. (2025). Sentencia T-
049/2025. corteconstitucional.gov.co
[4] Laboratorio de Economía de la Educación, Universidad
Javeriana. (2026, marzo). Informe #136: Cuando la
discapacidad se encuentra con la educación.
lee.javeriana.edu.co
[5] Función Pública. (2017). Decreto 1421 de 2017.
funcionpublica.gov.co
[6] Congreso de Colombia. (2012). Ley 1581 de 2012 —
Protección de Datos Personales.
[7] Congreso de Colombia. (2013). Ley 1618 de 2013 —
Ejercicio pleno de derechos de personas con discapacidad.
[8] Guarín Ramírez, G. (2026). MENS·SCCA — Motor
Especializado de Núcleo Sistémico [Código fuente]. Registro
DNDA 1-2026-55183.
[9] European Commission. (2019). Ethics Guidelines for
Trustworthy AI. High-Level Expert Group on Artificial
Intelligence. Publications Office of the European Union.
5