GESTOR en IA (HITL)
Enseñanza e implementación de un nuevo rol para la enseñanza reglada: la persona que coordina, supervisa y audita el uso de la inteligencia artificial en el centro, bajo la LOMLOE, el AI Act de la UE y el RGPD.
La IA ya está entrando en los centros
¿Quién gobierna su utilización? La tecnología llega antes que el criterio: faltan supervisión, criterio común y trazabilidad sobre cada uso de la inteligencia artificial en la educación.
Gestor en IA
Una figura humana —con metodología, software y control— que coordina, supervisa y audita el uso de la inteligencia artificial en el centro. La IA propone; el Gestor decide.
De generar respuestas a gobernar la IA
El proyecto demuestra tres niveles de madurez. El tercero es la clave.
Carmen responde
Un modelo de lenguaje genera respuestas a las consultas.
Carmen consulta un corpus mediante RAG
Recupera la normativa relevante y fundamenta cada respuesta en fuentes.
Un humano supervisa y decide
El Gestor supervisa, valida, documenta y asume la decisión. La IA propone; la persona decide.
Cinco pasos, una cadena de control
Del registro del caso a la ficha documentada. La IA propone, el Gestor decide y el sistema deja trazabilidad.
- 1RegistrarEl centro registra un uso de IA: finalidad, datos, alumnado y proveedor.
- 2AnalizarEvaluación preliminar de riesgos y medidas.
- 3FundamentarCarmen recupera fuentes normativas (RAG).
- 4ValidarEl Gestor aprueba, modifica o rechaza. Decisión humana.
- 5DocumentarTrazabilidad y ficha del expediente (PDF).
Un rol, seis responsabilidades
El Gestor en IA concentra las funciones que hacen gobernable la IA en el centro.
Supervisión humana
Valida cada decisión relevante de la IA antes de que se aplique. El human-in-the-loop es la regla, no la excepción.
Alfabetización en IA
Garantiza que el personal del centro tenga formación suficiente, como exige el art. 4 del AI Act.
Gobernanza de datos
Protege los datos del alumnado y del centro conforme al RGPD y a la LOPDGDD.
Evaluación de riesgos
Identifica y clasifica los usos de IA según su nivel de riesgo, conforme al Anexo III del AI Act.
Formación del profesorado
Diseña el itinerario de capacitación docente en competencia digital e IA.
Enlace institucional
Coordina el centro con la Administración educativa y las convocatorias autonómicas.
Compruébalo tú mismo
El flujo completo, en vivo: registra un caso, obtén el análisis, consulta a Carmen y decide como Gestor. Con trazabilidad y exportación a PDF.
Abrir el panelCarmen · Asistente documental del Gestor en IA
Consulta normativa, recupera fuentes y propone criterios. No adopta decisiones sobre el alumnado ni sustituye al responsable humano.
Asistente documental
Recupera fuentes del corpus normativo y propone criterios con verificación ética y trazabilidad. No decide.
Abrir asistenteMetodología, Optimización, Responsabilidad, Autonomía
El marco que rige el uso de la IA en el centro, con verificación ética y trazabilidad en cada capa.
Gobernanza
Protocolos de control y trazabilidad para un uso responsable de la IA.
Ética
Verificación ética de cada respuesta antes de su entrega.
Seguridad
Protección de datos, cumplimiento RGPD y confidencialidad.
Sesgo
Detección y mitigación de sesgos en modelos y corpus.
Detrás del producto
Nginx sirve la landing y el panel; Carmen aporta LLM, RAG, validador ético y escalado humano; la API y el almacenamiento cierran el ciclo.
Nginx
Landing, portal del Gestor y API servidos con HTTPS y Basic Auth.
Carmen
LLM + RAG normativo + validador ético + escalado humano.
Almacenamiento
Registro de casos y auditoría append-only, con logs y backups.
Tres marcos, un encaje
La figura del Gestor en IA responde a obligaciones normativas reales y al encaje curricular de la LOMLOE.
AI Act · Reg. UE 2024/1689
Art. 4: alfabetización en IA del personal. Anexo III.3: la educación es un ámbito de alto riesgo. El GESTOR es la respuesta de supervisión humana.
Abrir Reglamento (PDF)LOMLOE · LO 3/2020
Competencia digital como competencia clave, formación permanente del profesorado y autonomía de los centros para innovar.
Abrir BOE (PDF)RGPD + LOPDGDD
Datos de menores, decisiones automatizadas (art. 22) y evaluaciones de impacto como criterio de diseño.
Abrir RGPD (PDF) Abrir LOPDGDD (PDF)Construido para proteger datos
Credenciales fuera del código, HTTPS, autenticación, minimización y trazabilidad.
Secretos y acceso
Variables de entorno, HTTPS y panel privado autenticado.
Datos y consentimiento
Minimización de datos personales y consentimiento trazable.
Control y retención
Rate limiting, human-in-the-loop, backups y política de retención.
De un centro a un ecosistema
La arquitectura está pensada para crecer en cuatro fases.
- 1Un centroEl Gestor opera en un centro educativo.
- 2Roles y departamentosVarios Gestores y áreas dentro del centro.
- 3Multi-centroRed de centros con gobernanza compartida.
- 4IntegracionesLMS y administración educativa.
Diplomado en IA aplicada a la docencia.
Este proyecto construye de punta a punta un producto real: landing, panel de gobernanza, asistente documental con RAG, decisión humana y trazabilidad. No es solo una web con un chatbot: es gobernanza, IA, seguridad y control.
La herramienta portátil del Gestor
System MORA en el móvil: sala de agentes, niveles de acceso y registro de reuniones. La IA propone; la persona decide.
Hablemos
Cuéntanos tu consulta sobre el Gestor en IA. Los datos se tratan conforme a nuestra política de privacidad.
¿Dónde estamos?
06011 Badajoz, España
