En este artículo
En resumen: la inteligencia artificial generativa es la rama de la IA que produce contenido nuevo (texto, código, imágenes o audio) a partir de los patrones que aprendió de grandes volúmenes de datos. A diferencia de un sistema que solo clasifica o predice, genera una respuesta. Esa capacidad es útil y, al mismo tiempo, introduce riesgos propios: respuestas plausibles pero incorrectas, exposición de datos o decisiones sin trazabilidad. Por eso, en una organización, usarla bien es sobre todo un problema de reglas y arquitectura.
Una IA generativa regulada no se define por el modelo que una organización contrata ni por la cantidad de tareas que automatiza. Se define por su capacidad de operar bajo reglas claras: qué información puede consultar, qué decisiones puede apoyar, quién responde por sus resultados y cómo se demuestra lo ocurrido ante una auditoría, una queja o un incidente.
Para una entidad pública, una universidad o una empresa con procesos críticos, el reto no es simplemente habilitar un asistente conversacional. Es incorporar una capacidad tecnológica en una arquitectura existente, sin exponer datos sensibles, alterar responsabilidades institucionales o crear una nueva dependencia difícil de administrar. La regulación, en este contexto, no frena la innovación. Le pone condiciones para que sea sostenible.
Por qué la IA generativa regulada es un asunto de arquitectura
La IA generativa suele presentarse como una herramienta de productividad individual. Sin embargo, su uso institucional modifica flujos de información, procesos de atención, decisiones operativas y formas de producción de contenido. Cuando un agente consulta expedientes, resume documentos, propone respuestas a ciudadanos o clasifica solicitudes, deja de ser una funcionalidad aislada. Se convierte en parte de un sistema de decisión.
Por eso, regular su uso requiere mucho más que publicar una política de uso responsable. Se necesita una arquitectura que conecte identidad, permisos, fuentes de datos, registros de actividad, reglas de negocio y mecanismos de supervisión. Una política sin controles técnicos depende de que cada persona recuerde actuar bien. Una arquitectura bien diseñada reduce la posibilidad de actuar mal, incluso bajo presión operativa.
El punto de partida es entender que no todos los casos de uso tienen el mismo riesgo. Un asistente que ayuda a redactar una primera versión de una comunicación interna no debería someterse al mismo nivel de control que un agente que consulta información personal, orienta un trámite o recomienda priorizar beneficiarios. La proporcionalidad permite concentrar los controles donde realmente importan.
Regular no significa bloquear toda respuesta útil
Una implementación demasiado restrictiva puede volver irrelevante la solución. Si el asistente solo puede responder con frases genéricas, los equipos regresarán a herramientas no autorizadas que parecen más útiles, pero que operan por fuera del gobierno institucional. El objetivo es habilitar acciones acotadas, auditables y medibles, no imponer barreras que incentiven la informalidad tecnológica.
La alternativa es definir límites funcionales concretos. Por ejemplo, un agente puede recuperar y sintetizar información de una base documental aprobada, pero no modificar registros en un sistema misional. Puede proponer una respuesta para revisión de un funcionario, pero no enviarla automáticamente a un ciudadano. Puede detectar que falta información en una solicitud, pero no negar el trámite por cuenta propia.
El riesgo empieza antes de elegir el modelo
Muchas organizaciones inician la conversación preguntando qué modelo ofrece mejores respuestas. Es una pregunta válida, pero llega después de otras más determinantes: ¿para qué proceso se usará?, ¿qué datos necesita?, ¿qué error sería inaceptable?, ¿quién validará la salida?, ¿cómo se corregirá una respuesta equivocada?
Estas preguntas llevan a una evaluación de riesgo aplicable al contexto. En Colombia, el tratamiento de datos personales, las obligaciones contractuales, la reserva de información, las reglas sectoriales y, cuando corresponda, los lineamientos para canales digitales institucionales deben orientar el diseño. No basta con confiar en que un proveedor tecnológico tiene prácticas de seguridad generales. La organización sigue siendo responsable de cómo usa, integra y administra la solución.
También es necesario diferenciar entre información pública, información interna y datos con acceso restringido. Un repositorio documental puede contener simultáneamente normativa abierta, procedimientos internos y documentos con datos personales. Si esa clasificación no existe, un sistema RAG puede recuperar contenido no autorizado aunque el modelo no haya sido entrenado con él. La calidad de la respuesta no compensa una falla de acceso.
Gobierno de datos, trazabilidad y control humano
La base de una implementación confiable está en un inventario de fuentes y permisos. Cada documento, API o sistema conectado debe tener un propósito definido, un responsable de negocio y reglas de acceso consistentes con los perfiles institucionales. Conectar “todo lo disponible” para mejorar la respuesta suele ampliar la superficie de riesgo y dificultar la administración posterior.
En soluciones basadas en recuperación aumentada, o RAG, esto implica controlar la indexación, la actualización documental y las citas de las fuentes recuperadas. Si el agente responde con base en documentos desactualizados, la trazabilidad permitirá identificar el origen del problema, pero no evitará el daño. Por eso, la gestión del ciclo de vida del contenido es parte del gobierno de IA.
El registro de actividad debe responder preguntas prácticas: qué usuario hizo la solicitud, qué fuentes se consultaron, qué versión de las instrucciones estaba vigente, qué respuesta se entregó y si una persona la aprobó o corrigió. Registrar no es acumular datos indefinidamente. Es conservar evidencia suficiente, con periodos de retención y acceso definidos, para investigar incidentes y mejorar el servicio.
El control humano tampoco puede ser una frase decorativa. Debe especificar en qué momento interviene una persona y con qué facultades. En procesos de alto impacto, la revisión previa es necesaria. En procesos de menor riesgo, puede bastar con monitoreo por muestreo, alertas y posibilidad de reversar acciones. El diseño depende de las consecuencias de un error, de la frecuencia de uso y de la madurez operativa del equipo.
Diseñar agentes con permisos mínimos
Un agente no debería recibir más capacidades de las que necesita para cumplir una tarea. Este principio de privilegio mínimo es conocido en seguridad, pero cobra una relevancia especial cuando se combinan modelos generativos con herramientas que ejecutan acciones.
Un agente que consulta el estado de un proceso no requiere permisos para modificarlo. Uno que prepara un borrador de respuesta no necesita acceso a todos los expedientes históricos. Uno que crea una solicitud de soporte puede hacerlo en un ambiente controlado, con validación de campos y sin capacidad para alterar configuraciones de producción.
Los workflows de agentes deben separar etapas: interpretar la solicitud, recuperar evidencia, aplicar reglas de negocio, solicitar aprobación y ejecutar una acción, si corresponde. Esa separación facilita probar cada componente, asignar responsabilidades y detener un flujo cuando una condición no se cumple. También evita que la aparente autonomía se convierta en opacidad.
Las pruebas deben medir comportamiento, no solo precisión
Probar una IA generativa con unas pocas preguntas exitosas produce una falsa sensación de seguridad. Las pruebas útiles incluyen solicitudes ambiguas, documentos contradictorios, datos incompletos, instrucciones maliciosas y preguntas que el sistema debe rechazar. También deben evaluar si el agente identifica incertidumbre, cita fuentes correctas y respeta los límites de sus permisos.
Conviene mantener un conjunto de casos de evaluación representativos del dominio institucional. No se trata de buscar una respuesta perfecta en lenguaje natural, sino de verificar comportamientos esperados: no inventar requisitos, no revelar información restringida, escalar al responsable adecuado y abstenerse cuando la evidencia es insuficiente.
Los indicadores deben combinar calidad y control. La reducción de tiempos de respuesta importa, pero también importan la tasa de correcciones humanas, los casos escalados, las respuestas sin fuente verificable, los intentos de acceso rechazados y el nivel de uso de información actualizada. Medir solo adopción puede premiar una solución rápida que acumula riesgos silenciosos.
Integrar sin fragmentar la operación
El valor de la IA aparece cuando se integra con los sistemas donde ya ocurre el trabajo: gestores documentales, CRM, plataformas de atención, sitios institucionales, sistemas académicos o herramientas de soporte. Pero cada integración agrega dependencias que deben administrarse con criterios de disponibilidad, seguridad y continuidad operativa.
Una arquitectura empresarial adecuada desacopla el agente de los sistemas críticos mediante APIs controladas, capas de integración y registros transaccionales. Así, cambiar un modelo o ajustar una instrucción no obliga a intervenir directamente una plataforma central. Además, permite operar con degradación controlada: si el componente generativo falla, el proceso puede seguir por un canal manual o con funcionalidades básicas.
En plataformas digitales institucionales, esta lógica también protege la experiencia del usuario. Un chat con IA no reemplaza una estructura de contenidos clara, flujos editoriales bien definidos ni requisitos de accesibilidad. Puede orientar, resumir y asistir, pero debe convivir con canales verificables y con información oficial fácil de encontrar sin depender de una conversación.
Empezar con un caso que permita aprender
La mejor primera implementación no siempre es la más visible. Un caso interno, repetitivo y con fuentes documentales bien delimitadas permite validar la calidad de los datos, los permisos, la supervisión y la operación antes de llevar la solución a ciudadanía, estudiantes o clientes. Puede ser la consulta de procedimientos internos, la preparación de borradores o el soporte a equipos de servicio.
Coresis aborda estos proyectos como capacidades que deben mantenerse en el tiempo: agentes conectados a sistemas existentes, reglas de acceso, orquestación, evidencia de ejecución y evolución controlada. La tecnología aplicada con criterio de arquitectura y continuidad permite que la IA contribuya a la operación sin convertirse en un componente imposible de explicar o administrar.
La pregunta útil no es cuánto puede hacer un agente desde el primer día. Es qué tarea concreta puede resolver de forma confiable, con evidencia suficiente y con una ruta clara para corregirlo cuando se equivoque. Desde ahí, regular deja de ser un requisito externo y se convierte en una forma de construir confianza para escalar.
Qué la diferencia de otros tipos de IA
- IA predictiva o de clasificación: asigna una categoría o estima un valor (por ejemplo, priorizar una solicitud).
- IA generativa: redacta, resume, traduce o propone contenido nuevo.
- Agentes: combinan un modelo generativo con herramientas para ejecutar pasos, como consultar un sistema o preparar un documento.
Marcos como el perfil de IA generativa del NIST (AI 600-1) y los principios de IA de la OCDE coinciden en los controles básicos: saber de dónde sale cada respuesta, limitar lo que el sistema puede hacer, mantener supervisión humana en las decisiones con consecuencias y medir el comportamiento en producción.
Cómo lo aplica Coresis
Nuestros dos productos con IA generativa siguen ese principio de control. Labbu guía a contratistas del Estado en la redacción de informes, actas y cuentas de cobro con asistentes acotados por tarea; está en fase de lanzamiento inicial y en validación con usuarios reales. Lummiere usa un asistente conversacional para reservas hoteleras, pero el modelo no decide el precio ni la disponibilidad: invoca herramientas con límites definidos y cada acción queda registrada. Ese es el enfoque que llevamos a clientes desde nuestra agencia de inteligencia artificial.
Lecturas relacionadas
- Qué es RAG y cómo funciona en la empresa
- Fine-tuning: qué es y cuándo conviene frente a RAG
- Automatización de procesos con IA: guía práctica