Automatización con IA
Gobernanza de datos al integrar LLMs en la empresa
Qué datos pueden alimentar un modelo, retención, permisos, PII y despliegue on-prem vs cloud — sin filtrar información confidencial en prompts.
14 min de lectura · Actualizado 2026-07-22
Perímetro antes que prompt ingenioso
La gobernanza empieza por inventario: qué sistemas toca el agente (ERP Siesa, CRM, SharePoint, correo), qué campos lee, qué escribe, dónde se persisten logs y embeddings. Sin inventario, cada integración es una fuga potencial.
Clasificá datos: públicos, internos, confidenciales, restringidos (PII, salud, financieros sensibles). Por clase definí si pueden ir a LLM cloud, solo LLM privado, o prohibidos en contexto del modelo. La clasificación la firma negocio + legal, no solo TI.
Minimización: enviá al modelo solo lo necesario para la tarea. Para clasificar un ticket no hace falta pegar historial completo del cliente con cédula; hace falta categoría, producto y último estado.
Qué evitar: copiar bases completas a notebooks para «probar ChatGPT». Qué hacer: entorno de prueba con datos sintéticos o anonimizados representativos.
PII, retención y cumplimiento
PII en Colombia y mercados LatAm/España: identificación, contacto, datos financieros personales. Enmascarar o tokenizar antes del LLM cuando sea posible; nunca enviar contraseñas, OTP ni secretos API en prompts — aunque el modelo «no guarde».
Retención: define cuánto viven logs de conversación, prompts, respuestas y embeddings. Borrado automático al cumplir plazo; derecho de supresión si aplica normativa local.
Contratos con proveedores LLM: desactivar entrenamiento con tus datos (opt-out explícito), región de procesamiento, subprocesadores. Cloud enterprise ≠ consumer ChatGPT en términos legales.
Facturas y PDFs contienen NIT, direcciones, líneas con precios — tratar como confidencial. Almacenamiento en bucket cifrado con acceso por servicio, no en chats compartidos.
Permisos, identidad y acceso del agente
El agente actúa con identidad de servicio, no con credenciales personales de un analista. Permisos mínimos (least privilege): solo APIs y tablas necesarias. Rotación de secrets y auditoría de llamadas.
Reutiliza SSO/RBAC existente para la UI humana; el agente no debe ver más que el rol operativo que emula. Un agente de soporte L1 no accede a nómina.
Separación ambientes: datos de producción no en sandbox de desarrollo del modelo. Sincronización anonimizada para tests de regresión del agente.
Checklist seguridad: pentest de endpoints del agente, rate limiting, validación de salida (no filtrar JSON interno al usuario final), bloqueo de prompt injection en entradas externas (correo, formulario web).
On-prem, VPC y modelos privados
Cuando la política prohíbe datos en cloud público, opciones: LLM en VM dedicada en infraestructura propia, API gateway privado, RAG sobre vector store en red interna. Mayor costo de infra y operación; menor riesgo de exfiltración.
RAG (retrieval augmented generation): documentos indexados en tu perímetro; el modelo recibe chunks recuperados bajo política. Actualizá índice cuando cambien políticas comerciales — respuestas obsoletas son incidente de negocio.
No confundas «privado» con «seguro por defecto»: modelos self-hosted también necesitan parches, backups y control de acceso. Conecta despliega en clúster de virtualización propio con Cloudflare Zero Trust al perímetro cuando el cliente lo requiere.
Qué evitar: shadow IT donde empleados pegan Excel confidencial en herramientas consumer. Qué hacer: canal aprobado corporativo + DLP básico en correo donde sea viable.
Comité ligero y cuándo llamar a Conecta
Comité de gobernanza IA trimestral: TI, legal, operaciones, patrocinador de negocio. Agenda: nuevos casos de uso, incidentes, cambios de proveedor, revisión de clasificación de datos.
Plantilla de evaluación por caso: descripción, datos, nivel de autonomía, proveedor LLM, retención, dueño, fecha de revisión. Sin formulario, no producción.
Incidente de fuga o alucinación con impacto cliente: playbook — pausar agente, preservar logs, notificar, root cause, regresión a supervisado.
Conecta ayuda a diseñar política técnica alineada a operación real (ERP, facturas, logística), no slides genéricos. Involucra early si manejas datos regulados o integración profunda con Siesa — rehacer arquitectura post-piloto cuesta más que hacerlo bien al inicio.
Ponlo en práctica ahora
Usa las herramientas gratuitas del Toolbox para validar tu configuración en minutos.
¿Necesitas que lo resolvamos contigo?
Un ingeniero de Conecta puede aplicar esto en tu operación: servicio relacionado o conversación directa.