Para empresas que ya usan IA, chatbots o agentes y necesitan que no filtren datos, no respondan fuera de política, no ejecuten acciones peligrosas y dejen evidencias claras para seguridad, RGPD y AI Act.
La demo no es el riesgo. El riesgo aparece cuando un cliente pregunta algo sensible, un empleado pega datos privados, un usuario intenta saltarse instrucciones o un agente con acceso al CRM hace más de lo que debería. Este servicio pone límites, pruebas y trazabilidad antes de escalar la IA.
Muchas empresas han pasado de probar ChatGPT a tener asistentes internos, chatbots de soporte, bases de conocimiento con RAG o agentes conectados a herramientas reales. Eso abre una oportunidad enorme, pero también una superficie de riesgo nueva: datos personales, información confidencial, instrucciones manipulables, documentos sin permisos, respuestas inventadas y acciones automáticas sin supervisión.
Mi trabajo es revisar esa implementación como lo haría alguien que quiere romperla: pruebo fugas, prompt injection, temas prohibidos, permisos, herramientas, logs y casos límite. Después convierto el diagnóstico en controles concretos: guardrails de entrada y salida, reglas de acceso a documentos, validación de respuestas, escalado humano, límites de acciones y evidencias para auditoría.
Importante: no sustituyo al abogado ni al DPO. Traduzco requisitos de seguridad, privacidad y marco europeo de IA a arquitectura técnica, documentación operativa y pruebas verificables. Si el caso necesita interpretación legal formal, lo trabajo junto al asesor legal de la empresa.
Datos personales, precios internos, documentos privados, políticas no públicas o información de otro cliente. El problema casi nunca está solo en el modelo: suele estar en permisos, RAG, logs y diseño de contexto.
Prompt injection, jailbreaks, instrucciones escondidas en documentos o mensajes diseñados para que el asistente ignore su política. Se prueba con ataques realistas, no solo con prompts bonitos.
Enviar emails, modificar datos del CRM, crear tickets, consultar pedidos o ejecutar automatizaciones sin confirmación puede ser muy caro si no hay allowlists, aprobaciones y límites.
Si nadie puede explicar qué sistemas de IA existen, qué datos usan, qué controles tienen o qué pruebas se hicieron, la empresa depende de confianza verbal. Eso no escala.
No vendo un PDF de compliance. Reviso cómo funciona la IA de verdad, dónde toca datos, qué decide, qué herramientas puede usar y qué evidencia deja cuando algo falla.
Listado de sistemas de IA, finalidad, usuarios, proveedor, datos tratados, impacto, rol de la empresa y posible clasificación de riesgo. Sirve para dejar de hablar de "usamos IA" y empezar a saber dónde, para qué y con qué obligaciones potenciales.
Qué datos entran, dónde se guardan, qué proveedor los procesa, qué logs existen, qué retención se aplica, quién puede acceder y qué información nunca debería llegar al modelo.
Revisión de prompts, system prompts, retrieval, filtros, bases vectoriales, documentos, herramientas conectadas, contexto, permisos, rate limits, trazas, errores y comportamiento ante entradas maliciosas.
Batería de pruebas contra fugas de datos, prompt injection, alucinaciones críticas, temas prohibidos, bypass de permisos, acciones peligrosas, abuso de herramientas y comportamiento ante usuarios hostiles.
Controles de entrada, recuperación, salida, herramientas, acciones, escalado humano y monitorización. El objetivo no es bloquearlo todo: es permitir lo útil y frenar lo peligroso.
Informe de hallazgos, matriz de riesgos, controles recomendados, pruebas ejecutadas, capturas, ejemplos de conversaciones, prioridades de remediación y retest después de aplicar cambios.
Un guardrail es una restricción útil. No es una frase en el prompt diciendo "no hagas cosas malas". Es un conjunto de controles por capas para decidir qué entra al sistema, qué documentos puede recuperar, cómo responde, qué acciones puede ejecutar y cuándo debe pedir ayuda humana.
La regla práctica: si el daño sería serio, no debe depender solo de la buena voluntad del modelo.
Detección de datos sensibles, intentos de prompt injection, instrucciones maliciosas, usuarios no autorizados y solicitudes fuera de alcance antes de enviar contexto al modelo.
Filtros por rol, cliente, departamento, documento, tenant y metadatos. Un RAG seguro no devuelve "lo más parecido"; devuelve solo lo permitido para ese usuario.
Validación de temas prohibidos, datos personales, tono, citas, nivel de confianza, obligación de admitir incertidumbre y escalado cuando la respuesta puede tener impacto sensible.
Allowlist de herramientas, permisos mínimos, confirmación humana para acciones críticas, límites de frecuencia, control de importes y trazabilidad completa de cada ejecución.
Logs revisables, alertas, muestras de conversaciones, detección de errores recurrentes, retención limitada y procedimiento de revisión cuando aparece un incidente.
El marco europeo obliga a mirar la IA por riesgo, no por moda. Una empresa necesita saber qué sistemas usa, para qué, con qué datos, qué personas se ven afectadas, qué proveedor interviene, qué documentación existe, quién supervisa y qué controles reducen el riesgo.
Mi enfoque es operativo: inventario, clasificación, controles, formación interna, documentación técnica y pruebas. La parte jurídica fina se valida con el asesor legal o DPO cuando corresponda.
Chatbots, asistentes internos, Copilot, automatizaciones con LLM, OCR inteligente, scoring, clasificación de documentos, modelos predictivos y herramientas SaaS con IA integrada.
Revisión preliminar de usos prohibidos, alto riesgo, riesgo limitado o bajo riesgo según finalidad, sector, impacto y rol de la empresa. No todos los usos tienen el mismo nivel de obligación.
Políticas internas claras: qué herramientas se pueden usar, qué datos no se deben pegar, cómo revisar salidas, cuándo escalar, qué hacer ante errores y cómo documentar decisiones asistidas por IA.
Logs, pruebas, matrices de riesgo, documentación de controles, decisiones de arquitectura, proveedores, flujos de datos, supervisión humana y procedimientos de revisión.
Reviso sistemas, casos de uso, prompts, proveedores, datos, usuarios, permisos, flujos, herramientas conectadas y conversaciones de ejemplo.
Clasifico impactos: privacidad, seguridad, reputación, operación, cumplimiento, coste económico y daño al cliente. No todos los riesgos merecen el mismo sprint.
Ejecuto escenarios de ataque y casos límite: prompt injection, fuga de datos, permisos RAG, alucinaciones críticas, respuestas prohibidas y acciones no deseadas.
Diseño o implemento controles por capas: entrada, recuperación, salida, herramientas, límites, revisión humana, logs, monitorización y respuesta ante incidentes.
Entrego informe, matriz de riesgos, controles, pruebas, evidencias y plan de mejora. Después se repiten pruebas críticas para validar que el riesgo bajó.
Antes de aumentar tráfico o conectarlo a CRM, conviene revisar si responde fuera de política, si guarda datos correctamente y si sabe cuándo derivar.
RAG sobre manuales, contratos, presupuestos o documentación interna necesita permisos, aislamiento por usuario y controles de recuperación.
Si el agente puede leer, escribir, enviar, modificar o ejecutar, necesita permisos mínimos, confirmaciones, logs y límites claros.
Cuando la empresa ya usa IA pero no sabe qué sistemas existen, qué datos tocan o qué controles hay, el primer entregable útil es inventario y mapa de riesgos.
Sistemas, proveedores, finalidad, usuarios, datos, impacto, propietario interno y clasificación preliminar de riesgo.
Riesgos de privacidad, seguridad, calidad, sesgo, reputación, operación y cumplimiento, ordenados por impacto y probabilidad.
Casos ejecutados, hallazgos, severidad, ejemplos de conversaciones, evidencias y recomendación de remediación.
Controles recomendados por capa: input, RAG, output, herramientas, permisos, escalado, logs y monitorización.
Borrador operativo para empleados: herramientas permitidas, datos prohibidos, revisión humana, límites, incidentes y formación.
Acciones priorizadas por riesgo, coste, urgencia y dependencia técnica. Primero lo que reduce exposición real.
En 30 minutos reviso el caso, detecto los riesgos más probables y te digo qué controles pondría primero.
Solicitar diagnóstico de riesgos IAImplementación de asistentes, RAG, modelos y automatización inteligente con controles desde el diseño.
Ver servicio →Chatbots para web, WhatsApp y soporte con escalado humano, base de conocimiento y calidad de respuesta.
Ver servicio →Diagnóstico, priorización y hoja de ruta antes de invertir en IA o automatización.
Ver servicio →Agentes con herramientas, permisos, supervisión y límites para procesos B2B.
Ver solución →Respuestas ancladas a documentación interna con control de permisos y trazabilidad.
Ver solución →Soporte conversacional para reducir tickets repetitivos sin perder control sobre casos sensibles.
Ver solución →Última actualización: 03/07/2026
Recopilamos datos personales únicamente cuando el usuario nos los facilita voluntariamente a través de:
| Dato | Obligatorio | Finalidad |
|---|---|---|
| Nombre | Sí | Identificar al remitente y personalizar la respuesta |
| Empresa | No | Contextualizar la consulta profesional |
| Sí | Responder a la consulta y enviar confirmación de recepción | |
| Servicio de interés | No | Derivar la consulta al área adecuada |
| Mensaje | No | Comprender la necesidad del usuario |
Correo de confirmación: al enviar el formulario de contacto, se envía automáticamente un email de confirmación a la dirección indicada por el usuario, como acuse de recibo de la solicitud.
| Dato | Obligatorio | Finalidad |
|---|---|---|
| Nombre | Sí | Mostrar la autoría del comentario publicado |
| Sí | Verificación interna y notificaciones (no se publica) | |
| Contenido del comentario | Sí | Publicación en la sección de comentarios del artículo |
Los comentarios pueden requerir aprobación del moderador antes de su publicación.
| Tipo de dato | Plazo | Criterio |
|---|---|---|
| Formulario de contacto | 12 meses | Desde la última comunicación |
| Comentarios del blog | Indefinido | Mientras permanezca publicado |
| Datos de clientes | 5-6 años | Obligaciones fiscales |
| Cookies | Variable | Según tipo de cookie |
Transcurridos los plazos, los datos serán eliminados o anonimizados.
De acuerdo con el RGPD y la LOPDGDD, tienes derecho a:
Para ejercer estos derechos: info@joanmedina.es
Puedes reclamar ante la AEPD en www.aepd.es.
En 30 minutos analizo tu empresa y te digo con claridad dónde estás perdiendo tiempo, qué automatizaría primero y qué evitaría. Sin compromiso, sin letra pequeña.
+10 años de experiencia · +200 procesos automatizados
Diagnóstico gratuito — Detecta dónde se pierden horas y qué automatización tiene más retorno
Pedir diagnóstico