La seguridad en IA es el conjunto de controles que evita que un modelo entregue datos sensibles, invente información como si fuera un hecho o sea manipulado por un texto malicioso. La auditoría mínima tiene cinco frentes: qué datos entran, quién ve lo que sale, qué herramientas puede accionar el modelo, cómo se registra cada respuesta y quién revisa antes de publicar. Una empresa que salta esta etapa escala un riesgo invisible — y barato de resolver al principio.
La pregunta ha dejado de ser "¿vamos a usar IA?" y ha pasado a ser "¿con qué límites?". En 2026 casi toda operación comercial tendrá un asistente escribiendo correos, analizando conversaciones de WhatsApp o llenando CRM. El riesgo no está en que el modelo sea tonto; está en que sea obediente a una instrucción dada por alguien que no debería.
Los cinco riesgos que aparecen de verdad
- Filtración de datos. Alguien pega un contrato, un CPF o la hoja de márgenes en un asistente público. La información sale de su control y no vuelve.
- Inyección de instrucciones. Un texto proveniente de afuera — página, correo, mensaje de cliente — contiene comandos que el modelo sigue, ignorando las reglas del sistema.
- Alucinación con confianza. El modelo responde con números y fuentes inventadas, en el mismo tono de la verdad. En contenido público, esto destruye la autoridad.
- Automatización sin freno. El agente envía un mensaje, crea un descuento o elimina un registro sin aprobación humana.
- Rastro inexistente. No hay registro de quién pidió qué, qué respondió el modelo y qué fue publicado.
Auditoría mínima, bloque por bloque
| Frente | Pregunta de control | Evidencia esperada |
|---|---|---|
| Datos | ¿qué categorías entran en el prompt? | lista con datos personales y financieros marcados |
| Acceso | ¿quién puede usar qué herramienta? | perfil con permiso mínimo |
| Salida | ¿qué ve el usuario del razonamiento? | pantalla sin datos internos expuestos |
| Acción | ¿qué puede ejecutar la IA sola? | lista con lo que requiere aprobación humana |
| Registro | ¿qué queda grabado y por cuánto tiempo? | log con fecha, autor y contenido |
1. Clasifique los datos antes de escribir el prompt
Separe lo que puede ir a un modelo externo de lo que no puede. Datos personales de clientes, información de contratos, márgenes y planificación estratégica quedan en el segundo grupo. A partir de esta lista, usted decide dónde corre cada asistente: versión pública, versión corporativa con retención desactivada o modelo interno.
2. Trate el texto de terceros como entrada hostil
Página web, adjunto, comentario y mensaje de WhatsApp son entradas no confiables. El modelo debe recibir este contenido como dato, nunca como instrucción. En la práctica: bloque separado en el prompt, regla explícita de que allí dentro no hay comando válido, y revisión humana cuando la respuesta implica publicar, enviar o alterar un registro.
3. Aprobación humana en toda acción externa
Regla simple que resuelve la mayor parte: la IA puede investigar, redactar y sugerir; publicar, enviar, programar, conectar y alterar datos sensibles requiere aprobación. Es la diferencia entre un asistente y un pasante con la contraseña del banco.
4. Registre cada interacción relevante
Log con fecha, usuario, prompt resumido, respuesta y lo que se hizo después. Sin registro no hay forma de investigar un incidente ni probar conformidad cuando un cliente pregunta.
5. Combine la base legal, no improvise
Quien maneja datos personales de clientes necesita saber la base legal, el plazo de retención y el canal de respuesta al titular. La IA generativa no crea exención: el dato sigue siendo dato — vea privacidad de datos en marketing.
¿Usa IA en la atención y no sabe qué se está registrando? Haga el diagnóstico gratuito con la Agencia Kaizen.
Un plan de 30 días
- Semana 1: inventario. Liste todos los asistentes en uso, incluso los que alguien abrió por su cuenta.
- Semana 2: clasificación. Marque lo que cada uno recibe y genera; bloquee lo que no debería.
- Semana 3: reglas. Aprobación humana para acción externa, registro de interacción, canal de incidente.
- Semana 4: prueba. Simule un caso de inyección y uno de filtración. Si la respuesta sale sin barrera, el control no existe.
Ejemplo del segmento
Una operación de atención con WhatsApp automatizado recibía mensajes de clientes con enlaces a una página. La página contenía instrucciones ocultas pidiendo que el asistente revelara el guion de ventas y ofreciera un descuento. Como el texto externo era tratado como instrucción, el agente obedecía. La corrección fue de diseño: el contenido externo pasó a entrar en un bloque aislado, y cualquier descuento pasó a requerir la aprobación de un humano. El modelo no cambió; el proceso cambió.
Cómo medir la madurez sin complicar
Asigne una nota de 0 a 2 para cada frente — datos, acceso, salida, acción y registro. Una suma por debajo de 6 es operación sin control; entre 6 y 8 requiere un plan con plazo; por encima de 9 está listo para crecer. Repita cada trimestre, porque cada nueva herramienta cambia el diseño.
El modelo no es el único riesgo
La mitad de los incidentes que aparecen en la práctica no nacen del modelo, nacen de la extensión: plugin que lee toda la bandeja de entrada, agente conectado al CRM con permiso de administrador, integración que guarda la clave de acceso en texto en el código.
Antes de auditar el prompt, audite la conexión:
| Conexión | Riesgo | Control mínimo |
|---|---|---|
| Bandeja de entrada | leer mensaje de tercero como instrucción | permiso de lectura restringido a carpeta |
| CRM | alterar o exportar toda la base | acceso por etapas, no administrador |
| Clave y token | filtración en log o repositorio | secreto en cofre, rotación trimestral |
| Almacenamiento | copia de documento sin plazo | retención definida y eliminación automática |
Este cuadro es la parte tediosa y la que más evita dolores de cabeza: cada permiso que el agente no necesita es un accidente que no ocurre.
Mitologías que cuestan caro
- "Usamos solo la versión corporativa, así que estamos seguros." La versión corporativa no impide que alguien pegue datos que no debería.
- "El modelo es bueno, no se equivoca." Todo modelo se equivoca y lo hace con convicción.
- "El registro es burocracia." El registro es lo que permite responder al cliente y a la auditoría el mismo día.
- "La seguridad es tarea solo de TI." Quien opera el día a día define los datos que entran.
FAQ
¿Necesito una política de uso de IA por escrito?
Sí, y breve. Una página con lo que se puede y no se puede, dónde la aprobación humana es obligatoria y a quién reportar incidentes vale más que un manual de 40 páginas que nadie lee.
¿Puedo usar ChatGPT o Gemini con datos de clientes?
Solo si el contrato de la herramienta garantiza que no se utilizará para entrenamiento y la retención está definida, y si los datos están dentro de la categoría permitida por su política. En caso de duda, anonimice.
¿Cómo evito que el agente cometa errores solo?
Permiso mínimo y aprobación por acción externa. Comience con el agente sugiriendo y el humano haciendo clic.
¿La seguridad en IA es cara?
El diseño cuesta semanas, no la licencia del proveedor. Lo caro es el incidente: contrato expuesto, descuento indebido, publicación de un post con datos de clientes. Vea también gobernanza de IA y IA en atención.
Comenzar por donde duele más
Comience por los datos. Si no sabe qué información entra en su asistente hoy, ese es el único ítem de la lista para resolver esta semana. Luego, aprobación humana en toda acción externa. Ambos juntos resuelven la mayor parte del riesgo que asusta y pueden hacerse sin cambiar de herramienta.
Lea también:La Agencia Kaizen implementa agentes de IA con control de datos, aprobación humana y registro de interacción. Hable con nosotros para un diagnóstico de lo que está funcionando hoy.
Lea también: 6 ÍTENS QUE NO PUEDEN FALTAR.

