Saltar al contenido
← Volver al blog
7 min es

IA en el SOC: qué automatiza hoy y qué sigue siendo humano

Dónde ayuda la IA en un SOC (resumen, enriquecimiento, triaje) y dónde falla (contexto, falsos positivos, decisiones). Con límites y ejemplos propios.

Escrito por Eduardo Olivares, analista SOC en Barcelona.

  • ia
  • soc
  • security copilot
  • owasp llm
  • nist ai rmf
  • analista soc

Quien busca "ai soc analyst" suele querer saber una de dos cosas: si esto le quita el puesto o si le sirve hoy para algo. Aquí separo lo que la documentación de los fabricantes dice que hacen estas herramientas de lo que sigue necesitando a una persona, con los límites que los propios fabricantes reconocen.

Respuesta corta: la IA ayuda en tareas acotadas sobre datos ya recogidos: resumir alertas, traducir una pregunta a KQL, dar contexto sobre indicadores y redactar informes. Falla donde hace falta conocer el negocio, y su salida puede ser inexacta o incompleta, así que alguien tiene que comprobarla antes de actuar. Microsoft lo escribe en la ficha de Security Copilot: sus agentes están diseñados para aumentar la capacidad humana, no para sustituirla, y el cliente sigue siendo responsable de revisar los resultados.

Qué significa "analista SOC con IA"

Hay dos modelos de uso y conviene no mezclarlos. El copiloto responde a lo que le preguntas y tú decides qué hacer con la respuesta. El agente procesa señales del entorno, genera recomendaciones y, según la definición de Microsoft, puede ejecutar acciones acotadas dentro de los permisos configurados, con aprobación de un usuario o administrador. Microsoft los describe como flujos semiautónomos con supervisión humana.

La diferencia cambia el riesgo. Un copiloto equivocado te hace perder tiempo; un agente equivocado con permisos de escritura cambia cosas en el entorno. La lista OWASP Top 10 para aplicaciones LLM (edición 2025) recoge esto como LLM06, Excessive Agency.

Tareas donde ayuda

Resumir alertas e incidentes

Es el uso mejor documentado. Según Microsoft Learn, Security Copilot genera resúmenes de alertas complejas y correlaciona señales entre Microsoft Defender XDR, Microsoft Sentinel y otros productos integrados. Un resumen sirve porque se puede contrastar con la alerta original en segundos. Mi criterio es leerlo como un índice y abrir la alerta antes de dar nada por cierto. Para saber en qué orden mirar lo que salta, tengo escrito el triaje de alertas en un SOC.

Enriquecer IOCs y CVEs, y escribir consultas

La documentación de Security Copilot describe plugins que buscan en artículos y perfiles de inteligencia de amenazas de Microsoft Defender, en informes de threat analytics y en publicaciones de vulnerabilidades. También traduce lenguaje natural a consultas KQL para hunting.

Parte del enriquecimiento no necesita un modelo. Vigilar el catálogo KEV de CISA se resuelve con un script, y lo conté en este post. La prioridad de un CVE depende de más cosas que su puntuación, como explico en priorizar CVEs sin fiarse solo del CVSS. Con KQL hay un aviso explícito de Microsoft: el código generado puede parecer válido sin ser correcto ni reflejar lo que pediste, y no debe llegar a producción sin validación. Su ejemplo es revisar que el rango de tiempo de la consulta coincide con el que pediste en el prompt.

Redactar informes

Microsoft incluye entre los casos de uso los informes para distintas audiencias, desde resúmenes técnicos hasta ejecutivos. Recoger los datos es la parte mecánica y se resuelve sin modelo, como en el informe semanal del SOC con Python.

Dónde falla o necesita revisión humana

Falta de contexto del negocio

Microsoft indica que las respuestas dependen de las fuentes de datos, las integraciones y el contexto que aporte el usuario, y que si faltan datos relevantes el resultado puede ser incompleto o inexacto. Un modelo no sabe que un servidor es crítico para la facturación si nadie se lo ha dicho.

Alucinaciones y trazabilidad

OWASP lista la desinformación como LLM09 (Misinformation). Microsoft admite que Security Copilot puede producir respuestas inexactas, incompletas o desactualizadas, y define el exceso de confianza como aceptar salidas incorrectas porque los errores son difíciles de detectar. Para un analista, avisa, eso puede traducirse en amenazas no vistas o conclusiones erróneas. Como mitigación, la herramienta cita fuentes y muestra los pasos intermedios, y eso conviene exigirlo a cualquier producto.

Un ejemplo propio y pequeño de por qué conviene medir. En el post sobre el desacuerdo entre clasificadores probé, con 7.822 correos, una idea más sofisticada contra una base simple. El modelo de solo texto llegó a una exactitud del 98,17 %, casi igual que el conjunto completo, y la idea elaborada perdió contra él. El corpus es de 2004 a 2007, así que esas cifras no se trasladan a un SOC actual. Lo que sí se traslada es el método: compara con una línea base simple antes de añadir complejidad.

Datos sensibles hacia terceros

OWASP incluye la divulgación de información sensible como LLM02 y la inyección de prompts como LLM01. La segunda tiene una consecuencia concreta en un SOC: el correo o el script que analizas lo ha escrito el atacante, y puede contener instrucciones dirigidas al modelo. Sobre los datos, Microsoft indica que en Security Copilot los prompts y respuestas se tratan como datos del cliente y no se usan para entrenar los modelos de base. Esa garantía es de ese producto; en cualquier otro hay que pedirla por escrito. Una alternativa es que el dato no salga del equipo, como en el clasificador de phishing que corre en el navegador, donde la URL no sale del dispositivo.

Cómo evaluar una herramienta: checklist

  1. Datos: qué sale de tu entorno, quién lo ve, cuánto se conserva y si se usa para entrenar.
  2. Permisos: qué puede hacer el agente, con qué identidad y si se aplica mínimo privilegio. Microsoft recomienda configurar RBAC y permisos de agente con ese criterio.
  3. Auditoría: si muestra los pasos y las fuentes, y si queda registro de quién lanzó qué.
  4. Tasa de error: pide una prueba con casos tuyos, contando falsos positivos y falsos negativos. Una cifra del fabricante sobre datos que no son los tuyos no te sirve.
  5. Coste y capacidad: en Security Copilot la capacidad se mide en unidades de cómputo (SCU), y Microsoft recomienda vigilar su consumo.
  6. Marco de riesgos: el NIST AI RMF 1.0 (publicado el 26 de enero de 2023, de uso voluntario) organiza la gestión en cuatro funciones: Govern, Map, Measure y Manage. El OWASP Top 10 para LLM 2025 sirve de lista de verificación técnica.

Qué habilidades siguen pesando para entrar al SOC

Para comprobar una salida de IA hay que saber hacer el trabajo a mano. Eso incluye leer logs, entender el orden del triaje, escribir y leer KQL y conocer cómo funciona el entorno que se protege. Si estás empezando, qué hace un analista SOC y las certificaciones para empezar son el punto de partida.

Preguntas frecuentes

¿La IA va a reemplazar al analista SOC?

No puedo predecir el futuro. Lo que dice hoy la documentación de Microsoft sobre Security Copilot es que está pensada para aumentar la capacidad humana y que los clientes siguen siendo responsables de revisar y validar sus resultados.

¿Qué es un agente de IA en un SOC?

Según la definición de Microsoft, un software que procesa señales del entorno, analiza datos y genera recomendaciones, y que puede ejecutar acciones acotadas dentro de los permisos configurados, con aprobación.

¿Puedo pegar datos de un incidente en un chatbot público?

Depende de la política de tu organización y del contrato con el proveedor. OWASP incluye la divulgación de información sensible entre los riesgos de las aplicaciones LLM. Sin autorización expresa, no pegues datos de clientes ni de usuarios.

¿Qué marcos ayudan a evaluar los riesgos de una herramienta de IA?

El NIST AI RMF 1.0, de uso voluntario, y el OWASP Top 10 para aplicaciones LLM en su edición 2025. NIST publicó además en julio de 2024 un perfil específico para IA generativa (NIST AI 600-1).

¿Hace falta saber KQL si una IA lo genera?

Sí. Microsoft advierte de que el código generado puede parecer correcto sin serlo y de que hay que validarlo antes de usarlo en producción. Para detectar un error en la consulta hay que saber leerla.