AgentDojo
Benchmark de investigación de ETH Zúrich, no un producto de producción. Mide si un agente con herramientas cae en prompt injection y si una defensa lo evita.
- Despliegue
- autoalojado
- Sede
- Suiza (ETH Zúrich)
Herramientas · 31
Agentes y herramientas de IA para tareas de seguridad. El listado muestra siempre despliegue y sede; la raya indica que el proveedor no lo documenta. La licencia y el resto de datos están en la ficha, solo si constan en la fuente oficial. Ninguna posición es de pago.
Ninguna entrada coincide con estos filtros.
Benchmark de investigación de ETH Zúrich, no un producto de producción. Mide si un agente con herramientas cae en prompt injection y si una defensa lo evita.
Proxy autoalojado de la Linux Foundation para el tráfico entre agentes, modelos, MCP y otros agentes. Aplica autenticación, políticas CEL, límites de uso y guardrails en tu propio plano de datos.
Escáner local de servidores y herramientas MCP. Combina reglas YARA, un análisis con LLM y, si se configura, la API de Cisco AI Defense. Las dos primeras vías no exigen esa API.
SOC agéntico para empresas y MSSP: inteligencia, caza, ingeniería de detección, investigación y remediación sobre el stack que ya tienes, con el analista en el bucle. SaaS en Azure de Conifers o dentro del tenant Azure del cliente.
Plugin de Docker CLI para quien ejecuta servidores MCP en local: levanta el gateway y aísla cada servidor del catálogo en un contenedor, con privilegios mínimos para los de npx y uvx.
Analista SOC autónomo para equipos que ya tienen SIEM, EDR o SOAR: investiga alertas de nivel 1 y entrega el informe. Se contrata como SaaS; el plan Enterprise aísla cómputo y almacenamiento en un entorno single-tenant, con hasta 4.000 investigaciones al año por analista.
Cuatro Exabots (detección, triaje, investigación y respuesta) para SOC que trabajan cloud, identidad, SaaS y endpoint. La contención pasa por playbooks con aprobación. Se ofrece como SaaS o como MDR gestionado.
Escáner de vulnerabilidades de LLM, en la línea de nmap para modelos: jailbreaks, inyección, fugas, toxicidad y alucinaciones. Lo ejecutas contra el modelo que indiques.
Framework Python para quien llama a un LLM desde su aplicación: validadores de entrada y salida (inyección, datos sensibles, formato) y salida estructurada. Se autoaloja. La empresa fue adquirida por Harvey; el repositorio sigue publicado.
Seguridad del ciclo de vida del modelo para quien despliega IA propia: descubre activos y shadow AI, simula ataques, revisa la cadena de suministro del modelo y protege en runtime.
Pentest autónomo interno, externo y cloud (AWS, Azure, Kubernetes) sin agentes persistentes. El portal es SaaS; la prueba interna sale de un host Docker u OVA en tu red y la externa, de la nube de Horizon3.
Triaje e investigación de alertas para SOC empresariales. Combina agentes de IA con análisis forense de endpoint, escaneo de memoria, reversing e inteligencia de amenazas, para no escalar solo lo que el modelo «cree».
Protección en runtime y red teaming de aplicaciones y agentes de IA (prompts, RAG y MCP). Check Point comercializa estas piezas como AI Agent Security y AI Red Teaming. Zúrich no es territorio de la UE.
Observabilidad, gobierno y defensa en runtime del uso de modelos y agentes en la empresa. Publica además un gateway MCP autoalojado que orquesta otros servidores con plugins de enmascarado y trazas.
Aprende cómo investiga tu SOC: una extensión en el navegador del analista captura los flujos reales y los convierte en playbooks agénticos de detección, investigación y respuesta.
Biblioteca Python para sanear entradas y salidas de un LLM: inyección de prompts, lenguaje dañino y fuga de datos. El repositorio está archivado y ya no se mantiene; la línea comercial de Protect AI sigue en Prisma AIRS.
Toolkit de NVIDIA para añadir guardrails programables a aplicaciones conversacionales con LLM: qué temas puede tratar el sistema, qué flujos sigue y qué se bloquea. Se ejecuta en tu infraestructura.
Gateway de agentes (TrustGate) para quien quiere un solo control del tráfico hacia modelos, servidores MCP y otros agentes: políticas, guardrails, enmascarado de PII y una traza por llamada. Hay SaaS, plano de datos privado y autoalojado, incluido air-gap.
Para el equipo de seguridad que tiene que dejar adoptar IA: descubre modelos y agentes, prioriza el riesgo de esa postura, hace red teaming y protege en runtime.
Inspección en runtime del tráfico de aplicaciones y agentes: inyección, fuga de datos, envenenamiento de memoria y mal uso de herramientas, también en llamadas MCP. Se despliega como firewall en la red (cloud, Kubernetes, entorno propio o SaaS gestionado en tu cuenta de AWS, Azure o GCP) o como API dentro del código.
Framework open source de pentesting agéntico para quien quiere un copiloto de LLM en su propia máquina. El modelo lo elige quien lo ejecuta; no hay un servicio alojado del proyecto.
Control en runtime del uso de IA generativa en la empresa: inventario de shadow AI, bloqueo de prompt injection y de fugas, y un gateway MCP entre las aplicaciones y los servidores MCP. Cubre modelos de terceros y modelos autoalojados.
CLI y librería para evaluar, hacer red teaming y buscar vulnerabilidades en aplicaciones y agentes LLM, en local o en CI. El proyecto sigue en código abierto y hay una oferta comercial. OpenAI anunció la adquisición el 9 mar 2026; ese anuncio dejaba el cierre sujeto a condiciones.
SOC agéntico para analistas de nivel 1 a 3: investiga alertas dejando el razonamiento a la vista, propone cacerías y señala huecos de detección a partir de la telemetría real.
Kit de Meta para quien construye agentes. LlamaFirewall orquesta en local escáneres de inyección, de alineación del razonamiento y de código inseguro. El mismo repo incluye el benchmark CyberSecEval y los modelos Llama Guard y Prompt Guard.
Framework de Microsoft para que un equipo de seguridad identifique riesgos en un sistema de IA generativa antes de pasarlo a producción. Se ejecuta en local. El repositorio canónico es microsoft/PyRIT, no el archivo Azure/PyRIT.
Investiga alertas de SOC y MSSP sobre el SIEM, EDR y XDR que ya tienes. Un orquestador por grafos fija los pasos y el veredicto; el LLM solo enriquece y redacta, y el analista puede corregir la conclusión.
SOC/XDR francés. El agente Roy (módulo Elevate) tria alertas y casos, redacta reglas Sigma y responde en lenguaje natural. Los modelos corren en infraestructura de Sekoia y no envían datos a proveedores de LLM externos.
CLI para inventariar agentes, servidores MCP y skills en los puestos de desarrollo y marcar tool poisoning y otros riesgos. El análisis envía a la API de Snyk metadatos ya redactados; el subcomando inspect no pide ese análisis. El proyecto viene de Invariant Labs.
Pentest autónomo de aplicaciones web y API para equipos de producto y seguridad. Encadena vulnerabilidades y solo entrega un hallazgo cuando tiene un exploit que funciona. Se lanza apuntando a una URL.
Gobierno de los agentes y copilotos que construye el negocio (Copilot Studio, low-code, ChatGPT Enterprise): inventario, postura y detección a lo largo del ciclo de vida, no solo del prompt.