Asegurando agentes de inferencia | Celestinosalim.com
Avanzado1.5 horas
Asegurando agentes de inferencia
Tu agente está construido sobre un LLM aumentado: tiene herramientas, memoria y acceso a APIs. Eso lo convierte en una superficie de seguridad completa, no solo un chatbot. Este curso mapea el panorama real de amenazas (inyección de prompts con CVEs, extracción de modelos a escala industrial, ataques a la cadena de suministro de herramientas) y construye la pila de defensa en profundidad: separación estructurada de prompt/datos, firewalls de entrada, control de acceso a herramientas, endurecimiento de salida, detección de extracción y telemetría de seguridad. Construido con la misma ingeniería que asegura celestino.ai.
AA
Programa del Curso
2 Módulos · 8 Lecciones
Extracción de modelos y la carrera armamentista de destilación
Módulo 2: Defensa en profundidad
5 Lecciones
Límites de confianza y arquitectura de prompts
Saneamiento de entrada y firewalls de inyección
Control de acceso a herramientas y privilegio mínimo
Endurecimiento de salida y prevención de exfiltración