About
Economista, Machine learning engineer con +8 años de experiencia construyendo sistemas de ML/AI en producción. Actualmente en Globant, trabajo diseño de aplicaciones de IA y casos de uso escalables y seguros en procesos críticos como procesos industriales y seguridad.
Talk
Sistemas de IA vulnerables: datos reales, diseño responsable
El 29% de los ataques pasan los filtros de seguridad de los LLMs más usados en producción. No es un bug. Es la naturaleza del sistema. Los LLMs son procesos estocásticos entrenados sobre lenguaje humano, el medio más flexible, ambiguo y manipulable que existe. Eso los hace increíblemente poderosos. Y exactamente por eso son vulnerables. No hay parche para eso. Solo hay diseño. Esta charla presenta los resultados de llm-break-bench: 3.360 pruebas adversariales sobre GPT-4o, Claude, Gemini, Grok y DeepSeek usando MLCommons AI Safety v0.5 y OWASP LLM Top 10 como estándares. Los números rompen las intuiciones. Los datos son el punto de partida. La charla los conecta con los casos de uso reales donde los LLMs están en producción: RAGs, chatbots, agentes, asistentes de código. Muestra dónde falla el diseño, qué consecuencias tiene (Air Canada pagó por eso) y cómo se construye diferente. El cierre es accionable: 5 pilares de diseño para sistemas de IA que no dependan del modelo para su propia seguridad, con código real de NVIDIA NeMo Guardrails y Meta LlamaFirewall.
- Country
- Colombia
- Language
- Spanish / Español
- Level
- Intermediate / Intermedio
Want to know more?
Join PyCon Colombia newsletter and get a complete overview of our events, speakers and community participation.
