About
Soy Christian Urcuqui, Cybersecurity Data Scientist con más de 11 años de experiencia en inteligencia artificial, ciberseguridad y sistemas de machine learning en producción. He trabajado en el diseño y evaluación de sistemas de IA para detección de amenazas, análisis de comportamiento y arquitecturas basadas en agentes. Actualmente colaboro con organizaciones internacionales en el desarrollo de contenido y soluciones en AI Security, incluyendo pentesting de agentes y modelado de amenazas. He sido speaker en eventos como DEF CON, Ekoparty, BSides y PyCon, y soy autor de libros sobre inteligencia artificial aplicada a ciberseguridad. Mi enfoque combina investigación, práctica ofensiva (adversarial ML) y diseño de sistemas seguros.
Talk
Hacking AI Agents with Python
La inteligencia artificial está evolucionando de modelos estáticos a sistemas autónomos capaces de razonar, tomar decisiones y ejecutar acciones mediante herramientas y APIs. Estos sistemas, conocidos como agentes de IA, están siendo construidos principalmente en Python. Pero con esta evolución también aparece una nueva superficie de ataque. En esta charla exploraremos cómo los agentes de IA pueden ser explotados desde una perspectiva ofensiva, utilizando Python para demostrar ataques reales como: prompt injection en pipelines de agentes, exfiltración de información a través de RAG, manipulación de decisiones mediante inputs adversarios y abuso de herramientas y APIs conectadas. A partir de estos escenarios, mostraremos cómo diseñar pruebas de seguridad (pentesting) específicas para sistemas de IA, incluyendo enfoques de caja negra, gris y blanca. La charla no solo se enfocará en ataques, sino también en cómo mitigarlos, presentando un roadmap práctico para evaluar y fortalecer sistemas de IA en producción. Esta sesión está dirigida a desarrolladores Python, data scientists y engineers que están construyendo o integrando sistemas de IA y quieren entender cómo asegurar lo que están creando.
- Country
- Colombia
- Language
- Spanish / Español
- Level
- Intermediate / Intermedio
Want to know more?
Join PyCon Colombia newsletter and get a complete overview of our events, speakers and community participation.
