About
Científico de Aprendizaje Automático y Arquitecto de Infraestructura Cloud. Con una trayectoria que abarca desde la seguridad de la información hasta DevOps, soy Google Developer Expert en ML y Docker Captain. Apasionado por multiplicar matrices a gran velocidad, actualmente me desempeño como Ingeniero de IA en Dataiku.
Talk
Opening the Black Box: Mechanistic Interpretability of LLMs
A medida que los agentes se implementan en contextos de alto riesgo (finanzas, manufactura, salud), comprender cómo toman decisiones, y no solo qué deciden, se vuelve fundamental para la seguridad y la confianza. Por ejemplo, cuando un agente recibe la instrucción "Buscar los resultados del tercer trimestre de nuestra empresa" y elige buscar en documentos internos en lugar de en la web pública, ¿qué proceso interno impulsa esa elección? La ingeniería de la respuesta, las pruebas de comportamiento y el análisis de la cadena de pensamiento describen correlaciones o narrativas; ninguna revela el mecanismo real. Comprender cómo un agente llega a una conclusión es un componente crítico para desarrollar IA de manera responsable, especialmente en lo que respecta a la confiabilidad y la transparencia en los sistemas de IA. Las interpretaciones de modelos son una forma en que los desarrolladores pueden generar confianza y coherencia en sus sistemas y respaldar la implementación segura de agentes de IA.
- Country
- Canada
- Language
- English / Inglés
- Level
- Beginner / Principiante
Want to know more?
Join PyCon Colombia newsletter and get a complete overview of our events, speakers and community participation.
