El audio y el vídeo están en inglés. Estas notas son una traducción.
Hoy entrevisté a Rodrigo Schmidt, cofundador de Vetto AI, una startup que está repensando cómo los datos mejoran los modelos de frontera. Antes construyó los sistemas que personalizan Instagram para dos mil millones de usuarios.
No empezó en Silicon Valley. Creció en un pueblo portuario pequeño y frío en el extremo sur de Brasil, en una familia muy pobre y disfuncional, hizo un doctorado en Suiza y se convirtió en uno de los primeros contratados internacionales de Facebook en 2008, cuando Facebook todavía era más chico que MySpace.
Su argumento central es contraintuitivo: una ventana de contexto más grande no es un problema de entrenamiento, es un problema de jerarquía de memoria. Y olvidar no es un bug, es lo que te permite priorizar.
También hablamos de por qué el prompt engineering está embotando los modelos sobre los que se monta, y de por qué tratar la investigación de un lab como una API está condenado a fracasar.
Estructura y Highlights Clave
El Pueblo en la Punta del Cono
- Brasil tiene forma de cono, y él viene de la punta de abajo, donde los inviernos son fríos y casi nada se parece al resto del país
- Su familia era pobre y la situación disfuncional, con el padre ausente
- De seis hermanos, su madre fue la que se quedó en la pobreza extrema mientras sus tías y tíos lograban salir
- Lo que eso le sembró: la realidad en la que naces no está pegada a ti para siempre, y casi siempre hay cosas que sí están bajo tu control
- Una vez que tienes eso, se generaliza: por qué quedarte en este pueblo, por qué conformarte con este trabajo
- Su madre le dijo, antes de que se fuera siquiera, que tenía miedo de que nunca fuera feliz, porque vivía constantemente frustrado con lo que lo rodeaba
- Cuando aterrizó en Silicon Valley, se sintió como en casa
Biología, y Después Ciencias de la Computación por Accidente
- Lo que lo atrajo primero fue la biología, porque los sistemas biológicos complejos son la programación de la naturaleza: el ADN como código personal, el cerebro como una red estocástica
- El colegio más fuerte de su pueblo resultó ser técnico, con tres opciones: electricidad, ciencias de la computación y refrigeración
- Lo que lo hizo cambiar de bando: con la biología estudias los sistemas desde afuera, con el código los construyes
Estar Presente como Padre
- La primera palabra de su hija fue mamá, y la usaba para los dos padres porque funcionaba
- Su lectura: una niña floja pero lista resolviendo el problema con una palabra para dos personas
- Hoy tiene seis años y todavía se le escapa, y él lo toma como una insignia de honor
- Lo que lo hizo posible: para entonces ya sabía trabajar con inteligencia, no solo con esfuerzo, usando el principio 80/20 para priorizar
- Su visión de la identidad: ponerla toda en una sola cosa es una trampa, porque un día eres demasiado viejo para dirigir esa empresa o para ser un adicto al gimnasio
- En lo que no cedió: los meses de ella de bebé eran más limitados que cualquier proyecto, y no iban a volver
- Anota que no le costó intensidad en el trabajo, y tuvo un par de ascensos más después de que ella nació
Por Qué los Fundadores de Instagram Resistieron la Personalización
- El mayor desafío fue convencer a Kevin y a Mike de que la personalización no era dañina, y tomó años
- Su miedo era legítimo: alrededor de 2013 la gente desconfiaba cada vez más del ranking de Facebook y se preguntaba quién tenía el control
- Por qué no hacer nada no era una opción: un feed ordenado por tiempo se puede trucar con una facilidad trivial
- El abuso concreto que ya estaba pasando: una celebridad con un séquito publicando cada cinco minutos para quedarse arriba del feed de todos
El Problema de la Función Objetivo
- Mostrarle a la gente lo que más le gusta tiene una vida media muy corta
- Su analogía: dulces en el almuerzo es maravilloso una vez, y asqueroso si lo intentas todos los días
- Lo que hay que optimizar en cambio es el valor de largo plazo, aunque eso signifique menos horas hoy
- Por qué no puedes simplemente preguntarle a los usuarios: la frase de Henry Ford sobre caballos más rápidos
- Lo que pasó cuando sí preguntaron: la gente dijo que quería material educativo, y después no lo usó
- La distinción que traza: le estás preguntando al sistema dos, el filósofo en su cabeza, no al sistema uno
- Su conclusión: la respuesta es un equilibrio, porque la felicidad del presente te da la fuerza para perseguir metas de largo plazo
- Cómo lo resolvieron: varias funciones objetivo probadas durante periodos largos para ver cuál maximizaba el tipo correcto de engagement
- El detalle de la época: los modelos no eran dinámicos, así que mucho era configuración manual y pruebas manuales, como se cuenta que Karpathy pasó el 25% de su tiempo etiquetando datos en Tesla
Qué se Traslada a los Productos de IA
- La lección central: la solución más simple no alcanza, y eso era tan cierto entonces como ahora
- El modo de falla de los modelos hoy es la adulación, decirle al usuario lo que quiere oír
- Lo que están haciendo los labs: agregar capas para reducirla, sin poder eliminarla del todo
- El problema difícil es identificar la motivación real de largo plazo del usuario, que no puede enunciar de forma directa
- Su queja sobre las herramientas actuales: el prompt engineering que se construye encima está embotando los modelos
- Si la receta es demasiado general, mata la personalización de la que el modelo es capaz
- La imagen que usa: puedes tener un motor de Ferrari, pero lo que importa es el auto completo
Ventanas de Contexto y Olvidar
- Su replanteo: cuando una ventana de contexto más grande empeora las respuestas, eso no es sobreajuste y no es un problema de entrenamiento, es un problema de jerarquía de memoria
- La condición rara que menciona: un puñado de personas en el mundo que no pueden olvidar ninguna experiencia personal
- Por qué se considera debilitante: hace difícil priorizar y hace más difícil superar un trauma
- Lo que eso le dice: no se nos está acabando la capacidad del cerebro, así que olvidar tiene que estar haciendo algo útil
- Su propia memoria es pésima, y lo llama una bendición
- La conexión con los transformers: attention is all you need significa encontrar qué tokens importan
- Dónde queda la responsabilidad: la capa de aplicación sabe qué es importante en esa ventana, y el modelo no
- Si le tiras la ventana en crudo al modelo, va a hacer lo mejor que pueda, pero tú no hiciste tu trabajo
Por Qué las Startups Necesitan Investigación Adentro
- Lo obvio: estamos construyendo la carretera mientras manejamos el auto, y nadie puede esperar a que la investigación termine
- El paralelo histórico: FAIR arrancó alrededor de 2012 en Nueva York, e integrarla a producto fue difícil porque estaba estructurada como la academia
- El modelo de colaboración que resultó: estilo consultoría, donde probaban ideas con FAIR y después implementaban solos
- Pasó un año investigando internamente qué proyectos tuvieron éxito, y la condición necesaria era una integración profunda
- Lo que no funcionó: investigación y producto como equipos separados con una API en el medio
- Su advertencia para hoy: tratar la investigación de un lab como una API tiene el mismo modo de falla
- O la investigación avanza y vas a la zaga, o tu producto ansía algo que el modelo no puede darte
- Su salvedad sobre el futuro: si los modelos se comoditizan, si todavía necesitas investigación va a depender de la aplicación
Cómo Atraer Investigadores a una Startup
- Su propia credencial: llegó lo bastante lejos en la academia como para haber enfrentado la decisión al final de su doctorado
- Lo que afirma que no es lo que más motiva a los investigadores: el dinero y el estatus, porque habrían elegido otra carrera
- Lo que sí: problemas interesantes, maestría, autonomía y propósito
- El pitch concreto que usó en Instagram, que en ese momento tenía cero sistemas de recomendación: un terreno virgen
- Lo que estaban haciendo de verdad: los primeros modelos dispersos en producción en Facebook, que exigían infraestructura nueva y sistemas de indexación nuevos
- El riesgo si te falta ese ADN: usar la zanahoria equivocada, que aleja a los investigadores en vez de atraerlos
Adaptarse a Silicon Valley
- Amigos que se mudaron de Brasil a Suiza y volvieron en seis meses sin terminar
- Su veredicto sobre Suiza para startups: hay una receta que funciona para biotech, y el consumer tech no cabe
- Lo que más lo sorprendió en el valley: la franqueza como forma de cortesía, y la sospecha hacia cualquiera que esconde cosas
- El feedback que definió su primer mes en Facebook en 2008: no te estás esforzando lo suficiente, porque todavía no has tumbado facebook.com
- La lógica detrás: romper cosas no alcanza para el éxito, pero es evidencia de que estás empujando
- Su contraste brasileño: ver un programa de talentos donde nadie saca menos de nueve, y darse cuenta de que llevaba suficiente tiempo afuera como para encontrar eso deshonesto
- Su marco de la adaptación: pulir tus capas externas es fácil cuando tus capas internas ya quieren el cambio
A Quién Agradece
- Su esposa, que estuvo con él casi todo el camino
- Su matiz: no se empujaban el uno al otro, exploraban el mundo juntos
- Su cautela sobre atar la gratitud a una sola persona: puede ser más debilitante que útil
Glosario Silicon Valley
| Término | Qué significa | Contexto en el episodio |
|---|---|---|
| Objective function | Aquello para lo que un sistema de ranking está optimizando | El núcleo del problema de Instagram, y por qué el engagement de corto plazo falla |
| Memory hierarchy | Decidir qué mantener cerca, qué guardar y qué soltar | Su diagnóstico del problema de la ventana de contexto |
| Context engineering | Elegir qué ve un agente, qué recuerda y qué ignora | El nombre actual de lo que pasó años haciendo en Instagram |
| Sycophancy | Un modelo que le da la razón al usuario sin importar la verdad | La trampa de engagement contra la que los labs todavía pelean |
| Sparse models | Modelos con una cantidad enorme de features que en su mayoría son cero | Lo que pusieron en producción primero en Facebook |
| System one / system two | Instinto rápido frente a razonamiento deliberado | Por qué preguntarle a los usuarios qué quieren te da la respuesta equivocada |
| Long-term retention | Si los usuarios siguen volviendo a lo largo de los años | La métrica por la que argumenta que hay que optimizar, por encima de las horas de hoy |
| FAIR | Facebook AI Research | La organización de investigación cuya integración a producto estudió durante un año |
| Attention | El mecanismo de los transformers para ponderar lo que importa | Su analogía de lo que la capa de aplicación tiene que hacer con el contexto |
| Green field | Un espacio de problema donde todavía no hay nada construido | Lo que usó para reclutar investigadores a Instagram |
| 80/20 principle | La mayor parte del resultado sale de una fracción del esfuerzo | Cómo equilibró la intensidad en el trabajo con estar presente en casa |
Personas, Empresas y Referencias
Personas Mencionadas
- Rodrigo Schmidt: cofundador de Vetto AI, antes construyó la personalización de Instagram
- Su esposa: a quien le atribuye el camino compartido
- Su madre: que temía que nunca fuera feliz
- Su hija: que llamaba mamá a los dos padres
- Kevin Systrom y Mike Krieger: los fundadores de Instagram que resistieron la personalización
- Andrej Karpathy: citado por pasar un cuarto de su tiempo etiquetando datos en Tesla
- Julio, de Atlantico: quien le contó a Enzo la historia de su hija
- Henry Ford: por la frase de los caballos más rápidos
- Enzo Cavalie: host del podcast
Empresas y Organizaciones
- Vetto AI: su empresa actual, que investiga los datos con los que se entrenan y se evalúan los modelos
- Instagram y Meta: donde construyó personalización a escala de dos mil millones de usuarios
- Facebook AI Research (FAIR): la organización de investigación que estudió y junto a la que después trabajó
- Runway y Krea: ejemplos que da de empresas de aplicación que están armando equipos de investigación
- Cursor: el otro ejemplo, a mayor escala
- MySpace: la referencia de tamaño de lo temprano que se sumó a Facebook