CTO de Replit: Nuestro Plan para Ganarle a Anthropic y OpenAI

ESP

Escuchar enSpotifyYouTube
Portada de «CTO de Replit: Nuestro Plan para Ganarle a Anthropic y OpenAI»

Luis Héctor Chávez es el CTO de Replit, la plataforma para crear software con IA que usan más de 30 millones de personas y que hoy vale 9.000 millones de dólares. Es mexicano y dirige toda la ingeniería de una empresa que pelea el futuro del software contra OpenAI y Anthropic.

Es la segunda vez que viene al podcast. Grabamos hace exactamente un año, y su forma de describir ese periodo es que siente haber estado en cinco empresas distintas dentro de Replit.

Su tesis más directa: la diferenciación no está en el modelo, está en el harness. Y su ambición no es resolverte la parte técnica del negocio, es resolverte el negocio entero.

Estructura y Highlights Clave

Un Año que se Sintió como Cinco Empresas

  • Cada vez que hacen benchmarking contra otras empresas necesitan una segmentación aparte, porque no se comparan con lo que le tocaría a una empresa tradicional en esa etapa
  • Los procesos de ingeniería de software se están cayendo a pedazos: la secuencia de fases ya no se puede seguir
  • Su cronología del problema: hace un mes era que había tanto código que no se podían hacer buenos code reviews. Ahora ya ni se lee el código
  • El estado actual: hay tantos cambios que ya ni siquiera saben qué está pasando
  • Su expectativa: en dos o tres meses la conversación será otra
  • Lo que sobrevive de lo viejo: ciertos procesos de ingeniería industrial siguen formando el pensamiento. Todo lo demás lo están tirando

Sobre si la Velocidad Es Sostenible

  • Su analogía favorita: la instalación de paneles solares, donde cada año el organismo que lleva las estadísticas proyecta el fin de la fase exponencial y se equivoca por un orden de magnitud
  • Lo mismo ve en las curvas de capacidades de los modelos
  • El patrón que observa: cada vez que dicen que hace falta un breakthrough nuevo, aparece uno con el siguiente modelo

Horizontes de Planificación Distintos por Equipo

  • Infraestructura tiene roadmaps de seis a nueve meses, porque si las VMs no funcionan nada funciona
  • Lo que están lanzando hoy empezó en septiembre u octubre del año pasado
  • Enterprise se planifica por trimestres, muchas veces atado a lo que entregue un partner
  • Producto no puede planificar más de dos o tres meses
  • Modelos: hay dos semanas de rumores y dos o tres días reales para ajustar el harness antes de que salga

Lo que se Volvió Más Pesado

  • El volumen de cambio simultáneo, con más ingenieros y más agentes por ingeniero
  • Lo que antes tomaba meses ahora toma semanas, con proof of concepts en días
  • Y no son parches: son reimplementaciones completas desde cero, tres intentos seguidos si hace falta
  • La analogía del radiólogo que trae Enzo: la IA se quedó con los casos fáciles y los radiólogos se queman porque solo les quedan los difíciles
  • Su confirmación: la IA resuelve por completo el trabajo de un ingeniero junior si se lo desglosas, y cuando tienes que involucrarte es porque llegaste al límite

Lo que a los Modelos les Falta

  • Les falta taste. Son muy buenos coloreando por números cuando les das el caparazón
  • Con tareas ambiguas encuentran cómo hacerlas, aunque no de la forma más elegante ni eficiente
  • Funcionan mejor cuanto mejores sean los objetivos, los guidelines y las herramientas de feedback
  • Donde se rompen: lo subjetivo. Su ejemplo, cómo cuantificas que algo sea ergonómico
  • Un elogio concreto a Fable: es bueno detectando sutilezas raras y decidiendo si fueron intencionales o si son errores

Por Qué Apuestan al Harness y no al Modelo

  • Usan una mezcla de modelos y evalúan continuamente cuál para cada objetivo
  • Toda su innovación está en el harness: que las plantillas jueguen bien con los priors del modelo y que las herramientas funcionen dentro de Replit
  • El concepto que persiguen: el pit of success, encaminar tanto al modelo que tenga que salirse mucho del carril para equivocarse
  • Cómo se mueven a medida que mejoran los modelos: hacia arriba en las capas de abstracción
  • El antes y el después: antes cuidaban vulnerabilidades comunes como SQL injection, hoy resuelven que la lógica de negocio no permita accesos indebidos

Modelo Caro Contra Modelo Barato

  • El tradeoff aparente es velocidad y dinero contra calidad
  • Lo que observaron: cuando aparece un error, los agentes lo acumulan. No tienes un error, tienes diez o quince
  • El resultado contraintuitivo: Opus le ganaba a Sonnet en costo total, porque resolvía el problema en una pasada en vez de diez
  • El matiz: si tu caso de uso es muy específico la ecuación cambia, y programar de propósito general es más difícil de optimizar
  • La comparación con lo legal: ahí existe case law y criterios más claros. En código, traducir requerimientos de negocio tiene cientos de miles de opciones válidas

Resolver el Negocio, no Solo el Código

  • Desde el principio la tirada fue entregar la aplicación completa: deployment, seguridad, dominio, TLS
  • Hacia dónde va: no que llegues con una idea de negocio y Replit resuelva la parte técnica, sino que resuelva el negocio entero
  • La lista que enumera: crear la aplicación, el contenido de marketing, los videos para redes, el flywheel, correr los experimentos, dar mantenimiento
  • Sobre la idea de graduarse a otras herramientas: no quieren que exista esa percepción, y ya tienen clientes en millones de ARR que no sintieron la necesidad
  • Cuando hay requerimientos legales o técnicos específicos, adaptan la plataforma en vez de dejar ir al cliente

El Problema de Identidad y Permisos de los Agentes

  • Las empresas tienen respuestas maduras sobre gobernanza de datos: quién accede a qué, con una política en algún sistema
  • Con agentes eso está casi imposible, y las tecnologías actuales no están funcionando
  • Hay cinco o seis propuestas para dar identidad a los agentes y ninguna se está adoptando a la velocidad necesaria
  • La diferencia de fondo que señala Enzo: un empleado tiene un contrato y consecuencias, y un agente no tiene accountability
  • El problema con estándares abiertos como OAuth: los permisos son demasiado amplios, puedes escribir todos los correos o ninguno, sin matices
  • Lo que Replit quiere hacer distinto: que un modelo de autorización evalúe el alineamiento entre la acción, la política escrita y lo que pidió el humano
  • El objetivo práctico: reducir cuántas veces hay que interrumpir al usuario para pedir permiso
  • Lo que están construyendo: una rearquitectura completa con una capa de autorización más granular, que respete el SSO, SCIM e IDP que ya tenga el cliente, para no crear shadow IT

Los Agentes Ya Corren Todo el Día

  • Su corrección a la pregunta: no es que vayamos hacia allá, ya está pasando
  • Lo común hoy: alguien te dice que tiene 300 agentes corriendo, sin saber cuántos son útiles
  • En Replit ya tienen feedback loops que se cierran solos internamente, como experimento para convertirlo en producto
  • Qué casos justifican el gasto: problemas de optimización con objetivo medible. SEO, pruebas A/B, campañas en redes
  • Su forma de acotarlo: le das un objetivo y un límite de gasto, y corre hasta cumplirlo

Quién Compra Dentro de la Empresa

  • A diferencia del software tradicional, esto es transversal y no pertenece solo al CIO
  • A veces llega IT sin presupuesto, a veces producto sin criterio de seguridad, a veces todos los departamentos a la vez
  • Su lectura conjunta con Enzo: las empresas todavía están descubriendo cómo se compra inteligencia artificial
  • El cliente distintivo de Replit no es el desarrollador: son producto, operaciones, marketing y datos, que antes dependían del CTO para herramientas internas
  • Lo que buscan para este año en marketing: que puedas ejecutar tus ideas sin permisos, sin gatekeepers ni cola de priorización

Por Qué Git Es la Primitiva Correcta

  • Al lanzar el agente 4 modelaron las tareas usando ramas de Git, permitiendo clonarse entre 4 y 64 veces según el plan
  • La razón de fondo: los modelos fueron entrenados en repositorios, así que lo que no se parezca a uno los pierde
  • Replit no modela un repositorio, es un repositorio, y solo le añadieron forking, cloning y pushing
  • La experiencia que cuenta Enzo: su agente en un repo tiene más autonomía con instrucciones a medias, mientras que en Notion había que repetirle todo
  • El problema que viene: GitHub tiene problemas de escalabilidad, porque Git se diseñó para el kernel de Linux y hoy se excede eso por órdenes de magnitud
  • Y ese diseño asumía humanos, no agentes, con una tasa de escritura inmensa
  • Su observación: esa semana salieron cuatro o cinco apuestas distintas, señal de que falta una primitiva

El Software Factory

  • Su forma de pensar la programación desde antes de Replit: un problema de constraint satisfaction, donde cada restricción parte el espacio de soluciones
  • Por qué encaja ahora: a los agentes también les sirve poder medir si están dentro o fuera de ese bounding box
  • La diferencia entre decirle una regla y darle un mecanismo para medirla
  • Por qué lenguajes como Rust ayudan: el compilador da la prueba matemática del error y adelanta la verificación en el proceso
  • Lo que cambió en el trabajo del ingeniero: antes se bosquejaba y se pensaba la lógica de negocio después. Ahora hay que pensarla de antemano
  • Su principio: adivinar es malo, y en muchos casos el agente debería estar preguntando
  • Lo que se aprende con la práctica: qué requerimientos se pueden subespecificar y cuáles hay que especificar en detalle
  • El concepto de mayor palanca: darle al modelo un oráculo para verificar su propio trabajo
  • Sus ejemplos: Anthropic reemplazando GCC con un test set claro, o buscar vulnerabilidades donde existe la bandera de capture the flag

Sobre el Ingeniero 100X

  • Su matiz sobre el power law: en una población de ingenieros, el más prolífico está un orden de magnitud sobre el segundo
  • Lo que hace la IA es acelerar cualquier proceso, multiplicando ese factor
  • Lo que ya observa: los ingenieros que eran buenos y además usan bien la IA son aún mejores
  • Dónde espera lo mismo fuera de la ingeniería: matemáticas, optimización y bioingeniería
  • La lectura de Enzo: lo que multiplica no es hacer más, es diseñar el feedback loop, y para eso hacen falta las evaluaciones

Qué Espera en 12 Meses

  • Está casi seguro de que habrá otro breakthrough, sin saber si será de capacidades o de costos
  • Lo que le parece probable: que saturen alguno de los benchmarks actuales, llegando al 100%
  • Lo que eso implica: tener que inventar una métrica nueva
  • Lo que sigue sorprendiéndolo: no el avance en sí, que ya esperaba, sino sentirlo
  • Sobre si dejará de programar: lo que lo atrajo sigue intacto, poder expresar una idea abstracta y manifestarla. Cambió el mecanismo, no los patrones

Glosario Silicon Valley

TérminoQué significaContexto en el episodio
HarnessLa capa que envuelve al modelo y define cómo se usaDonde Replit concentra toda su innovación
Pit of successDiseñar el sistema para que el camino fácil sea el correctoSu objetivo al encaminar al modelo sin llenar de guardrails
GuardrailsRestricciones que impiden que el modelo se salga del carrilCada vez menos necesarios a medida que mejoran los modelos
Constraint satisfactionEncontrar soluciones que cumplan todas las restriccionesSu modelo mental de la programación, que ahora aplica a los agentes
Bounding boxEl espacio delimitado por las restriccionesLo que hay que hacer medible para que el agente sepa dónde está
OráculoUn mecanismo que verifica si el trabajo está bienLo que él considera de mayor palanca al construir un harness
Integración verticalCubrir toda la cadena en vez de una parteSu respuesta a por qué el usuario no necesita graduarse
Shadow ITHerramientas usadas sin aprobación del área de sistemasLo que quieren evitar acoplándose al SSO y al IDP del cliente
SSO, SCIM, IDPEstándares de identidad y aprovisionamiento corporativoLo que respetan para que IT no tenga que reemplazar nada
TokenomicsLa economía del consumo de tokensSu punto sobre incentivos desalineados con los proveedores de modelos
Power lawDistribución donde unos pocos concentran casi todoSu matiz sobre el ingeniero 10X y el 100X
Saturar un benchmarkLlegar al 100% en la métrica con la que se mideLo que espera que ocurra en los próximos 12 meses

Personas, Empresas y Referencias

Personas Mencionadas

  • Luis Héctor Chávez: CTO de Replit
  • Amjad Masad: CEO de Replit
  • Greg Brockman: citado por la frase de que el modelo ya no es el producto
  • Andrej Karpathy: por su idea del ingeniero 100X
  • Enzo Cavalie: host del podcast

Empresas y Organizaciones

  • Replit: 30 millones de usuarios, valoración de 9.000 millones
  • Anthropic y OpenAI: los competidores con sus propios harnesses, Claude Code y Codex
  • Lovable, Factory: el resto del campo de coding agents
  • GitHub: la primitiva que se está quedando corta para agentes
  • Supabase: el ejemplo de que muchas elecciones convergen a Postgres
  • Micron: la acción de la cadena de suministro que Enzo compró y vendió temprano
  • Perplexity: citada por el argumento de ser orquestador y no modelo

Datos y Referencias

  • 30 millones de usuarios y 9.000 millones de valoración
  • Entre 4 y 64 clones de agente según el plan de pago
  • 300 agentes corriendo: la cifra que le repiten las empresas sin saber cuántos sirven

Ver el episodio