A Visão de IA do CTO do Mercado Livre: Daniel Rabinovich

ESP

Capa de «A Visão de IA do CTO do Mercado Livre: Daniel Rabinovich»

O áudio e o vídeo estão em espanhol. Estas notas são uma tradução.

Hoje entrevistei Dani Rabinovich, que está há 25 anos no Mercado Livre, a empresa de tecnologia mais valiosa da América Latina, com mais de US$ 100 bilhões de valor de mercado. Entrou como programador no ano 2000 e nunca saiu.

Em 2009 coube a ele parar tudo para reescrever a plataforma inteira do zero, um projeto que chamaram de Ground Zero. Hoje ele enfrenta algo parecido com inteligência artificial, com duas diferenças: eram 400 pessoas e agora são 20.000, e desta vez não há de quem copiar.

A tese mais provocadora dele é que o Mercado Livre está em desvantagem diante de uma startup que começa hoje. E que isso o deixa mais empolgado do que nunca.

Ele também é mágico, fotógrafo, músico e enxadrista. Conversamos sobre isso, sobre trabalhar 25 anos com Marcos Galperin e sobre por que a IA é a tecnologia mais democrática da história.

Estrutura e Principais Destaques

Querer Ser Leonardo

  • Se pudesse escolher quem ser na história, escolheria Leonardo da Vinci
  • O argumento dele contra se especializar em uma só coisa: acha bom para alguns, mas é mais divertido fazer de tudo, e essas coisas acabam se tocando e se potencializando
  • O raciocínio dele é explicitamente racional: o que mais dá prazer aos humanos é progredir, e as curvas de aprendizado avançam rapidíssimo no começo
  • Por isso ele busca ser sempre quem menos sabe. Quando toca bandoneón com um amigo profissional, é de longe o pior, e essa sensação de progresso é uma fonte inesgotável de prazer
  • Um detalhe que importa para ele: a maioria dessas coisas não custa dinheiro. Um baralho ou um tabuleiro de xadrez são baratos
  • O que é preciso para superar a parte ingrata do começo: um traço obsessivo. Querer que as coisas deem certo
  • A distinção que aprendeu com um mágico: há coisas que se aprendem de forma extensiva, quinze minutos por dia, e outras que exigem seis horas seguidas ou nunca saem
  • A defesa dele do inútil: a utilidade prática do que a gente faz está completamente superestimada, e há orgulho em adquirir habilidades de qualquer tipo

O Que a Mágica Deixou para o Trabalho

  • Quase não há dia em que ele não use algo que aprendeu fazendo mágica
  • O mais importante: trabalhando em restaurantes, ele tinha que chegar a uma mesa e em milissegundos entender o clima. Se era bem-vindo, se o casal estava brigando, se alguém tinha o ego alto e era preciso se subordinar a ele
  • Se você não entendesse isso antes de terminar de dizer boa noite, te odiavam e não havia gorjeta
  • Chega um momento em que isso roda sozinho, sem ocupar memória. Pura inferência
  • O segundo é falar em público. E isso não se treina sozinho, é preciso que um dia haja 500 pessoas ali
  • A explicação dele de por que isso importa: quando você está nervoso, a cabeça gasta recursos com isso e você fica mais burro, porque sobra menos cérebro livre
  • O outro efeito: ele era nerd e a mágica abriu uma dimensão humana, e um ambiente com gente muito diferente dele

Sobre Imitar Outros Líderes

  • Concorda com o objetivo, mas não com o meio. Essa foi a trajetória dele, e a de outras pessoas é diferente
  • A analogia dele: o pior que alguém pode fazer é imitar um humorista, porque para o humorista funciona por ser ele
  • Aprende com outros e tem uma lista longa de coisas que roubou deles, mas o caminho de liderança de cada um é seu
  • A pergunta que ele acha que um líder deveria se fazer, e que considera duríssima: por que eu. Por que alguém daria bola para você
  • O experimento mental que propõe: se todos mantivéssemos nossas memórias e habilidades, mas esquecêssemos a estrutura formal da empresa, a organização que surgiria se pareceria com a atual?
  • O que ele recomenda: ler biografias de gente que admira, para entender o que têm em comum e como encararam o risco

Marcos

  • A primeira coisa que ele destaca é a coragem. Decisões de risco próprio e de apostar alto para ganhar no longo prazo
  • A segunda: para ele, a inteligência é só mais uma ferramenta. Nunca complica as coisas além do necessário e fala de forma incrivelmente simples, clara e direta
  • O contraste consigo mesmo: ele gosta de divagar, colocar parênteses e interlúdios
  • Sobre deixar de trabalhar com ele depois de 25 anos: vai sentir muita falta, sobretudo do quanto ele é afiado
  • Por que um chefe muito exigente pode ser querido: a exigência por si só não deveria incomodar, e se incomoda o problema está mais em você
  • O que explica isso é a dinâmica. A maior motivação de trabalho dele é a honra de conquistar o respeito dos colegas
  • O exemplo dele: foram quatro colegas para a China por vinte dias e preferiam ficar trabalhando no hotel a ir ao jantar no 140º andar. Os anfitriões não conseguiam acreditar
  • E o esclarecimento dele: não é abnegação nem sacrifício, ele gosta

O Momento Mais Difícil Não Foi uma Crise

  • As crises técnicas foram duras, mas não foram o pior
  • O mais difícil foram os momentos em que sentiu que podia começar a se entediar, antes da chegada da Amazon, quando lideravam confortáveis em todo lugar
  • O que ele via surgir: conversas superficiais, aquilo que se vê em empresas que vão bem demais e passam muito tempo sem levar uma pedrada por perto
  • Por sorte apareceram concorrentes formidáveis por todos os lados e hoje ele está mais feliz do que nunca
  • A analogia dele: perguntar a Federer se ele gostaria que Nadal não existisse. Messi não existe sem Cristiano

Os Últimos 18 Meses de IA no Mercado Livre

  • Construíram uma primeira plataforma antes de existirem os MCPs, o tool calling e os agentes, quando só havia APIs de completion
  • Esse produto começou sendo muito útil para customer service. Quando saíram os agentes, em um fim de semana escreveram uma versão nova e a colocaram em produção
  • Depois viram que não ia escalar e criaram uma segunda versão
  • Hoje isso deflete 90% dos pedidos de customer service com NPS melhor que antes
  • O projeto se chamou 10K: a promessa de nunca passar de 10.000 representantes, não importa quanto o negócio crescesse
  • Dois anos atrás estavam a caminho de 10.000 e, no ritmo de crescimento, hoje deveriam ser uns 15.000. São 7.500
  • Mas há alguns meses concluíram que isso não transformava nada de fundo: funcionava para customer service e marginalmente para os usuários, e toda a fera de aplicações continuava igual
  • O raciocínio dele: se você tem o mesmo que antes e mais essa coisa nova, agora tem duas coisas onde havia uma. E o objetivo é reduzir complexidade

Cem Mil Linhas de Especificação

  • Passaram vários meses construindo uma versão cuja especificação técnica chegou a cerca de 100.000 linhas de código
  • A reação dele vinte dias atrás: como pode uma especificação técnica ter 100.000 linhas. Os detalhes estão na casa, não na planta. Se a planta tem toda a informação da casa, algo estranho está acontecendo
  • A Anthropic lançou os skills, isso lhes deu uma ideia, e essa ideia deu outra
  • Nos últimos quinze dias ele reescreveu sozinho todo esse core outra vez, com 90% menos informação e muito menos partes
  • Por que agora dá para refazer: antes, refazer 50 partes já construídas era caríssimo, então quase nunca se fazia. Agora não são eles que programam
  • O efeito em cadeia: quando surge uma ideia que elimina uma parte, você começa a se perguntar que outras três pode eliminar, e depois outras
  • A citação de cabeceira dele, que ficou impressa nas paredes por anos: a perfeição é alcançada não quando não há mais nada a acrescentar, mas quando não há mais nada a retirar
  • E a observação dele sobre o conflito que isso gera: tirar coisas parece antipático dentro de um time, então todo mundo acrescenta e o resultado acaba sendo uma árvore de Natal

Por Que Não É 2009 de Novo

  • Em 2009 o sistema era pequeno e monolítico, e eles tinham parado de inovar. Era preciso jogar uma bomba, e por isso o projeto se chamou Ground Zero
  • Hoje ele não sente que seja preciso jogar uma bomba. Têm um sistema, um time e um produto incríveis, só que construídos sobre as premissas da revolução industrial anterior
  • A diferença prática: em 2009 havia de quem copiar. O Facebook já tinha especificado como fazer sites e apps móveis sobre a mesma camada de API
  • Hoje não há ponto de apoio. O único produto de sucesso baseado em IA que ele conhece é o ChatGPT, um chat de propósito geral que não se aplica ao que eles fazem
  • Os agentes de código parecem fabulosos para ele, mas se parecem com outra coisa: processos criativos supervisionados, lentos, que podem errar diametralmente
  • Foram à China e à Europa buscar referências e não encontraram um ChatGPT aplicado a outra coisa
  • Então estão reinventando tudo: como funcionam as aplicações, como se desenvolve um frontend, um backend, um middleware, o que é preciso especificar e o que deveria se fazer sozinho
  • A descrição dele do momento: a sensação é como a internet em 99, quando os frameworks web eram péssimos
  • A previsão dele: o Mercado Livre e seus concorrentes vão se parecer muito pouco com os de hoje, só que isso ainda não se catalisou. As pessoas subestimam quanto a mudança demora e subestimam quanto ela muda

O Que o Preocupa

  • Que alguém acredite que as coisas vão muito bem para eles. A correção dele: fomos muito bem, no pretérito
  • Ser a empresa mais valiosa do continente é mostrar as medalhas de combate, não uma certeza sobre as próximas 30 partidas
  • Se alguém explorar isso melhor que eles, vai ganhar deles. E estaria tudo bem se o fizesse
  • O que ele agradece na sua indústria: ganha quem joga melhor e quem decide é o consumidor, algo que nem todas as indústrias podem dizer
  • O paralelo que ele usa é Nadal: sabe quais são seus pontos fracos, o que o rival vai fazer para atacá-los e o que ele tem que fazer para ganhar. Essa é sua única obsessão

AI Native como Expressão Inútil

  • Ele não gosta da expressão. Passa entre 50% e 70% do dia interagindo diretamente com essas ferramentas, e é isso que lhe serve
  • A distinção central dele: a IA nunca é um método, é uma ferramenta
  • A missão é que os usuários sejam felizes, e todo o resto são meios
  • A queixa recorrente dele: a quantidade de vezes que alguém lhe diz que algo foi feito com determinada metodologia. Comprando sapatos, você não se importa com a temperatura do galpão
  • O problema de fundo que ele vê: a ferramenta parece isentar você da culpa por ter perdido a partida
  • A permissão explícita dele: se você quer captar dinheiro usando o hype, tem esse direito. Só que a única coisa que importa é o seu objetivo, o que você considera ganhar
  • Por isso ele não está triste por ter jogado muitíssimas horas no lixo. Se foi por 100 caminhos errados e o 101º era o certo, está contente
  • O exemplo favorito dele: James Dyson fez milhares de protótipos fracassados antes do aspirador que funcionou

O Que Muda para um Executivo Técnico

  • O trabalho estratégico dele, decidir onde colocar os recursos, não mudou e ele acha que não vai mudar
  • O que mudou: ele estava havia quinze anos sem programar, porque num time de 20.000 o que duas mãos conseguem fazer é irrelevante
  • Agora o que uma pessoa consegue fazer é muito mais, e o esforço técnico para tentar algo se nivelou
  • A leitura dele sobre o que importa hoje: o conhecimento enciclopédico de ferramentas e versões vale cada vez menos, e a inteligência bruta vale cada vez mais
  • Entender o problema e conectá-lo à solução. E como a complexidade diminui, o usuário fica mais perto de todos

Por Que os Sistemas Atuais Atrapalham

  • O código foi pensado para exércitos de humanos. Os agentes brilham em greenfield e travam num brownfield com centenas de milhões de linhas
  • Pior ainda, muita informação só vive na cabeça das pessoas que trabalham ali e não está escrita em lugar nenhum
  • O exemplo concreto dele: se mil pessoas desenham botões, o lógico era fazer uma biblioteca central que todos chamem. Hoje você pode dizer a um agente que mude os mil lugares de uma vez
  • E há um problema extra: os modelos não conhecem sua biblioteca interna, porque seu código-fonte é secreto e não esteve no treinamento deles
  • O Mercado Livre tem mais de 1 bilhão de linhas de código. Uma pessoa pode levar horas para ler mil
  • A tensão que isso cria: o objetivo dele é reduzir complexidade e tamanho, e a ferramenta que ele tem à mão escreve código em quantidades industriais

Design e Interfaces

  • O que é bom design nunca vai mudar: a melhor expressão das ferramentas necessárias para que quem as usa seja o mais feliz possível
  • A leitura dele sobre o chat: foi um acidente feliz. Apareceu algo que se parece com algo inteligente e por acaso explodiu com linguagem natural
  • Para que um chat é fantástico: encontrar a tarefa que você quer fazer entre um número gigantesco de tarefas. Não há nada melhor
  • Para que é péssimo: navegar visualmente por muitos dados ou comprar roupa
  • A crítica dele ao reflexo de copiar: sempre acontece. Com a internet, com os apps, e agora todo mundo coloca um chat
  • O lembrete dele sobre as interfaces atuais: os radio buttons se chamam assim por causa dos botões dos rádios antigos. Tudo foi construído sobre a tecnologia que foi aparecendo
  • O que o leva a agir: perguntar-se como as interfaces têm que mudar agora, para que seus usuários fiquem mais contentes
  • A honestidade dele sobre o estado atual: não trocaria seus dois aplicativos por um chat, por mais inteligente que fosse. Mas é óbvio que as interfaces deles ainda não sabem o que o ChatGPT sabe ao pesquisar antes de uma compra
  • E a observação dele sobre o ecossistema: as empresas que fabricam os componentes de UI que todos usamos também estão em crise, se reinventando

A Tecnologia Mais Democrática da História

  • Todas as grandes mudanças tecnológicas foram usadas primeiro pelos militares, pelos governos e pelas megacorporações e, de longe por último, pelas pessoas comuns
  • Esta é a primeira vez que acontece o contrário. Apple, Google e os governos não têm a menor ideia de como usar IA para ganhar uma partida, e o senhor que trabalha ali fora usa o ChatGPT todos os dias
  • O lembrete histórico dele: escrevemos ponto com porque a internet comercial foi liberada anos depois da internet militar
  • Por isso a conclusão dele sobre o Mercado Livre: com centenas de milhões de linhas de código, estão em desvantagem diante de uma startup que começa hoje
  • E seus milhões de vendedores têm acesso ao mesmo que eles, com a vantagem de serem menores e mais ágeis

A Quem Ele Agradece

  • Duas lições, as duas aprendidas pela via negativa
  • A primeira, com seu ex-chefe, quem o levou para o Mercado Livre e já faleceu. Viu decisões que o fizeram sofrer e que serviram para saber o que não queria
  • A segunda, com o ex-primeiro-ministro da Irlanda, que conheceu num programa em Stanford, nas conversas que se estendiam até a meia-noite
  • As duas apontam para o mesmo: o trabalho sobre o ego e entender quais são suas verdadeiras motivações profissionais e pessoais
  • A distinção que ele cita: há gente que gosta de ler e gente que gosta de ter lido. Gostar de subir montanhas não é o mesmo que gostar de tê-las subido para contar
  • E o viés que ele menciona, de Kahneman: quando você reflete sobre a própria felicidade, é ativado o eu que lembra, não o eu que experimenta

Glossário do Vale do Silício

TermoO que significaContexto no episódio
Greenfield e brownfieldConstruir do zero ou sobre um sistema que já existePor que os agentes brilham em demos e travam no Mercado Livre
NPSO quanto os usuários recomendariam o serviçoSubiu enquanto o time de customer service se reduzia à metade
Tool callingO modelo poder acionar ferramentas externasO que ainda não existia quando construíram a primeira plataforma
SkillsInstruções estruturadas que guiam um modeloO que destravou a simplificação do core
Especificação técnicaA planta do que é preciso construirA deles chegou a 100.000 linhas antes que ele decidisse começar de novo
Ground ZeroO nome do projeto que reescreveu a plataforma em 2009A referência dele para comparar o momento atual
DefletirResolver um pedido sem que ele chegue a um humano90% dos pedidos de customer service hoje
AI nativeEmpresa construída em torno da IAA expressão que ele diz que não lhe serve
Reduzir complexidadeTirar partes em vez de acrescentá-lasO objetivo declarado dele, em tensão com ferramentas que escrevem muito código

Pessoas, Empresas e Referências

Pessoas Mencionadas

  • Dani Rabinovich: 25 anos no Mercado Livre, entrou como programador no ano 2000
  • Marcos Galperin: fundador do Mercado Livre, com quem trabalhou todos esses anos
  • Hernán Kazah: cofundador, citado por se lembrar dele tímido e introvertido aos vinte e poucos anos
  • Seu ex-chefe: quem o levou para o Mercado Livre e de quem tirou uma lição pela via negativa
  • Daniel Kahneman: pela distinção entre o eu que lembra e o eu que experimenta
  • James Dyson: os milhares de protótipos fracassados antes do que funcionou
  • Antoine de Saint-Exupéry: a citação sobre a perfeição que tinham impressa nas paredes
  • Rafael Nadal e Roger Federer: o exemplo dele de por que a concorrência é necessária
  • Enzo Cavalie: host do podcast

Empresas e Referências

  • Mercado Livre: mais de 100 bilhões de valor de mercado e mais de 1 bilhão de linhas de código
  • Ground Zero: o projeto de 2009 que reescreveu a plataforma
  • O projeto 10K: a promessa de nunca passar de 10.000 representantes de customer service
  • ChatGPT: o único produto de sucesso baseado em IA que ele diz conhecer
  • Anthropic: pelos skills que destravaram a simplificação
  • Amazon: o concorrente cuja chegada acabou com o tédio
  • Leonardo da Vinci: quem ele gostaria de ser se pudesse escolher

Assistir ao episódio