Kürzlich aktualisierte Kanäle

Wählen, um nur diesen Kanal zu sehenAlle Kanäle →
Matthew Bermanheute +291AI Engineerheute +6Theo - t3․ggheuteThe Buildersheute +1a16zheute +2硅谷101heute +120VC with Harry Stebbingsgestern +407Jane Streetgestern +119Y Combinatorgestern +1PragerUvor 3 Tagen

Ergebnisse

1 Artikel
Sortieren
ThemaKV caching & prefix reuseStimmen3 oder mehr
32 Folien1:50:48EN
Y Combinator· 24. Okt. 2026Why Inference Matters 12× More Than TrainingFrançois Chaubard, Dan Fu, Jeff Morgan, Joe Fioti, Liangsheng Yin · Y CombinatorYC Paper Club walks the inference stack from an API request down to GPU kernels. Four talks from Together AI, Ollama, Luminal, and SGLang argue that serving quality, not just training FLOPs, is where most of the compute and the money now sit.InferenceGPU programming & kernelsKV caching & prefix reuse+2