À propos de l’inférence locale, Sam Altman estime que la DRAM dont l’offre est limitée est mieux utilisée dans les data centers que dans des PC, où elle « ne sert que 5 % du temps »
Avec des data centers pleins de RAM, le problème serait apparemment votre PC. … Le PDG d’OpenAI, Sam Altman, dispose de data centers pleins de mémoire…