L’essentiel de l’actualité technologique

Le Fil Tech

Plus de couverture

Sur X

  • @sanchitmonga22 · Le gouvernement a choisi Sarvam en avril 2025 pour créer son propre modèle de fondation. L’entreprise a reçu une subvention de 98,68 crore ₹ pour 4 096 H100 et levé 234 M$ sur une valorisation de 1,5 Md$ en juin. Maintenant, elle ouvre Token Factory à tous. 8 modèles disponibles. 1 est le sien. 6 sont chinois...
  • Saritha Rai / @saritharai · Sarvam, le développeur indien le plus en vue de modèles d’IA souverains, proposera DeepSeek et d’autres modèles d’IA chinois sur sa plateforme. Sa mission d’IA souveraine pour l’Inde reste intacte, affirment ses fondateurs dans une interview. https://www.bloomberg.com/... #AI [image]
  • @sarvamai · Sarvam 105B offre des performances de premier ordre en conversation au coût le plus bas, en renvoyant son premier token en 200 ms et avec un débit de 330 tokens par seconde pour un seul utilisateur. Pour Sarvam 105B, nous avons optimisé les kernels, entraîné des modèles de brouillon personnalisés et assuré le service en mode désagrégé P/D po...
  • @sarvamai · Nous servons GLM 5.3 avec MXFP8 sur vLLM, ce qui divise par deux le délai avant le premier token et double le débit.
  • Ankit Jxa / @kingofknowwhere · Avec cette sortie, ils ont bouffé les restes du cadavre de krutrim.
  • Pratyush Kumar / @pratykumar · La résidence des données et l’absence d’inférence en Inde ont empêché beaucoup d’équipes d’ici d’utiliser les meilleurs modèles open source, malgré les compromis avantageux entre coût et précision. Aujourd’hui, nous lançons en disponibilité générale des endpoints hébergés pour nos modèles et d’autres modèles open source, destinés à des usages dans le chat, le code, le co-travail et...
  • @sarvamai · Nous utilisons un cache à trois niveaux pour conserver le contexte entre les requêtes et étendons le routeur et la couche d’admission pour tenir compte du cache distribué. Avec DeepSeek V4.1 Flash, 95,7 % des tokens d’invite sont servis depuis le cache, sur plus de 450 milliards de tokens par jour.
  • Saurabh Arora / @tanish2k · Félicitations pour le lancement ! Nous utilisons DeepSeek sur Sarvam comme principal LLM pour notre agent vocal d’assistance. La voix exige une très faible latence, et nous obtenons un délai p90 avant le premier token inférieur à 600 ms. Nos assurés bénéficient d’une aide rapide et de qualité pour des appels d’assurance complexes.
  • @business · La start-up indienne Sarvam a commencé à vendre l’accès à DeepSeek et à d’autres modèles d’IA chinois, déclenchant une polémique en ligne sur son rôle de l’un des principaux défenseurs de l’indépendance de l’Inde en matière d’IA. https://www.bloomberg.com/...
  • @sarvamai · Sur notre Token Factory, DeepSeek V4.1 Flash 1017 est disponible via deux endpoints. L’endpoint interactif fournit 200 tokens par seconde et par utilisateur pour les agents de programmation. L’endpoint standard prend en charge les tâches en arrière-plan et par lots à un prix de lancement comparable à celui de GPT-6 Luna et de l’API de DeepSeek....
  • @sarvamai · Aujourd’hui, nous lançons Sarvam Token Factory pour tout le monde. Nous hébergeons nos propres modèles et toute une gamme de modèles open-weight de premier ordre en Inde. Nous rivalisons avec les principaux fournisseurs d’inférence en matière de performances et de fiabilité. Pour les entreprises, cela signifie plus de modèles au choix, et un...
  • Pratik Ratadiya / @pratik_ratadiya · Opinion impopulaire : les GPU subventionnés par le GoI ne devraient pas servir à héberger des LLM chinois ni à devenir un fournisseur d’inférence. Ce ne sont pas de bons signes pour la demande de leurs modèles de pointe, s’ils pensent que c’est ainsi qu’ils vont augmenter leurs revenus.
  • Santanu Bhattacharya / @santanub01 · Déçu par l’annonce de @SarvamAI. Choisie en 2025 pour construire le modèle d’IA souveraine de #India. 4 096 H100 subventionnés. 234 M$ levés sur une valorisation de 1,5 Md$. Et maintenant, lancement de Token Factory : 8 modèles — 1 Sarvam, 6 chinois (DeepSeek, Kimi, GLM), 1 Google. C’est une entreprise d’hébergement pour #China, pas de l’IA souveraine #...
  • Shakthi / @v_shakthi · C’est décevant ! Le gouvernement indien a misé sur Sarvam et en a fait la vitrine du développement et de la recherche indiens en #AI de pointe. Qu’est-ce qu’ils font ? Ils ajoutent l’un de leurs modèles, puis hébergent une Token Factory composée surtout de LLM chinois ! Il y en a beaucoup d’aut...
  • @sarvamai · Nous avons écrit des kernels personnalisés pour chaque modèle afin d’améliorer la fiabilité et la vitesse. Avec GLM 5.3 Flash, le premier token arrive jusqu’à 2,1× plus vite qu’avec la pile open source standard, à nombre de tokens par GPU égal. Avec Kimi K3.1 Pro, nous servons jusqu’à 1,9× plus de tokens par GPU que le meilleur résultat publié...
  • Mehul Mohan / @mehulmpt · J’ai utilisé ça hier plutôt que DeepSeek et dépensé environ 15 $ à tout tester par rapport à l’API officielle de DeepSeek hébergée en Chine. L’inférence de Sarvam est : ✅ exactement le même prix (sauf 18 % de GST indienne contre 6 % de TVA chinoise) ✅ même intelligence (pas de quantification) ✅ mode rapide (2× plus coû...

Newsletter

L’essentiel du Fil

Recevez l’essentiel de l’actualité tech chaque matin dans votre boîte mail gratuitement.