En chiffres  |  Algorithmes

Les LLM en chiffres

Écrit par Frédéric Filloux

1 500 microprocesseurs dédiés à l’IA

C’est l’infrastructure, assez modeste, mise à la disposition des chercheurs de Kyutai. À titre de comparaison, Meta aura déployé, d’ici la fin 2024, 500 000 processeurs Nvidia H100, les plus puissants pour effectuer les calculs ; et Microsoft en aura installé 1,8 million. 

50 fois plus de données chez l’enfant

C’est le différentiel entre le volume de données assimilées par un enfant au cours des quatre premières années de sa vie (1,1 x 1015 octets) et un LLM (2 x 1013 octets). Pour les sceptiques des LLM, ce décalage démontre le chemin à parcourir avant de parvenir à une intelligence même rudimentaire.

6 mois d’entraînement 

C’est la durée moyenne avant qu’un LLM soit opérationnel. Mais certains nécessitent deux à trois fois plus de temps ; le record est de 3,55 années. Ce délai ne comprend pas les opérations de sécurisation et d’alignement du modèle.

100 000 milliards de mots dans 166 langues

C’est la taille de la version 2024 du jeu de données publiques Common Crawl – principale base linguistique des LLM. La distribution est très concentrée : 46 % est en anglais ; l’allemand, le russe, le japonais, le français, l’espagnol et le chinois comptent chacun pour moins de 6 %. 

85 à 134 térawattheures

Selon un scénario moyen, en 2027, les serveurs dédiés à l’IA consommeront 0,5 % de l’électricité mondiale, soit l’équivalent de la demande de pays comme l’Argentine ou les Pays-Bas. 

Explorer le thème
Économie
Novembre 2026
Les mystères de la Santa, cercle secret de la ’Ndrangheta
Si la mafia calabraise est l’organisation criminelle la plus puissante du monde, la Santa en est un des échelons les plus secrets. Immersion labyrinthique.
Enquête  |  Novembre 2026 | Inframonde
Octobre 2026
Jean-Marie Laclavetine, y laisser des plumes
Éditeur de Goncourt et d’académiciens, l’écrivain n’a pas vu les dangers fondre sur Saint-Germain-des-Prés. Jusqu’à l’affaire Sansal et l’arrivée de l’IA.
Portrait  |  Octobre 2026 | Imaginaires
portrait de Guillaume Gendron
Août 2026
Pavé César : éloge de Robert Caro, le « power » biographe
À l’occasion de la sortie française du best-seller fondateur du journaliste américain, le rédacteur en chef de Revue21 célèbre le format long.
D’un trait  |  Août 2026 | Pouvoirs
Des femmes sur une plage devant un lac et une centrale à charbon
Août 2026
Paradoxes humains, catastrophe climatique
L’Allemagne veut atteindre la neutralité carbone en 2045, mais carbure toujours au charbon. Une valse des contraires captée par Ingmar Björn Nolting.
Récit photo  |  Août 2026 | Vivant
Une cravate, un sauna, des glaçons...
Juillet 2026
Glace, sauna et KPI, le dernier cocktail des grands patrons
La « contrast therapy », nouvelle « routine bien-être » des grands patrons, alterne le très chaud et le très froid. Infiltration en maillot de bain.
Antichambre  |  Juillet 2026 | Pouvoirs
un tas de poissons et des travailleurs dans la cour d’une usine
Mai 2026
Loin des nez occidentaux, l’industrie du poisson délocalise sa puanteur 
Le secteur de la farine de poisson, dominé par les occidentaux, empuantit les villages côtiers du sud du globe. Une enquête de The Outlaw Ocean Project.
Enquête  |  Mai 2026 | Arcanes
Un médecin et des poches de sang
Mai 2026
À Beverly Hills, le Maître du sang et les millionnaires qui ne veulent plus mourir
Perfusions express, cocktails cellulaires… À la tête d’une conciergerie médicale, Nicholas Argento est aux petits soins de ses riches clients.
Reportage  |  Mai 2026 | Vivant
Des jeunes sur le toit d’un bureau de tabac
Avril 2026
Banlieues vives
Dans sa série « Extramuros », William Keo saisit l’ordinaire de la jeunesse des périphéries. Un travail primé par le World Press Photo 2026.
Récit photo  |  Avril 2026 | Imaginaires
dessin du resto d’Elon Musk
Avril 2026
Bienvenue au Tesla Diner, le resto futuriste (et ringard) d’Elon Musk
L’homme le plus riche du monde s’est offert un fast-food technoïde. À peine ouvert, et déjà has been – comme un miroir tendu à sa popularité nécrosée.
Sur la route  |  Avril 2026 | Pouvoirs
Des objets dérivés de la Maison blanche et de l'Élysée
Mars 2026
Lunettes Macron, casquettes Trump : à l’ère de l’ego-shop politique
Le nouveau nec plus ultra des dirigeants politiques ? Avoir une boutique à son effigie.
Miniature  |  Mars 2026 | Pouvoirs