Accueil › Le guide › La machine

Sur quelles machines tourne une IA ?

La réponse courteUne IA comme ChatGPT ou Claude tourne dans d'immenses centres de données, sur des puces spécialisées (GPU, TPU) capables de faire des milliards de multiplications en parallèle. Le modèle est trop gros pour une seule puce : il est réparti sur plusieurs, reliées par des connexions ultra-rapides. Et chaque mot généré demande un nouveau calcul.

Le voyage d'une question

Votre message part du téléphone vers les serveurs. Il est découpé en tokens, puis regroupé avec ceux d'autres utilisateurs pour faire travailler les puces à plein régime. Les puces calculent le mot suivant, le renvoient, et recommencent pour le mot d'après. Tout cela prend une fraction de seconde par mot.

Pourquoi des puces spéciales ?

Le calcul d'une IA consiste surtout à multiplier d'énormes tableaux de nombres. Les GPU (cartes graphiques) et les TPU sont conçus pour faire ces opérations en masse, en parallèle. Souvent, le plus lent n'est pas le calcul lui-même mais le transfert des poids du modèle entre la mémoire et les unités de calcul.

Testez-vous : la station « La machine »

Score 0

La mémoire, au sens matériel

Un grand modèle pèse plusieurs centaines de gigaoctets. Pendant une conversation, les calculs déjà faits sur le début du texte sont gardés de côté pour ne pas tout refaire à chaque mot. C'est une des raisons pour lesquelles une très longue conversation coûte plus cher à traiter.

L'énergie, nerf de la guerre

Un grand centre de données peut consommer autant d'électricité que des dizaines de milliers de foyers, et il faut le refroidir en permanence. L'entraînement d'un modèle mobilise des dizaines de milliers de puces pendant des mois. C'est pour financer ces infrastructures que les entreprises d'IA lèvent des sommes considérables.

Questions fréquentes

Une IA peut-elle tourner sur mon ordinateur ?

Les petits modèles, oui. Les plus grands assistants, non : ils demandent des grappes de puces professionnelles.

Comment l'IA se souvient-elle de moi d'une conversation à l'autre ?

Ses connaissances ne changent pas. Certaines applications gardent des notes à part et les relisent au début de chaque conversation.

Le jeu complet, selon votre niveau :