Accueil › Le guide › La machine
Sur quelles machines tourne une IA ?
Le voyage d'une question
Votre message part du téléphone vers les serveurs. Il est découpé en tokens, puis regroupé avec ceux d'autres utilisateurs pour faire travailler les puces à plein régime. Les puces calculent le mot suivant, le renvoient, et recommencent pour le mot d'après. Tout cela prend une fraction de seconde par mot.
Pourquoi des puces spéciales ?
Le calcul d'une IA consiste surtout à multiplier d'énormes tableaux de nombres. Les GPU (cartes graphiques) et les TPU sont conçus pour faire ces opérations en masse, en parallèle. Souvent, le plus lent n'est pas le calcul lui-même mais le transfert des poids du modèle entre la mémoire et les unités de calcul.
Testez-vous : la station « La machine »
La mémoire, au sens matériel
Un grand modèle pèse plusieurs centaines de gigaoctets. Pendant une conversation, les calculs déjà faits sur le début du texte sont gardés de côté pour ne pas tout refaire à chaque mot. C'est une des raisons pour lesquelles une très longue conversation coûte plus cher à traiter.
L'énergie, nerf de la guerre
Un grand centre de données peut consommer autant d'électricité que des dizaines de milliers de foyers, et il faut le refroidir en permanence. L'entraînement d'un modèle mobilise des dizaines de milliers de puces pendant des mois. C'est pour financer ces infrastructures que les entreprises d'IA lèvent des sommes considérables.
Questions fréquentes
Une IA peut-elle tourner sur mon ordinateur ?
Les petits modèles, oui. Les plus grands assistants, non : ils demandent des grappes de puces professionnelles.
Comment l'IA se souvient-elle de moi d'une conversation à l'autre ?
Ses connaissances ne changent pas. Certaines applications gardent des notes à part et les relisent au début de chaque conversation.
Le jeu complet, selon votre niveau :