Confiance : 3/5 - cet article est le produit de la lecture de 2 livres et de quelques vid\u00e9os.\nJe ne suis pas \u00e9conomiste, au mieux un amateur \u00e9clair\u00e9.
Effort : 4/5 - cet article m'a demand\u00e9 de l'effort, j'ai fait des recherches, je me suis document\u00e9.\nCependant, je n'ai pas men\u00e9 le travail de r\u00e9f\u00e9rence jusqu'au bout.\nJ'aurais \u00e9galement pu produire des graphiques et apport\u00e9 des chiffres.
Je profite de cette nouvelle journ\u00e9e de gr\u00e8ve pour poursuivre ma r\u00e9flexion sur l'intelligence artificielle (IA) comme moment de rencontre entre des probl\u00e9matiques technologiques, \u00e9conomiques, \u00e9cologiques et sociales.\nJe lis pas mal de choses sur ce sujet en ce moment et cette petite synth\u00e8se de ce que j'ai appris est ma modeste contribution \u00e0 une meilleure compr\u00e9hension du monde.
\nPour comprendre les enjeux mat\u00e9riels de l'intelligence mat\u00e9rielle, il faut en revenir \u00e0 ses conditions d'existence.\nL'IA, aujourd'hui, est surtout une question de calculs qui tournent sur des machines.\nMettons de c\u00f4t\u00e9 les produits de l'IA pour voir les questions d'infrastructure technique.\n\u00c0 mon avis, il y a au moins deux dimensions : les ordinateurs et les r\u00e9seaux.\nPour cet article, je vais me concentrer sur ce qui permet aux IA de fonctionner : la capacit\u00e9 de calcul.
\nIl y a en ce moment un conflit \u00e9conomique entre la Chine et les \u00c9tats-Unis d'Am\u00e9rique (US).\nCette tension a aussi une g\u00e9ographie autour de l'\u00eele de Ta\u00efwan.\nCe pays a re\u00e7u ces derni\u00e8res ann\u00e9es la visite de repr\u00e9sentants du gouvernement US, car il est aussi le domicile d'une entreprise TSMC, qui a un quasi-monopole sur la production de puces \u00e9lectroniques de pointe.\nL'enjeu est beaucoup plus d'entretenir un avantage technologique et une capacit\u00e9 de production qu'une question de biens de consommation pour les foyers am\u00e9ricains.
\nLes entreprises US se sont positionn\u00e9es en amont (conception) et en aval (exploitation) de la fabrication des puces.\nOn dit qu'elles sont fabless.\nLa conception des puces est d\u00e9pendante de logiciels \u00e9dit\u00e9s par une poign\u00e9e d'entreprises qui sont principalement am\u00e9ricaines.\nApple, par exemple, con\u00e7oit en interne les puces de ses produits sans poss\u00e9der les entreprises qui les fabriquent et les assemblent.
\nUne usine de fabrication repr\u00e9sente un capital de plusieurs dizaines de milliards USD alors que la conception et l'exploitation sont plut\u00f4t de l'ordre de quelques millions.\nCet \u00e9cosyst\u00e8me permet l'apparition de startup qui se lancent apr\u00e8s un investissement relativement banal.\nL'externalisation permet une r\u00e9duction du co\u00fbt des innovations et exp\u00e9rimentations.
\nUn autre point int\u00e9ressant de ce syst\u00e8me \u00e9conomique est le monopole d'ASML, une entreprise hollandaise, sur la fabrication de machine permettant de produire les derni\u00e8res g\u00e9n\u00e9rations de puces \u00e9lectroniques.\nC'est int\u00e9ressant, car c'est \u00e0 raison de partenariats \u00e9conomiques et d'interdiction d'exportation vers la Chine que les US sont en train de dominer ce conflit.\nIl est estim\u00e9 qu'il faudrait 10 ans pour que la Chine atteigne l'expertise et la capacit\u00e9 de fabrication d'ASML.\nSoit une \u00e9ternit\u00e9 pour un milieu qui vit selon la loi de Moore : une multiplication par 2 du nombre de transistors tous les 2 ans.
\nIl faut aussi comprendre que l'on parle ici de la production de puces avanc\u00e9es c.-\u00e0-d. qui sont en dessous d'une certaine taille, une dizaine de nanom\u00e8tres (nm).\nLa plupart des biens de consommation, disons tout ce qui est moins compliqu\u00e9 qu'un smartphone, utilisent des puces dont le niveau technologique est celui de la fin des ann\u00e9es 90.\nL'\u00e9chelle d'un transistor est alors autour de 180 nm.\nUne entreprise am\u00e9ricaine comme Texas Instruments accumule des profits en continuant \u00e0 concevoir, fabriquer et exploiter ces puces tout en voyant les co\u00fbts de production baiss\u00e9s au fil des innovations.
\nPour comprendre, comment et pourquoi, les US se sont retrouv\u00e9s avec une d\u00e9pendance avec l'Asie du Sud, je vous invite \u00e0 lire Chip War de Chris Miller.\nC'est un ouvrage assez synth\u00e9tique sur la pr\u00e9histoire de la Silicon Valley et des diff\u00e9rents mouvements g\u00e9opolitiques qui font l'histoire \u00e9conomique des puces.\nIl est aussi int\u00e9ressant d'y constater l'omnipr\u00e9sence des gouvernements dans le financement des innovations.\nUn magnifique contre-exemple du discours n\u00e9o-lib\u00e9ral.
\nL'IA, sp\u00e9cialement le Deep Learning, ne serait pas ce qu'il est aujourd'hui sans la disponibilit\u00e9 et une certaine abondance de cartes graphiques puissantes, ou GPU pour Graphical Processing Unit.\nLes cartes graphiques contiennent une puce qui est optimis\u00e9e pour transformer et afficher des pixels, soit des matrices, soit la m\u00eame structure de donn\u00e9es que les algorithmes d'apprentissage machine (machine learning).\nLes r\u00e9seaux de neurones sont \u00e9tudi\u00e9s depuis plusieurs d\u00e9cennies, mais les capacit\u00e9s de calcul disponibles n'\u00e9taient pas int\u00e9ressantes pour une application.
\nNvidia est une entreprise US qui produit une architecture logicielle nomm\u00e9e CUDA qui permet d'interfacer n'importe quel type de logiciel avec la capacit\u00e9 de calcul des cartes graphiques.\nLa tr\u00e8s vaste majorit\u00e9 des infrastructures IA repose sur CUDA.\nCUDA n'est compatible qu'avec les cartes graphiques Nvidia.\nC'est \u00e0 nouveau un monopole.
\nDans l'affrontement, entre Google et Microsoft ainsi que la floraison de startups surfant sur la vague actuelle, Nvidia sera l\u00e0 pour fournir le mat\u00e9riel ou le fournit d\u00e9j\u00e0.
\nIl pourrait \u00eatre int\u00e9ressant de comparer les revenus annuels d'Intel et de Nvidia sur le secteur des data centers et de l'IA.
\nAu d\u00e9but de cette ann\u00e9e, j'ai d\u00e9bours\u00e9 une jolie somme pour acheter un GPU d'occasion de l'avant-derni\u00e8re g\u00e9n\u00e9ration.\nC'est du mat\u00e9riel initialement pr\u00e9vu pour le jeu vid\u00e9o et le traitement vid\u00e9o qui co\u00fbte une fraction d'un mat\u00e9riel vendu pour faire du machine learning.\nCette carte graphique, une GeForce 3090, est on\u00e9reuse, mais \u00e9galement volumineuse et gourmande en \u00e9lectricit\u00e9.\nElle ne rentre pas dans n'importe quel bo\u00eetier et r\u00e9clame un bloc d'alimentation au-dessus de la moyenne.\nLa derni\u00e8re g\u00e9n\u00e9ration est encore plus extr\u00eame.
\nAvec cela, je peux surtout faire des inf\u00e9rences.\nAutrement dit, je peux r\u00e9cup\u00e9rer des mod\u00e8les pr\u00e9entrain\u00e9s et g\u00e9n\u00e9rer du texte ou des images dans un laps de temps raisonnable.
\nJe peux sans doute adapter des mod\u00e8les en faisant du fine tuning et avec beaucoup de patience.\nJe peux compl\u00e8tement oublier l'id\u00e9e d'entrainer mes propres mod\u00e8les.
\nIl est ainsi compl\u00e8tement abusif de dire que ChatGPT, c'est \u00e0 avoir une IA dans sa poche.\nIl en sera de m\u00eame pour Bard, Sydney et toute la farandole de produits qui incorporeront de l'IA.\nC'est \u00e9galement vrai pour les produits existants comme Siri ou Alexa.
\n\u00c0 l'heure actuelle, on est donc sur des mod\u00e8les qui vont chercher \u00e0 tout faire, pour tout le monde, mais surtout \u00e0 un seul endroit : un data center.\nLa consommation de ressources est ainsi d\u00e9port\u00e9e et vaguement optimis\u00e9e.\nOn est loin d'une combinaison entre edge computing (calcul fait en bout de chaine) et de l'intelligence artificielle personnalis\u00e9e.\nPeut-\u00eatre qu'avoir ces technologies \u00e0 disposition sera trop co\u00fbteux et donc fera relativiser leur utilit\u00e9.
\nOn ne pourra parler de d\u00e9mocratisation de ces technologies seulement quand la production et la personnalisation des mod\u00e8les seront \u00e0 la port\u00e9e de tous.\nPas n\u00e9cessairement sous une forme individualiste, il a des options qui tendent vers le commun comme petals.\nEn attendant, c'est donc surtout une mani\u00e8re pour les g\u00e9ants du num\u00e9rique (Amazon, Microsoft et secondairement Google) de vendre et d'exploiter leur accumulation de ressources mat\u00e9rielles sous forme de location, autrement dit du capital.
\nJ'ai \u00e9galement h\u00e2te de voir une ribambelle d'entrepreneurs gratter un morceau du g\u00e2teau en vendant une expertise qui sera une surtaxe sur l'acc\u00e8s aux nuages de calcul, Ponzi scheme style, et en prenant bien soin de ne produire aucune valeur au passage.\n(Non.)
\nEn \u00e9tant le dernier vecteur technologique \u00e0 la mode, l'IA et l'intensit\u00e9 des calculs qui font partie de flux mat\u00e9riels et financiers.\nIl semble donc important d'avoir ce contexte en texte quand on cherche \u00e0 comprendre la gravit\u00e9 affich\u00e9e, les moyens d\u00e9ploy\u00e9s par les US pour d\u00e9fendre Ta\u00efwan.\nChaque requ\u00eate, produit, service ou startup sont \u00e9galement une contribution \u00e0 ce cycle industriel.
\n