Elle minimise le stockage de données.  En utilisant moins de données, l’IA frugale permet de réduire significativement les coûts financiers en infrastructures et en énergie relatives à leur stockage. Ces économies ne sont pas négligeables, puisque le coût d’un datacenter, même de petite taille, s’élève en moyenne à 4,3 millions de dollars [4]. 

Elle minimise la puissance de calcul et la consommation d’énergie. Avec d’une part l’augmentation des prix des composants suite à la pandémie de COVID-19 – certains processeurs graphiques (GPU) atteignant $2 500 pièce [5] – et d’autre part le coût élevé et fluctuant de l’énergie, les composants conçus pour plus de frugalité et d’efficacité – à l’image des puces neuromorphiques – sont un levier d’intérêt majeur pour un certain type d’entreprises. Certaines de ces puces permettent de consommer jusqu’à mille fois moins d’énergie qu’un processeur conventionnel de même taille, en réduisant les transferts de données [6].

Elle minimise les coûts d’annotation Des pratiques frugales telles que la réduction du jeu de données (few shot learning) ou l’automatisation de l’annotation, peuvent permettre d’éviter l’annotation de gros jeux de données, une étape très onéreuse en ressources financières et humaines (et qui soulève d’autres problèmes, que nous verrons ci-après). L’abondance de données disponibles en Silicon Valley rend la question de l’annotation absolument centrale, c’est pourquoi elle sera évoquée ci-après à plusieurs reprises.

Réduire le temps d’annotation. En termes de gain de temps, l’utilisation de petits jeux de données permet de réduire de manière significative le temps alloué à la récupération de la donnée mais surtout à son annotation, qui est une étape très chronophage.

Automatiser tout ce qui est répétitif ou incrémental. Le machine learning automatisé (AutoML) est un ensemble de méthodes visant à simplifier et automatiser toutes les étapes du machine learning pour le rendre plus accessible sans compromis sur la qualité des modèles. Il peut s’inscrire dans une démarche d’IA frugale, avec le développement de techniques moins gourmandes en ressources de calcul et donc plus performantes d’un point de vue énergétique. Parmi les techniques d’AutoML, on trouve le Neural Architecture Search (NAS), qui automatise la recherche de la meilleure architecture pour chaque cas d’IA. Cette technique permet de réduire les tests de différentes configurations d’architectures et de paramètres qui nécessitent une puissance de calcul importante [7].

Avoir toujours suffisamment de ressources de calcul. Pour les chercheurs, développeurs et utilisateurs d’IA, il est fréquent de devoir attendre plusieurs heures avant que les GPU nécessaires au test des modèles – qui sont des ressources le plus souvent partagées – soient disponibles. Cette situation est vraie également en Silicon Valley. Les algorithmes plus fractionnés d’IA frugale constituent une solution partielle à ce problème en ce qu’ils permettent à la fois d’utiliser moins de GPU et de réduire leur temps d’utilisation. 

Ne plus perdre de temps à déplacer des données. Dans les applications spécifiques d’IA pouvant être embarquées sur des appareils, l’edge AI, ou calcul en périphérie, permet un gain de temps et de nombreux autres avantages. En edge AI, les algorithmes sont exécutés localement [8]. Cela réduit drastiquement l’usage du cloud et les transferts de données jusqu’à des datacenter, mais aussi la latence et les coûts. L’edge AI offre aussi une meilleure confidentialité et disponibilité en raison de sa capacité à fonctionner hors ligne. Le tout avec un impact environnemental réduit [9]. L’edge AI promet de transformer en profondeur de nombreux nouveaux secteurs d’activité (mobilités, industrie, réseaux d’énergie, santé, défense, agriculture…), et représenterait un potentiel économique estimé à 5000 emplois directs et plus de 10 000 dans les filières applicatives [10]. Les entreprises pour lesquelles le matériel et l’intelligence embarquée sont au cœur des développements technologiques pratiquent déjà l’edge AI mais gagneraient à adopter une approche frugale globale, afin de maximiser leur gain en efficacité.

Disparité géographique. Les disparités géographiques entre les régions du monde dans l’accessibilité aux datacenters de dernière génération créent des inégalités en termes de stockage, de disponibilité et de proximité des données. En parallèle de l’adoption de l’IA frugale, il est également essentiel de promouvoir la recherche en nouvelles technologies de stockage (comme le stockage sur ADN) et en datacenters efficaces, compacts et déployables. De plus, réduire la quantité de données requises pour l’entraînement d’un modèle d’IA permet de diminuer le stockage de données inutiles ou latentes. Cela réduit la taille des datacenters, entraînant une consommation d’énergie moindre et une utilisation réduite des ressources. Cette approche pourrait être une solution pertinente pour de nombreux pays.

Disparités entre secteurs d’activité. En parallèle, rendre l’IA plus accessible signifie faciliter son adoption par de nouveaux domaines d’activité. Nina Miolane, chercheuse à l’université de Santa Barbara, s’est intéressée à cette question cruciale pour le secteur de la santé. D’après Miolane, ce secteur pourrait considérablement profiter de l’avancement des méthodes d’IA économes en données. En effet, dans le domaine de la santé, obtenir des données de qualité et annotées est rendu difficile par le caractère secret des données médicales. De plus, l’annotation des données médicales est laborieuse et chronophage. Elle nécessite l’intervention d’experts médicaux qui ont peu de temps à consacrer à cette tâche et dont les interprétations peuvent varier. Les méthodes d’IA frugale automatisant ou réduisant le besoin d’annotations pourraient renforcer l’adoption de l’IA frugale dans le secteur de la santé. 

Opportunité pour les start-ups. Finalement, l‘IA frugale, par son économie en ressources, contribuerait à offrir aux jeunes entreprises les moyens de rivaliser avec les géants du secteur, et ce malgré leurs moyens et un accès aux données limités. 

Une difficulté durable d’accès au hardware. Depuis 2020, le marché des GPU (processeurs graphiques) et des CPU (unités centrales) fait face à une pénurie et à un envol des prix [5]. Cette crise a en partie été déclenchée par les contraintes d’approvisionnement en semi-conducteurs et en matériaux nécessaires à la fabrication de GPU durant la pandémie de Covid-19. Or en parallèle de la crise, l’essor des applications d’IA, des cryptomonnaies et du gaming a créé une demande sans précédent pour les GPU. Si bien que les fabricants ont eu du mal à suivre le rythme effréné de la demande, entraînant des ruptures de stock dès le lancement de nouveaux modèles. Les prix ont également connu une flambée, faisant craindre que les GPU haut de gamme ne deviennent inaccessibles pour de nombreux consommateurs. Bien que la pénurie ait régressé en 2022, les prix des GPU restent élevés et le développement d’IA massives à l’image de ChatGPT laisse présager de possibles difficultés d’approvisionnement à l’avenir puisque ces modèles utilisent des centaines, voire des milliers, de GPU. Les Etats-Unis, au même titre que l’Europe, l’ont bien compris et concentrent à présent leurs efforts sur le rapatriement et la diversification de leurs moyens de production sur leurs sols. La très agressive politique du “made in America” américain entraîne d’ailleurs de fortes pressions sur les entreprises étrangères et de vives tensions avec le partenaire européen depuis plusieurs mois, dans de nombreux secteurs de l’industrie et de la technologie.

Lutter contre l’obsolescence des composants. Face aux prix élevés et à la rareté des GPU, certaines entreprises et experts de l’IA ont adopté des pratiques frugales permettant de réduire le nombre de GPU nécessaires et la dépendance aux GPU dernière génération. C’est le cas de Gregory Renard, entrepreneur et expert français de l’IA en Silicon Valley. Avec ses équipes, il a développé des modèles d’IA performants en inférence en utilisant des architectures réduites et spécialisées (transformeurs intégrant du prompting, de l’in-context learning ou du zero-shot learning), ce qui permet une bonne performance en exécution sur des GPUs vieux de 5 ans. Cette initiative illustre de manière concrète et appliquée les leviers accessibles aux développeurs d’IA afin de lutter contre l’obsolescence des composants et pour une IA plus frugale. 

Des données de qualité pour minimiser les biais. Utiliser moins de données offre la possibilité d’en améliorer la qualité. Il est en effet plus économe, en termes de temps et d’effort, de garantir un bon degré de correspondance avec la réalité sur un petit jeu de données que sur un grand jeu de données. Dans les gros ensembles de données non triés, certains types de données sont surreprésentés. Par exemple, il est à présent connu que les modèles d’IA apprenant sur internet surreprésentent les occidentaux et discriminent les femmes noires, entre autres. Un tel biais peut notamment poser des problèmes dans les applications de reconnaissance faciale et en matière de sécurité [11]. Avec les modèles d’IA frugale, les petits jeux de données donnent la possibilité de réfléchir davantage pour représenter au mieux la réalité.

Considérer la charge mentale des annotateurs. Alice Desthuilliers, spécialiste de la donnée et product manager chez Appen – une entreprise d’annotation de données implantée dans la Baie de San Francisco – nous a rappelé que plusieurs enquêtes récentes montrent que l’impact psychologique de l’annotation de données sur les annotateurs peut être significatif. Un risque encore mal mesuré à l’heure actuelle et dont on pourrait souhaiter qu’il soit pris en considération dans l’aménagement des conditions de travail de cette main d’œuvre invisible au quatre coins du monde.

Développer une IA explicable. Enfin, l’explicabilité et la transparence de l‘IA sont également devenues des sujets d’intérêt face à la généralisation de l’utilisation de l’IA, notamment pour certains domaines d’application stratégiques et critiques tels que l’aéronautique, l’espace, la défense ou le nucléaire. Nous avions déjà évoqué l’importance du concept d’explicabilité de l’IA dans l’un de nos précédents articles. Cette dimension est également au cœur des préoccupations du bureau californien en charge de la publication d’un décret sur la réglementation de l’IA, paru en septembre 2023 [12] – équipe que nous avons rencontrée à l’occasion d’une conférence organisée au NASA Ames Research Center sur les questions d’IA et d’éducation. Des techniques frugales telles qu’AutoML peuvent représenter des solutions intéressantes, puisqu’elles fournissent des résultats explicables et reproductibles [13]. Par ailleurs, des études ont montré que l’alliance du raisonnement bayésien [14] et de l’apprentissage automatique pouvait créer des IA explicables et capables d’estimer la certitude de leurs prédictions. Cette approche est qualifiée de frugale puisqu’elle fonctionne sur des quantités réduites de données et présente une grande efficacité énergétique [15]. Les solutions frugales apportent donc des réponses concrètes sur la question de l’explicabilité de l’IA.