Retour sur la lutte pour récupérer l'IA des mains des géants technologiques

"Le nœud de l’IA, de la médecine, de la biologie et de la science des matériaux sera aux prochaines décennies ce que la Silicon Valley a été à la fin du 20e et au début du 21e siècle. Pourquoi cela pourrait-il marquer la fin de la Silicon Valley telle que nous la connaissons ? Parce que les entreprises plateformes n’ont pas réussi à s’autoréguler, elles se verront imposer des limites à leur potentiel de bien et de mal. Bon nombre des marchés sur lesquels des fortunes seront faites sont réglementés. Or, naviguer sur des marchés réglementés requiert des compétences qui semblent faire défaut à la Silicon Valley. Les régulateurs gouvernementaux en Europe et aux États-Unis ont jeté leur dévolu sur les GAFA. Seront-elles suffisantes ? Si elles se fondent sur de vieilles théories, de vieilles compréhensions que les plateformes ont déjà dépassées, alors non. Les marchés sont des écosystèmes, et comme tous les écosystèmes, ils intègrent d’inombrables dépendances cachées.

Timnit Gebru n’aurait jamais pensé qu’un article scientifique lui causerait autant d’ennuis. En 2020, en tant que codirectrice de l’équipe d’éthique de l’IA de Google, Gebru avait pris contact avec Emily Bender, professeur de linguistique à l’université de Washington, et les deux ont décidé de collaborer à une recherche sur l’orientation troublante de l’IA. Mme Gebru voulait identifier les risques posés par les grands modèles de langage. Ces modèles sont issus d’algorithmes entraînés via des quantités colossales de texte.

Depuis quelques années, les entreprises technologiques se sont lancées dans une course pour construire des versions plus abouties et les intégrer dans des produits de consommation. Google, qui a inventé la technique, en utilisait déjà une pour améliorer la pertinence des résultats de recherche. OpenAI a annoncé la plus grande, appelée GPT-3, en juin 2020 et en a concédé la licence exclusive à Microsoft quelques mois plus tard. Gebru s’est inquiété de la rapidité avec laquelle la technologie était déployée.

Le démantèlement de cette équipe a déclenché l’une des plus grandes controverses récente dans le monde de l’IA. Les défenseurs de Google ont fait valoir que l’entreprise avait le droit de superviser ses propres chercheurs. Mais pour beaucoup d’autres, cette affaire a renforcé les craintes quant au degré de contrôle que les géants de la technologie exercent désormais sur ce domaine. Les géants technologiques sont aujourd’hui le principal employeur et bailleur de fonds des chercheurs en IA, y compris, de manière quelque peu ironique, de ceux qui évaluent ses impacts sociaux. Parmi les entreprises les plus riches et les plus puissantes du monde, Google, Facebook, Amazon, Microsoft et Apple ont fait de l’IA un élément central de leurs activités..." Lire la suite