Machines intelligentes
Ce livre
édité en 2020 brosse un panorama objectif et actuel des développements
de l'intelligence artificielle (IA), incluant ceux que la crise du
coronavirus accélère. Contrairement à ce que l'on peut attendre,
l'aspect technique n'est pas très poussé, il s'agit plutôt d'un ouvrage
d'intérêt général, vraiment exhaustif, qui met l'accent sur les
possibilités actuelles et futures de ces techniques informatiques, ainsi
que sur les dangers de dérives et abus. Les auteurs, père et fils
Jakobowicz, se gardent de prendre position, mais ce qui doit être dit
l'est sans ambages.
Après
une première partie qui brosse l'historique et signale les déceptions
et hibernations du secteur, la seconde aborde davantage l'aspect
technique. On note que les programmes d'intelligence artificielle, grâce aux performances élevées des machines actuelles, ne sont jamais «que» des algorithmes relativement simples, exécutés très rapidement, qu'on applique à un très grand nombre
de données. Dans les requêtes plus complexes, les algorithmes sont
superposés en couches successives. L'acquisition de grands volumes de
données est la base indispensable aux systèmes d'IA. Tous les moyens
sont bons pour les récolter, depuis les cookies qui mémorisent nos activités et nos goûts jusqu'aux "CAPTCHA" : on apprend que lorsque l'on clique sur ces images, l'on travaille gratuitement pour Google, car ceci permet de gonfler le stock d'informations pour la reconnaissance d'images en IA.
Apprentissage : les expressions "machine learning", "deep learning" et "transfer learning" sont
succinctement expliqués. Ainsi, en reconnaissance visuelle, la machine
ne «voit» pas, elle mémorise les caractéristiques des pixels d'un tas
d'images représentant tel sujet, un chat par exemple, afin
d'apprendre à détecter l'animal sur n'importe quelle image. Il ressort
surtout de ces techniques que si la machine est capable d'apprentissage,
l'explication des processus déterminant une décision est insatisfaisante : "Ceux
qui prônent une adoption massive de l'intelligence artificielle ont
tendance aujourd'hui à mettre en avant des arguments visant à accepter
cet inconnu lié aux algorithmes plutôt qu'à parier sur une meilleure explicabilité de ces derniers. L'un des arguments évoqués est la difficile explication de nos décisions humaines." Oui, mais on demandera quand même à un médecin d'exposer les symptômes qui lui ont permis de déceler une maladie !
Pour ma part, au plan plus technique, j'ai été intéressé par le système "Hadoop"
(p 65) qui permet d'accélérer la recherche d'informations sur
d'immenses bases de données en les répartissant sur plusieurs serveurs.
Par exemple, un assureur veut connaître toutes les transactions de ses
clients en rapport avec l'un de ses produits : la recherche ne
s'effectuera pas sur l'ensemble des données en ordre séquentiel, mais en
parallèle sur chaque serveur qui en contient une partie, divisant le
temps de requête par le nombre de serveurs. Pour certains systèmes, en
effet, la vitesse d'accès aux informations est vitale : chez "Amazon", une minute de blocage coûte 6000 commandes et un gros manque à gagner...
On
remarque également qu'un système de données distribuées implique une
augmentation du nombre de serveurs consommateurs d'énergie. Saviez-vous
que l'énergie nécessaire à l'envoi d'un simple courriel avec pièce
jointe est comparable à celle d'une ampoule électrique pendant une heure
? (p 207)
Dans la troisième partie, sont exposés les différents types d'IA,
de l'assistant personnel qui gère un agenda à la voiture autonome, en
passant par les applications dans le domaine de la santé et de l'armée.
Du robot qui aide à la consultation médicale au drone tueur, on découvre
le tableau étonnant d'innovations qui relevaient hier encore de
la science-fiction. Les auteurs ne manquent pas de souligner les dangers
et problèmes qu'occasionnent ces applications, tant au niveau de la
sphère privée que par l'excessive emprise de grandes sociétés (GAFAM) et d'États totalitaires sur la population (Chine).
S'il fallait absolument lire une partie de cet ouvrage, la quatrième "Quel avenir pour l'Intelligence Artificielle ?"
m'a paru la plus significative. Les auteurs s'y montrent circonspects.
Certains métiers sont menacés par le développement de l'IA et j'ai été
surpris d'apprendre que les programmeurs et les juges sont impactés. Car
se développe rapidement aujourd'hui une IA permettant de transformer
une description des fonctionnalités d'un programme en code informatique.
De même, il existe désormais aux États-Unis des systèmes capables d'automatiser des décisions de justice : "Cet outil reste aujourd'hui une aide à la décision (le juge décide toujours), mais il peut l'influencer, et on imagine bien que ce type de mécanisme peut assez facilement se passer de validation humaine". Les biais de la «boîte noire» des algorithmes évoqués plus haut (explicabilité) peuvent affecter gravement ces dernières décisions.
Au
rang des opportunités, le développement de l'IA permet une plus grande
spécialisation des métiers, davantage d'emplois dans la gestion humaine,
une baisse de la pénibilité et la valorisation de compétences
transverses (relationnel, créativité, ...).
Les auteurs ne croient guère à la prise de contrôle de la société par la machine (cf "Skynet/ Terminator")
et pensent que l'IA telle qu'on la connaît aujourd'hui, malgré
d'énormes avancées, souffre de son incapacité à créer une représentation
du monde. La recherche en IA est confrontée à l'absence de toute
théorie scientifique concernant l'intelligence humaine, de sorte qu'elle
avance sans direction précise. (p 216)
Pour conclure, retenons d'abord que "même s'il existe des risques de dérives, presque aucune invention n'a été abandonnée à cause de critères moraux". L'arrivée
de l'intelligence artificielle dans nos vies peut être très utile et
implique des enjeux et des risques que ce livre nous aide à comprendre
avec les bonnes clés.
Merci à Babelio et aux éditions Leduc.s (opération Masse Critique).