Il a prédit le côté obscur d'Internet il y a 30 ans.
Pourquoi personne n'a écouté ?
En 1994 — avant que la plupart des Américains n'aient une adresse e-mail ou un accès Internet ou même un ordinateur personnel — Philip Agre prévoyait que les ordinateurs faciliteraient un jour la collecte massive de données sur tout dans la société. Puis il a disparu, laissant derrière lui un héritage de travail qui était étrangement prémonitoire dans la prédiction de l'impact de la technologie sur la société.
En 1994 — avant que la plupart des Américains n'aient une adresse e-mail ou un accès Internet ou même un ordinateur personnel — Philip Agre prévoyait que les ordinateurs faciliteraient un jour la collecte massive de données sur tout dans la société.
"Des développements vraiment inquiétants peuvent sembler" pas si mauvais " simplement parce qu'ils manquent des horreurs manifestes de la dystopie d'Orwell ", a écrit Agre, qui a un doctorat en informatique du Massachusetts Institute of Technology, dans un article universitaire.
Près de 30 ans plus tard, l'article d'Agre semble étrangement prémonitoire, une vision surprenante d'un avenir qui s'est réalisé sous la forme d'un complexe industriel de données qui ne connaît pas de frontières et peu de lois. Les données collectées par des réseaux publicitaires et des applications mobiles disparates à de multiples fins sont utilisées pour influencer les élections ou, dans au moins un cas, pour dénoncer un prêtre gay . Mais Agre ne s'est pas arrêté là. Il a prévu l'utilisation abusive autoritaire de la technologie de reconnaissance faciale, il a prédit notre incapacité à résister à une désinformation bien conçue et il a prédit que l'intelligence artificielle serait utilisée à des fins obscures si elle n'était pas soumise à une enquête morale et philosophique.
Ensuite, personne n'a écouté. Aujourd'hui, de nombreux anciens collègues et amis d'Agre disent qu'ils ont davantage pensé à lui ces dernières années et qu'ils ont relu son travail, alors que les pièges de la croissance explosive et incontrôlée d'Internet sont apparus, érodant la démocratie et contribuant à faciliter un soulèvement violent. sur les marches du Capitole des États-Unis en janvier.
"Nous vivons au lendemain de l'ignorance de gens comme Phil", a déclaré Marc Rotenberg, qui a édité un livre avec Agre en 1998 sur la technologie et la confidentialité, et est maintenant fondateur et directeur exécutif du Center for AI and Digital Policy.
Charlotte Lee, qui a étudié sous Agre en tant qu'étudiante diplômée à l'UCLA et est maintenant professeure de conception et d'ingénierie centrée sur l'humain à l'Université de Washington, a déclaré qu'elle étudiait toujours son travail et en apprenait aujourd'hui. Elle a dit qu'elle souhaitait qu'il soit là pour l'aider à mieux le comprendre.
Mais Agre n'est pas disponible. En 2009, il a tout simplement abandonné la surface de la terre, abandonnant son poste à l'UCLA. Lorsque des amis ont signalé la disparition d'Agre, la police l'a localisé et a confirmé qu'il allait bien, mais Agre n'est jamais revenu dans le débat public. Ses amis les plus proches ont refusé de discuter davantage des détails de sa disparition, invoquant le respect de la vie privée d'Agre.
Au lieu de cela, bon nombre des idées et des conclusions qu'Agre a explorées dans ses recherches universitaires et ses écrits n'apparaissent que récemment dans les groupes de réflexion et les organisations à but non lucratif axés sur la responsabilisation des entreprises technologiques.
"Je vois des choses sur lesquelles Phil a écrit dans les années 90 être dites aujourd'hui comme s'il s'agissait de nouvelles idées", a déclaré Christine Borgman, professeur d'informatique à l'UCLA qui a aidé à recruter Agre pour son poste de professeur à l'école.
Le Washington Post a envoyé un message à la dernière adresse e-mail connue d'Agre. Il a rebondi. Les tentatives pour contacter sa sœur et d'autres membres de la famille ont été infructueuses. Une dizaine d'anciens collègues et amis n'avaient aucune idée de l'endroit où Agre habite aujourd'hui. Certains ont dit qu'il y a quelques années, il vivait quelque part autour de Los Angeles.
Agre était un enfant prodige des mathématiques qui est devenu un blogueur populaire et un contributeur à Wired. Maintenant, il a été presque oublié dans les cercles technologiques traditionnels. Mais son travail est encore régulièrement cité par les chercheurs en technologie dans le milieu universitaire et est considéré comme une lecture fondamentale dans le domaine de l'informatique sociale, ou l'étude des effets des ordinateurs sur la société.
Agre a obtenu son doctorat au MIT en 1989, la même année où le World Wide Web a été inventé. À cette époque, même parmi les investisseurs en capital-risque de la Silicon Valley pariant sur l'essor de l'informatique, peu de gens prévoyaient à quel point l'informatisation de tout allait changer profondément et rapidement la vie, l'économie ou même la politique.
Un petit groupe d'universitaires, Agre inclus, a observé que les informaticiens considéraient leur travail dans un vide largement déconnecté du monde qui les entourait. Dans le même temps, les gens en dehors de ce monde n'avaient pas une compréhension suffisamment profonde de la technologie ou de la façon dont elle était sur le point de changer leur vie.
Au début des années 1990, Agre en est venu à croire que le domaine de l'intelligence artificielle s'était égaré et que le manque de critique de la profession en était l'une des principales raisons. À ces débuts de l'intelligence artificielle, la plupart des spécialistes de l'IA se concentraient sur des problèmes mathématiques complexes visant à automatiser des tâches humaines, avec un succès limité. Pourtant, l'industrie a décrit le code qu'elle écrivait comme « intelligent », lui donnant des attributs humains qui n'existaient pas réellement.
Son point de repère 1997 papier appelé « leçons apprises en essayant de réforme AI » est encore largement considéré comme un classique, a déclaré Geoffrey Bowker, professeur émérite de l' informatique à l' Université de Californie à Irvine. Agre a remarqué que ceux qui construisaient l'intelligence artificielle ignoraient les critiques de la technologie de la part des étrangers. Mais Agre a fait valoir que la critique devrait faire partie du processus de construction de l'IA. « La conclusion est assez brillante et nous a pris en tant que domaine de nombreuses années à comprendre. Un pied planté dans l'artisanat du design et l'autre pied planté dans la critique », a déclaré Bowker.
Néanmoins, l'IA a progressé sans encombre, s'intégrant même dans des industries « low-tech » et affectant la vie de la plupart des personnes qui utilisent Internet. Il guide les gens sur ce qu'il faut regarder et lire sur YouTube et Facebook, il détermine les peines pour les criminels condamnés, permet aux entreprises d'automatiser et de supprimer des emplois, et permet aux régimes autoritaires de surveiller les citoyens avec une plus grande efficacité et de contrecarrer les tentatives de démocratie.
L'IA d'aujourd'hui, qui a largement abandonné le type de travail qu'Agre et d'autres faisaient dans les années 80 et 90, se concentre sur l'ingestion de quantités massives de données et leur analyse avec les ordinateurs les plus puissants du monde. Mais au fur et à mesure que la nouvelle forme d'IA a progressé, elle a créé des problèmes - allant de la discrimination aux bulles de filtrage à la propagation de la désinformation - et certains universitaires disent que c'est en partie parce qu'elle souffre du même manque d'autocritique qu'Agre a identifié 30 il y a des années.
En décembre, le limogeage par Google du chercheur en IA Timnit Gebru après avoir écrit un article sur les problèmes éthiques auxquels sont confrontés les efforts de Google en matière d'IA a mis en évidence la tension continue sur l'éthique de l'intelligence artificielle et l'aversion de l'industrie pour la critique.
"C'est un domaine tellement homogène, et les gens dans ce domaine ne voient pas que ce qu'ils font pourrait être critiqué", a déclaré Sofian Audry, professeur de médias informatiques à l'Université du Québec à Montréal qui a commencé comme chercheur en intelligence artificielle. . "Ce que dit Agre, c'est qu'il est utile et nécessaire que les personnes qui développent ces technologies soient critiques", a déclaré Audrey.
Agre a grandi dans le Maryland, où il a dit qu'il avait été "construit pour être un prodige des mathématiques" par un psychologue de la région. Il a déclaré dans son article de 1997 que l'intégration scolaire a conduit à une recherche d'étudiants doués et talentueux. Agre s'est ensuite mis en colère contre ses parents pour l'avoir envoyé à l'université trop tôt et sa relation avec eux en a souffert, selon un ami, qui a parlé sous couvert d'anonymat car Agre ne lui a pas donné la permission de parler de sa vie personnelle.
Agre a écrit que lorsqu'il est entré à l'université, il n'était pas obligé d'apprendre autre chose que les mathématiques et "est arrivé à l'école supérieure du MIT avec peu de connaissances réelles au-delà des mathématiques et des ordinateurs". Il a pris une année sabbatique pour voyager et lire, "en essayant de manière aveugle et avec mes propres ressources, de devenir une personne instruite", a-t-il écrit.
Agre a commencé à se rebeller, dans un sens, de sa profession, cherchant des critiques de l'intelligence artificielle, étudiant la philosophie et d'autres disciplines académiques. Au début, il trouvait les textes « impénétrables », écrivait-il, parce qu'il avait entraîné son esprit à disséquer tout ce qu'il lisait comme il le ferait avec un article technique sur les mathématiques ou l'informatique. « Il m'est finalement venu à l'esprit d'arrêter de traduire ces étranges langages disciplinaires en schémas techniques, et de simplement les apprendre selon leurs propres termes », écrit-il.
L'intérêt intellectuel grandissant d'Agre l'a éloigné de l'informatique et l'a transformé en quelque chose d'inhabituel à l'époque : un brillant mathématicien avec une compréhension approfondie des théories les plus avancées de l'intelligence artificielle, qui pouvait également sortir de ce domaine et le regarder de manière critique depuis le point de vue d'un étranger.
Pour cette raison, Agre est devenu un universitaire recherché. Plusieurs anciens collègues ont raconté des histoires sur l'appétit insatiable d'Agre pour les livres du paysage académique et populaire, empilés dans son bureau ou dans la bibliothèque. Il est devenu connu pour sa pensée originale qui a été soutenue par sa curiosité généralisée.
"C'était une personne très instructive avec qui penser – quelqu'un avec qui vous voudriez prendre un repas à chaque occasion", a déclaré Borgman.
Agre a combiné sa compréhension des sciences humaines et de la technologie pour disséquer l'impact que la technologie aurait sur la société à mesure qu'elle progressait. Aujourd'hui, nombre de ses analyses se lisent comme des prédictions qui se réalisent.
Dans un article de 1994 , publié un an avant les lancements de Yahoo, Amazon et eBay, Agre prévoyait que les ordinateurs pourraient faciliter la collecte massive de données sur tout dans la société, et que les gens négligeraient les problèmes de confidentialité parce que, plutôt que "grand frère" collecter des données pour surveiller les citoyens, ce serait de nombreuses entités différentes qui collecteraient les données à de nombreuses fins, certaines bonnes et d'autres problématiques.
Plus profondément, cependant, Agre a écrit dans le document que la collecte de masse de données changerait et simplifierait le comportement humain pour le rendre plus facile à quantifier. Cela s'est produit à une échelle que peu de gens auraient pu imaginer, car les médias sociaux et autres réseaux en ligne ont englobé les interactions humaines dans des mesures facilement quantifiables, telles qu'être amis ou non, aimer ou non, un suiveur ou quelqu'un qui est suivi. Et les données générées par ces interactions ont été utilisées pour façonner davantage le comportement, en ciblant des messages destinés à manipuler psychologiquement les gens.
En 2001, il écrivait que « votre visage n'est pas un code-barres », s'opposant à l'utilisation de la reconnaissance faciale dans les lieux publics. Dans l'article, il a prédit que, si la technologie continuait à se développer en Occident, elle finirait par être adoptée ailleurs, permettant, par exemple, au gouvernement chinois de suivre tout le monde à l'intérieur de son pays d'ici 20 ans.
Vingt ans plus tard, un débat fait rage aux États-Unis sur l'utilisation de la technologie de reconnaissance faciale par les forces de l'ordre et les agents de l'immigration, et certains États ont commencé à interdire cette technologie dans les lieux publics. Malgré le tollé, il est peut-être trop tard pour freiner la prolifération de la technologie. La Chine, comme Agre l'avait prédit, a déjà commencé à l' employer à grande échelle, permettant un niveau de surveillance sans précédent de la part du Parti communiste.
Agre a fait connaître son travail dans le grand public avec une liste de diffusion Internet appelée Red Rock Eater News Service, du nom d'une blague dans le « Livre des énigmes » de Bennett Cerf. Il est considéré comme l'un des premiers exemples de ce qui deviendrait éventuellement des blogs.
Agre était aussi, parfois, profondément frustré par les limites de son travail, qui était si en avance sur son temps qu'il est resté lettre morte jusqu'à 25 ans plus tard. « Il avait l'impression que les gens ne comprenaient pas ce qu'il disait. Il écrivait pour un public d'obsédés et les obsédés étaient incapables de comprendre ce qu'il disait », a déclaré Bowker.
« Il était certainement frustré qu'il n'y ait pas eu plus d'adhésion. Mais les gens qui ont une génération d'avance sur eux-mêmes, ils ont toujours une génération d'avance sur eux-mêmes », a déclaré Borgman.
Le projet final d'Agre était ce que ses amis et collègues appelaient familièrement « La Bible d'Internet », un livre définitif qui disséquerait les fondements d'Internet à partir de zéro. Mais il ne l'a jamais terminé.
Agre refait surface de temps en temps, selon un ancien collègue, mais n'a pas été vu depuis des années.
« Pourquoi certains types d'érudits perspicaces ou même de personnes ayant une compréhension aussi perspicace d'un domaine lèvent-ils les bras en l'air et partent, j'en ai fini avec ça ? » a demandé Simon Penny, professeur de beaux-arts à l'Université de Californie à Irvine qui a beaucoup étudié le travail d'Agre. «Psychologiquement, les gens ont ces pauses. C'est une grande question. Qui continue et pourquoi ? Qui continue à être engagé dans une sorte de bataille, une sorte de projet intellectuel et jusqu'où vont-ils, j'en ai fini ? Ou dites : « Ceci n'est plus pertinent pour moi et j'ai vu l'erreur de mes voies. »
Il y a plusieurs années, d'anciens collègues de l'UCLA ont tenté de rassembler une collection de son travail, mais Agre a refait surface, leur disant d'arrêter.
Le travail de toute une vie d'Agre est resté inachevé, des questions posées mais sans réponse. John Seberger, un boursier postdoctoral au département d'informatique de l'Université de l'Indiana qui a beaucoup étudié les travaux d'Agre, a déclaré que ce n'était pas nécessairement une mauvaise chose.
Seberger a déclaré que le travail d'Agre offre une façon de réfléchir aux problèmes auxquels est confrontée une société de plus en plus numérique. Mais aujourd'hui, plus d'une décennie après la disparition d'Agre, les problèmes sont mieux compris et il y a plus de gens qui les étudient.
"Surtout en ce moment où nous sommes confrontés à de profonds troubles sociaux, la possibilité d'impliquer des groupes d'universitaires plus divers pour répondre à ces questions qu'il a laissées sans réponse ne peut que nous être bénéfique", a-t-il déclaré.
