Affichage des articles dont le libellé est anthropologie. Afficher tous les articles
Affichage des articles dont le libellé est anthropologie. Afficher tous les articles

12/16/2021

théorie de la stupidité de Bonhoeffer

La théorie de la stupidité de Bonhoeffer explique parfaitement le monde

Le phénomène qui est à l'origine de tous les problèmes.


(traduction automatique)
Photo de Brandi Alexandra sur Unsplash

« La bêtise est un ennemi du bien plus dangereux que le mal », a écrit Dietrich Bonhoeffer, un théologien allemand. Écrivant cette phrase dix ans après l'accession d'Adolf Hitler au pouvoir suprême, ces mots reflétaient de dures leçons trempées de sang. Bonhoeffer faisait partie d'un petit cercle de résistance au dictateur en Allemagne, risquant sa vie pour un idéal.

C'était une période sombre dans sa patrie. La guerre totale avait englouti le monde et un régime totalitaire contrôlait le pays. Bonhoeffer s'est demandé comment cela s'était produit. Il réfléchit à la nature du mal, mais arriva à la conclusion que ce n'était pas le mal lui-même qui était l'ennemi le plus dangereux du bien. C'était plutôt de la bêtise .

Car vous pouvez lutter contre le mal. Le mal donne aux gens une sensation de malaise dans l'estomac. Comme Bonhoeffer a continué, « le mal porte en lui les germes de sa propre destruction ». Pour éviter la malveillance volontaire, vous pouvez toujours ériger des barrières pour arrêter sa propagation. Contre la bêtise vous êtes sans défense.

« Contre la bêtise, nous n'avons aucune défense. Ni les protestations ni la force ne peuvent y toucher. Le raisonnement ne sert à rien. Les faits qui contredisent les préjugés personnels peuvent simplement être incrédules - en effet, l'imbécile peut les contrer en les critiquant, et s'ils sont indéniables, ils peuvent simplement être écartés en tant qu'exceptions insignifiantes. Ainsi, l'idiot, à la différence du scélérat, est complètement satisfait de lui-même. En fait, ils peuvent facilement devenir dangereux, car il ne faut pas grand-chose pour les rendre agressifs. Pour cette raison, une plus grande prudence est de mise qu'avec une personne malveillante. Nous n'essaierons plus jamais de persuader la personne stupide avec des raisons, car c'est insensé et dangereux. — Dietrich Bonhoeffer

Comprendre la nature de la bêtise

Après avoir écrit ces mots, Bonhoeffer fut bientôt arrêté. Il mourut deux ans plus tard, exécuté dans un camp de concentration par des hommes de main nazis. L'homme a vécu dans ce qui semble maintenant être une époque complètement différente. Pourtant, les idées qu'il nous a laissées ont une application dans n'importe quel siècle. Car la bêtise n'a pas disparu. C'est éternel.

« Si nous voulons savoir comment vaincre la bêtise, nous devons chercher à comprendre sa nature. » — Dietrich Bonhoeffer

« Si nous voulons savoir comment vaincre la bêtise, nous devons chercher à comprendre sa nature », écrit Bonhoeffer dans son traité. Et la nature de la stupidité a ses racines profondes dans le subconscient. Il est guidé par les mécanismes fondamentaux de l'expérience humaine. Comme l'ont noté les anciens philosophes, les humains sont des animaux sociaux. C'est cette sociabilité même qui est à la base de la bêtise.

« On constate en outre que les personnes qui se sont isolées des autres ou qui vivent dans la solitude manifestent moins fréquemment ce défaut que les individus ou groupes de personnes enclins ou condamnés à la sociabilité. Et il semblerait donc que la bêtise soit peut-être moins un problème psychologique que sociologique. » — Dietrich Bonhoeffer

La bêtise est un phénomène de groupe. Un individu peut agir stupidement, mais cela n'a aucun effet sur le plus grand tout. Cependant, lorsqu'un groupe agit de manière stupide, cela a un impact considérable sur l'individu, aggravant ainsi l'ensemble de l'effet. À bien des égards, quelque chose avec des ramifications initialement positives, a fini par poignarder l'humanité dans le dos.

La nature humaine ne change pas au fil des années. Le fonctionnement interne des individus est le même que celui de leurs lointains ancêtres vivant dans les savanes d'Afrique il y a 50 000 ans. Certains de ces processus internes remontent encore plus loin, des millions d'années dans le passé, lorsque les cerveaux primitifs ont commencé à se développer.

De nombreuses heuristiques ont évolué afin d'aider les individus à naviguer dans le monde. Parmi ceux-ci, suivre le troupeau est sans doute le plus important. Ca a du sens. Lorsque l'information est rare, faire ce que font les autres est probablement la meilleure ligne de conduite. Malheureusement, cela ne fonctionne pas tout le temps. Dans certains cas, cela peut entraîner de mauvais résultats, en raison de biais cognitifs .

Le comportement grégaire est l'une des principales causes de bêtise. De nombreuses études scientifiques ont montré comment des êtres humains peuvent se laisser influencer par la foule pour adopter des positions qui vont à l'encontre de toute logique. Dans un examen classique de la folie humaine, le psychologue Solomon Asch a examiné comment les individus réagissent au groupe majoritaire qui les entoure.

Sont-ils conformes à la vision du groupe ? Ou empruntent-ils leur propre chemin à contre- courant (mais finalement correct) ? Les résultats étaient ahurissants, mais incroyablement révélateurs pour montrer comment la stupidité surgit. Au cours des 12 expériences sur la conformité, environ 75 % des participants se sont conformés au moins une fois au point de vue majoritaire.

Cela signifie que les 3/4 des personnes participant à l'étude ont été poussées à donner une réponse qui était clairement fausse, simplement par la pression des pairs du groupe qui les entourait. Ce type de processus est au cœur de la façon dont la bêtise permet au mal de s'élever.

« Le pouvoir de l'un a besoin de la bêtise de l'autre. Le processus à l'œuvre ici n'est pas que des capacités humaines particulières, par exemple l'intellect, s'atrophient ou échouent soudainement. Au lieu de cela, il semble que sous l'impact écrasant de la montée en puissance, les humains soient privés de leur indépendance intérieure et, plus ou moins consciemment, renoncent à établir une position autonome face aux circonstances émergentes. Le fait que le stupide soit souvent têtu ne doit pas nous faire oublier qu'il n'est pas indépendant. — Dietrich Bonhoeffer

Comme Bonhoeffer l'a plaisanté, "le pouvoir de l'un a besoin de la stupidité de l'autre". Toutes sortes de populistes, d'entrepreneurs politiques et de conneries profitent de cet état mental des masses. Sans le soutien des aspects plus larges de la société, aucun de ces individus avides de pouvoir ne serait en mesure d'accéder au pouvoir.

Les gens envahis par la bêtise agissent comme s'ils étaient possédés. Leur partie logique du cerveau est fermée. Une telle personne commence à agir comme un zombie politique, avec qui tout type de logique ou de discussion des faits échoue. Au lieu de cela, ils fonctionnent au niveau des slogans, des slogans et des cris de ralliement de bas niveau.

« Dans la conversation avec lui, on a pratiquement l'impression qu'on n'a pas du tout affaire à une personne, mais à des slogans, des slogans et autres qui se sont emparés de lui. Il est envoûté, aveuglé, maltraité et maltraité dans son être même. Devenu ainsi un outil insensé, le stupide sera aussi capable de tout mal et en même temps incapable de voir que c'est le mal. — Dietrich Bonhoeffer

La stupidité facilite le processus de capture de la société par des forces maléfiques et veules. Un récit est créé qui incorpore des explications simples pour des problèmes complexes, offrant des « solutions » et des boucs émissaires. Celui qui ne se conforme pas à cette orthodoxie standard devient « l'autre », un ennemi à détruire.

Bien sûr, ces histoires ne vaudraient jamais rien si les gens ne les croyaient pas. Malheureusement, ils le font. La bêtise l'emporte sur la raison.

La bêtise à notre époque

Le 21e siècle voit ces défaillances internes de l'esprit humain se déployer à plein régime. La première décennie a vu les biais cognitifs créer des bulles économiques qui ont entraîné le krach de 2008. Les deuxième et troisième décennies voient des forces malveillantes de différents côtés de l'allée politique détourner le monde dans son ensemble.

Alors qu'une combinaison de vrais croyants idéologiques et de conneries politiques mène la charge, tout cela est facilité par la stupidité. Bonhoeffer a observé comment les forces historiques et les conditions extérieures peuvent exacerber le problème de la stupidité.

« C'est une forme particulière de l'impact des circonstances historiques sur les êtres humains, une concomitance psychologique de certaines conditions extérieures. En observant de plus près, il devient évident que chaque forte poussée de pouvoir dans la sphère publique, qu'elle soit de nature politique ou religieuse, infecte une grande partie de l'humanité avec la stupidité. — Dietrich Bonhoeffer

Les réflexions de l'Allemand décrivent parfaitement la situation actuelle aux États-Unis et dans le monde. Même plus de 70 ans plus tard, ils éclairent les forces en jeu. Les récentes poussées de pouvoir ont contaminé certaines couches de la population avec une grande quantité de stupidité.

Nous en avons été témoins lors des rassemblements pro-Trump, qui ont abouti à une attaque contre le Capitole des États-Unis. Nous l'avons vu dans les manifestations du BLM, qui ont dégénéré en pillages aveugles. On la rencontre tous les jours dans les bulles de filtres sur internet, qui favorisent souvent la pensée de groupe au vitriol. La bêtise est un danger omniprésent, tapi à chaque coin de l'échiquier politique.

Pourtant, discutez avec les acteurs individuels en utilisant la logique et les faits, et vous n'arriverez à rien. Leurs cerveaux sont verrouillés, captifs de notions et de préjugés préconçus. Comme Bonhoeffer l'a noté, il est plus sage d'abandonner toute tentative de convaincre la personne stupide. Cela ne sert à rien.

"Nous devons abandonner toutes les tentatives pour convaincre la personne stupide." — Dietrich Bonhoeffer

« Le Brexit, c'est le Brexit » était le slogan souvent répété par les personnes au pouvoir au Royaume-Uni. Ce que le Brexit signifiait réellement, personne ne le savait. Pas même eux. L'impossibilité de toute la situation en Irlande du Nord aurait dû les aider à sentir le café dès le départ, mais il semble que les gens se droguaient.

Même maintenant, lorsqu'il est devenu évident que quitter l'UE signifiait des étagères vides, des chaînes d'approvisionnement perturbées et plus de paperasserie, les Brexiteers n'ont pas pris conscience de la réalité. Les mêmes slogans et chants du Brexit sont toujours criés. L'Union européenne est toujours le grand méchant croque-mitaine à la faute de tout. Les mêmes schémas de pensée que dans de nombreuses sectes se répètent.

Lorsque Leon Festinger a étudié un culte des ovnis dans les années 50, il est tombé sur une chose curieuse. Le chef de la secte, Dorothy Martin, une femme au foyer de Chicago, prévoyait que le monde allait se terminer le 21 décembre 1954. Voyant que nous sommes toujours là, il est évident que la prophétie était BS. Pourtant, beaucoup de gens l'ont cru et se sont réunis ce jour fatidique dans une maison quelconque.

Ils étaient assis là, attendant le jour du jugement dernier. À leur grand étonnement, il n'est jamais venu. Lorsque l'heure de la fin du monde est arrivée, il ne s'est rien passé. Ce qui a étonné les chercheurs qui ont infiltré le groupe, ce sont les réactions de nombreux membres. Face à cette apparente négation de leurs croyances, beaucoup de fidèles ne les ont pas abandonnés.

Au lieu de cela, leur croyance dans le BS de Dorothy Martin est devenue encore plus forte. Festinger et ses collègues chercheurs ont appelé cela l'effet de retour de flamme. Le journaliste David McRaney en a une excellente définition . « Lorsque vos convictions les plus profondes sont remises en question par des preuves contradictoires, vos croyances se renforcent. »

La bêtise à la vue. Pourtant, le cas du culte délirant des ovnis n'a rien d'extraordinaire. Ces types de processus sont en jeu tous les jours chez les gens ordinaires. Les gens ordinaires sont constamment confrontés à des faits qui prouvent que leurs croyances chères ne sont pas vraies. Pourtant, la plupart les ignorent simplement.

Cet effet est amplifié plusieurs fois à l'ère d'aujourd'hui. Le monde est plein de chaos. Il y a trop de déchets qui circulent en se faisant passer pour des informations. Cela rend les gens confus. Un autre Allemand qui a vécu les temps sombres du nazisme, le psychologue Erich Fromm a décrit comment les déchets qui polluent l'éther peuvent perturber la psyché d'une personne.

« Le résultat de ce genre d'influence est double : l'un est un scepticisme et un cynisme envers tout ce qui est dit ou imprimé, tandis que l'autre est une croyance enfantine en tout ce qu'une personne est racontée avec autorité. Cette combinaison de cynisme et de naïveté est très typique de l'individu moderne. Son résultat essentiel est de le décourager de penser et de décider par lui-même. — Erich Fromm

D'origine juive, Fromm a vécu la bêtise des autres sur sa propre peau. Contraint de fuir son pays natal, le psychologue a fini par passer sa vie à étudier le comportement des gens à une époque chaotique. Il a postulé que l'utilisation par l'individu de mécanismes d'évasion mentale était à l'origine de conflits psychologiques.

Fromm a essayé de comprendre les lois qui régissent la société. Il soutenait que la société moderne apportait la liberté, mais que cette chose même était aussi le germe de sa destruction. Les individus ont reçu un nouveau sentiment d'indépendance, mais cela les a remplis d'anxiété et de doute. Les gens finissent par s'aliéner et recherchent un sentiment de sécurité avec d'autres personnes partageant les mêmes idées.

C'est ce qui favorise la montée de l'autoritarisme et d'autres idéologies malades. D'une certaine manière, vous pourriez soutenir que ce sentiment d'aliénation conduit à une montée de la stupidité.

« L'individu malade se retrouve chez lui avec tous les autres individus également malades. Toute la culture est tournée vers ce genre de pathologie. Le résultat est que l'individu moyen ne fait pas l'expérience de la séparation et de l'isolement que ressent une personne pleinement schizophrène. Il se sent à l'aise parmi ceux qui souffrent de la même déformation ; en fait, c'est la personne pleinement saine d'esprit qui se sent isolée dans la société des fous. — Erich Fromm dans « L'anatomie de la destruction humaine »

Nous vivons dans une société folle. D'un côté, vous avez des gens qui croient que Trump a remporté la présidence, malgré les preuves du contraire. D'un autre côté, vous avez des gens qui ruminent sur le péché éternel des « blancs », quels qu'ils soient. En tant qu'individu qui essaie d'utiliser la raison et le bon sens, vous finissez souvent par vous sentir isolé au milieu de toute la folie.

La bêtise règne en maître

Dans son livre "Fall or, Dodge in Hell", le romancier Neal Stephenson fait dire à l'un de ses personnages une phrase très éloquente, "la masse des gens est stupide, si crédule, parce qu'elle veut être induite en erreur". Cela capture parfaitement pourquoi la stupidité règne en maître.

« La masse des gens est si stupide, si crédule, parce qu'elle veut être induite en erreur. Il n'y a aucun moyen de les en empêcher. Vous devez travailler avec la race humaine telle qu'elle existe, avec tous ses défauts. Les amener à voir la raison est une course d'imbécile. - Neal Stephenson dans "Fall or, Dodge in Hell"

La personne moyenne agit comme si elle voulait volontairement être induite en erreur. Ils tombent dans le piège des mensonges, des contre-vérités et des demi-vérités. Les entrepreneurs politiques, les populistes, peuvent venir les jouer à volonté. Le pouvoir des conneries est le résultat direct de la stupidité des masses qui tombent amoureuses de leur BS.

Alors que Bonhoeffer était assis dans sa cellule à écrire ses réflexions personnelles, attendant son dernier jour, le monde autour de lui était enlisé dans la folie. Bien que submergé par le désespoir, il a vu des éclairs de lumière. Pour lui, la majorité des gens n'étaient pas stupides en toutes circonstances. Il s'agissait plutôt de ce à quoi s'attendaient ceux qui étaient au pouvoir.

«Mais ces réflexions sur la bêtise offrent également une consolation dans la mesure où elles nous interdisent totalement de considérer la majorité des gens comme stupides en toutes circonstances. Cela dépendra vraiment de savoir si ceux au pouvoir attendent plus de la bêtise des gens que de leur indépendance intérieure et de leur sagesse. » — Friedrich Bonhoeffer

Pour Bonhoeffer, la bêtise n'était pas le problème de l'individu. Au lieu de cela, il s'agissait de groupes d'individus qui se réunissaient. La folie trouve sa force dans les foules.

Cela fait écho au célèbre aphorisme de Friedrich Nietzsche, selon lequel si la folie peut être rare chez les individus, elle est généralement la règle dans les groupes, les partis, les nations et les époques.

« Chez les individus, la folie est rare ; mais dans les groupes, les partis, les nations et les époques, c'est la règle. - Friedrich Nietzsche 


Pierre Burns

ÉCRIT PAR

Pierre Burns

11/07/2021

côté obscur d'Internet

 


Il a prédit le côté obscur d'Internet il y a 30 ans.

 Pourquoi personne n'a écouté ?

En 1994 — avant que la plupart des Américains n'aient une adresse e-mail ou un accès Internet ou même un ordinateur personnel — Philip Agre prévoyait que les ordinateurs faciliteraient un jour la collecte massive de données sur tout dans la société. Puis il a disparu, laissant derrière lui un héritage de travail qui était étrangement prémonitoire dans la prédiction de l'impact de la technologie sur la société.

Par Reed Albergotti 

(automatic translation) 

En 1994 — avant que la plupart des Américains n'aient une adresse e-mail ou un accès Internet ou même un ordinateur personnel — Philip Agre prévoyait que les ordinateurs faciliteraient un jour la collecte massive de données sur tout dans la société.

Ce processus changerait et simplifierait le comportement humain, écrivait le professeur de sciences humaines de l'époque à l'UCLA. Et parce que ces données ne seraient pas collectées par un seul et puissant gouvernement « grand frère », mais par de nombreuses entités à des fins différentes, il a prédit que les gens se sépareraient volontairement de quantités massives d'informations sur leurs peurs et leurs désirs les plus personnels.

"Des développements vraiment inquiétants peuvent sembler" pas si mauvais " simplement parce qu'ils manquent des horreurs manifestes de la dystopie d'Orwell ", a écrit Agre, qui a un doctorat en informatique du Massachusetts Institute of Technology, dans un article universitaire.

Près de 30 ans plus tard, l'article d'Agre semble étrangement prémonitoire, une vision surprenante d'un avenir qui s'est réalisé sous la forme d'un complexe industriel de données qui ne connaît pas de frontières et peu de lois. Les données collectées par des réseaux publicitaires et des applications mobiles disparates à de multiples fins sont utilisées pour influencer les élections ou, dans au moins un cas, pour dénoncer un prêtre gay . Mais Agre ne s'est pas arrêté là. Il a prévu l'utilisation abusive autoritaire de la technologie de reconnaissance faciale, il a prédit notre incapacité à résister à une désinformation bien conçue et il a prédit que l'intelligence artificielle serait utilisée à des fins obscures si elle n'était pas soumise à une enquête morale et philosophique.

Ensuite, personne n'a écouté. Aujourd'hui, de nombreux anciens collègues et amis d'Agre disent qu'ils ont davantage pensé à lui ces dernières années et qu'ils ont relu son travail, alors que les pièges de la croissance explosive et incontrôlée d'Internet sont apparus, érodant la démocratie et contribuant à faciliter un soulèvement violent. sur les marches du Capitole des États-Unis en janvier.

"Nous vivons au lendemain de l'ignorance de gens comme Phil", a déclaré Marc Rotenberg, qui a édité un livre avec Agre en 1998 sur la technologie et la confidentialité, et est maintenant fondateur et directeur exécutif du Center for AI and Digital Policy.

Charlotte Lee, qui a étudié sous Agre en tant qu'étudiante diplômée à l'UCLA et est maintenant professeure de conception et d'ingénierie centrée sur l'humain à l'Université de Washington, a déclaré qu'elle étudiait toujours son travail et en apprenait aujourd'hui. Elle a dit qu'elle souhaitait qu'il soit là pour l'aider à mieux le comprendre.

Mais Agre n'est pas disponible. En 2009, il a tout simplement abandonné la surface de la terre, abandonnant son poste à l'UCLA. Lorsque des amis ont signalé la disparition d'Agre, la police l'a localisé et a confirmé qu'il allait bien, mais Agre n'est jamais revenu dans le débat public. Ses amis les plus proches ont refusé de discuter davantage des détails de sa disparition, invoquant le respect de la vie privée d'Agre.

Au lieu de cela, bon nombre des idées et des conclusions qu'Agre a explorées dans ses recherches universitaires et ses écrits n'apparaissent que récemment dans les groupes de réflexion et les organisations à but non lucratif axés sur la responsabilisation des entreprises technologiques.

"Je vois des choses sur lesquelles Phil a écrit dans les années 90 être dites aujourd'hui comme s'il s'agissait de nouvelles idées", a déclaré Christine Borgman, professeur d'informatique à l'UCLA qui a aidé à recruter Agre pour son poste de professeur à l'école.

Le Washington Post a envoyé un message à la dernière adresse e-mail connue d'Agre. Il a rebondi. Les tentatives pour contacter sa sœur et d'autres membres de la famille ont été infructueuses. Une dizaine d'anciens collègues et amis n'avaient aucune idée de l'endroit où Agre habite aujourd'hui. Certains ont dit qu'il y a quelques années, il vivait quelque part autour de Los Angeles.

Agre était un enfant prodige des mathématiques qui est devenu un blogueur populaire et un contributeur à Wired. Maintenant, il a été presque oublié dans les cercles technologiques traditionnels. Mais son travail est encore régulièrement cité par les chercheurs en technologie dans le milieu universitaire et est considéré comme une lecture fondamentale dans le domaine de l'informatique sociale, ou l'étude des effets des ordinateurs sur la société.

Agre a obtenu son doctorat au MIT en 1989, la même année où le World Wide Web a été inventé. À cette époque, même parmi les investisseurs en capital-risque de la Silicon Valley pariant sur l'essor de l'informatique, peu de gens prévoyaient à quel point l'informatisation de tout allait changer profondément et rapidement la vie, l'économie ou même la politique.

Un petit groupe d'universitaires, Agre inclus, a observé que les informaticiens considéraient leur travail dans un vide largement déconnecté du monde qui les entourait. Dans le même temps, les gens en dehors de ce monde n'avaient pas une compréhension suffisamment profonde de la technologie ou de la façon dont elle était sur le point de changer leur vie.

Au début des années 1990, Agre en est venu à croire que le domaine de l'intelligence artificielle s'était égaré et que le manque de critique de la profession en était l'une des principales raisons. À ces débuts de l'intelligence artificielle, la plupart des spécialistes de l'IA se concentraient sur des problèmes mathématiques complexes visant à automatiser des tâches humaines, avec un succès limité. Pourtant, l'industrie a décrit le code qu'elle écrivait comme « intelligent », lui donnant des attributs humains qui n'existaient pas réellement.

Son point de repère 1997 papier appelé « leçons apprises en essayant de réforme AI » est encore largement considéré comme un classique, a déclaré Geoffrey Bowker, professeur émérite de l' informatique à l' Université de Californie à Irvine. Agre a remarqué que ceux qui construisaient l'intelligence artificielle ignoraient les critiques de la technologie de la part des étrangers. Mais Agre a fait valoir que la critique devrait faire partie du processus de construction de l'IA. « La conclusion est assez brillante et nous a pris en tant que domaine de nombreuses années à comprendre. Un pied planté dans l'artisanat du design et l'autre pied planté dans la critique », a déclaré Bowker.

Néanmoins, l'IA a progressé sans encombre, s'intégrant même dans des industries « low-tech » et affectant la vie de la plupart des personnes qui utilisent Internet. Il guide les gens sur ce qu'il faut regarder et lire sur YouTube et Facebook, il détermine les peines pour les criminels condamnés, permet aux entreprises d'automatiser et de supprimer des emplois, et permet aux régimes autoritaires de surveiller les citoyens avec une plus grande efficacité et de contrecarrer les tentatives de démocratie.

L'IA d'aujourd'hui, qui a largement abandonné le type de travail qu'Agre et d'autres faisaient dans les années 80 et 90, se concentre sur l'ingestion de quantités massives de données et leur analyse avec les ordinateurs les plus puissants du monde. Mais au fur et à mesure que la nouvelle forme d'IA a progressé, elle a créé des problèmes - allant de la discrimination aux bulles de filtrage à la propagation de la désinformation - et certains universitaires disent que c'est en partie parce qu'elle souffre du même manque d'autocritique qu'Agre a identifié 30 il y a des années.

En décembre, le limogeage par Google du chercheur en IA Timnit Gebru après avoir écrit un article sur les problèmes éthiques auxquels sont confrontés les efforts de Google en matière d'IA a mis en évidence la tension continue sur l'éthique de l'intelligence artificielle et l'aversion de l'industrie pour la critique.

"C'est un domaine tellement homogène, et les gens dans ce domaine ne voient pas que ce qu'ils font pourrait être critiqué", a déclaré Sofian Audry, professeur de médias informatiques à l'Université du Québec à Montréal qui a commencé comme chercheur en intelligence artificielle. . "Ce que dit Agre, c'est qu'il est utile et nécessaire que les personnes qui développent ces technologies soient critiques", a déclaré Audrey.

Agre a grandi dans le Maryland, où il a dit qu'il avait été "construit pour être un prodige des mathématiques" par un psychologue de la région. Il a déclaré dans son article de 1997 que l'intégration scolaire a conduit à une recherche d'étudiants doués et talentueux. Agre s'est ensuite mis en colère contre ses parents pour l'avoir envoyé à l'université trop tôt et sa relation avec eux en a souffert, selon un ami, qui a parlé sous couvert d'anonymat car Agre ne lui a pas donné la permission de parler de sa vie personnelle.

Agre a écrit que lorsqu'il est entré à l'université, il n'était pas obligé d'apprendre autre chose que les mathématiques et "est arrivé à l'école supérieure du MIT avec peu de connaissances réelles au-delà des mathématiques et des ordinateurs". Il a pris une année sabbatique pour voyager et lire, "en essayant de manière aveugle et avec mes propres ressources, de devenir une personne instruite", a-t-il écrit.

Agre a commencé à se rebeller, dans un sens, de sa profession, cherchant des critiques de l'intelligence artificielle, étudiant la philosophie et d'autres disciplines académiques. Au début, il trouvait les textes « impénétrables », écrivait-il, parce qu'il avait entraîné son esprit à disséquer tout ce qu'il lisait comme il le ferait avec un article technique sur les mathématiques ou l'informatique. « Il m'est finalement venu à l'esprit d'arrêter de traduire ces étranges langages disciplinaires en schémas techniques, et de simplement les apprendre selon leurs propres termes », écrit-il.

L'intérêt intellectuel grandissant d'Agre l'a éloigné de l'informatique et l'a transformé en quelque chose d'inhabituel à l'époque : un brillant mathématicien avec une compréhension approfondie des théories les plus avancées de l'intelligence artificielle, qui pouvait également sortir de ce domaine et le regarder de manière critique depuis le point de vue d'un étranger.

Pour cette raison, Agre est devenu un universitaire recherché. Plusieurs anciens collègues ont raconté des histoires sur l'appétit insatiable d'Agre pour les livres du paysage académique et populaire, empilés dans son bureau ou dans la bibliothèque. Il est devenu connu pour sa pensée originale qui a été soutenue par sa curiosité généralisée.

"C'était une personne très instructive avec qui penser – quelqu'un avec qui vous voudriez prendre un repas à chaque occasion", a déclaré Borgman.

Agre a combiné sa compréhension des sciences humaines et de la technologie pour disséquer l'impact que la technologie aurait sur la société à mesure qu'elle progressait. Aujourd'hui, nombre de ses analyses se lisent comme des prédictions qui se réalisent.

Dans un article de 1994 , publié un an avant les lancements de Yahoo, Amazon et eBay, Agre prévoyait que les ordinateurs pourraient faciliter la collecte massive de données sur tout dans la société, et que les gens négligeraient les problèmes de confidentialité parce que, plutôt que "grand frère" collecter des données pour surveiller les citoyens, ce serait de nombreuses entités différentes qui collecteraient les données à de nombreuses fins, certaines bonnes et d'autres problématiques.

Plus profondément, cependant, Agre a écrit dans le document que la collecte de masse de données changerait et simplifierait le comportement humain pour le rendre plus facile à quantifier. Cela s'est produit à une échelle que peu de gens auraient pu imaginer, car les médias sociaux et autres réseaux en ligne ont englobé les interactions humaines dans des mesures facilement quantifiables, telles qu'être amis ou non, aimer ou non, un suiveur ou quelqu'un qui est suivi. Et les données générées par ces interactions ont été utilisées pour façonner davantage le comportement, en ciblant des messages destinés à manipuler psychologiquement les gens.

En 2001, il écrivait que « votre visage n'est pas un code-barres », s'opposant à l'utilisation de la reconnaissance faciale dans les lieux publics. Dans l'article, il a prédit que, si la technologie continuait à se développer en Occident, elle finirait par être adoptée ailleurs, permettant, par exemple, au gouvernement chinois de suivre tout le monde à l'intérieur de son pays d'ici 20 ans.

Vingt ans plus tard, un débat fait rage aux États-Unis sur l'utilisation de la technologie de reconnaissance faciale par les forces de l'ordre et les agents de l'immigration, et certains États ont commencé à interdire cette technologie dans les lieux publics. Malgré le tollé, il est peut-être trop tard pour freiner la prolifération de la technologie. La Chine, comme Agre l'avait prédit, a déjà commencé à l' employer à grande échelle, permettant un niveau de surveillance sans précédent de la part du Parti communiste.

Agre a fait connaître son travail dans le grand public avec une liste de diffusion Internet appelée Red Rock Eater News Service, du nom d'une blague dans le « Livre des énigmes » de Bennett Cerf. Il est considéré comme l'un des premiers exemples de ce qui deviendrait éventuellement des blogs.

Agre était aussi, parfois, profondément frustré par les limites de son travail, qui était si en avance sur son temps qu'il est resté lettre morte jusqu'à 25 ans plus tard. « Il avait l'impression que les gens ne comprenaient pas ce qu'il disait. Il écrivait pour un public d'obsédés et les obsédés étaient incapables de comprendre ce qu'il disait », a déclaré Bowker.

« Il était certainement frustré qu'il n'y ait pas eu plus d'adhésion. Mais les gens qui ont une génération d'avance sur eux-mêmes, ils ont toujours une génération d'avance sur eux-mêmes », a déclaré Borgman.

Le projet final d'Agre était ce que ses amis et collègues appelaient familièrement « La Bible d'Internet », un livre définitif qui disséquerait les fondements d'Internet à partir de zéro. Mais il ne l'a jamais terminé.

Agre refait surface de temps en temps, selon un ancien collègue, mais n'a pas été vu depuis des années.

« Pourquoi certains types d'érudits perspicaces ou même de personnes ayant une compréhension aussi perspicace d'un domaine lèvent-ils les bras en l'air et partent, j'en ai fini avec ça ? » a demandé Simon Penny, professeur de beaux-arts à l'Université de Californie à Irvine qui a beaucoup étudié le travail d'Agre. «Psychologiquement, les gens ont ces pauses. C'est une grande question. Qui continue et pourquoi ? Qui continue à être engagé dans une sorte de bataille, une sorte de projet intellectuel et jusqu'où vont-ils, j'en ai fini ? Ou dites : « Ceci n'est plus pertinent pour moi et j'ai vu l'erreur de mes voies. »

Il y a plusieurs années, d'anciens collègues de l'UCLA ont tenté de rassembler une collection de son travail, mais Agre a refait surface, leur disant d'arrêter.

Le travail de toute une vie d'Agre est resté inachevé, des questions posées mais sans réponse. John Seberger, un boursier postdoctoral au département d'informatique de l'Université de l'Indiana qui a beaucoup étudié les travaux d'Agre, a déclaré que ce n'était pas nécessairement une mauvaise chose.

Seberger a déclaré que le travail d'Agre offre une façon de réfléchir aux problèmes auxquels est confrontée une société de plus en plus numérique. Mais aujourd'hui, plus d'une décennie après la disparition d'Agre, les problèmes sont mieux compris et il y a plus de gens qui les étudient.

"Surtout en ce moment où nous sommes confrontés à de profonds troubles sociaux, la possibilité d'impliquer des groupes d'universitaires plus divers pour répondre à ces questions qu'il a laissées sans réponse ne peut que nous être bénéfique", a-t-il déclaré.



Reed Albergotti est le journaliste électronique grand public du Washington Post, emmenant les lecteurs dans des entreprises puissantes et secrètes telles qu'Apple et mettant en lumière l'industrie trouble et mondiale responsable de la construction de la myriade d'appareils qui touchent tous les aspects de nos vies. Il a passé 12 ans au Wall Street Journal et quatre à l'Information.


TWP