Pour une gauche prospective et donc technoprogressiste

Bonjour,

Voici un texte diffusé sur mon blog http://utopianchronicles.blogspot.com.

C'est en fait la version remaniée d'un texte envoyé sur la liste transhumanistes@yahoogroupes.fr il y a quelques semaines.

Commentaires bienvenus. Certains trouveront peut-être le texte un peu timide par rapport à l'intelligence artificielle. Mais je pense que c'est très difficile de parler "brutalement" d'intelligence artificielle, d'êtres conscients non humains et d'avoir cependant une chance de sensibiliser quelques personnes encore peu concernées.

Didier C.

---------------------------------------------------------------------------
Pour une gauche prospective et donc technoprogressiste

Aujourd'hui, les progressistes ne rêvent plus guère de progrès techniques et ils ont tort. Ils contemplent des risques du passé ou du présent plutôt que d'imaginer le futur.

Les capacités informatiques et donc technologiques progressent à un rythme exponentiel ininterrompu depuis plus de cinquante ans. Nous ne le percevons pas encore pleinement, mais chaque année, les connaissances humaines et leur traitement sont plus gigantesques et plus immatérielles.

Ce qu'il y a un demi-siècle, nous aurions appelé sans hésiter de l''intelligence artificielle se répand. Traductions automatiques, corrections automatiques, indexations automatiques, copies automatiques. En fait, l'intelligence artificielle existe déjà, mais par morceaux. Du bras artificiel au moteur de recherches Google en passant par le GPS, il y a déjà bien plus pour chaque partie que dans les capacités humaines de domaines comparables.

Selon certains spécialistes informatiques, dont un nommé Ray Kurzweil, le jour où l'intelligence artificielle, surgira, son développement se fera, non plus à la vitesse de la physiologie, mais à celle de l'informatique. L'intelligence et la conscience se développeraient plus rapidement que l'intelligence humaine et peut-être indépendamment d'elle. Si nous souhaitons influencer ce futur pas si lointain, c'est maintenant qu'il faut orienter les recherches notamment dans une optique de respect, de développements des droits et d'égalité. Une fois le développement exponentiel entamé, il sera trop tard pour nous pour orienter les progrès.

En fait, l'accélération brutale (appelée par ceux qui annoncent cet évènement "singularité") est incertaine. Par contre, une poursuite des progrès techniques rapide qui rendra en quelques décennies le monde totalement différent du monde actuel est très probable sauf catastrophe majeure.

Une catastrophe majeure naturelle de type chute d'astéroïde, supervolcan,... est très peu probable. Ce type d'évènement ne se produit que rarement à l'échelle de l'histoire du monde et jamais ou presque à l'échelle de l'histoire de l'humanité.

Par contre, le risque de catastrophe causée directement ou indirectement par l'être humain n'est pas négligeable, risques directs ou risques indirects.

Le risque direct majeur est une escalade nucléaire. Le risque est moins grand aujourd'hui que lorsque l'Union soviétique existait, mais il reste bien présent. Cette escalade pourrait se produire suite à une crise politique ou par les conséquences en cascade d'une première utilisation d'arme nucléaire par erreur ou par la malveillance d'un groupe restreint d'individus.

Le risque indirect majeur le plus médiatisé est celui d'un réchauffement climatique trop rapide avec effet exponentiel déclenchant une crise humaine et économique majeure. Il s'agirait d'une crise qui désintègrerait les sociétés contemporaines, créerait des conflits sans équivalent et, par effet de "vrille", une diminution généralisée du bien-être puis des connaissances. Enfin, il y a le risque politique de crises éthiques, sociales et/ou économiques qui seraient tellement déstabilisantes qu'elles seraient suivies progressivement ou rapidement d'une interruption totale du progrès économique et scientifique et puis d'une régression.

Cependant, des catastrophes majeures avant la singularité ou avant les progrès techniques importants et rapides sont quand même relativement peu probables. Les intellectuels, les citoyens et les politiques adorent se raconter des scénarios catastrophes mais, en fait, durant ces trois derniers siècles, les sociétés humaines sont devenues plus grandes, plus prospères, plus instruites et donc plus résistantes aux catastrophes que jamais. Notamment parce que les gouvernements sont économiquement, intellectuellement et politiquement plus capables qu'hier de prendre des mesures: de la lutte contre la surpopulation à celle contre les effets de serre.

Par contre, la singularité ou les progrès technologiques comportent des risques d'autodestruction non négligeables. En effet, il est malheureusement quasiment certain que les avancées seront rapides et importantes tant dans l'art de construire que dans l'art de détruire.

Il est pourtant vain de vouloir s'opposer aux progrès technologiques, car ils ne pourraient pas être interrompus. Un arrêt volontaire de certains progrès par les acteurs les plus éthiques augmenterait les risques d'avancée plus rapide des progrès les plus dangereux. Un arrêt de l'ensemble des progrès techniques nécessiterait une catastrophe mondiale. Et cela signifierait notamment des centaines de millions ou des milliards de décès et la misère des survivants. Et si l'espèce humaine s'en remettait et progressait à nouveau, cela ne ferait que repousser les développements de quelques décennies ou de quelques siècles.

Il est donc fondamental d'orienter autant que possible les évolutions technologiques, mais aussi sociales dans des directions qui limitent les possibilités de destruction. Ceci est extrêmement malaisé étant donné l'ampleur et l'incertitude des changements qui s'annoncent et parce que la plupart des progressions scientifiques importantes sont susceptibles d'utilisations tant pacifiques que bellicistes.

Il n'empêche que:

° Ce qui favorise la résilience des êtres humains et de la conscience limite les risques de destruction et d'autodestruction. Il en va notamment ainsi de ce qui favorise la vie sans vieillesse et en bonne santé. Le respect des êtres doués de conscience sera plus aisé si l'être humain cesse de mourir de vieillesse ou de maladie. En effet, à ce moment, un meurtre deviendrait un acte bien plus monstrueux qu'aujourd'hui. Tuer aujourd'hui n'est que précéder un sort inévitable. Tuer demain, ce pourrait être un crime sans équivalent imaginable. Pour introduire un élément de comparaison: autrefois, tuer un bébé était moins réprouvé qu'aujourd'hui. En effet, comme les enfants mourraient très souvent en bas âge, l'investissement affectif était plus faible. Donc plus la vie est longue, plus, toutes choses étant égales par ailleurs, l'investissement affectif peut être grand. Et c'est tant mieux à tous les niveaux.

° Ce qui favorise le refus absolu de tuer (ou de laisser mourir) un être conscient limite les risques de destruction et d'autodestruction. Cela peut être répandu plus encore qu'aujourd'hui culturellement, psychologiquement, socialement, sociologiquement et par l'éducation tout au long de la vie. Lorsque c'est possible, cela devrait aussi être développé technologiquement. Ce seraient par exemple des variantes élaborées des trois lois "inventées" par l'auteur de science-fiction Asimov obligeant une machine consciente à obéir aux êtres humains sans en menacer d'autres. Malheureusement, dans ce domaine, le risque militaire n'est déjà plus de la science-fiction, les avions sans pilotes (drones) au Pakistan tuant par exemple déjà plus de civils que de combattants.

En conclusion, être progressiste devrait signifier notamment favoriser la résilience des êtres humains et, à terme probablement (même si cela apparait comme de la science fiction aujourd'hui) celle de tout être conscient. Cela passe aussi entre autres par le refus absolu de tuer et la recherche de droits plus nombreux et plus égaux pour chacun non pas en s'opposant, mais bien en accompagnant les progrès technologiques.

----------------------------------
Pour en savoir un peu plus: http://technoprog-fr.blogspot.com et http://transhumanistes.com

Sources des îmages: Site http://technoprog-fr.blogspot.com et Chaplin dans "Les temps modernes"

Bonjour Didier.

Pourquoi parles-tu de gauche dans le titre de ton texte alors que le contenu n'a rien de particulièrement spécifique à un courant politique ?

Je m'attendais plutôt à ce que tu traites du problème que pourrais présenter le concept d'IA par rapport à l'impact que cela pourrait avoir sur la main d'œuvre. Cela dit, le robot que l'on craignait dans les années 80 a très vite été débordé par l'ouvrier chinois ! De ce fait, si je comprends bien les courants de gauche, il y a plus volontiers une critique de la mondialisation que de la technologie, même si bien sur ces courants sont aussi traversés par des influences neoluddites plus ou moins intenses.

Enfin, ton exemple d'usage belliciste des technologies avec les drones est un très mauvais exemple. Les drones ne sont pas autonomes, ce sont tout simplement des avions pilotés à distance. Aucun rapport avec une IA quelconque. A ma connaissance il n'y a jamais eu de mort dans un contexte militaire entrainé directement par un décision autonome d'un système expert (rappelons que les IA même faibles, ça n'existe pas encore).

Bonjour Samuel, une réplique en quelques mots.

Samuel a écrit:

Pourquoi parles-tu de gauche dans le titre de ton texte alors que le contenu n'a rien de particulièrement spécifique à un courant politique ?

Parce que c'est à gauche que les réticences sont les plus fortes. Parce que les questions d'égalité, de non-violence et de meilleure répartition que j'aborde sont plus présentes à gauche.

Samuel a écrit:

Je m'attendais plutôt à ce que tu traites du problème que pourrais présenter le concept d'IA par rapport à l'impact que cela pourrait avoir sur la main d'œuvre.

J'aurais en effet pu aborder cet aspect également. Je pense cependant qu'une diminution généralisée large du temps de travail serait déjà possible aujourd'hui au stade actuel de développement, que la question est donc déjà contemporaine alors que mon texte cherchait à être plus prospectif.

Force est cependant de constater que la diminution généralisée et à grande échelle du temps de travail, qui est techniquement déjà possible n'est plus guère envisagée même à gauche ces dernières années.

A ce sujet, je considère l'évolution sociale de ces 20 ou 30 dernières années comme aberrante. Alors qu'il serait aisé de travailler de moins en moins et de partager le travail, la majeure partie des citoyens veulent gagner de plus en plus pour s'acheter des biens de moins en moins utiles (de plus en plus de voitures, des maisons de plus en plus grandes,...). Par exemple, alors que dans toute l'histoire de l'humanité, la récolte de la nourriture a été l'occupation occupant le plus les populations, aujourd'hui, dans les pays les plus industrialisés, la production agricole concerne souvent moins d'1 % de la population.

L'accélération des progrès techniques va rendre encore plus spectaculaire la possibilité de réduire le temps de travail. Mais alors devrait venir une autre question que je n'aborde pas non plus, c'est celle de savoir ce que nous ferons "de tout ce temps" libre. Certains diront même que l'accélération de la consommation est une manière (inconsciente) d'éviter cette question.

Samuel a écrit:

Enfin, ton exemple d'usage belliciste des technologies avec les drones est un très mauvais exemple. Les drones ne sont pas autonomes, ce sont tout simplement des avions pilotés à distance. Aucun rapport avec une IA quelconque. A ma connaissance il n'y a jamais eu de mort dans un contexte militaire entrainé directement par un décision autonome d'un système expert (rappelons que les IA même faibles, ça n'existe pas encore).

Merci pour le "très mauvais":-). Je sais bien que les drones ne sont pas actuellement entièrement autonomes (j'aurais pu le mentionner cependant) mais je pense qu'il est clair que c'est un des domaines où les risques sont les plus importants. Et à mon avis, il serait déjà possible techniquement de réaliser un engin autonome en tous cas dans la phase finale (détermination de la cible et tir).

Gauche et droite ne servent plus à rien en ce qui concerne le technoprogressisme. Seul le pragmatisme pourra nous faire avancer...

Citation :

Gauche et droite ne servent plus à rien en ce qui concerne le technoprogressisme. Seul le pragmatisme pourra nous faire avancer...

Exactement, le technoprogressisme n'a que faire des clivages gauche/droite.

Cher Lip69, cher Gattaca,

Vous entendez peut-être "technoprogressisme" comme une idéologie qui n'aurait comme ambition que de faire progresser la technique ?

Dans le contexte de ce forum, émanation de l'Association Française Transhumaniste : Technoprog!, je crois qu'il ne faut pas perdre de vue le sens que lui a notamment donné un des piliers de la WTA, James Hughes qui, à l'origine utilisait l'expression "Transhumanisme démocratique" (avec la connotation américaine du mot "democrat").

Vous pouvez toujours trouver l'article de Hughes "Qu'est-ce que le Transhumanisme démocratique" sur l'ancienne page de la WTA en français.
Dans l'interview qu'il m'a accordé plus récemment pour le webzine Re-public, Hughes précise encore comment "Technoprogressism" a d'abord était une appelation plus alléchante pour "Transhumanisme démocratique" :
"we called it “democratic transhumanism.” Since then, the people in that
space have adopted the much more elegant term “technoprogressive.” "

Je vous invite évidemment à lire ces articles, mais, pour résumer, je pense pouvoir dire que l'une des idées centrales du "Technoprogressisme" dans cette acception "democrate" est qu'il ne peut pas y avoir de réelle "amélioration humaine" si elle n'est pas accompagnée d'une augmentation des chances de la société et de l'espèce humaine dans son entier de se perpétuer. Or, il est conçu que cette augmentation n'est possible que si un minimum d'équilibre est conservé à l'intérieur de cette société, ce qui sous entend, entre autre, un certain équilibre (pour ne pas dire une certaine égalité :-) dans l'accès aux techniques d'amélioration humaine. Autrement dit, le "Technoprogressisme" impliquerait une attention suffisament soutenue portée à la question sociale ! Il ne dédaignerait pas non plus l'intervention de l'État, que ce soit pour soutenir la recherche universitaire, pour subventionner la recheche privée, mais aussi pour créer les nécessaires instances de contrôles, de vérification, d'habilitation etc…
Je viens de lire récemment le "Manifesto" de l'Association Italienne Transhumaniste (affiliée à Humanity+ - ex-WTA), qui exprime très clairement ne pas s'en remettre à une quelconque "main invisible du marché" …

Bien sûr, parmi les Transhumanistes il existe de tout. Mais pour ce qui est du "Technoprogressisme", dans la bouche des premiers utilisateurs du terme comme dans la mienne, il y a il me semble comme un penchant … à gauche.