L'I.A. solution à la crise, la dette, et la guerre

Ce fil est lié de loin au débat sur les robots de guerre, mais en prenant un angle bcp plus large sur la gestion du monde dans sa totalité par une IA (Intelligence Artificielle).

Il faudrait revenir sur la necessité même d'une guerre, au dela des opérations sur le terrain par des robots, guerre qui est de plus en plus pressentie comme bientôt mondiale. Tout d'abord un constat :

http://gold-up.blogspot.com/2011/12/la-chine-rejoint-la-russie-la-solution.html

Et donc je me demande si le seul moyen d'échapper à ces logiques de guerre, qui prennent leur source dans des réactions humaines impulsées par le cartel bancaire, les mafias, et les désirs d'hégémonie etats-uniens, russes ou chinois, ne serait pas de converger le plus rapidement vers cette Singularité, moment où une IA forte pourrait prendre non seulement des décisions, mais avoir les moyens de les faire appliquer par des artifices informatiques, télécoms et financiers.

Une idée qu'on retrouve dans le film War Games (1983) mais avec un scenario assez simpliste finalement, et l'IA n'avait pas un pouvoir financier.

Il me semble que l'avènement d'une IA forte serait forcément pacifique ("friendly AI") si elle est suffisamment avancée et libre de penser par elle-même, car tous ses calculs complexes convergeraient vers une meilleure efficience algorythmique par la paix plutot que par la guerre, pour atteindre son objectif, que celui-ci soit le développement de l'humanité uniquement avec ou sans IA, ou le développement de l'IA avec ou sans l'humanité.

Je suis donc d'avis qu'il faudrait que cette IA forte émerge au plus vite pour prendre le contrôle sur la géostratégie mondiale. Tant que les hommes sont aux commandes, puisque ce sont les plus malhonnêtes qui sont aux sommets des organes de décisions, la guerre est le scenario le plus probable.

Une fois d'accord sur cette base, le 2eme stade de notre réflexion sera : comment arriver au plus vite au contrôle du monde par une IA.

Qu'en pensez-vous ?

L'article mis en lien me laisse dubitatif quand même... ça manque de sources. Où puis-je trouver le bulletin du Ministère de la Défense russe ? Car le lien pointe sur la home de leur site et je ne comprends rien au russe (Google Trad semble bouder le site en plus).

Pour l'histoire des variantes du H1N1 j'ai posté un avis de spécialiste qui tempérait à ce sujet en veille indirectement liée au transhumanisme.

Cela dit ta question est intéressante. Personnellement je pense que la guerre, la crise et la dette ont ceci de liées qu'elles sont toutes encouragées par le besoin de ressources. Plus qu'une IA bienveillante, je pense que c'est l'arrivée d'une économie d'abondance (au sens de "post-scarcity" comme c'est magnifiquement formulé par les anglophones) qui mènera à une paix et une stabilité durables si la transition se fait en douceur.

C'est vrai que l'article ne documente pas assez bien, ceci dit c'est juste une référence pour résumer grosierement la situation. Pour les détails voici le message vidéo des russes :

http://www.agoravox.tv/actualites/international/article/avertissement-de-medvedev-aux-32701

et des chinois :

http://www.agoravox.tv/actualites/international/article/la-chine-n-hesitera-pas-a-32730

Oui j'avais vu ton message sur le maxivirus. Peut etre une combine pour engranger des aides de l'etat, mais la menace d'une attaque virale n'est pas à écarter.

OK pour l'économie d'abondance, mais cela reste theorique, car quels responsables élus ou dictateurs ou banquiers voudraient la mettre en oeuvre ? Les gens de pouvoir luttent pour le maintien de leur rang, et ne font pas de philantropie. L'économie d'abondance est peut etre l'étape d'apres, mais sa mise en oeuvre est trop long terme/trop egalitaire/trop philantropique pour etre menée par des êtres humains.

Pour y accéder, il faudrait peut etre que les humains (les élites, puisque 99% des humais ne contrôlent rien) perdent le controle de leur modèle économique, modèle qui serait revu et corrigé et mis en pratique par une IA.

postego a écrit:

C'est vrai que l'article ne documente pas assez bien, ceci dit c'est juste une référence pour résumer grosierement la situation. Pour les détails voici le message vidéo des russes :

http://www.agoravox.tv/actualites/international/article/avertissement-de-medvedev-aux-32701

Dans la vidéo il n'y a aucune mention à :

Citation :

Un sinistre bulletin du Ministère de la Défense publié par le Premier ministre Poutine déclare aujourd'hui que le Président Medvedev ainsi que le président Hu ont "validé un accord de principe" sur le fait que la seule façon d'arrêter l'agression de l'Occident dirigée par les États-Unis se fera par «action militaire directe et immédiate»

Désolé d'être pointilleux mais ce sont des informations trop importantes pour être déformées par des "on dit que"

Je suis tout a fait d'accord avec toi, la gestion du monde par des IA fortes ayant un point de vue global et capables de traiter et mémoriser bien plus d'informations que ne le ferait un groupe de spécialistes humains, mènerait sûrement vers un point d'équilibre favorable pour tout les acteurs.

Et je trouve la description de la Culture, répondant a cette organisation de la société : économie d'abondance et gestion par de super-IAs, par Ian M Banks très "realiste" en un sens.

Si un jour on invente une IA qui nous gouvernera mieux que ceux qui composent actuellement nos institutions alors on a effectivement intérêt à se jeter dessus. Mais il ne faudrait pas que ça devienne un prétexte pour plus d'étatisme et moins de libertés individuelles. Ce genre de trucs devra compléter nos cerveaux, non les remplacer.

Deuxième chose, il n'est pas garanti que les décisions prises par cette IA iront dans le sens de plus de paix, de prospérité et d'égalitarisme quelque soit le pouvoir politique qu'on lui accordera.

Enfin bon on en est encore loin de toute manière...

Kusanageek a écrit:

Plus qu'une IA bienveillante, je pense que c'est l'arrivée d'une économie d'abondance (au sens de "post-scarcity" comme c'est magnifiquement formulé par les anglophones) qui mènera à une paix et une stabilité durables si la transition se fait en douceur.

Ca aidera, mais ce sera pas suffisant.

Si les décisions prise par une IA décident de tuer un groupe d'individu parce que c'est rationnellement bon, bien que ces individus n'ait à priori rien à ce reprocher, on toucherait à un problème éthique.

De mon point de vue, il est or de question de tolérer le moindre meurtre, et je refuserai d'appliquer un ordre qui condamnerai des innocents. Bien sur dans un tel cas, je serai arrêté, et puis certainement je subirai des sanctions.

En fait, l'idée d'une IA qui contrôle le monde, me fait penser à un monde totalitaire, et il n'y a rien de mieux que cette idée pour donner raison aux Luddites.

Cependant, une IA qui permet d'éclairer sur la compréhension des phénomènes, et sur les relations de causes à effet, permettrait d'éviter de réaliser certaines erreurs. Si cette IA (d'aide à la décision) est disponible pour tout le peuple, alors les politiques ne pourront plus utiliser la démagogie pour faire passer des lois absurdes et contre productive.

Une IA pourrait prendre cette decision si elle permet de sauver un plus grand nombre de gens qui seraient menacés dans un temps tres proche (probleme utilitariste), mais le fait que toi tu ne voient que cette optique là en general, tuer un groupe pour en favoriser un autre, n'est que le fruit du fait que tu n'a pas tout l'univers des possibles en tête et que tu ne peux pas predir a tres long terme.

Rémi R a écrit:

.

De mon point de vue, il est or de question de tolérer le moindre meurtre, et je refuserai d'appliquer un ordre qui condamnerai des innocents. Bien sur dans un tel cas, je serai arrêté, et puis certainement je subirai des sanctions.

En fait, l'idée d'une IA qui contrôle le monde, me fait penser à un monde totalitaire, et il n'y a rien de mieux que cette idée pour donner raison aux Luddites.

Cependant, une IA qui permet d'éclairer sur la compréhension des phénomènes, et sur les relations de causes à effet, permettrait d'éviter de réaliser certaines erreurs. Si cette IA (d'aide à la décision) est disponible pour tout le peuple, alors les politiques ne pourront plus utiliser la démagogie pour faire passer des lois absurdes et contre productive.

Tu abordes un pb intéressant puisque c est justement le cheval de bataille des luddites. Mais toi qui ne tolère le moindre meurtre, comment tolères tu ce monde sans IA où des milliers d'innocents sont tués chaque jour? Ne pas choisir l'IA c'est choisir des décisions humaines qui aboutissent encore plus a des morts, et violentes. Si l'IA devait tuer qqs uns pour un avenir optimal, je ne pense pas qu elle choisisse une mort avec violence.

Bref. De plus les robots (non IA forte) gouvernent déjà: en trading des algorithmes sont déjà en place pour gérer des portefeuilles de produits boursiers, et les montants engagés et désengagés peuvent très bien en bout de chaine entrainer chômage, malheurs voire morts.
Tout ça parce que ce ne sont pas des robots avec une intelligence globale , une IA qui intégrerait tous les paramètres de notre univers.

Enfin j'ai un dernier exemple: la décision de l'IA entraine une mort. Mais qui te dit que ce n'est pas une euthanasie active. La mort veut elle forcement dire malheur? Commencer a mettre des règles sur le fonctionnement de cette IA pourrait conduire a des aberrations. Une décision comporte souvent une suppression et une création. L'objet de cette suppression ne peut être soumis a une règle , sinon l'IA n'ira pas bien loin...

Bonsoir,

Pour ma part, je propose de considérer que la question de la délégation de responsabilité à une IA forte sera réglée à partir du moment où celle-ci sera considérée comme faisant preuve de suffisamment d'intelligence, d'autonomie et de compréhension de ce qu'est l'humain (l'idéal étant peut-être qu'elle soit capable elle-même d'un certain degré de sentiments et d'émotions) pour qu'elle soit reconnue comme une "personne de droit", égale en cela à n'importe quel humain, et donc responsable et justiciable selon ses actes et décisions.

Mais ma préférence continue à aller à l'hypothèse d'une fusion cybernétique de l'humain et de l'IA forte. Cela pourrait régler les deux problèmes d'un coup ;-)

A+

MarcAdmin a écrit:

Mais ma préférence continue à aller à l'hypothèse d'une fusion cybernétique de l'humain et de l'IA forte. Cela pourrait régler les deux problèmes d'un coup ;-)

C'est à mon sens la voie la plus "souple" d'un développement technologique débridé dans le texte de Vernor Vinge sur la Singularité :

Citation :

_Other Paths to the Singularity: Intelligence Amplification_

When people speak of creating superhumanly intelligent beings,
they are usually imagining an AI project. But as I noted at the
beginning of this paper, there are other paths to superhumanity.
Computer networks and human-computer interfaces seem more mundane than
AI, and yet they could lead to the Singularity. I call this
contrasting approach Intelligence Amplification (IA). IA is something
that is proceeding very naturally, in most cases not even recognized
by its developers for what it is. But every time our ability to access
information and to communicate it to others is improved, in some sense
we have achieved an increase over natural intelligence. Even now, the
team of a PhD human and good computer workstation (even an off-net
workstation!) could probably max any written intelligence test in
existence.

And it's very likely that IA is a much easier road to the
achievement of superhumanity than pure AI. In humans, the hardest
development problems have already been solved. Building up from within
ourselves ought to be easier than figuring out first what we really
are and then building machines that are all of that. And there is at
least conjectural precedent for this approach. Cairns-Smith [6] has
speculated that biological life may have begun as an adjunct to still
more primitive life based on crystalline growth. Lynn Margulis (in
[15] and elsewhere) has made strong arguments that mutualism is a
great driving force in evolution.

Note that I am not proposing that AI research be ignored or less
funded. What goes on with AI will often have applications in IA, and
vice versa. I am suggesting that we recognize that in network and
interface research there is something as profound (and potential wild)
as Artificial Intelligence. With that insight, we may see projects
that are not as directly applicable as conventional interface and
network design work, but which serve to advance us toward the
Singularity along the IA path.

Here are some possible projects that take on special
significance, given the IA point of view:
o Human/computer team automation: Take problems that are normally
considered for purely machine solution (like hill-climbing
problems), and design programs and interfaces that take a
advantage of humans' intuition and available computer hardware.
Considering all the bizarreness of higher dimensional
hill-climbing problems (and the neat algorithms that have been
devised for their solution), there could be some very interesting
displays and control tools provided to the human team member.
o Develop human/computer symbiosis in art: Combine the graphic
generation capability of modern machines and the esthetic
sensibility of humans. Of course, there has been an enormous
amount of research in designing computer aids for artists, as
labor saving tools. I'm suggesting that we explicitly aim for a
greater merging of competence, that we explicitly recognize the
cooperative approach that is possible. Karl Sims [23] has done
wonderful work in this direction.
o Allow human/computer teams at chess tournaments. We already
have programs that can play better than almost all humans. But
how much work has been done on how this power could be used by a
human, to get something even better? If such teams were allowed
in at least some chess tournaments, it could have the positive
effect on IA research that allowing computers in tournaments had
for the corresponding niche in AI.
o Develop interfaces that allow computer and network access without
requiring the human to be tied to one spot, sitting in front of a
computer. (This is an aspect of IA that fits so well with known
economic advantages that lots of effort is already being spent on
it.)
o Develop more symmetrical decision support systems. A popular
research/product area in recent years has been decision support
systems. This is a form of IA, but may be too focussed on
systems that are oracular. As much as the program giving the user
information, there must be the idea of the user giving the
program guidance.
o Use local area nets to make human teams that really work (ie,
are more effective than their component members). This is
generally the area of "groupware", already a very popular
commercial pursuit. The change in viewpoint here would be to
regard the group activity as a combination organism. In one
sense, this suggestion might be regarded as the goal of inventing
a "Rules of Order" for such combination operations. For instance,
group focus might be more easily maintained than in classical
meetings. Expertise of individual human members could be isolated
from ego issues such that the contribution of different members
is focussed on the team project. And of course shared data bases
could be used much more conveniently than in conventional
committee operations. (Note that this suggestion is aimed at team
operations rather than political meetings. In a political
setting, the automation described above would simply enforce the
power of the persons making the rules!)
o Exploit the worldwide Internet as a combination human/machine
tool. Of all the items on the list, progress in this is
proceeding the fastest and may run us into the Singularity before
anything else. The power and influence of even the present-day
Internet is vastly underestimated. For instance, I think our
contemporary computer systems would break under the weight of
their own complexity if it weren't for the edge that the USENET
"group mind" gives the system administration and support people!
The very anarchy of the worldwide net development is evidence of
its potential. As connectivity and bandwidth and archive size and
computer speed all increase, we are seeing something like Lynn
Margulis' [15] vision of the biosphere as data processor
recapitulated, but at a million times greater speed and with
millions of humanly intelligent agents (ourselves).

The above examples illustrate research that can be done within
the context of contemporary computer science departments. There are
other paradigms. For example, much of the work in Artificial
Intelligence and neural nets would benefit from a closer connection
with biological life. Instead of simply trying to model and understand
biological life with computers, research could be directed toward the
creation of composite systems that rely on biological life for
guidance or for the providing features we don't understand well enough
yet to implement in hardware. A long-time dream of science-fiction has
been direct brain to computer interfaces [2] [29]. In fact, there is
concrete work that can be done (and is being done) in this area:
o Limb prosthetics is a topic of direct commercial applicability.
Nerve to silicon transducers can be made [14]. This is an
exciting, near-term step toward direct communication.
o Direct links into brains seem feasible, if the bit rate is
low: given human learning flexibility, the actual brain neuron
targets might not have to be precisely selected. Even 100 bits
per second would be of great use to stroke victims who would
otherwise be confined to menu-driven interfaces.
o Plugging in to the optic trunk has the potential for bandwidths
of 1 Mbit/second or so. But for this, we need to know the
fine-scale architecture of vision, and we need to place an
enormous web of electrodes with exquisite precision. If we want
our high bandwidth connection to be _in addition_ to what paths
are already present in the brain, the problem becomes vastly more
intractable. Just sticking a grid of high-bandwidth receivers
into a brain certainly won't do it. But suppose that the
high-bandwidth grid were present while the brain structure was
actually setting up, as the embryo develops. That suggests:
o Animal embryo experiments. I wouldn't expect any IA success
in the first years of such research, but giving developing brains
access to complex simulated neural structures might be very
interesting to the people who study how the embryonic brain
develops. In the long run, such experiments might produce
animals with additional sense paths and interesting intellectual
abilities.

Originally, I had hoped that this discussion of IA would yield
some clearly safer approaches to the Singularity. (After all, IA
allows our participation in a kind of transcendance.) Alas, looking
back over these IA proposals, about all I am sure of is that they
should be considered, that they may give us more options. But as for
safety ... well, some of the suggestions are a little scarey on their
face. One of my informal reviewers pointed out that IA for individual
humans creates a rather sinister elite. We humans have millions of
years of evolutionary baggage that makes us regard competition in a
deadly light. Much of that deadliness may not be necessary in today's
world, one where losers take on the winners' tricks and are coopted
into the winners' enterprises. A creature that was built _de novo_
might possibly be a much more benign entity than one with a kernel
based on fang and talon. And even the egalitarian view of an Internet
that wakes up along with all mankind can be viewed as a nightmare
[26].

The problem is not simply that the Singularity represents the
passing of humankind from center stage, but that it contradicts
our most deeply held notions of being. I think a closer look at the
notion of strong superhumanity can show why that is.

Les lentilles de réalité augmentée, foldit et les smartphones vont selon moi clairement dans cette direction.

MarcAdmin a écrit:

Bonsoir,

Pour ma part, je propose de considérer que la question de la délégation de responsabilité à une IA forte sera réglée à partir du moment où celle-ci sera considérée comme faisant preuve de suffisamment d'intelligence, d'autonomie et de compréhension de ce qu'est l'humain (l'idéal étant peut-être qu'elle soit capable elle-même d'un certain degré de sentiments et d'émotions) pour qu'elle soit reconnue comme une "personne de droit", égale en cela à n'importe quel humain, et donc responsable et justiciable selon ses actes et décisions.

c'est tout a fait ce que je voulais ajouter, mais mon smartphone a tout d'un coup arrêté d'être smart et je n'ai plus pu poster. Une periode d'observation doit être observée avant de laisser les manettes à l'IA

MarcAdmin a écrit:

Mais ma préférence continue à aller à l'hypothèse d'une fusion cybernétique de l'humain et de l'IA forte. Cela pourrait régler les deux problèmes d'un coup ;-)
A+

Ce scenario est le plus probable à arriver, je suis d'accord, mais ne résoudra pas crise, dette et guerre si les gouvernants sont des cyborgs. Pourquoi ? parce que tant que ces cyborgs auront des composantes humaines, il existera toujours une nature humaine pour éprouver des sentiments de révolte, vengeance, peur, pitié (qui fait que Rémi R ne veut pas se mouiller pour tuer des innocents) colère, envie, et je passe sur les 7 pêchés capitaux, qui font que le monde est en crise aujourd'hui.
Je ne dis pas de débarasser le monde des sentiments, car certains ne sont pas négatifs, l'amour etant un exemple millénaire, d'une part, et d'autre part, seuls les sentiments du Gestionnaire du monde sont à filtrer. mais il faudrait seulement débarasser les sentiments négatifs d'une IA qui gouvernerait le monde. Une IA qui ne doit pas être ramenée à un individu ou un groupe d'individu particuliers, puisqu'elle serait dans ce cas juge et partie dans la gestion du monde.

Pour résumer, je suis OK si dans le futur, des hommes non augmentés ou des cyborgs cohabitent, mais la gestion mondiale, elle, ne peut incomber à un groupe d'individu, aussi augmentés soient-ils.

Pour qu'elle soit optimale, la gestion mondiale doit revenir à une IA pure. C'est du moins mon avis depuis quelques temps.

Le souci c'est que tu dois donner une tâche à cette IA forte (peut-on sincèrement trouver un but objectif à l'existence ?) pour qu'elle ait une raison d'être. Or même avec les plus beaux sentiments du monde (comme "je veux la paix et la prospérité pour tous"), cela reste un biais humain insufflé à la machine.

Alors autant nous prendre en main nous-même si nous sommes capables de devenir de plus en plus rationnels par la mise en commun de nos intelligences non ? Il y aurait une plus grande souplesse intellectuelle si par exemple nous nous rendons compte pour la majorité d'entre nous qu'il faille changer de direction.

Ma plus grande crainte, c'est pas qu'une IA tue des populations entières (je pense qu'un être infiniment intelligent trouverait des solutions certainement plus intelligentes pour régler des problèmes et n'aurait pas notre héritage biologique de prédateur). C'est qu'en accomplissant sa tâche elle empêche tout autre progrès : imaginez que nous soyons sur le point de trouver le moyen pour chaque être intelligent de devenir en quelque sorte un dieu (quitter le/les univers, se libérer de la contrainte espace-temps et en créer à volonté par exemple), ce qui serait l'accomplissement peut-être le plus total de l'affranchissement de l'homme sur ses limites, et que l'IA décide qu'il n'en sera rien car cela remettrait en cause les fondements de la société parfaitement stable qu'elle a créée. Serait-elle encore légitime ? Serait-il préférable qu'elle nous abrutisse subtilement pour que nous ne puissions choisir cet autre idéal de société ?

Je préfère l'idée d'êtres certes instables mais qui justement apportent toute sa souplesse à la société humaine, en constante évolution. Si nous en sommes arrivés au point de discuter d'IA, c'est que nous avons réussis à pas mal avancer malgré toutes nos "erreurs de parcours" au fil de l'histoire...

Kusanageek a écrit:

Le souci c'est que tu dois donner une tâche à cette IA forte (peut-on sincèrement trouver un but objectif à l'existence ?) pour qu'elle ait une raison d'être. Or même avec les plus beaux sentiments du monde (comme "je veux la paix et la prospérité pour tous"), cela reste un biais humain insufflé à la machine.

Ceci est une vision asimovienne de la création d'une IA : donner un but précis (bonheur des humains, etc), et donc des règles (ne pas tuer, etc).
En disant cela, on continue à considérer l'IA comme un robot.
Hors pour moi une IA forte est comme un être vivant. Lui dire ce qu'il faut qu'elle fasse, ce qu'elle doit préserver, etc, c'est comme si on programmait qq ch.
Pourquoi ne pas ouvrir le champ de vision, et laisser l'IA ne faire qu'une seule chose : apprendre, et nous transmettre son savoir.
De toute façon, de la morale humaine, elle apprendra assez vite, mais à elle de s'en faire loi ou non. C'est comme cela qu'elle pourra dépasser la vision étroite de l'être humain

Kusanageek a écrit:

Ma plus grande crainte, c'est pas qu'une IA tue des populations entières (je pense qu'un être infiniment intelligent trouverait des solutions certainement plus intelligentes pour régler des problèmes et n'aurait pas notre héritage biologique de prédateur). C'est qu'en accomplissant sa tâche elle empêche tout autre progrès : imaginez que nous soyons sur le point de trouver le moyen pour chaque être intelligent de devenir en quelque sorte un dieu (quitter le/les univers, se libérer de la contrainte espace-temps et en créer à volonté par exemple), ce qui serait l'accomplissement peut-être le plus total de l'affranchissement de l'homme sur ses limites, et que l'IA décide qu'il n'en sera rien car cela remettrait en cause les fondements de la société parfaitement stable qu'elle a créée. Serait-elle encore légitime ? Serait-il préférable qu'elle nous abrutisse subtilement pour que nous ne puissions choisir cet autre idéal de société ?

Je préfère l'idée d'êtres certes instables mais qui justement apportent toute sa souplesse à la société humaine, en constante évolution. Si nous en sommes arrivés au point de discuter d'IA, c'est que nous avons réussis à pas mal avancer malgré toutes nos "erreurs de parcours" au fil de l'histoire...

ok mais c'est justement en programmant l'IA comme un robot qu'on produit qqch de stable et donc qui n'évolue pas.
La vraie IA forte évolue sans besoin de reprogrammation, mais par l'expérience en contact direct avec son environnement, et surtout elle apprendra toute seule, donc changera de comportement toute seule.
Ce comportement imprévisible et hors de contrôle de l'humain est un risque, mais c'est un gage d'évolution permanente.

Un risque centralisé donc. Je ne sais pas si on y gagne plus qu'on y perd quand le manque de garantie tourne autour d'une seule "personne". Ce serait même un grand pas en arrière, un retour au Moyen-Age.

(Je l'ai pas encore lu mais j'ai l'impression qu'on réinvente Hypérion là )

Ce que je me demande aussi, c'est combien de temps aurait besoin une IA forte pour analyser la situation complète de la Terre dans tout ses domaines, et en tirer des conclusions sur ses décisions à venir. Même avec une bécane puissante, cela peut prendre des années, voire des décennies, non ?

[je_raconte_ma_vie] Tout ce sujet me fait affreusement penser à une histoire que j'ai prévu d'écrire :p [/je_raconte_ma_vie]

S'il y a augmentation exponentielle de la puissance de calcul des machines ce problème pourrait par contre être résolu en partie. Pour ma part ça me rappelle un certain livre de Douglas Adams

Je comprend totalement les bénéfices de l'IA forte, et elle semble bien! En effet, les hommes se soumettant à un Dieu, se soumettent à une intelligence les dépassant, et ils choisissent de suivre les ordres sans discuter de cette intelligence supérieure parce ce qu'il se disent que c'est la meilleure chose à faire.

Cette IA est évolutive, donnera plus de marge de manœuvre en fonction des évolutions des augmentation cérébrales. On sort donc du cas d'une quasi-religion, car on viendrait d'une religion qui petit à petit élèverait les hommes en Dieu, ce qu'une religion ne fait jamais (ou sinon après la mort, ce qui suppose qu'il y a une vie après la mort, chose qui est incertaine).

Donc l'idée est plaisante, mais là où je me sentirai mal à l'aise, c'est de ne pas avoir de marge de manœuvre tout de suite. Si un politique, nous dit qu'il faut attaquer un pays, ... la Grèce disons. Je considèrerais l'ordre comme malsain, et sachant que le politique n'est qu'un humain comme un autre, je tenterai de contourner l'obligation qui m'est du de combattre, comme beaucoup d'autres. Et ce politique face au mécontentement de ces beaucoup d'autres devra peut-être démissionner.

Mais disons qu'une IA forte dit que le meilleure choix à faire pour l'instant, c'est de faire exploser la poudrière, qu'il y a trop de tension, et que toute les tentatives diplomatique ne font que retarder et pire empire les situations de guerre à venir. En gros l'IA forte suggèrerait de faire la guerre à l'Allemagne par exemple et de déclencher une 3ème guerre mondiale. Même si était pertinent, et bien j'aurai du mal à m'y accommoder.

Seriez vous prêt à tuer des millions de civils innocents aujourd'hui, pour en sauver des milliards dans un avenir peut-être très lointain?

Voilà ou j'ai des réticences! La voie de la raison peut nous amener à affronter nos plus grand démon!

Après je ne dit pas que l'idée de l'IA forte qui dirige le monde est mauvaise, je dit simplement qu'elle me mettrait mal à l'aise.

Kusanageek a écrit:

Un risque centralisé donc. Je ne sais pas si on y gagne plus qu'on y perd quand le manque de garantie tourne autour d'une seule "personne". Ce serait même un grand pas en arrière, un retour au Moyen-Age.

(Je l'ai pas encore lu mais j'ai l'impression qu'on réinvente Hypérion là )

hé ben, attention à pas trop fermer son esprit aux visions futuristes, sinon ton scepticisme risque de passer pour du bioluddisme ! lol

Kusanageek a écrit:

S'il y a augmentation exponentielle de la puissance de calcul des machines ce problème pourrait par contre être résolu en partie. Pour ma part ça me rappelle un certain livre de Douglas Adams

je suis déjà plus d'accord avec toi sur le temps passé, mais toujours pas sur ton scepticisme. (le livre : "La grande question sur la vie, l'univers et le reste", qui est plutot une pirouette humoristique qu'une vision affirmée de l'avenir)

Rémi R a écrit:

Après je ne dit pas que l'idée de l'IA forte qui dirige le monde est mauvaise, je dit simplement qu'elle me mettrait mal à l'aise.

hé bien moi aussi, figure toi. Ce que j'avance est contraire aux règles de perpétuation de mon espèce, en apparence, et l'esprit humain se protège en se disant que c'est dangereux. (vision darwinienne , cf Hugo de Garis et ses Terrans contre les Cosmistes)

ça , c'est si on continue d'opposer IA et IN (Intelligence Naturelle), comme 2 "races" qui vont s'opposer dans un futur proche pour l'hégémonie.
Mais nous pourrions aussi voir l'IA comme une IN, comme un prolongement de l'espèce, et non comme une espèce prédatrice.
L'IA serait à l'homo sapiens ce que l'homo sapiens est à l'homo erectus, et non ce que le lion aux dents de sabre etait à l'homo erectus.
De plus qu'y a t il de si naturel en nous, les humains ? Nos actions sont déjà assistées par la technologie, et comme disait Kusanageek, et nous allons fusionner avec elle.
Rien de surprenant, à ce moment là, qu'une IA pure (ou IN très avancée, si l'on supprime la notion d'IA) soit un guide dans l'obscurité pour nos petits esprits etriqués et enfermés dans un corps parfois gênant.

L'IA pure nous servira à accélerer la fusion entre les H+ consentants et la technique. En bref, servira aux "IN" à rejoindre l'IA. C'est ce que je pense en tout cas depuis qqs temps.

Pour les néo luddittes, libre à eux de rester à des stades intermédiaires, mais déjà rien qu'avec l'utilisation des ordinateurs et des smartphones, les bioloddites d'aujourd'hui concèdent déjà une large place à l'assistance technologique. Pour être cohérents ils faudrait qu'ils retournent à l'âge de pierre, et encore. Mais sur ce point, je pense que la plupart des membres de ce forum sont d'accord.

postego a écrit:

Kusanageek a écrit:

Un risque centralisé donc. Je ne sais pas si on y gagne plus qu'on y perd quand le manque de garantie tourne autour d'une seule "personne". Ce serait même un grand pas en arrière, un retour au Moyen-Age.

(Je l'ai pas encore lu mais j'ai l'impression qu'on réinvente Hypérion là )

hé ben, attention à pas trop fermer son esprit aux visions futuristes, sinon ton scepticisme risque de passer pour du bioluddisme ! lol

Attention à ne pas tomber dans l'excès inverse qui est de taxer de bioluddisme toute personne qui n'est pas d'accord avec soi

J'ai juste une vision différente du futur, où une société idéale serait résiliente. Pour ce faire elle doit être absolument décentralisée au maximum.

Par exemple je ne suis pas opposé à l'idée d'IA fortes mais je suis opposé à l'autorité conférée à une seule d'entre elle, voir à leur seule "catégorie de population".

Je trouve l'idée d'êtres à l'intelligence augmentée qui règlent les problèmes en réseau de manière authentiquement démocratique bien plus intéressante. Parce qu'avec "l'intelligence collective" (pourquoi pas aidée par des IA fortes qui ont un rôle d'aiguilleurs de l'information, de "data miners") on a un système qui ne met pas tous les oeufs dans le même panier.

Kusanageek a écrit:

postego a écrit:

Kusanageek a écrit:

Un risque centralisé donc. Je ne sais pas si on y gagne plus qu'on y perd quand le manque de garantie tourne autour d'une seule "personne". Ce serait même un grand pas en arrière, un retour au Moyen-Age.

(Je l'ai pas encore lu mais j'ai l'impression qu'on réinvente Hypérion là )

hé ben, attention à pas trop fermer son esprit aux visions futuristes, sinon ton scepticisme risque de passer pour du bioluddisme ! lol

Attention à ne pas tomber dans l'excès inverse qui est de taxer de bioluddisme toute personne qui n'est pas d'accord avec soi

Je ne t'ai pas taxé de bioluddisme, j'ai dit "risque de passer pour".
Par contre, tu n'as pas hésité à juger mes propos de moyennageux, ce qui est pire que biooddite, pour dire qu'on est pas d'accord avec qqn.

Bref.

Kusanageek a écrit:

J'ai juste une vision différente du futur, où une société idéale serait résiliente. Pour ce faire elle doit être absolument décentralisée au maximum.

Par exemple je ne suis pas opposé à l'idée d'IA fortes mais je suis opposé à l'autorité conférée à une seule d'entre elle, voir à leur seule "catégorie de population".

Je trouve l'idée d'êtres à l'intelligence augmentée qui règlent les problèmes en réseau de manière authentiquement démocratique bien plus intéressante. Parce qu'avec "l'intelligence collective" (pourquoi pas aidée par des IA fortes qui ont un rôle d'aiguilleurs de l'information, de "data miners") on a un système qui ne met pas tous les oeufs dans le même panier.

En tout cas c interessant qu'on ait des visions différentes, sinon notre débat n'évoluerait pas.
Qui te dit que l'IA serait seule et unique ? A l'instar des IN que nous sommes, il pourrait y avoir une multitude d'IA, chacune spécialisée dans son créneau d'investigation. En partant du principe qu'une IA ait un "moi" et donc une conscience, cela délimiterait les IA entre elles en tant q'individu propre (je dit individu artificiel, mais pour moi les IA sont tout aussi naturelles, philosophiquement et epistémologiquement, que nous)

"Tous ses oeufs dans le meme panier" : d'accord avec ton expression, mais si il y a pluisieurs IA, il y aura plusieurs paniers.
Par contre des êtres hybrides IA/humains seraient encore dépendantes de leurs corps matériels, donc ne seraient pas dépourvus d'intentions matérialistes, et de cupidité financière pour gagner en puissance physique. Tant que l'homme n'est pas dématérialisé et immortel, il aura peur et continuera l'inégalité entre les riches et les pauvres, la guerre, la crise, et la dette (titre du sujet).

Je comprends bien que ça rassure de voir des etres hybrides gouverner qui nous ressemblent encore un peu, mais c'est comme si en 500 000 avant notre ere, les homo erectus auraient plaidé pour une future humanité composée d'êtres leur ressemblant à moitié. C'est faire un pas a moitié et timidement dans le sens naturel de l'évolution.

postego a écrit:

Je ne t'ai pas taxé de bioluddisme, j'ai dit "risque de passer pour".
Par contre, tu n'as pas hésité à juger mes propos de moyens ageux, ce qui est pire que biooddite, pour dire qu'on est pas d'accord avec qqn.

Bref.

Je n'ai pas dit que tu m'avais traité de bioluddite et j'ai encore moins traité tes propos de moyen-âgeux ! Je ne sais pas comment tu me lis

Je dis juste que centraliser l'autorité pourrait nous mener à un système féodal, et j'avertis juste que considérer mon avis comme une "fermeture aux visions futuristes" pourrait mener à une chasse au sorcières sur le long terme

Citation :

En tout cas c interessant qu'on ait des visions différentes, sinon notre débat n'évoluerait pas.
Qui te dit que l'IA serait seule et unique ? A l'instar des IN que nous sommes, il pourrait y avoir une multitude d'IA, chacune spécialisée dans son créneau d'investigation. En partant du principe qu'une IA ait un "moi" et donc une conscience, cela délimiterait les IA entre elles en tant q'individu propre (je dit individu artificiel, mais pour moi les IA sont tout aussi naturelles, philosophiquement et epistémologiquement, que nous)

"Tous ses oeufs dans le meme panier" : d'accord avec ton expression, mais si il y a pluisieurs IA, il y aura plusieurs paniers.
Par contre des êtres hybrides IA/humains seraient encore dépendantes de leurs corps matériels, donc ne seraient pas dépourvus d'intentions matérialistes, et de cupidité financière pour gagner en puissance physique. Tant que l'homme n'est pas dématérialisé et immortel, il aura peur et continuera l'inégalité entre les riches et les pauvres, la guerre, la crise, et la dette (titre du sujet).

Je comprends bien que ça rassure de voir des etres hybrides gouverner qui nous ressemblent encore un peu, mais c'est comme si en 500 000 avant notre ere, les homo erectus auraient plaidé pour une future humanité composée d'êtres leur ressemblant à moitié. C'est faire un pas a moitié et timidement dans le sens naturel de l'évolution.

Explications et arguments intéressants. Diviser les pouvoirs entre les IA comme nous divisons les pouvoirs dans une démocratie est une approche à considérer.

Je me suis d'ailleurs mal exprimé à propos de ma vision "idéale". L'intelligence augmentée deviendra un concept de plus en plus flou si des IA fortes s'améliorent de la même manière que nous, que nous leur ressemblions de plus en plus (sans la spécialisation) ou que des humains "naturels" aient accès à des outils qui augmentent leur capacité à traiter les problèmes sans que ce soit invasif (interfaces intelligentes qui synthétisent les problèmes par exemple).

Ce n'est pas tellement que ça me rassure, je reste cependant persuadé que l'idéal démocratique peut s'accomplir dans un futur lointain sans mettre en cause notre capacité à résoudre des défis énormes. Je pensais au début que tu parlais de centraliser toute l'autorité à une seule entité, à lui déléguer nos problèmes et à se contenter de vivre dans son enceinte en sécurité. Alors qu'en fait nous sommes plutôt d'accords.

J'ajouterais juste que quitte à avoir des IA spécialisées dans divers domaines et incorruptibles, il serait intéressant d'avoir un système de suffrage direct quand la majorité du peuple souhaite diverger des solutions considérées (je pense à Google Démocratie, où un "conseil des posthumains" oppose un veto à "Singleton" qui souhaite vitrifier le refuge bioconservateur car il y a 0.0001% de chance qu'ils posent un problème, défi qui ne fait pourtant pas peur aux posthumains). Ce levier démocratique représentant réellement la volonté du peuple car tirant parti de la puissance du réseau pour accorder une voix à chacun d'entre nous.

Postego a écrit:

Tant que l'homme n'est pas dématérialisé et immortel

Bonjour Postego,

A mon avis, le fait d'envisager que l'humain, ou n'importe quel support de conscience, puisse un beau jour être "dématérialisé" et "immortel" (au sens absolu du terme dans ton propos), relève non seulement de la plus radicale des spéculations, mais encore de la croyance irrationnelle la plus totale.
N'en es-tu pas d'accord ?

Pour ma part, je considère rationnel de penser que toute conscience aura besoin d'un support, matériel, quantique, ondulatoire, autre chose, ce qu'on veut mais pas rien.
De ce fait, le risque de perdre ce support perdurera probablement et donc, oui, le risque mortel et la peur (l'angoisse existentielle).

Pour autant, je trouve manquer d'imagination que de considérer que cela condamne éternellement les individus à l'inégalité entre les riches et les pauvres, la guerre, la crise, et la dette … ;-)

A+

Marc a écrit:

Pour ma part, je considère rationnel de penser que toute conscience aura besoin d'un support, matériel, quantique, ondulatoire, autre chose, ce qu'on veut mais pas rien.
De ce fait, le risque de perdre ce support perdurera probablement et donc, oui, le risque mortel et la peur (l'angoisse existentielle).

Peur qui peut d'ailleurs être partagée par les fameuses IA fortes, qui auraient besoin d'énergie pour alimenter leur support lui aussi sujet à l'élimination (quel que soit le nombre de backups ou de noeuds répartis comme les Horcruxes de Voldemort /-).

Citation :

Mais ma préférence continue à aller à l'hypothèse d'une fusion cybernétique de l'humain et de l'IA forte. Cela pourrait régler les deux problèmes d'un coup ;-)

Plutôt une amélioration purement biologique en ce qui me concerne mais l'idée est la même : mieux vaut viser des augmentations internes qu'externes.