Tout d’abors bonjour à tous, je viens de m’inscrire ici.
Donc voilà, en tombant sur ce site, je ne peux m’empécher de remarquer que plusieurs personnes voudraient laisser une liberté total à l’IA, c’est à dire ne lui donner aucun objectif pour ne pas la limiter.
Pour ma part, je suis persuadé que la question du bien et du mal (qui est de l’ordre des objectifs), et la question du faux et du vrai (qui est de l’ordre de la réalité), sont deux choses bien distincts.
Si jamais l’intelligence permet de distinguer le vrai du faux, il en est tout autre du bien et du mal, tout simplement car la morale n’a rien d’universelle, l’univers est amorale, et n’a pas de finalité.
Pour le dire de manière encore plus générale, un objectif est obligatoirement subjectif, l’on ne peut donc pas le déduire, dans ses bases, par l’unique raison.
Autrement dit, je partage la thèse du nihilisme morale.
En conséquence, l’on est forcé de donner des objectifs, et donc notre morale, à l’IA.
Il s’en suit une situation complexe, car si l’on ne donne pas nos objectifs les plus profonds du premier coup, il pourrait être très difficile de faire machine arrière.
Pour ma part, je pense que mes objectifs les plus profonds sont très proche de l’utilitarisme négatif, et j’espère qu’ils sont partagé. (ce qui est possible, car tout les humains sont relativement proche dans leurs fondements).