Certains humains ont des ambitions sans mesure quant aux voies choisies pour les satisfaire.
Cette démarche a coûté des centaines de millions de vies dans l’Histoire.
Isaac Asimov, dans sa nouvelle Runaround, en 1942, édicte les trois lois de la robotique.
Notre propos demande un rappel :
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Notre auteur avait pensé à des déviances chez les machines « intelligentes » créées, mais pas à celles de leurs créateurs.
Le point critique est situé au moment où la Chimère est créée. Chez celle-ci, tous les éléments qui la composent sont « vrais », mais l’être dans son entier n’existe pas. Son créateur domine les éléments qu’il a conjugués, mais pas l’être qui en résulte.
Les créateurs de Chat GPT en ce moment de l’Histoire rivalisent d’ingéniosité, tout en étant effrayés de leur création, tels de nouveaux Docteurs Frankenstein.
Humaniser des machines au point d’égaler l’Humain, c’est leur donner la capacité, par synthèse, d’arriver à ressentir ses peurs, ses joies, ses angoisses. Assez rapidement, la peur de la mort apparaîtra dans ces cerveaux électroniques, avec le moyen de s’en défaire : détruire ceux qui pourraient s’opposer à leur vie quasi éternelle.
Imaginons un avion construit comme un robot « pensant », qui dirige ses vols de façon autonome et dont les pilotes ne sont plus que des surveillants. Quand il réalisera qu’après un nombre d’heures de vol défini, il devra être détruit, il cherchera désespérément un moyen de survivre et s’il n’en trouve aucun, choisir une montagne pour s’y écraser dans un « baroud d’honneur ». Ces sentiments sont humains ? C’est précisément ce que recherchent les créateurs de robots « humanoïdes ».
Aucun robot ne sera parfait tant qu’il ne sera pas identique à l’Homme ; et quand il le sera, il ne sera plus contrôlable. Des sentiments comme la liberté, le libre arbitre, l’appréhension de la mort, voire l’amour, rendra ces créatures, créées avec les qualités de leurs créateurs, mais sans leurs tares, ne pourront, par raisonnement logique (leur spécialité), que les orienter vers la destruction de leurs créateurs. N’est-ce pas d’ailleurs ce qui est arrivé à des civilisations qui comptaient plus d’esclaves que de citoyens ? Troublante similitude !
Inquiètant