L'avenir : la guerre ou les machines ?

©Philippe Gouillou - Mardi 6 janvier 2015

Tags : Guerre - Singularité - Sélection

Le Billet Eco : "L'avenir de l'emploi (Jobocalypse)" publié dans Monaco Business News n'aborde qu'une des conséquences du développement de l'Intelligence Artificielle ("IA"). Il y en a d'autres : de nombreux scientifiques ont des craintes qui vont très au-delà. Mais nous serons sauvés.


center

"A partir du moment où une civilisation invente les ondes radio, elle est à 50 ans des ordinateurs et probablement ensuite à 50 ou 100 ans d’inventer l’intelligence artificielle. A ce moment là, les cerveaux mous et spongieux deviennent un modèle obsolète."
Seth Shostak (Directeur du SETI)

De la jobocalypse ...

La crainte de l'impact de la robotisation sur l'emploi n'est vraiment pas nouvelle. Sur BBC News, Justin Parkinson rapporte que, juste avant de mourir en 1930, l'ancien ministre britanique et F. E. Smith, Earl of Birkenhead1, avait publié ses prédictions pour 100 ans après. Cela nous place dans 15 ans, en 2030, et il prévoyait des progrès médicaux, le développement de l'aviation pour remplacer les automobiles, etc.2, et aussi que les machines remplaceraient de plus en plus les humains, au point que ceux-ci ne travailleraient plus que 2 heures par jour, juste pour surveiller leur bon fonctionnement. Smith prévoyait aussi une sorte d'eugénisme socialement imposé3 et il croyait que l'Etat aurait à empêcher la création d'une "race d'esclaves" dédiée à cette surveillance 4.

Smith avait rédigé ses prédictions avant l'invention de l'informatique, et n'avait pas imaginé que les machines pourraient se surveiller elles-mêmes. De fait, il n'y a plus besoin d'esclaves5 et les robots vont transformer ce qu'est l'emploi et nous obliger à être créatifs pour nous adapter à un nouveau modèle économique6.

Mais ce n'est que le début.

... à la destruction totale

"D’ici trente ans, nous aurons les moyens technologiques de créer une intelligence superhumaine. Peu après, l’ère humaine sera terminée."
Vernor Vinge (1993)

Le raisonnement est connu : les ordinateurs sont de plus en plus intelligents et ils progressent à un rythme régulier sans aucun signe d'arrêt, il suffit donc de poursuivre leur courbe de croissance pour savoir quand ils dépasseront l'intelligence humaine.

Prédire l'avenir est difficile et bien sûr rien n'est certain, mais les arguments usuels n'apparaissent pas assez solides pour réfuter ce raisonnement :

  • Rétroaction négative : Ne faire que poursuivre visuellement une courbe de tendance pour faire une prévision est généralement sans valeur : il faut pour cela être absolument certain qu'aucune rétroaction négative ne sera susceptible d'intervenir. Un exemple célèbre en est celui des prédictions climatiques : elles annoncent, alternativement mais toujours "avec certitude", un futur qui sera soit glacial soit tropical selon les variations constatées sur les quelques années précédentes :
    center
    Ce risque est cependant très faible en informatique : depuis son invention et jusqu'à présent, l'évolution a toujours été dans le même sens (contrairement au climat) et on ne peut imaginer de changement.

  • Barrières scientifiques : L'amélioration des ordinateurs passe par la réduction de la taille des composants, or nous sommes déjà dangereusement proches de la limite physique, qui apporte des problèmes nouveaux. Aller plus loin obligera à un changement important, et nous ne savons pas si celui-ci sera trouvé.
    Cependant, toutes les prédictions au cours de l'histoire sur l'existence de barrières scientifiques au progrès ont systématiquement été ridiculisées (et souvent très rapidement) par les découvertes suivantes.

  • Spécificités humaines : Les ordinateurs ne parviendront probablement pas immédiatement à reproduire l'intégralité de l'intelligence humaine, et celle-ci présente peut-être des particularités impossibles à reproduire.
    Cet argument est certainement le plus solide, mais il souffre aussi d'une faiblesse : les robots n'auront pas besoin de reproduire l'intelligence humaine, ni même de la battre sur tous les points, il leur suffira d'être suffisamment intelligents et autonomes pour pouvoir transformer le monde à leur avantage pour que les humains y soient de moins en moins adaptés (et que leurs spécificités leurs soient de moins en moins utiles).

  • Transhumanisme (h+) : Il n'y a pas que les ordinateurs qui profitent des avancées technologiques et scientifiques pour s'améliorer, les humains aussi, et dans cette course les humains partent avec une avance considérable.
    La limite est que les humains sont aussi handicapés par un historique lourd et par un processus de sélection lent et sans but, (pouvant même aller dans le sens opposé7). L'amélioration humaine pourrait donc retarder la date de supériorité des ordinateurs, mais pas l'interdire. Contrairement à la fable de La Fontaine, la course entre le robot-lièvre et l'humain-tortue n'a pas de ligne finale.

En fait, certain scientifiques sont maintenant tellement persuadés que la création d'une intelligence artificielle est possible, et donc inévitable, qu'ils prévoient que les premiers contacts avec une intelligence extra-terrestre le seront avec des machines : Le Journal de la Science.

Nos "sauveurs"

L'avenir apparaît ainsi déjà tracé : des bots prendront le pouvoir et transformeront l'environnement à leur avantage ce qui le rendra de moins en moins adapté à nos besoins, ce qui nous entraînera dans une spirale destructrice jusqu'à notre disparition plus ou moins complète. En d'autres termes : la dystopie des films de science fiction8 était bien prédictrice, et l'ère humaine sera bientôt terminée.

Pouvons-nous encore être sauvés ?

En fait, oui, tout espoir n'est pas perdu : cet avenir promis n'a que très peu de chance de se réaliser.

Les prédictions oublient en effet un autre facteur déterminant : la recherche est fragile. Il suffirait en effet d'une crise, d'une guerre ou de mouvements sociaux suffisamment étendus pour la désorganiser et bloquer ses avancées. De même, l'étatisation croissante de l'économie9 aurait un impact destructeur sur la créativité, et suffirait à elle-seule à empêcher l'aboutissement des recherches. Or, que prévoyons-nous pour l'avenir à très court terme ? La montée en puissance du jihad et une mainmise toujours plus oppressive des Etats sur leurs populations. Nous serons donc dans l'incapacité d'inventer les machines qui nous remplaceront.

Rien n'est certain, bien sûr, mais il est ironique que l'humanité puisse finir par être sauvée par les islamistes et les socialistes...

Philippe Gouillou
6 janvier 2015


Liens

Image

  • Photo du film "300" de Zack Snyder (2006)

Notes


  1. Wikipédia : "Le très honorable Frederick Edwin Smith, 1er comte de Birkenhead, GCSI, PC, KC (né le 12 juillet 1872 et mort le 30 septembre 1930), plus connu sous le nom de F.E. Smith, est un homme d'État et avocat britannique, membre du Parti conservateur. Il a notamment été Lord Chancelier de 1919 à 1922. Un des plus grands amis de Winston Churchill." 

  2. Dont la création d'une mer en plein Sahara, à partir des eaux de la Méditerranée... 

  3. Il s'était trompé en prédisant que s'intéresser aux antécédents familiaux de l'époux potentiel deviendrait la norme imposée : en fait l'évolution des cent dernières années a été dans le sens exactement opposé. 

  4. On retrouve l'idée du roman d'Aldoux Huxley Le meilleur des mondes écrit en 1931. 

  5. Pourtant, longtemps encore après cette invention, l'idée que les humains auraient moins de temps de travail du fait de la mécanisation est restée, au point que le "partage du travail" a été imposé en 2000 par la Loi en France pour y répondre : Loi des 35 heures (Wikipédia) 

  6. Voir le Billet Eco paru dans le MBN 50. 

  7. Voir les trois premières minutes du film Idiocracy 

  8. Terminator, ... 

  9. Et la guerre peut recommencer. Gouillou, Philippe. Evoweb. Jeudi 1er janvier 2015 

©Philippe Gouillou - Mardi 6 janvier 2015


Sélection Nouveautés

Citation de cette page :

Gouillou, Philippe (2021) : "L'avenir : la guerre ou les machines ?". Evoweb. Mardi 6 janvier 2015. https://evoweb.net/blog2/20150106-guerre-singularite.htm
[L'avenir : la guerre ou les machines ?](https://evoweb.net/blog2/20150106-guerre-singularite.htm "Evoweb : L'avenir : la guerre ou les machines ? (Mardi 6 janvier 2015)"). Philippe Gouillou. *Evoweb*. Mardi 6 janvier 2015