Superintelligence de Nick Bostrom

bostromJ’ai ouvert ce livre avec un a priori très favorable. Son auteur, Nick Bostrom est un philosophe suédois qui bénéficie depuis quelques années d’un certain éclairage médiatique pour ses travaux sur les nouvelles technologies et le transhumanisme et ses perspectives futuristes. le livre est un ouvrage qui a influencé un certain nombre de personnalités depuis sa sortie en 2014, dont Elon Musk et Bill Gates. A partir de là, il semble être une lecture indispensable pour toute personne s’intéressant au développement de l’intelligence artificielle.

Sauf que les choses se gâtent rapidement à sa lecture, après les premières pages. L’ensemble du livre n’est que spéculation basée sur des hypothèses discutables mais pas discutées et aboutit au final à ne livrer que très peu d’informations utiles. Le message est qu’il faut tout mettre en oeuvre pour maîtriser l’intelligence artificielle avant de la libérer. Cela me semble une évidence, et pas seulement pour des raisons de survie mais plus rationnellement pour des raisons purement pratiques. Les raisons purement pratiques et techniques semblent d’ailleurs échapper complètement aux propos de l’auteur.

Il y aurait beaucoup à dire sur ce livre et son contenu, comme le langage abscons utilisé, et le détournement du sens de termes issus des sciences, des mathématiques ou de l’informatique. Ce livre montrent de nombreux exemples d’une telle débauche, notamment dans les encarts censés être plus techniques que le corps du texte. Par exemple, si vous pensez savoir ce qu’est l’inférence bayésienne en statistique, la lecture du premier encart qui lui est consacré vous plongera dans une totale confusion. « Comme le montre a figure.. » ou « Comme le montre le tableau » sont des expressions qui reviennent souvent dans le texte. Sauf que les figures et les tableaux ne montrent rien, ne reposent sur aucune donnée crédible ou argumentée et ne sont souvent que des courbes tracées à la main le long d’axes sans unités. L’auteur pose de la même manière de nombreuses équations. Celles-ci ne sont jamais justifiées, testées, ou critiquées. Une partie de l’argumentaire du livre repose ainsi sur des « preuves » qui n’en sont pas. Il est uniquement spéculatif, traite d’une IA abstraite et ne repose sur aucun fait.

Mais le plus gros soucis de ce livre est que le parti pris dans ce livre me semble emprunt de catastrophisme. Il prend comme hypothèse de départ que l’avènement de l’intelligence artificielle est proche. En cela, je suis d’accord avec lui, mais pas comme il le voit. Bostrom est un auteur qui cite le paradoxe de Fermi comme preuve que la vie intelligente dans l’univers est toujours victime de sa propre technologie ! (Rien que là dessus il y aurait tant à dire…) Son idée, discutée mais jamais vraiment contredite, est que le but de cette intelligence artificielle sera de dominer le monde. Ni plus, ni moins. Ce biais est présent dès le prologue dans lequel l’auteur nous conte une fable inachevée. Celle-ci veut illustrer le danger d’introduire une technologie non maîtrisée dans une société en utilisant l’image de pinsons cherchant à acquérir une chouette pour servir leur société. On notera immédiatement qu’une chouette est un prédateur. L’intelligence artificielle sera donc un prédateur pour l’humanité. Un chapitre central aurait dû être intéressant, et amplement développé, c’est celui sur la motivation. Mais c’est le chapitre le plus court du livre et il reste très superficiel. Alors que la question est fondamentale.

Sa conclusion est que les chercheurs dans le domaine de l’IA ne sont que des enfants qui jouent avec une bombe prête à détonner. Il appelle donc les enfants à poser leur jouet et appeler l’adulte le plus proche. On ne doute pas un instant que dans son esprit l’adulte est le philosophe.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogueurs aiment cette page :