Jakub Szamalek clôture sa trilogie sur les dangers d’internet par une réflexion (critique) sur l’intelligence artificielle ! Un 3e tome aussi réussi que les 2 précédents, vif, nerveux, haletant, et quand même effrayant, mais drôle aussi. Si vous imaginez que les bénéfices et avantages de l’I.A. seront toujours moindres que les risques. Vous ne le croyez toujours pas ? Lisez le roman de Jakub Szamalek. En plus, c’est un bon polar !
Dès le premier tome de la trilogie du darknet, Tu sais qui, on savait que Jakub Szamalek était capable de nous tenir en haleine pendant plusieurs dizaines, centaines de pages. L’impression avait été confirmée par le second tome, Datas sanglantes. Dans les deux cas, un sujet qui ne peut pas laisser indifférent : internet, ses dérives et limites, les cookies qui nous tiennent en laisse, les traces indélébiles qu’on laisse sur les réseaux, et les manœuvres et manipulations qui permettent de changer le cours d’une élection. Des phénomènes qu’on connaît, expliqués assez simplement, en mis en scènes dans des enquêtes policières assez bonnes, avec des personnages qu’on apprécie, en qui on croit (quand même un peu, malgré leur côté un peu caricatural). On retrouve les mêmes ou presque pour le dénouement, mais cette fois, c’est l’intelligence artificielle qui est au cœur de l’intrigue. Et pour celles et ceux qui en doutaient, malgré les aspects positifs qu’elle peut avoir, l’I.A. n’est pas et ne sera jamais notre amie. L’homme (la femme non plus, malheureusement) n’est pas et ne sera jamais capable de contrôler ses aspects négatifs, que certains seront en revanche capables d’utiliser à des fins pas très louables. Un de peu de luddisme ne fait pas de mal de temps en temps !
Reprenons (plus ou moins) depuis le début. Nous sommes en Pologne, le roman commence avec un accident dans une usine qui se transforme en catastrophe écologique. Juste un accident ? Seulement une défaillance technique ? Presque. Est-on certain que cette défaillance technique n’a pas été provoquée ? En particulier, provoquée par un programme informatique qui s’est infiltré dans le système de l’usine ? L’hypothèse est trop délirante ? Pas tant que ça. On le découvre au fil du roman. Et derrière cet accident informatico-industriel se trouve le méchant vraiment très méchant, très mauvais que Julita Wojcicka, l’héroïne des tomes précédents, chasse depuis le début. Elle a fini par le retrouver !
Ce personnage pas recommandable du tout est précisément un génie de l’informatique et qu’il a mis sur pied un des premiers programmes d’I.A. qui existe. Il a commencé par développer un programme qui permettrait à un état, un gouvernement parfaitement centralisé (qu’on pourrait appeler le politburo), de contrôler totalement l’économie, de planifier exactement les quantités à produire par les entreprises, aux prix précis que les consommateurs voudraient les acheter. Las, cela n’a pas fonctionné. Mais il n’a pas abandonné pour autant. Il a ensuite créé un programme à base de réseaux de neurones (qui fonctionne exactement comme tous programmes d’I.A. tels que le fameux ch**G*T) permettant à la fois de générer des textes, mais aussi de décrypter des messages écrits par certaines personnes et d’en tirer des conclusions sur leur comportement. Ce programme peut par exemple retrouver, sur internet, tous les textes (y compris les mails) que vous avez écrit, les analyser et comprendre d’après les mots que vous avez utilisés qu’il est fortement probable que vous ayez… trompé votre femme, tué quelqu’un… Pratique pour faire chanter absolument tout le monde. Pratique pour contrôler le monde. Pratique pour convaincre des gens riches qu’ils peuvent contrôler le monde… Mais il y a Julita qui fait foirer tout ça. Elle le traque, finit par l’amener dans un tribunal qui le jugera. Le bien gagne… mais le mal est fait.
Le roman se passe avant le développement de ces “agents conversationnels, bâtis sur un modèle de langage qui est un transformer génératif pré-entraîné”, et pourtant nous explique parfaitement ce qui risque de se passer si on continue de développer ces techniques. Comme on a effectivement continué de développer ces pratiques, on sait ce qui risque de se passer. Pas simplement de voir des clones de célébrités du passé ou du présent venir nous dire des choses qu’elles n’ont jamais dîtes, pas seulement découvrir des toiles de maîtres qui n’ont jamais été peintes ou de lire des romans écrits par une machine. Mais aussi d’être capable de nous tracer encore plus précisément qu’avec des cookies… Et maintenant qu’on a commencé à jouer avec l’I.A., l’issue de la partie est claire, on a perdu. Certes, l’I.A. n’est ni gentille, ni méchante, pas plus qu’un fusil mitrailleur ou qu’une ogive nucléaire… ce sont juste les gens qui s’en servent qui sont gentils ou méchants. Disons que l’I.A. leur donne des moyens qu’ils n’avaient pas avant. Et ça, ce n’est pas rassurant. Espérons qu’il y aura des Julita, plein de Julita, pour nous sauver !
Alain Marciano