Cedric Villani, invité de Thinkerview pour parler d’IA et de société

Tout d’abord, plan­tons le décor. Cédric Vil­lani a été mis­sion­né il y a quelques mois par le gou­verne­ment Français pour con­stru­ire une stratégie nationale dans le domaine de l’IA. Cette mis­sion de 4 mois se ter­mi­nait fin novem­bre. Lau­réat Fields (équiv­a­lent du prix Nobel, mais pour les maths), Cédric est avant tout un math­é­mati­cien et un poli­tique, pas un spé­cial­iste de l’IA. En même temps, mieux vaut lui que Ségolène Royale prob­a­ble­ment… ThinkerView se définit comme un groupe indépen­dant issu d’in­ter­net, très dif­fèrent de la plu­part des think-tanks qui sont inféodés à des par­tis poli­tiques ou des intérêts privés. Il y a aus­si cette notion de “com­mu­nauté hack­er” qui entoure ce think tank. Ren­con­tre explosive ?

Non, pas vrai­ment. Le dis­cours de Vil­lani reste assez ras­sur­ant sur le fond con­cer­nant l’u­til­i­sa­tion de l’IA dans nos sociétés déjà forte­ment tournées vers le Big Data. Il l’est un peu moins sur la ques­tion de l’emploi. Sont toute­fois abor­dés les dan­gers liés aux Gafas, à la mon­tée en puis­sance du “Drag­on Agres­sif” qu’est la Chine.

Pour Vil­lani, “un monde sans IA” est impos­si­ble. Toute société qui souhait­erait pren­dre le temps de la réflex­ion se ver­rait con­damn­er dans le monde actuel. Cette réflex­ion doit être faite à l’échelle mon­di­ale, mais nous savons tous que dans le cli­mat actuel de con­cur­rence inter­na­tion­al, de cap­i­tal­isme ultra-agres­sif, il ne sera pas pos­si­ble de faire quoi que ce soit de ce coté. Pour­tant, l’IA est comme “l’arme atom­ique” selon les pro­pres mots de Vil­lani. Il faut se pré­par­er à se défendre. Et la France dis­pose d’atouts selon lui, même si l’in­ter­view ne lui per­met pas d’en par­ler réelle­ment. Il avance le fait que nous avons un poten­tiel en terme de chercheurs, ain­si que de flex­i­bil­ité. Reste qu’au­jour­d’hui, l’IA, c’est de l’in­tel­li­gence, mais c’est aus­si beau­coup de moyens (cen­tres de cal­culs). Il est dom­mage qu’on ait pas pointé du doigt le fait que cette impres­sion de “ne pas avoir le choix” est liée à notre choix d’une société qui fait repos­er sa sta­bil­ité économique (et donc sociale et poli­tique) sur ses échanges avec le reste du monde. Mais c’est un autre débat…

“L’IA sera ce que nous en fer­ons” revient sou­vent dans la bouche de Cédric. Pour lui, c’est au peu­ple, “à la cité”, de définir la façon dont on va utilis­er l’IA. Toute­fois, nous ne savons pas com­ment aujour­d’hui inter­venir auprès d’un Face­book, de sa capac­ité à tor­dre l’in­for­ma­tion, à manip­uler les don­nées et surtout à les archiv­er de l’autre coté des fron­tières… autant deman­der à un mou­ton d’avoir de l’in­flu­ence sur les méth­odes d’a­battage employées par son éleveur. Thinkerview par­le lui de “lames de rasoirs qu’on donne à un singe”, cela induit le fait que même si nous avions de l’in­flu­ence sur la façon de l’u­tilis­er, nous ne sauri­ons pas for­cé­ment le faire pour notre bien à nous, à la fois per­son­nel ou collectif.

L’IA et l’ar­mée, sujet abor­dé plusieurs fois, mais sans vrai­ment point­er du doigts les réels dan­gers. On par­le de ce fameux doc­u­men­taire réal­isé par Stu­art Rus­sell et que l’on peut vision­ner ici. Effrayant en effet, et pour­tant si proche de ce que nous sommes aujour­d’hui capa­ble de faire. Les lois d’Isaac Asi­mov… belle théorie, mais impos­si­ble à met­tre en œuvre dans l’é­tat d’après Villani.

Con­cer­nant le marché de l’emploi, 80% des emplois actuels impactés… Quand Vil­lani nous par­le de chang­er de méti­er et de se tourn­er vers les autres, et de “salaire uni­versel”, on com­prend de suite qu’il ne s’ag­it plus d’un impact, mais d’une réelle trans­for­ma­tion, accep­tée ou subie. Même si le méti­er du chauf­feur de bus est abor­dé, Cédric rap­proche cela d’a­van­tage de ce qu’a déjà subi le monde de la finance. Les traders ont été pro­gres­sive­ment rem­placés par des algo­rithmes et des experts dans d’autres domaines. Pour para­phras­er Lau­rent Alexan­dre, il fau­dra “aller vers là où l’IA n’est pas com­pé­tente”, c’est à dire le social, l’art, etc.

On y abor­de le thème des Black Swans (Cygnes noirs) selon l’œuvre de Nas­sim Nicholas Taleb, c’est à dire l’im­pact extrême de cer­tains types d’événe­ments rares et imprévis­i­bles. L’IA pour­ra t‑elle prévenir ce genre de choses ? Plus en tous cas que nos mod­èles prob­a­bilistes qui ne se per­me­t­tent pas des phas­es exploratoires comme le per­met l’IA.

Bon, si vous avez 1H15 à tuer (moi je met en vitesse 2, ça passe plus vite), je vous laisse avec la vidéo:

 

Ce que j’ai pen­sé de cette inter­view ? Trop rapi­de (non, pas à cause de la vitesse de lec­ture!), pas assez en pro­fondeur… de la vul­gar­i­sa­tion et encore… sou­vent les choses ne sont pas expliquées et dis­cutées telles quelles en surface…

Vil­lani ne me con­va­inc pas sur sa capac­ité à appréhen­der réelle­ment les change­ments à venir. Il a un dis­cours au final très “polis­sé”, fidèle à son mou­ve­ment poli­tique. Il se veut ras­sur­ant comme n’im­porte quel poli­tique qui a décidé que c’é­tait viable économique­ment, peu importe l’im­pact socié­tal au final. Pour­tant, je suis quelqu’un de rel­a­tive­ment ouvert sur le sujet, assez posi­tif dans l’ensem­ble. Je pense que l’hu­man­ité fonce dans un mur avec un vélo à la vitesse du son et que si l’IA ne nous aide pas à pass­er à tra­vers le mur sans dégât, elle nous per­me­t­tra d’y arriv­er plus vite. Mais c’est un autre débat. L’IA est ce que nous en fer­ons… je reste vrai­ment scep­tique de ce coté là. Bien enten­du, on ne par­le d’IA que comme un out­il à l’usage des hommes, pas d’IA façon Matrix qui prendrait con­science d’elle-même. Cela reste un autre dan­ger. Mais je ne pense pas que le peu­ple a un quel­conque pou­voir sur le développe­ment de ces tech­nolo­gies. Espérons que l’in­térêt économique et l’in­térêt humain finiront par se crois­er — c’est unique­ment à cette con­di­tion, et pas en se préoc­cu­pant de brid­er les algos, qu’on fera en sorte que l’IA sera util­isée pour le bien com­mun. Sinon, cela per­me­t­tra à ceux qui déti­en­nent pou­voir et argent, d’as­soir encore plus leur pou­voir, avec le risque qu’ils finis­sent par se dire que le reste de l’hu­man­ité est une bouche en trop à nour­rir et que ses bras ne sont plus utiles.

Mais alors, qu’en est-il de ce rap­port #Mis­sionVil­lani, des con­clu­sions que devait remet­tre Vil­lani fin novem­bre ? Une plate-forme col­lab­o­ra­tive a dû déjà être mise en ligne. Les con­clu­sions sont atten­dues pour la fin du mois de jan­vi­er… Au final, c’est pas 3 mois, mais 5 donc ? La pre­mière mou­ture du rap­port présen­tée le 29 novem­bre met en avant un cer­tain nom­bre de prob­lé­ma­tiques comme vous pour­rez le lire ici. Même si le rap­port sem­ble “bateau”, c’est quand même 3 mois d’auditions, 250 per­son­nes enten­dues (issues de 13 pays), près de 600 experts… Bon, au moins, on peut se dire que le gou­verne­ment français a con­science de l’im­pact que l’IA va avoir sur  nos sociétés… quant à sa capac­ité à avoir du pou­voir sur ces change­ments, je reste dubitatif.