Le Point : Il faut limiter certaines technologies avant qu'il ne soit trop tard
5 MIN

Le Point : Il faut limiter certaines technologies avant qu'il ne soit trop tard

VIDÉO. L'entrepreneur théorise le « Slow Web » et lance Dissident.ai pour nous permettre de reprendre le contrôle de notre vie numérique.


Entrepreneur en série (Netvibes et Jolicloud, notamment) et ancien vice-président du Conseil national du numérique, le designer français Tariq Krim lance Dissident.ai, une plateforme qui veut permettre aux utilisateurs de ­reprendre le contrôle de leur vie numérique.

Le Point : Quelle position adopter face aux géants d'Internet comme Google, Apple, Facebook ou Amazon ?

Tariq Krim : Nous sommes dans une situation paradoxale. Il y a 25 ans, il ne fallait surtout pas réguler, car il fallait empêcher les opérateurs téléphoniques de mettre la main sur le Net en créant des autoroutes de l'information. Mais finalement l'absence de régulation a permis la création de géants du numérique bien plus puissants que les États. Limiter leur pouvoir sera très difficile, car il ne s'agit plus de régler uniquement des questions fiscales ou concurrentielles. Les Gafa (Google, Amazon, Facebook et Apple) sont désormais des acteurs politiques à part entière.
Les technologies de manipulation comportementale couplées à l'intelligence artificielle (IA) ont le potentiel de détruire les fondements de nos sociétés.

Que voulez-vous dire ?

Nous n'avons véritablement compris l'impact de leur influence que lors des récentes élections. Au-delà des fausses nouvelles qui ont pollué toute tentative de débat démocratique, c'est le succès de l'utilisation de masse des technologies de changement comportemental qui devrait nous inquiéter.

De quoi s'agit-il ?

Nous entretenons une relation symbiotique avec nos applications, nous avons autant besoin d'elles qu'elles ont besoin de nos données. Dès les années 1950, Norbert Wiener, le père de la cybernétique, qui a notamment introduit le concept de rétroaction pour permettre le contrôle à distance des machines, s'inquiétait déjà dans son livre Cybernétique et société que l'inverse soit un jour possible : prendre le contrôle à distance des êtres humains grâce à la manipulation de leurs émotions. Tous les services présents dans nos smartphones utilisent désormais ces techniques. La simplicité d'usage nous a rendus passifs et paresseux. Les likes et les shares sur les réseaux sociaux créent plusieurs fois par jour des sentiments d'euphorie ou de dépression.

C'est un peu ce que faisait Cambridge Analytica ?

Absolument, l'usage des fausses nouvelles a été le moyen d'« activer » certains électeurs et de les rendre imperméables au sens commun. Ce type de manipulation, théorisée par la doctrine Gerasimov, est désormais l'arme préférée des populistes. Car, contrairement à la télévision, on peut toucher l'électeur directement sur son téléphone portable et au moment où il est le plus fragile psychologiquement. Ces technologies ont été inventées au départ pour la publicité : il ne s'agit plus de vous montrer des choses qui vous intéressent, mais de modifier votre comportement pour que vous vous intéressiez à certaines choses. Appliquées au monde politique, elles deviennent un outil redoutable.

Que peut-on faire ?

Aujourd'hui, l'opinion a les yeux rivés sur la question des données personnelles. Ce n'est plus suffisant. Les technologies de manipulation comportementale couplées à l'intelligence artificielle (IA) ont le potentiel de détruire les fondements de nos sociétés. En fragmentant individuellement les opinions de chaque citoyen, on transforme l'espace public et la parole politique en millions de petits espaces privés, par ailleurs invisibles pour le régulateur. Je pense qu'il faudrait limiter ce genre de technologies avant qu'il ne soit trop tard.
La Silicon Valley considère désormais que la machine peut prendre de meilleures décisions que les êtres humains.

Vous parlez du « Slow Web » comme d'une alternative ?

Au départ, le Web était un outil de liberté et d'émancipation ; c'est devenu un espace confiné où nous sommes surveillés en permanence. Entre l'utilisateur et le contenu qu'il consomme, des dizaines d'intermédiaires tentent d'influer sur ce que nous voulons voir, dire ou faire. Ces algorithmes ne sont pas magiques : ils sont créés par des gens qui ont leur propre agenda. Il y a un vrai besoin de transparence. Nous sommes plusieurs à avoir fait la comparaison avec la nourriture. Dans les années 1970, nous mangions des produits bourrés de produits chimiques ; aujourd'hui, il n'y a plus un supermarché qui ne propose pas du bio, car les mentalités et, surtout, l'information disponible pour le public ont changé. Le Slow Web est l'équivalent du mouvement écogastronomique Slow Food pour la technologie : une alternative éthique de l'Internet.

Cela vous inspire, puisque vous lancez un nouveau projet qui s'inspire de cette philosophie.

Depuis un an, je travaille à l'élaboration de Dissident.ai (www.dissident.ai), qui est une des premières plateformes de Slow Web. Elle nous permet de reprendre le contrôle de nos contenus personnels et d'accéder à des sources d'information sans aucune altération algorithmique. Une forme de version « bio » alternative à ce que proposent les grandes plateformes.

Vous avez fait vos études dans le domaine de l'intelligence artificielle. Que pensez-vous de son développement actuel ?

Les questions restent les mêmes : que se passera-t-il quand le monde ne s'expliquera plus par la philosophie mais par l'analyse des données par une machine ? Seuls deux acteurs sont réellement déterminés à y répondre : la Chineet les Gafa. C'est fascinant de voir comment la même technologie est mise au service de deux visions politiques totalement antagonistes. Pour la Chine, l'intelligence artificielle est le moyen de créer une société dont les ressources sont équitablement redistribuées par la machine ; une nouvelle forme d'économie socialiste de marché optimisée en temps réel. Il s'agit aussi d'un monde dans lequel les citoyens sont constamment notés et surveillés par la machine, pour le meilleur et pour le pire. Le professeur de droit Feng Xiang pense que cette forme d'organisation sociale est le seul rempart contre la création d'une oligarchie numérique qui contrôlerait toutes les données, comme c'est déjà le cas aux États-Unis. Le passage à l'intelligence artificielle oblige la Silicon Valley à renier l'un de ses fondements idéologiques, à savoir l'idée que l'ordinateur est un outil d'émancipation individuelle. Elle considère désormais que la machine peut prendre de meilleures décisions que les êtres humains. Il faut donc tout faire pour la renforcer, l'alimenter avec toujours plus d'informations en poussant notamment les gouvernements à ouvrir leurs bases de données les plus précieuses. C'est une quête quasi religieuse. D'ailleurs, les Gafa sont les seules entreprises au monde persuadées que leur situation de monopole est bénéfique pour l'humanité.

Entre ces deux visions, l'Europe a bien du mal à exister. La France a-t-elle encore sa place dans cette bataille ?

Le rapport de Cédric Villani sur l'IA est un premier pas, mais le fait d'avoir déroulé le tapis rouge aux Gafa en plein scandale Cambridge Analytica était une erreur. Ils étaient en terrain conquis. Pendant la remise du rapport, Yann LeCun, patron du pôle IA chez Facebook, s'est même permis de dire : « Ne vous inquiétez pas, nous n'allons pas accaparer tous les chercheurs français. » En même temps, nous apprenions que la chaire d'intelligence artificielle de l'École polytechnique allait être financée par Google. Cela donne l'impression que les impôts des Français servent à financer la recherche et développement (R&D) de grandes plateformes qui non seulement ne paient pas leurs impôts en France, mais dont les services sont en train de radicaliser une partie de sa jeunesse et de la rendre totalement imperméable à la science et au sens civique. Ce n'est certainement pas le retour sur investissement que sont en droit d'attendre les Français.

Comment voyez-vous la French tech actuelle ?

Aujourd'hui, j'ai le sentiment qu'à de rares exceptions près l'ambition est surtout axée sur la création de champions locaux. C'est peut être lié au fait que l'État est très présent dans l'écosystème des start-up et que les projets les plus risqués sont délocalisés. Il y a un autre point qui me dérange : c'est que cet écosystème numérique actuel encourage une forme de reproduction des classes. Pendant que l'élite des étudiants crée ses start-up cools, les gamins des banlieues sont condamnés à faire de la livraison en scooter. Pendant que nous célébrons la start-up nation, nous créons une génération pixel née pour nous servir à travers les écrans des smartphones. Que fait-on pour cette nouvelle classe invisible ?

Que pensez-vous de la stratégie numérique du gouvernement ?

Sur le numérique, il faut totalement revoir la copie. Au lieu d'être fasciné par les États-Unis et leur donner les clés de notre pays, on devrait s'appuyer sur les développeurs français, les fédérer, leur donner le pouvoir d'utiliser leur savoir-faire au service de l'État et les faire rayonner chez nous et au-delà de nos frontières.

Article original

Si vous aimez ce contenu, abonnez-vous pour ne rien rater