L’ère du monopole cognitif

Lors de la dernière conférence « e-commerce one to one 2017 », Guillaume Bacuvier, vice président de la publicité chez Google, a décrit dans sa présentation « The age of assistance » (l’ère de l’assistance) la direction qu’allait prendre leurs outils de recherche. D’après Google, les internautes sont toujours plus des mobinautes, ce qui multiplie les accès à internet, devenu toujours disponible, ils parlent de plus en plus de vive voix à leur téléphone intelligent et ils utilisent plus les messageries privées que les réseaux sociaux. Ils en déduisent que nous arrivons dans l’ère de l’assistance, où la relation avec les outils technologiques doit devenir personnalisée à l’extrême et où l’internaute ne recherche plus des informations, mais pose des questions auxquelles il veut des réponses ; ces questions sont toujours plus personnelles, et font toujours plus appel au contexte – position géographique, préférences personnelles, questions précédentes, etc. Vous avez dans votre poche une petite intelligence artificielle qui vous connait mieux que votre meilleur ami ou que vous-même, au moins analytiquement si ce n’est sentimentalement, et avec qui vous conversez, comme avec ces chatbots qui peuplent les services client des sites e-commerce. L’acmé de cette vision est que le moteur de recherche ne donne plus des wagons de réponses que l’internaute consulte, mais la réponse que vous cherchez. Ca semble super, hein ? Détrompez-vous : c’est la plus belle machine à rendre con depuis l’avènement de la vie sur cette planète.

La pensée méditante

Qu’il fut un nazi de circonstances ou un nazi de conviction, Heidegger n’en a pas moins mené des réflexions incontournables, en particulier sur l’homme et la technique, dont ces quelques paragraphes de « Sérénité » (Questions III) :

« Lorsque nous dressons un plan, participons à une recherche, organisons une entreprise, nous comptons toujours avec des circonstances données. Nous les faisons entrer en ligne de compte dans un calcul qui vise des buts déterminés. Nous escomptons d’avance des résultats définis. Ce calcul caractérise toute pensée planifiante et toute recherche. Une pareille pensée ou recherche demeure un calcul, là même où elle n’opère pas sur des nombres et n’utilise ni simples machines à calculer ni calculatrices électroniques. La pensée qui compte calcule. Elle soumet au calcul des possibilités toujours nouvelles, de plus en plus riches en perspectives et en même temps plus économiques. La pensée qui calcule ne nous laisse aucun répit et nous pousse d’une chance à la suivante. La pensée qui calcule ne s’arrête jamais, ne rentre pas en elle même. Elle n’est pas une pensée méditante, une pensée à la poursuite du sens qui domine dans tout ce qui est.
Il y a ainsi deux sortes de pensée, dont chacune est à la fois légitime et nécessaire : la pensée qui calcule et la pensée qui médite.
Or c’est cette seconde pensée que nous avons en vue lorsque nous disons que l’homme est en fuite devant la pensée. Malheureusement, objectera-t-on, la pure méditation ne s’aperçoit pas qu’elle flotte au-dessus de la réalité, qu’elle n’a plus de contact avec le sol. Elle ne sert à rien dans l’expédition des affaires courantes. Elle n’aide en rien aux réalisations d’ordre pratique.
Et l’on ajoute, pour terminer, que la pure et simple méditation, que la pensée lente et patiente est trop « haute » pour l’entendement ordinaire. De cette excuse il n’y a qu’une chose à retenir, c’est qu’une pensée méditante est, aussi peu que la pensée calculante, un phénomène spontané. La pensée qui médite exige parfois un grand effort et requiert toujours un long entraînement. Elle réclame des soins encore plus délicats que tout autre authentique métier. »

Heidegger y expose deux types fondamentaux de pensée : celle qu’il appelle la pensée calculante, que nous utilisons quand nous voulons aller d’un point A défini à un point B défini, et la pensée méditante, qui part d’un point A – après tout, on est toujours quelque part – et qui ne se déplace que pour le plaisir de se déplacer, sans but défini ni fin programmée. L’ordinateur est évidemment le roi de la pensée calculante : non seulement, il ne sait rien faire d’autre, mais en plus, une fois lancé, il est d’une efficacité qu’aucun être humain ne saurait approcher. De manière plus générale, toute machine, quelle qu’elle soit, est calculante de la façon dont Heidegger le définit.

Le lien hypertexte, arme de déambulation massive

Le lien hypertexte, composant fondamental du web, est une rareté en ce sens qu’il est un outil technique qui aide la pensée méditante. Qui ne s’est jamais perdu sur internet en se demandant comment, de fil en aiguille, il avait atterri sur ce site personnel rempli de remarques parfois amères mais toujours percutantes d’un expatrié au Japon ? Et souvent, par erreur, vous direz avoir perdu votre temps à surfer, alors que rien n’est plus rare et précieux dans notre monde couturé de techniques et de pensée calculante qu’une simple promenade sans but, qui au moindre détour peut vous ravir d’une découverte délicieusement inattendue…

Comme je l’ai déjà expliqué, une trop grande personnalisation des résultats de recherche a tendance à vous enfermer dans votre propre univers mental ; de la même façon, ne s’informer que via les réseaux sociaux vous restreint à votre tribu. Ce que Google propose dans cette ère de l’assistance est l’aboutissement ultime de cet appauvrissement cognitif. Le peu de hasard qui restait dans la possibilité que vous consultiez un résultat de recherche loin dans les pages au delà de la troisième ou quatrième est totalement évanoui : Google vous renvoie un résultat, votre résultat, et de toutes façons, l’interface est tournée de façon non pas à ce que vous cherchiez une ou plusieurs informations, mais que vous posiez une question dont Google cherchera à tout prix à éliminer toute équivoque en la recontextualisant.

Un totalitarisme soft ?

Nous en arrivons ici à la conjonction mortifère de deux tendances technologiques : la domination de Google sur la recherche d’information sur internet, qui amène à des aberrations comme le fait qu’on en vienne à appeler « web profond » ou « dark web » ce qui n’est pas accessible depuis Google – comme si ne pas être visible de Google était un nouveau péché mortel – et la catastrophe cognitive que constitue la personnalisation à outrance de l’accès aux données. Vous êtes désormais enfermés dans le web que Google pense être le plus adapté à vous. Si ce n’est pas l’outil rêvé de tous les dictateurs, ça y ressemble furieusement. Regardez parmi les questions qu’ont posées les internautes pendant le débat à 11 de la présidentielle : on y retrouve deux perles qui me semblent surréalistes, « pourquoi ne pas voter Fillon ? » et « pourquoi ne pas voter Macron ? ». Le journaliste, visiblement interloqué, conclut par « à vous de voir » ; pourvu que ça dure !

Je ne suis évidemment pas le seul à voir les choses sur cet angle et à alerter ; par exemple, le philosophe Slavoj Zizek a réagi de la même façon face à l’annonce d’une des nombreuses entreprises d’Elon Musk de vouloir développer une interface directe cerveau – intelligence artificielle, qui viendrait parachever le tableau ci-dessus. Il est plus difficile d’effectuer une opération du cerveau à quelqu’un qu’on veut extraire de cette domination cognitive que de lui casser son téléphone android… Il pose également deux constats à mon sens incontournables pour répondre au problème : d’une part, quand quelque chose est techniquement faisable, cette chose sera faite, aucune considération morale n’arrête jamais bien longtemps la technique, et d’autre part, l’arrivée de ces techniques aura pour conséquence que la capacité à raisonner sans l’aide de ces assistants, et bien évidemment la capacité à les programmer et à les comprendre, sera très probablement la marque prochaine de ceux qui domineront la société. Il se pose enfin la question de savoir qui contrôlera ces outils : une telle puissance détenue par une entreprise commerciale fait naturellement froid dans le dos, mais dans les mains d’un Etat, qu’il soit démocratique au départ ou non, ce n’est pas plus réjouissant. La seule personne à qui je veux bien laisser le monopole cognitif de mon cerveau, c’est moi.

Comment éviter le monopole cognitif ?

Les premiers auxquels je pense en écrivant cet article sont mes enfants : je suis formé, qui plus est à l’informatique, la science du traitement de l’information, et je suis conscient de ces problématiques, je suis donc déjà sauvé du risque. Des adultes ayant vécu leurs années formatrices jusque grosso modo la fin des années 2000 ont été au contact d’autres formes d’acquisitions de l’information, même si il serait naïf de croire que la situation antérieure était idyllique ; si, par exemple, le taux d’illettrisme monte avec l’âge, ce n’est pas parce qu’on apprenait mal à lire il y a 50 ans, mais simplement parce que les gens perdent la capacité à lire et comprendre un texte si ils ne la pratiquent pas ; une fois sorti de l’école, une bonne partie de la population ne s’intéresse plus beaucoup à l’acquisition de connaissances, Google ou pas Google.

Mais maintenant, imaginez des enfants, tables rases, qui apprennent tout collés à leur doudou cognitif en permanence, pour qui toute réponse est à portée de requête vocale – même plus textuelle, ce qui avait au moins la vertu de les faire lire et écrire – quelle valeur donneront-ils à la connaissance ? Car même dans l’ère de l’assistance, quand on veut atteindre un niveau élevé dans quelque domaine que ce soit, puis créer et innover, il faut construire dans son esprit une pyramide du savoir solide pour se projeter vers l’avant. Par ailleurs, qui va influencer qui quand l’intelligence artificielle va s’adapter aux goûts et préférences d’un être qui n’est pas formé ? A l’instar du peuple de 1984 qui perd sa capacité à exprimer certaines notions non souhaitables par l’Etat, ces enfants auront-ils la capacité d’extraire des informations ailleurs que chez Google ?

Il faut donc en premier lieu éloigner les enfants en phase d’apprentissage de ces outils au minimum jusqu’à ce qu’ils soient capables de comprendre l’importance de s’informer à des sources les plus diverses possibles, de ne pas s’enfermer dans sa sphère personnelle, d’exercer sa pensée méditative régulièrement, et que toute connaissance valable et un tant soit peu complexe s’acquiert dans les livres, qu’on les lise sur du papier ou en électronique, et pas dans un tweet ou un post facebook qui ne peuvent être plus qu’un point de départ.

Pour les adultes, bien que l’avènement des technologies soit inévitable, leurs conséquences ne le sont pas. Afin d’éviter les risques de ce monopole cognitif, il est plus que jamais temps de pratiquer la pensée méditative en s’astreignant à s’extraire régulièrement de l’obligation de résultats. S’ennuyer, surfer sans but sur internet, tester une direction ou une autre juste pour voir si ça marche, tout ça n’est pas de la perte de temps, c’est une condition sine qua none de la condition d’être humain pensant libre. Plutôt que de poser des questions à votre ordinateur, et d’utiliser votre téléphone comme votre doudou cognitif, prenez-vous en mains, devenez chercheur d’informations, utilisez les outils qui ne vous profilent pas.

Par ailleurs, ces outils d’assistance peuvent être orientés d’une façon moins néfaste pour la pensée humaine : par exemple, on pourrait imaginer d’y introduire volontairement des éléments aléatoires, où l’intelligence artificielle nous surprendrait, nous faisant sortir de nos sentiers battus. Elle en est capable, encore faut-il que ses concepteurs en aient l’envie, et pas uniquement pour nous y faire passer de la publicité… Non, décidément, Google, qui tire le plus gros de ses revenus d’adwords, ne paraît pas être le mieux placé pour éviter l’ère du monopole cognitif !

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *