\u00ab Si le produit est gratuit, c\u2019est que VOUS \u00eates le produit\u00bb, rappelle Tristan Harris, transfuge et \u00ab objecteur de conscience \u00bb de Google. \u00ab Ou plut\u00f4t : c\u2019est le changement progressif et imperceptible de votre comportement et de votre perception qui est le produit. \u00bb d\u00e9veloppe Jaron Lanier, essayiste et chercheur sp\u00e9cialiste de la r\u00e9alit\u00e9 virtuelle.<\/p>\n\n\n\n
The Social Dilemma <\/em>(Derri\u00e8re nos \u00e9crans de fum\u00e9e <\/em>en VF) est construit autour d\u2019interviews d\u2019anciens d\u00e9cideurs de Facebook, Pinterest ou Google, des hommes et (quelques) femmes ayant contribu\u00e9 de mani\u00e8re significative au d\u00e9veloppement de ces syst\u00e8mes, qui mettent d\u00e9sormais en garde contre les effets de leurs propres cr\u00e9ations sur la sant\u00e9 mentale des utilisateurs et les fondements m\u00eames de la soci\u00e9t\u00e9.<\/p>\n\n\n\n \u00abUne cinquantaine de designers de la Silicon Valley prennent des d\u00e9cisions qui vont influencer les pens\u00e9es et les actes de 2 milliards de personnes\u00bb, souligne Harris, qui explique comment la soci\u00e9t\u00e9 qui l\u2019employait est progressivement devenue un v\u00e9hicule du \u00ab capitalisme de surveillance \u00bb, d\u00e9fini comme le profit (astronomique !) r\u00e9alis\u00e9 gr\u00e2ce au suivi permanent des activit\u00e9s de chaque utilisateur par la plateforme, gratuite en apparence\u2026 mais dont le m\u00e9tier r\u00e9el est de garantir que les annonceurs qui la financent atteignent leur cible.<\/p>\n\n\n\n Tout ce que nous faisons en ligne est suivi et analys\u00e9. Quelle image retient notre attention, pendant combien de temps, quel est le contenu auquel nous nous abonnons, quels sont les liens sur lesquels nous cliquons\u2026. peu \u00e0 peu, le syst\u00e8me cerne notre personnalit\u00e9, nos int\u00e9r\u00eats, notre comportement et m\u00eame nos n\u00e9vroses. Ainsi peut-il non seulement pr\u00e9dire mais \u00e9galement influencer nos r\u00e9actions avec une pr\u00e9cision croissante, transformant les utilisateurs en proies faciles pour les annonceurs\u2026 et les propagandistes, qu\u2019ils soient priv\u00e9s ou \u00e9tatiques.<\/p>\n\n\n\n Le film met en sc\u00e8ne la fa\u00e7on dont les algorithmes se servent des acquis de la psychologie pour nous maintenir accros \u00e0 nos \u00e9crans, selon les techniques \u00e9tudi\u00e9es et enseign\u00e9es par le Persuasive Technology Lab<\/em> de l\u2019Universit\u00e9 de Stanford. Un ami vient de me taguer ? J’ai une alerte ! Ah, Facebook vient de m’inviter \u00e0 un \u00e9v\u00e9nement\u2026 Autant de \u00ab renforcements positifs intermittents \u00bb qui nous poussent \u00e0 consulter notre t\u00e9l\u00e9phone, encore et encore, comme un joueur compulsif esp\u00e9rant le jackpot \u00e0 une machine \u00e0 sous.<\/p>\n\n\n\n La manipulation de notre comportement par l’intelligence artificielle pr\u00e9dictive dans le but de nous maintenir en ligne le plus longtemps possible, la collecte de nos donn\u00e9es et leur vente au plus offrant\u2026 The Social Dilemma <\/em>confirme que tout ceci a \u00e9t\u00e9 voulu et encod\u00e9 avec une pr\u00e9cision machiav\u00e9lique.<\/p>\n\n\n\n Mais pousser \u00e0 la consommation n’est pas la plus grave cons\u00e9quence de la cupidit\u00e9 sur Internet. \u00ab Que se passerait-il si Wikip\u00e9dia personnalisait les d\u00e9finitions en fonction de chaque utilisateur, et \u00e9tait pay\u00e9 pour cela ? interroge Jaron Lanier. Wikip\u00e9dia nous espionnerait et essaierait de deviner nos pr\u00e9f\u00e9rences afin de modifier subtilement notre comportement. Vous imaginez cela ? Eh bien c\u2019est exactement ce que fait Facebook ! \u00bb<\/p>\n\n\n\n Sur Facebook, personne ne voit d\u00e9filer exactement le m\u00eame fil d’actualit\u00e9 ni n\u2019est confront\u00e9 aux m\u00eames informations. La capacit\u00e9 de l\u2019algorithme \u00e0 cerner les int\u00e9r\u00eats particuliers de chaque utilisateur a comme cons\u00e9quence d\u2019exposer celui-ci \u00e0 des points de vue de plus en plus \u00e9troits, qui vont toujours dans le sens de ses opinions et renforcent ses convictions. \u00ab Malheureusement, la polarisation est une strat\u00e9gie terriblement efficace pour garder les gens en ligne \u00bb souligne Lanier.<\/p>\n\n\n\n Avec le risque au bout du compte de ne plus pouvoir s\u2019accorder sur rien, ni distinguer le vrai du faux. Rien de plus redoutable pour d\u00e9stabiliser toute une soci\u00e9t\u00e9 : polarisation des opinions, indignation permanente pour tout et rien, radicalisation, solitude, ali\u00e9nation\u2026 si chacun a droit \u00e0 ses propres \u00ab faits \u00bb, sur quelle base trouver un compromis ? Et quel avenir, \u00e0 part la guerre civile ?<\/p>\n\n\n\n Comme dans ses pr\u00e9c\u00e9dents documentaires autour du changement climatique, Chasing Ic<\/em>e et Chasing Coral<\/em>, Jeff Orlowski part d\u2019une r\u00e9alit\u00e9 trop complexe et abstraite et la ram\u00e8ne \u00e0 taille humaine. The Social Dilemma <\/em>met ainsi en sc\u00e8ne une famille fictive, jou\u00e9e par des acteurs, pour illustrer les cons\u00e9quences de la d\u00e9pendance aux m\u00e9dias sociaux. Il y a des d\u00eeners silencieux, une fille pr\u00e9pub\u00e8re accro aux \u00ab likes \u00bb<\/em> et souffrant de probl\u00e8mes d’image et d\u2019estime de soi (les d\u00e9pressions et les suicides chez les jeunes Am\u00e9ricaines ont presque doubl\u00e9 depuis 2010), un fils adolescent radicalis\u00e9 par les recommandations de YouTube.<\/p>\n\n\n\n Allons-nous nous adapter et apprendre \u00e0 ne plus nous laisser manipuler ? Le probl\u00e8me est que nous faisons face \u00e0 une technologie dont la capacit\u00e9 de traitement augmente de fa\u00e7on exponentielle\u2026 alors que nos cerveaux, eux, n\u2019\u00e9voluent pas, ou si peu. Les algorithmes sont programm\u00e9s pour apprendre et s\u2019am\u00e9liorer sans intervention humaine. Ils poursuivent leurs propres objectifs, exploitant nos instincts contre nous-m\u00eame. D\u2019une certaine mani\u00e8re, l\u2019intelligence artificielle a d\u00e9j\u00e0 d\u00e9pass\u00e9 nos faiblesses. Selon les intervenants du film, nous avons presque d\u00e9j\u00e0 perdu le contr\u00f4le.<\/p>\n\n\n\n Tous s\u2019accordent \u00e9galement pour dire que ce syst\u00e8me d\u2019 \u00ab extraction d\u2019attention \u00bb (comme on extrait une mati\u00e8re premi\u00e8re hors du sol), \u00e9thiquement injustifiable, ne dispara\u00eetra pas. Garder les gens d\u00e9pendants de leur \u00ab doudou num\u00e9rique \u00bb par tous les moyens, aussi discutables soient-il, est prodigieusement profitable. En d\u00e9pit de toutes leurs d\u00e9clarations, les entreprises ne s’autor\u00e9guleront pas. La seule solution consisterait \u00e0 interdire le march\u00e9 des donn\u00e9es humaines comme sont interdits les march\u00e9s d\u2019organes ou d\u2019esclaves, sugg\u00e8re l\u2019auteure et philosophe Shoshana Zuboff.<\/p>\n\n\n\n La technologie, \u00e0 la fois utopie et dystopie, permet ou facilite tant de choses, mais \u00e0 quel prix ? C\u2019est l\u00e0 tout le dilemme du titre.<\/p>\n\n\n\n Ne manquez pas le g\u00e9n\u00e9rique de fin, pour entendre quelques recommandations de la bouche des personnes m\u00eames qui ont contribu\u00e9 \u00e0 cr\u00e9er cette situation. Ils d\u00e9sactivent toutes leurs notifications. Suppriment la plupart des applications. Demandent une r\u00e9gulation \u00e9tatique. Et surtout ne laissent JAMAIS leurs enfants utiliser les r\u00e9seaux sociaux. Songez-y\u2026.<\/p>\n\n\n\n Lars Kophal<\/strong><\/p>\n\n\n\nCes algorithmes qui nous dirigent<\/h2>\n\n\n\n
Demain, la guerre civile ?<\/h2>\n\n\n\n
L\u2019intelligence artificielle a d\u00e9pass\u00e9 nos faiblesses<\/h2>\n\n\n\n
\n