La recherche montre que ce ne sont plus les humains qui prennent les décisions, ce sont des algorithmes

L'algorithme gouvernement n'est pas une chose du futur

Il est évident que nous vivons à l'ère de l'algorithme. Presque tous les espaces dans lesquels nous évoluons sont déterminés par un algorithme, qu’il s’agisse de la grande rue, de la distribution de produits dans un supermarché ou du flux de nouvelles d’un réseau social. L'être humain croit que les algorithmes sont plus efficaces et prendront de meilleures décisions, mais ce n'est pas nécessairement vrai. De plus, les algorithmes sont le reflet d'un système capitaliste qui n'a pas de contrôle central mais qui est programmé pour continuer de croître de quelque manière que ce soit., sans trêve, comme un cancer. Comme le suggèrent Douglas Rushkoff et Mark Pesce, tandis que les algorithmes "se nourrissent de votre énergie (votre attention: données)", connaissent vos faiblesses et peuvent influencer vos états émotionnels pour qu'ils agissent d'une manière qui ne correspond pas à votre mieux. intérêts ", nous pouvons les appeler des démons, ou c'est ce qu'on appelait quelque chose comme ça il y a quelques siècles.

Dans une enquête scientifique, Allen Lee et Dionysios Demetis ont conclu que "le rôle de la technologie de l'information et de l'être humain a été inversé", car "la technologie a progressé au point où elle nous utilise et même contrôle." C'est paradoxal, car les algorithmes n'ont pas d'agence; Les humains sont ceux qui ont le pouvoir, mais les algorithmes nous ont maintenant éliminés de la prise de décision. Nous sommes maintenant des "artefacts humains" qui existent dans l'environnement des algorithmes.

Les exemples cités par les chercheurs sont les suivants: les analystes juridiques sont remplacés par une intelligence artificielle; Les logiciels sont autorisés à prédire les futurs criminels et à influencer les décisions des juges (même s'ils ne comprennent même pas la complexité de ces mécanismes). Les plus grandes entreprises du monde filtrent déjà les curriculum vitae à l'aide d'un logiciel, ce qui empêche les utilisateurs de passer en revue certains détails des candidats potentiels. Comme le notent les chercheurs, certaines entreprises, telles qu'Amazon, suivent certains préjugés indésirables dans leurs politiques d'embauche - et les algorithmes ont tendance à être discriminatoires. En revanche, 85% des transactions financières sur les marchés internationaux sont effectuées uniquement à l'aide d'algorithmes. Et ces algorithmes prennent des décisions basées sur des mécanismes complexes que nous ne comprenons pas complètement. On pense que la crise de 2010 appelée Flash Crash, dans laquelle le Dow Jones a chuté de 9% en quelques minutes, a été déclenchée par des algorithmes. Les personnes qui contrôlent les marchés et les politiques financières estiment que les décisions humaines constituent un obstacle à l'efficacité des marchés, mais cela a montré que les algorithmes sont imprévisibles. Demetis et Lee concluent:

Alors que de nouvelles frontières sont définies entre les humains et la technologie, nous devons réfléchir attentivement aux domaines dans lesquels notre extrême dépendance vis-à-vis des logiciels nous mène. Alors que les décisions humaines sont remplacées par des décisions algorithmiques et que nous devenons des outils dont la vie est façonnée par des machines et dont les conséquences sont impensables, nous nous préparons à être dominés par la technologie. Nous devons décider, tant que nous le pouvons encore, de ce que cela signifie pour nous, en tant qu’individus et en tant que société.

Nous devons nous demander si l’humanité ne deviendra pas ce pilote d’Uber qui ne sait comment se rendre que là où son application le dit et ne sait plus comment penser et décider seul. La foi aveugle dans l'algorithme est le pire fanatisme. À la fin, tous les pilotes Uber seront remplacés par des robots.