//
vous lisez...
Livres, Livres_numerique

Black Box Society – Frank Pasquale – Editions FYP

Black Box Society Frank Pasquale Editions FYP

Black Box Society
Frank Pasquale
Editions FYP  – 320 p-  22,50€

Frank Pasquale à longuement enquêté sur les black box, ces boites noires ou algorithmes qui contrôlent l’économie, l’information, et investissent un nombre croissant d’activités humaines. Les assurances, finance, banques, commerce, agence d’intérim, régies publicitaires, recruteurs, etc. font un abondant usage des données personnelles et des traces numériques pour les profiler selon des traitements dont nous ne savons rien. Cette opacité génère des craintes justifiées mais il est impossible d’en prendre toute la mesure puisque cette capture constante se fait dans l’opacité.  Par exemple, votre solvabilité bancaire est  examinée à la loupe et une mauvaise évaluation peut induire des taux d’intérêts élevés. La crise financière de 2008 a accru ce besoin de profilage. Pourquoi pas ? Mais il faudrait connaitre le contenu des algorithmes de l’évaluation pour savoir s’assurer qu’elle est équitable. Les assurances et les mutuelles salivent à l’idée de connaître le maximum de renseignements sur votre santé et votre condition physique. Le but étant de renforcer les primes pour les assurés à risques. Google n’explique pas comme il classe les résultats des recherches, au motif que s’il divulguait le contenu des algorithmes, les individus et les sociétés s’empressaient de tricher en les contournant. Ce n’est pas faux, de nombreuses web agencies ont abusé des faux liens et faux sites, modifié le contenu pour écrire des textes en fonction de ce qu’il supposaient plaire à Google pour figurer en tête des résultats de recherche. Mais la fameuse neutralité du Net  qui devrait traiter tous les internautes de manière égale n’existe pas. L’auteur cite le cas de l’outil recherche et comparateur de prix anglais Foundem qui a été déclassé fortement par Google pour cause de concurrence deloyale.  En position de monopole, Google est en mesure de faire obstacle à toutes les petites sociétés qui chassent sur les mêmes terres. Apple n’est pas en reste, qui exerce un contrôle draconien sur les applications proposées sur l’AppleStore. Ainsi, l’appli In a permanent Save State, un jeu inspiré par les conditions de travail chez un des fournisseurs majeurs d’Apple, le chinois Foxconn, a été retiré de la boutique d’Apple.

La finance, un usage intensif des algorithmes

L’ingénierie numérique financière est un acteur majeur du monde économique, par l’importance des sommes engagées et des conséquences de la finance dans le monde économique. Un long chapitre est consacré à l’utilisation des algorithmes et à leurs implications en 2008 dans la plus grave crise financière qu’ait connu le monde occidental depuis 1929. Frank Pasquale décrit les énormes risques induits par les CDS (Crédit Default Swaps), calculés selon des algorithmes sophistiqués et opaques. Les CDS sont les contrats d’assurance d’un crédit. Le risque provient du fait qu’il n’est pas nécessaire d’avoir des fonds de réserve pour garantir la protection qu’ils sont censés offrir. Ces risques sont qualifiés par des agences de notation ( Moody’s, Standard &  Poors, Fitch) dont le rôle est primordial puisque la note attribuée à un produit ou une banque est un vecteur de  confiance. La note dépend également d’algorithmes opaques avec  l’utilisation de données biaisées. Sans accès aux boites noires qui permettent d’évaluer le risque réel encouru, même les comptables d’AIG, compagnie d’assurance ont été incapables d’éviter un énorme krach. Le sauvetage a nécessité 182 milliards de dollars d’aides dont une grande partie a échu au contribuable américain.  Mais le royaume des algorithmes reste le Trading Haute fréquence (THF). Purement spéculatif, il s’agit d’un programme automatisé de passage d’ordres d’achat et de vente dans l’intervalle d’une seconde ou moins. Par exemple, il répond à la question « Pouvons-nous acheter des milliers d’actions de Ford quelques millisecondes avant qu’un fond pension ne s’y intéresse ? ».

Pour surveiller les surveillants et par conséquent examiner le contenu des algorithmes, Pasquale préconise de créer une commission de recherche fédérale, de renforcer les pouvoirs de la SEC (organisme de contrôle de la finance) et contrôler les agences de notation des produits financiers. Des mesures indispensables pour lutter contre « trop gros pour faire faillite » ou « trop pauvre pour réguler« .

Le dernier chapitre présente les solutions vers ce qu’il appelle une société intelligible. La fascination pour la technologie, l’activité incontrôlée des géants de la Toile , en premier Google, le non respect des règles communes pose des défis gigantesques. Comment imaginer que ces monopoles de fait sur l’attention et l’information, cruciaux pour dominer nos sociétés, vont se laisser contrôler sans résister ? L’auteur attend que les gouvernants  refrène le et la cupidité des Gafa et autres. Il est temps dit-il, d’exiger des décisions importantes sur les infrastructures de la finance et de la communication.  Cela va mieux en le disant mais cette incantation salutaire qui plaide pour une société numérique plus juste et plus stable semble, hélas, bien démunie face aux intérêts des géants du web.

 

Publicités

À propos de Serge Escalé

Rédacteur. En veille sur l'économie, le social, l'usage et implications des technologies, le numérique.

Discussion

Rétroliens/Pings

  1. Pingback: Algorithmic accountability – Work in progress – Christophe Benavent - novembre 7, 2016

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

Entrez votre adresse mail pour suivre ce blog et être notifié par email des nouvelles publications.

%d blogueurs aiment cette page :