Par Thierry TABOY, Coordinateur de l’Observatoire du collectif ImpactAI.
Vous êtes un adepte de Tinder ou croyez simplement bien connaître l’une des plateformes les plus rentables des AppStores, avec une estimation de plus de 60 millions d’utilisateurs actifs et un chiffre d’affaire dépassant le milliard de dollars en 2019 ?
Vous « swipez », matchez, rencontrez. C’est tellement simple, glisser vers les bas et c’est « Nope », glisser vers le haut est c’est « Like ». Peu à peu, les premières affinités apparaissent. Et si vous payez, un peu, puis plus, votre visibilité en profite ! Fin 2018, plus de 4 millions d’utilisateurs étaient prêts à payer pour obtenir le graal.
Dès lors, comment fonctionne l’algorithme qui vous remonte des profils particuliers parmi ces millions d’utilisateurs? Vos paramètres géographiques et vos choix en termes de préférences d’âge ou d’orientation sexuelle ? Bien sûr, mais encore… Toujours pas d’idée ?
La suite de notre propos sera sans doute éclairante.
Dans l’excellent ouvrage « L’amour sous algorithme », Judith Duportail s’est appliquée à décortiquer comment Tinder vous manipule. Et sa promesse croix de bois croix de fer de 2015 selon laquelle il n’utilisait plus l’Elo Score, cette note de désirabilité qui faisait que si vous étiez « matché » par une personne plus cotée que vous, votre note progressait, n’a pas empêché Judith Duportail de poursuivre son enquête, passant de (mauvaises) surprises en (encore plus mauvaises) surprises.
Sur la base des brevets déposés par la marque, elle s’est rendue compte que tout est calculé, analysé pour vous maintenir actif (plus vous passez de temps sur l’application, mieux c’est) et revenir chercher de nouveaux matchs. Comme par exemple de favoriser la remontée de profils d’« hommes apparaissant comme plus riches vers des femmes jeunes, moins riches et diplômées ».
Rien n’est laissé au hasard par l’algorithme : trouver des points communs entre deux personnes par analyse des photos, possibilité d’attribuer des notes d’attractivité physique, analyse textuelle des présentations pour évaluation des QI, et tant d’autres critères… Last but not least comme il se dit en bon anglais, Tinder préfère que vos rencontres soient belles mais ne durent pas trop longtemps, inventant ainsi l’obsolescence programmée des relations !
Est-ce éthique ? Là n’est pas forcément la question, certainement pas pour Tinder, en tout cas, entreprise privée dont le modèle économique reste au service d’une rentabilité maximale. Rien de choquant au fond… sauf pour vous, utilisateur, car là où le bât blesse, c’est votre absolue méconnaissance des règles du jeu. Usage n’est pas maîtrise.
Toutes les plateformes sont désormais rythmées à renfort d’Intelligence artificielle et de Big Data.
Plus que jamais, être citoyen, se comporter en citoyen, exige de comprendre les fondamentaux de ce monde émergent. Avec en corolaire l’obligation d’une plus grande transparence des algorithmes. Tout client devrait être en mesure de savoir comment fonctionne son service préféré.
Et ce dernier aspect est encore plus essentiel quand il s’agit de services émanant des pouvoirs publics. Prenons un exemple, celui du « 1% (en réalité 0,45%) logement » ; cette contribution est collectée uniquement par le groupement d’intérêt public, Action Logement (AL, le plus grand parmi les bailleurs sociaux), ce dernier gérant paritairement la Participation des Employeurs à l’Effort de Construction (PEEC), versée par les entreprises assujetties.
Comment fonctionne l’algorithme d’attribution de ses logements. Comment le demandeur est-il choisi et accepté ? Le devoir de transparence doit devenir la règle.
Pour conclure, les deux piliers sur lesquels toutes les parties prenantes, entreprises, associations, collectivités… doivent s’appuyer pour que le progrès technologique soit synonyme de progrès humain sont la maîtrise par le plus grand nombre de ces technologies et une transparence totale du fonctionnement de ses outils. Avec la régulation comme garde-fou, mais également et surtout, comme moteur essentiel, la formation à tout âge.
コメント