*En route vers un système de "crédit social" comme en Chine, système qui évalue nos comportements (réseaux sociaux), nos activités en ligne et nos habitudes de consommateur/payeur sur une échelle de scores et ce, en vue de déterminer notre capacité d'adhésion sociale et de conformité aux normes de l'Etat.
Les personnes ayant de faibles scores ne peuvent plus avoir accès à certains services, comme l'interdiction de prendre le train, et les droits individuels sont supprimés pour devenir des privilèges accordés par l'Etat.
Opérant dans l'ombre du marché en ligne, des entreprises de technologie spécialisées dont vous n'avez probablement jamais entendu parler exploitent de vastes trésors que sont nos données personnelles pour générer des «scores de surveillance» secrets - des clichés numériques de millions d'Américains - qui sont censés prédire notre comportement futur. Les entreprises vendent leurs services de notation aux grandes entreprises de l'économie américaine.
Les personnes ayant de faibles scores peuvent souffrir de graves conséquences.
CoreLogic et TransUnion affirment que les scores qu'ils vendent aux propriétaires peuvent prédire si un locataire potentiel paiera le loyer à temps, pourra «absorber les augmentations de loyer» ou rompre un bail. Les grands employeurs utilisent HireVue, une entreprise qui génère un score d '«employabilité» des candidats en analysant «des dizaines de milliers de facteurs», y compris les expressions faciales et les intonations vocales d'une personne . D'autres employeurs utilisent le score de Cornerstone, qui prend en compte le lieu de résidence d'un candidat et du navigateur Web qu'ils utilisent pour juger de leur succès dans un travail.
Les détaillants de marque achètent des «scores de risque» de Retail Equation pour les aider à juger si les consommateurs commettent une fraude lorsqu'ils retournent des marchandises pour remboursement. Les acteurs de l'économie des petits boulots utilisent des entreprises externes telles que Sift pour évaluer la «fiabilité globale» des consommateurs. Les clients sans fil dont la rentabilité est estimée moins élevée sont parfois contraints de supporter des temps d'attente plus longs pour le service client .
Les assureurs automobiles augmentent les primes en fonction des scores calculés à l'aide des informations des applications pour smartphone qui suivent les styles de conduite. Les grandes sociétés d'analyse surveillent si nous sommes susceptibles de prendre nos médicaments en fonction de notre propension à renouveler nos ordonnances; les sociétés pharmaceutiques, les prestataires de soins de santé et les compagnies d'assurance peuvent utiliser ces scores pour, entre autres, «faire correspondre le bon niveau d'investissement des patients aux bons patients».
La notation de la surveillance est le produit de deux tendances. Le premier est la collection effrénée (et pour la plupart non réglementée) de tous les détails intimes de nos vies, accumulés à la nanoseconde, des smartphones aux voitures, des grille-pain aux jouets. Cette lance d'incendie de données - dont la plupart nous donnons volontairement - comprend nos données démographiques, nos revenus, nos caractéristiques faciales, le son de notre voix, notre emplacement précis, l'historique des achats, les conditions médicales, les informations génétiques, ce que nous recherchons sur Internet, les sites Web que nous visitons, lorsque nous lisons un e-mail, quelles applications nous utilisons et combien de temps nous les utilisons, et à quelle fréquence nous dormons, faisons de l'exercice, etc.
La deuxième tendance à l'origine de ces scores est l'arrivée de technologies capables de traiter instantanément ces données: des ordinateurs exponentiellement plus puissants et des systèmes de communication à haut débit tels que la 5G, qui conduisent aux algorithmes de notation qui utilisent l'intelligence artificielle pour nous évaluer tous d'une manière ou d'une autre.
Le résultat: des décisions automatisées, basées sur le score unique de chaque consommateur, qui sont, en pratique, irréversibles.
C'est parce que tout le processus - les scores eux-mêmes, ainsi que les données sur lesquelles ils sont basés - nous est caché. Il est pratiquement impossible de savoir quand on est devenu la victime d'un score, et encore moins si un score est inexact, dépassé ou le produit d'un code biaisé ou discriminatoire programmé par un ingénieur logiciel sans visage. Il n'y a pas d'appel.
La notation de surveillance ressemble légèrement à la notation de crédit des années 1960. Dans cette ère pré-informatique, des enquêteurs privés travaillant pour des banques, des détaillants et des compagnies d'assurance suivaient les consommateurs et parcouraient les journaux à la recherche d'informations sur les arrestations, les promotions, l'orientation sexuelle, les habitudes de consommation d'alcool et la propreté pour décider de la solvabilité d'un consommateur - jusqu'à ce que le Congrès établisse des règles dans les années 1970 donner aux consommateurs le droit de revoir et de remettre en question leurs cotes de crédit.
👉Les fouilleurs de données d'aujourd'hui obtiennent infiniment plus d'informations sur leurs cibles, et en temps réel. Et l'impact de la notation de surveillance est bien plus pernicieux.
L'industrie de la technologie insiste sur le fait que chaque avancée améliore nos vies. Mais c'est un mythe. La notation de surveillance permet aux entreprises de dissimuler la discrimination à l'ancienne dans une aura d'infaillibilité technologique et d'émerveillement.
👉Les scores de surveillance secrète créent des micro-marchés dans lesquels certains consommateurs ne sont plus les bienvenus. Ils divisent les Américains en «nantis» et «démunis», les perdants étant relégués au statut de citoyens de seconde zone.
Les consommateurs ont besoin d'une solution du 21e siècle à cette menace émergente. Le Congrès, inondé d'argent technologique, est embourbé dans un paradigme juridique dépassé: «divulgation» des politiques de confidentialité et «consentement» via un clic. Personne ne prétend que ces concepts de droit des contrats de l'ère industrielle feront quoi que ce soit pour freiner le vol de données, et encore moins réglementer ou interdire les scores de surveillance secrète.
👉Nous avons demandé à la Federal Trade Commission d'enquêter et de réglementer les scores de surveillance. La réponse de la commission? Un article de blog exhortant les entreprises qui développent et appliquent des scores à s'autoréguler. 🤣
Ce n'est que le dernier exemple de la capitulation de Washington face à l'industrie de la technologie, dont la boucle continue de violations de la vie privée, d'excuses abjectes et de paiement de pénalités sans conséquence confirme que 👉 les consommateurs ne peuvent pas compter sur le gouvernement fédéral pour se protéger.
Le score de surveillance secrète nous place au bord du précipice de la «singularité», un tournant dystopique après lequel les machines porteront des jugements sur les humains qui détermineront notre destin. Soit nous prenons le contrôle de notre avenir, soit nous risquons de le perdre.
Aucun commentaire:
Enregistrer un commentaire