Joy Buolamwini, fondatrice de l’Algorithmic Justice League
Joy Buolamwini est une militante numérique au parcours exemplaire. A l’âge de 9 ans, cette américano-ghanéenne apprend par elle-même à coder, inspirée par le robot Kimset du MIT. Deux décennies plus tard, la voici désormais membre du prestigieux laboratoire pour lequel elle réalise une thèse très remarquée sur les biais algorithmiques.
Pour ce faire, la jeune femme soumet 1000 visages à un système d’identification faciale, pour mesurer leur capacité à déterminer si ces derniers étaient de sexe féminin ou masculin. La conclusion est sans appel : les sujets féminins à peau foncée sont très mal identifiés. Des biais pouvant mener à une possible discrimination des minorités. S’en suit une tribune dans le New-York Times en 2018 qui fait date, poussant les mastodontes du secteur comme IBM et Microsoft à revoir leurs pratiques.
Fondatrice de l’Algorithmic Justice League, la militante propose aussi des solutions pour endiguer ces biais. Son TED Talk sur le sujet a depuis été visionné plus d’un million de fois. Joy Buolamwini a également remporté le Grand Prix d’un concours national inspiré du film « Hidden Figures » parmi plus de 7000 candidatures.
Margaret Heafield Hamilton, née Margaret Heafield le 1, est une informaticienne, ingénieure système et cheffe d’entreprise américaine. Elle était directrice du département génie logiciel (« software engineering », terme de son invention2) au sein du MIT Instrumentation Laboratory qui conçut le système embarqué du programme spatial Apollo3. En 1986, elle fonde la société Hamilton Technologies, Inc. à partir de ses travaux entrepris au MIT.
Margaret Hamilton au clair de lune : hommage à une icône d’Apollo 11
Désert de Mojave. Le clair de lune frappe plus de 107 000 miroirs solaires pour créer un portrait de la programmeuse informatique d’Apollo 11, Margaret Hamilton. Plus grand que Central Park à New York, le portrait est un hommage à la contribution d’Hamilton au programme Apollo et au domaine du génie logiciel.
« Intéressez-vous au numérique avant qu’il ne s’intéresse à vous »
Aurélie Jean
Carrière
Depuis 2018, elle vit entre les États-Unis et la France, où elle partage son temps entre le conseil, la recherche, l’enseignement et les contributions éditoriales. Elle tient une chronique hebdomadaire sur les sciences et les technologies dans le magazine Le Point6. Après son parcours universitaire, elle travaille notamment presque deux ans chez Bloomberg comme développeuse informatique sur des questions de modélisation7, avant d’être nommée en septembre 2018 consultante senior par le Boston Consulting Group8.
Elle est la marraine de la première promotion de l’École IA Microsoft à Issy-les-Moulineaux9.
En 2019, elle publie De l’autre côté de la machine – Voyage d’une scientifique au pays des algorithmes10 pour résoudre, selon un article paru sur le site de l’AFIS, les « nombreuses incompréhensions » en la matière. L’ouvrage traite non seulement de l’histoire des algorithmes, mais aussi des biais dont ceux-ci sont entachés. Aurélie Jean décrit par exemple le cas de l’algorithme de recrutement d’Amazon, entraîné « sur la base de données des embauches des dix années précédentes où la majorité des postes avaient été pourvus par des hommes ; l’algorithme en a donc conclu, à tort, que les hommes étaient de meilleurs candidats »5.
Pour ce débrief du numéro de Cash Investigation « Nos données personnelles valent de l’or ! » (replay), Elise Lucet est entourée de Linda Bendali, qui a réalisé l’enquête, Bertrand Scirpo, le délégué à la protection des données personnelles à France Télévisions, et Emmanuel Gagnier, le rédacteur en chef de « Cash ».
Que pouvons-nous faire pour protéger au mieux nos données ?
Pourquoi la CNIL a-t-elle autorisé la collecte des données de santé auprès des pharmacies ? N’est-elle pas censée protéger ces données ?
Comment faire pour s’opposer à l’envoi de nos données à IQVIA ?
Il semble que l’application Ma Grossesse ne soit plus accessible depuis un mois. Savez-vous si ces changements sont liés à la réalisation de votre enquête ?
es sites demandent une autorisation pour les cookies. Certains nous obligent à les accepter, ou à payer pour accéder au contenu (par exemple, Marmiton). Est-ce que c’est légal ?
Pourquoi France.tv demande à s’inscrire avec son adresse mail et sa date de naissance pour voir, entre autres, « Cash Investigation » ?
es courtiers en données personnelles, ou data brokers, ont un discours tout trouvé pour rassurer un utilisateur de l’Internet qui craindrait pour ses données personnelles : elles sont anonymisées, donc pas de nom ni de prénom. Il serait donc impossible de l’identifier et il pourrait ainsi surfer sur le Net incognito. Mais cette promesse, c’est du bidon ! A l’Imperial College de Londres, depuis plusieurs années, une équipe de chercheurs alerte sur les risques que représentent les bases de données pour la vie privée.
A sa tête, le Belge Yves-Alexandre de Montjoye, l’un des experts les plus réputés au monde de l’anonymisation des données. « Ceci est un outil qu’on a développé, avec beaucoup de pays dans le monde, pour essayer d’aider à expliquer comment on peut ‘ré-identifier’ une personne. Il permet de voir ce qui va être nécessaire pour retrouver une personne dans le pays en question », explique-t-il au magazine « Cash Investigation » (replay). Il dispose ainsi d’une base de données anonymes qui contient les profils de 66 millions de Français.
« Cash » révèle comment un téléphone espionne son utilisateur, comment des données très personnelles sur sa religion, sa grossesse ou son moral sont envoyées sans son consentement à des partenaires commerciaux. Par exemple, lors d’une connexion sur le site de santé Doctissimo, des informations sont transmises à l’insu de l’utilisateur et elles vont ensuite être envoyées à des entreprises appelées des « data brokers » qui vendent ces données de consommateurs pour des publicités ciblées. Un marché colossal estimé à 400 milliards d’euros en Europe !…
Avec le profilage prédictif, les courtiers en données personnelles, ou data brokers, peuvent désormais lire dans les pensées des consommateurs en étant branchés directement sur leur cerveau… Et pour le démontrer, le magazine « Cash Investigation » (replay) a commandé un appareil qui ne se branche pas sur le crâne mais se porte au poignet : une montre de sport, la Fitbit Inspire rachetée par Google, l’un des modèles les plus vendus en France, qui rafle les données de 29 millions d’utilisateurs dans le monde.
Pour le magazine, la journaliste Rébbeca Khananié va jouer les cobayes. Afin de mettre sa montre en marche, elle doit créer son profil. A partir de cet instant, toutes ses données vont être enregistrées : le nombre de pas qu’elle fait dans la journée, sa fréquence cardiaque, la quantité de calories qu’elle brûle ou la qualité de son sommeil. Des informations en apparence anodines, mais qui pourraient par exemple être utilisées pour l’embaucher ou lui accorder un crédit…
Tu ne rates aucun tweet et tu checkes ton smartphone constamment ? C’est irrésistible et tu fais tout pour ne rater aucune info. C’est normal car l’appli est basée sur un mécanisme essentiel et primitif de ton cerveau, l’ANXIÉTÉ qui se manifeste par la peur de passer à côté de ce qui se passe online, te poussant à rester continuellement connecté.
Ça y est ! Tu t’es enfin décidé(e) à devenir chauffeur Uber. Tu penses être libre et indépendant(e) mais c’est plus compliqué. L’appli va tout faire pour te donner des ordres sans que tu t’en aperçoives en utilisant la technique du NUDGE, des petits coups de coude pour te pousser vers ce qu’Uber considère comme une meilleure décision pour toi… ou pour ses actionnaires !
Snapchat est super fun et tu ne peux pas t’emêcher de checker les derniers filtres pour envoyer des snaps à tes amis. c’est normal, car l’appli est basée sur le DON, une interaction universelle, ayant un caractère obligatoire. Ainsi tu te sens toujours obligé(e) de répondre par un contre-don, envoyant des snaps à tes amis, même si tu n’as rien à dire.
