Affichage des articles dont le libellé est Obama. Afficher tous les articles
Affichage des articles dont le libellé est Obama. Afficher tous les articles

mardi 21 juillet 2015

Big Data & vie privée: quand Twitter permet d'identifier les dépressifs

Samaritain, l'A.I. à la Meilleur des mondes de la série TV People of Interest, ça vous rappelle quelque chose? L'an dernier, une firme a créé un mini-Samaritain pour détecter les personnes à tendance suicidaire sur Twitter... Ou les dangers du Big Data.

Le numéro spécial de Science sur l'intelligence artificielle contient un article intéressant, intitulé "Data, privacy, and the greater good" (17 juillet 2015, vol. 349, n°6245, p.253-255).

Les auteurs, E. Horvitz et D. Mulligan, adressent la question des menaces pesant sur la vie privée au vu de l'analyse automatisée du Big Data et des procédés de machine-learning, qui permettent de tirer des inférences potentiellement indiscrètes à partir de données privées rendues publiques (i.e. pages Facebook, fils Twitter, etc.), lesquelles elles ne révèlent a priori rien de sensibles. Seul la coordination des données constitue en effet le caractère sensible de l'information obtenue. Ils insistent à bon droit sur la non-opérativité du concept de "données anonymes" (fortement présent dans la législation) puisqu'il est désormais possible, dans de nombreux cas, de ré-identifier ces données.

Quelques exemples édifiants - qui soulignent, contre d'innombrables tribunes récentes dans les médias, que la santé n'est pas nécessairement un argument de choc pour le partage des données... 

En 2014, une application britannique opérant sur Twitter, nommée Good Samaritan (après la série People of Interest?), affirmait pouvoir détecter, en analysant les fils de discussion, les personnes sujettes à d'éventuels comportements suicidaires. En à peine une semaine, 3 000 personnes s'étaient inscrites à l'application, identifiant les tweets jugés dépressifs de 900 000 comptes! Bien que l'entreprise niait être le gestionnaire des données (data controller, un détail crucial eu égard au droit de la vie privée), elle ferma le service aussitôt, suite à l'émotion soulevée (voir la pétition Shut Down Samaritan Alert). Quoique cette firme n'avait évidemment comme seul but le bienfait de l'humanité, ses détracteurs soulignaient que l'appli pouvait être utilisée par d'éventuelles personnes mal-intentionnées afin de traquer les tweeters fragiles (les dits stalkers). 

Sans tomber sur des psychopathes, on frémit à l'idée de patrons s'abonnant aux comptes tweeters de leurs employés... à des amis ou proches s'intéressant un peu trop à vos états d'âmes... ou à Google estimant votre taux de bonheur en fonction de votre localisation GPS et de l'usage de vos applis sur téléphone. Il est vrai que ce taux est un critère indéniable du bien-être, et doit être pris en compte par toute conception un tant soit peu large de la santé. N'est-ce pas?

Outre Samaritan, des chercheurs de Palo Alto, toujours à la pointe du progrès, ont soutenu qu'on pouvait utiliser Facebook pour détecter les "dépressions post-partum" (1). Cela permettrait sans doute un grand bénéfice pour l'humanité, par exemple en permettant d'envoyer des opérateurs agréés pour vous contraindre à un traitement thérapeutique voire préventif (et oui, il faut être pro-actif!), ou du moins à faire du sport. Ou encore en permettant à un employeur potentiel de mettre en balance ce CV excellent avec ce signe non moins certain d'une moindre productivité. Gagnant-gagnant?

L'article contient également quelques indications sur les rapports de l'administration Obama sur ce sujet.

Notes et références: 

(1) M. De Choudhury, S. Counts, E. Horvitz, A. Hoff, Characterizing and predicting postpartum depression from Facebook data, in Proceedings of International Conference on Weblogs and Social Media [Association for the Advancement of Artificial Intelligence (AAAI), Palo Alto, CA, 2014]

 A lire: Horvitz et Mulligan, Science magazine, 17 juillet 2015, 349 (6245): 253-255, http://www.sciencemag.org 

Voir aussi : "Nos tweets peuvent-ils prédire une attaque cardiaque?", Internet Actu , 6 mai 2015, et le site du psychologue (un doctorant bien loti!) en question : http://www.jeichstaedt.com

Et pour l'anecdote, le premier psychothérapeute robotisé de l'histoire: http://psych.fullerton.edu/mbirnbaum/psych101/Eliza.htm  



Creative Commons License Merci d’éviter de reproduire cet article dans son intégralité sur d’autres sites Internet et de privilégier une redirection de vos lecteurs vers notre site et ce, afin de garantir la fiabilité des éléments de webliographie.

vendredi 9 avril 2010

Minority Report à la Maison Blanche: le profilage des voyageurs aériens

L'administration Obama vient d'annoncer une modification du profilage des voyageurs aériens, qui suscite plus de questions que de réponses. Le profilage est la technique consistant à élaborer des schémas statistiques, et abstraits, de comportement à partir de bases de données personnelles ou anonymisées, afin d'élaborer un "profil type" (en l'occurrence, de personnes considérées comme "dangereuses"), pour pouvoir mieux cibler les contrôles. Elle permet donc de départager les "bons voyageurs" des "mauvais", officiellement appelés "voyageurs à risque", selon une logique dite proactive, ou d'anticipation des risques (Minority Report fournit l'illustration extrême d'une telle logique).

Données PNR/API ou la logique du profilage

Jusqu'ici, les Etats-Unis se fondaient en particulier sur les données PNR (Passenger Name Record), c'est-à-dire les données nominatives, d'état civil, fournies par le client lorsqu'il prend son billet d'avion: nationalité, nom, âge, etc. Ces données - dont l'Union européenne se sert aussi - étaient couplées aux données API (Advanced Passenger Information), élaborées à l'origine par les compagnies aériennes pour leur propres fins (ce sont les données comportant par exemple le type de préférence alimentaire, afin d'organiser la distribution des repas en vol: données à l'évidence sensibles).

Le thème des données PNR et du profilage, ou de la constitution d'une catégorie de "voyageur à risque", est très controversé en Europe, le Contrôleur européen à la protection des données (CEPD) ayant plusieurs fois signalé sa méfiance à l'égard de ce qui constitue "une étape supplémentaire vers une collecte systématique des données concernant des personnes qui, en principe, ne sont soupçonnées d'aucune infraction". Le G29 (groupe de l'article 29, institué par la directive 95/46/CE sur la protection des données personnelles) évoquait, quant à lui, l'instauration d'une "société de surveillance".

Enfin, l'Agence européenne des droits fondamentaux (AEPD) soulignait que cette procédure vise non seulement les "suspects", ce qui en soi fournit matière à débat, mais aussi, potentiellement, toute personne "connaissant" ou étant "entré en contact" avec ces derniers.

La figure du professeur Martin Almada, célèbre pour avoir découvert les "Archives de la terreur" à Lambaré (Paraguay), qui concernent l'opération Condor mise en place dans les années 1970 par les dictatures latino-américaines, illustre "à merveille" ce genre d'associations douteuses, dites "guilt by association" (culpabilité par association), avec des conséquences certes tragiques. Almada, qui était à l'époque relativement conservateur et loin d'être un opposant à la dictature d'Alfredo Stroessner, fut arrêté, torturé et incarcéré des années durant dans les sinistres cachots du Paraguay pour s'être rendu "coupable" de fréquenter l'Université de La Plata, en Argentine, en même temps que des compatriotes qui avaient préparé un attentat contre le vieux dictateur. Pour le simple fait d'avoir côtoyé des personnes alors considérées comme "terroristes", Almada fut ainsi l'une des cibles de l'opération Condor (son séjour en prison en fera un opposant courageux et déterminé). Fin de la parenthèse.

L'évolution du système américain de profilage: de la liste des "pays à risque" au profilage individuel

Par ailleurs, depuis la tentative d'attentat de Noël à bord du vol 253 Northwest Airlines, Washington a dressé une liste de 14 pays "à risque": tout voyageur provenant de ces pays était soumis à une fouille à corps et autres procédures de contrôle renforcé. Ce dispositif souffre de trois inconvénients majeurs, qui découlent les uns des autres:
  • on l'accuse d'être discriminant, ou de constituer un "profilage racial" pour reprendre le terme américain; ces pays appartiennent presque tous au monde "arabo-musulman": Afghanistan, Algérie, Liban, Libye, Irak, Nigeria, Pakistan, Arabie saoudite, Somalie, Yémen, et les quatre prétendus "Etats voyous", Soudan, Iran, Syrie et Cuba. Plus largement, il implique une sorte de "responsabilité collective": être de telle ou telle nationalité vous vaut d'être traité d'une autre façon que de venir de tel ou tel autre pays.
  •  il est à la fois trop large et trop étroit: trop large, en ce que le "filet" englobant des catégories de passager distinguées selon le critère de la nationalité, trop de personnes sont soumises à un contrôle tatillon, ce qui ralentit le flux de voyageurs et l'efficacité du dispositif. Trop étroit, parce qu'il suffit de ne pas appartenir à l'un de ces 14 pays pour échapper à la vigilance des autorités, alors qu'on sait qu'un certain nombre de personnes ayant commis des attentats en Europe ou aux Etats-Unis (attentats infiniment moins nombreux qu'en Asie centrale, au Caucase et au Moyen-Orient) n'étaient pas des étrangers.
  • en ne sélectionnant pas assez les voyageurs, il alourdit les procédures de contrôle, ce qui non seulement les rend moins efficace, mais implique de surcroît une perte financière pour les compagnies aériennes, ce qu'ont souligné ces dernières (Washington Post). Le dispositif symétrique, et inverse, du "passager à risque", est ainsi constitué par la figure du "voyageur fréquent" (souvent enregistré sur un programme biométrique, tel, en France, le programme PARAFES), dont le motif principal n'est pas tant la sécurité que l'accélération du passage aux frontières.
Pour des raisons à la fois "éthiques", politiques et d'efficacité dans la prévention du terrorisme, l'administration Obama préconise donc de remplacer ce système par un profilage individualisé des voyageurs aériens à destination des Etats-Unis. L'ennui, c'est que le nouveau système proposé n'est pas moins contestable que l'ancien.

En premier lieu, contrairement à ce que pourrait laisser entendre Le Figaro, les Etats-Unis ne vont pas tellement "abandonner" la liste des "pays à risque", mais élargir celle-ci (Los Angeles Times). Le critère de la nationalité continuera à être pris en compte dans l'élaboration de la catégorie des "passagers à risque". Cependant, à ce critère vont s'ajouter une myriade d'autres informations, jugées "données sensibles" en Europe. Ainsi, au lieu de se contenter des données PNR (nom, nationalité, etc.), les services américains vont aussi se fonder sur la liste des pays récemment visités, des "signes physiques" éventuels, etc.

Pour le Los Angeles Times, cela vise notamment à élargir le "filet" au-delà des individus nommément désignés dans la "no-fly list", en permettant d'utiliser des informations fragmentaires ("un nom partiel, une nationalité, certains traits du visage, ou des détails sur un voyage récent"). Ainsi, si, par exemple, les services de renseignement américains disposent de suspicions sur un individu ayant voyagé dans certains pays, mais qu'ils ne connaissent ni son nom ni son numéro de passeport, ils pourraient orienter les contrôles vers tous les individus ayant transité par les mêmes pays.

Cependant, ce profilage est plus que contesté: il "soulève déjà, écrit Le Figaro, des interrogations sur les risques associés de délit de faciès, l'établissement du «profil» reposant partiellement sur le jugement personnel des agents de sécurité à travers le monde." Comme on l'a vu, il revient à substituer une catégorie de personnes à une autre: au lieu de focaliser les contrôles sur les ressortissants des 14 "pays à risque", on focalise les contrôles sur tous les individus ayant eu des "schémas de comportement" semblables à ceux de la personne soupçonnée.

Qu'on soit dans le profilage fondé sur la nationalité, ou dans celui maintenant proposé par la Maison Blanche, l'idée reste la même: on jette un large filet pour capturer deux ou trois poissons soupçonnés d'être un peu trop voraces, quitte à faire du mal aux pauvres petits poissons amalgamés à ces derniers. C'est simplement la nature de l'ensemble (ou des "poissons" capturés) qui change, pas le principe selon lequel en se fondant sur une simple suspicion construite par les services de renseignement, on s'autorise à jeter des filets sur des personnes innocentes, en espérant ainsi arrêter le "suspect" avant même qu'il ne se rende responsable d'un crime.

L'externalisation du contrôle aux frontières et la difficulté de la coopération mondiale des services de sécurité

Cette individualisation du mode de profilage va de pair avec une modification du dispositif: les passagers "ciblés" comme "à risque" (notion subjective) - y compris les citoyens américains - seront fouillés avant le décollage, voire interdits de vol. Le DHS (Département de la Sécurité intérieure) transfèrera en effet ces données aux compagnies aériennes et aux gouvernements étrangers afin qu'ils procèdent à un "screening" pointilleux des "voyageurs à risque". Aujourd'hui, les données PNR "ne sont partagées qu'avec les douanes et seulement après qu'un passager a déjà décollé, donc inutiles face à un voyageur «mal» intentionné", indique Le Figaro.

Les Américains s'abstiendront cependant de communiquer toutes les informations dont ils disposent aux gouvernements et compagnies étrangères afin d'éviter des fuites à destination des "terroristes".

Aussi, dans le même temps où ils externalisent le contrôle aux frontières, via un système de coopération et d'échange d'informations, ils gardent la main-mise sur la quantité et la nature des renseignements transmis. Il s'agit là d'un paradoxe inévitable; mais s'ils invoquent des questions de sécurité nationale à l'appui de cette restriction des renseignements transmis, on peut ajouter à cela des motifs démocratiques: ce qui est utilisé par les douaniers et services de renseignement américains pour (entre autres) prévenir des actes de terrorisme sur le territoire national ou/et sur des avions à destination des Etats-Unis peut aussi être utilisé par des gouvernements étrangers dans leur traque aux présumés "terroristes". Avec toutes les atteintes aux droits de l'homme (assassinats, torture, etc.) que cela peut supposer.

Dans le Los Angeles Times, un responsable américain explique:
Dans certains cas, les décisions concernant qui sera sélectionné pour un contrôle approfondi [screening] seront faites automatiquement en comparant les informations obtenues par les agences de renseignement avec les bases de données sur les passagers. Par exemple, si les Etats-Unis ont reçu des informations concernant des pays qu'un terroriste potentiel a visité, tous les passagers ayant visité ce pays pourraient être sujets à contrôle renforcé [could be pulled aside] (...).
 
Dans d'autres cas, la décision au sujet de qui fouiller dépendra de la discrétion ou de la vigilance de ceux devant traiter avec les passagers. Par exemple, si on leur dit de faire attention aux passagers avec un trait facial déterminé, ce sera aux vigiles ou au personnel de navigation de désigner le passager pour un contrôle spécifique.
La directive 95/46/CE sur la protection des données personnelles et la loi Informatique et libertés de 1978 interdisent formellement toute "décision automatique", ce qui pourrait susciter des divergences. L'art. 15 de la directive reconnaît en effet "à toute personne le droit de ne pas être soumise à une décision produisant des effets juridiques à son égard ou l'affectant de manière significative, prise sur le seul fondement d'un traitement automatisé de données destiné à évaluer certains aspects de sa personnalité, tels que son rendement professionnel, son crédit, sa fiabilité, son comportement, etc." (nous soulignons). Une exception est toutefois prévue si elle est encadrée par la loi.

Le Figaro souligne encore que
les listes de passagers «soumis à une surveillance renforcée» (24.000 personnes) et de ceux «interdits» de séjour aux États-Unis (passés de 3.000 à 6.000 depuis Noël) seront maintenues. En outre, quelque 1.000 scanners corporels à 150.000 dollars la pièce seront installés d'ici à la fin de l'année dans les aéroports.
Le nombre exact de personnes inscrites sur ces listes reste vague (le Los Angeles Times donne des chiffres inférieurs).

Le dilemme de l'administration Obama

Malgré l'accent mis sur les droits de l'homme par l'administration Obama, il semble ainsi que certaines techniques mises en œuvre par Bush dans le cadre de sa "guerre contre le terrorisme" soient difficilement contournables. Le profilage des voyageurs aériens n'est d'ailleurs pas une spécificité américaine. La Commission européenne vient ainsi d'exiger que les compagnies aériennes transfèrent aux autorités européennes (et des Etats membres de l'UE) les données PNR, ce qu'elles font déjà pour les autorités américaines.

Il s'agit d'un problème complexe, opposant services de renseignement et impératifs de la sécurité nationale à la liberté de mouvement, au respect de la vie privée et au principe d'égalité et de non-discrimination. D'une certaine façon, l'évolution proposée par Obama, d'un profilage fondé sur des catégories nationales, à un profilage fondé sur des schémas de comportement, est à la fois rationnelle, du point de vue de la sécurité et économique (les compagnies aériennes y gagnent), et plus égalitaire: les contrôles accrus, voire l'interdiction de vol, ne seront pas réservés aux ressortissants malheureux de 14 pays "à risque", mais à toute personne dont les comportements sont "douteux" au regard des services de renseignement.

Mais c'est la logique même du profilage, de la police "pro-active", et de l'externalisation du contrôle à des compagnies aériennes et aux gouvernements étrangers qui est douteuse. Que ce soit dans le profilage "national" ou dans un profilage plus "individualisé", on mélange innocents avérés à des personnes qui, au fond, ne restent que des personnes susceptibles, aux yeux des agences de sécurité nationale, de commettre des crimes qualifiés de "terroristes". Ces personnes ne sont pas des "suspects" au sens judiciaire du terme, puisqu'on ne les accuse pas d'avoir commis un crime, mais d'être "disposé" à, éventuellement, en commettre un. Afin de prévenir ce "risque", on fait le choix délibéré d'attenter aux droits de certaines personnes qu'on sait innocentes, mais qui ont eu le malheur de partager certains "comportements" (aller dans tel ou tel pays, telle ou telle université, etc.) avec le "terroriste potentiel". Ce choix est justifié par les renseignements qui savent qu'ils vont rendre la vie difficile à certains innocents, voire très difficile dans la mesure où le contrôle serait externalisé vers des pays très peu démocratiques, mais qui ne savent pas exactement comment distinguer ces innocents des "personnes s'apprêtant peut-être à commettre des actes terroristes".

En d'autres termes, la catégorie des "voyageurs à risque" amalgame personnes qu'on sait innocentes à des individus sous surveillance des agences de sécurité, non pas parce qu'elles ont commis un crime, mais parce qu'elles pourraient le faire. C'est ainsi que la logique inhérente du monde du renseignement, qui, par définition, se fonde sur des hypothèses fragiles et des suspicions équivoques , contamine le reste de la société, minant les principes mêmes de la démocratie, selon laquelle toute personne est présumée innocente jusqu'à preuve du contraire. Les soupçons hasardeux des services américains, fondés sur des "schémas de comportement" statistiques et abstraits, vont ainsi avoir des conséquences bien réelles pour des personnes bien vivantes.  

Creative Commons License
Merci d’éviter de reproduire cet article dans son intégralité sur d’autres sites Internet et de privilégier une redirection de vos lecteurs vers notre site et ce, afin de garantir la fiabilité des éléments de webliographie.


David S. Cloud,  U.S. to use profiling checks for incoming flights, Los Angeles Times, 1er avril 2010.


Anne E. Kornblut et Spencer S. Hsu, U.S. changing way air travelers are screened, Washington Post, 2 avril 2010

Adèle Smith, Washington muscle sa sécurité aérienne, Le Figaro, 2 avril 2010 

Toby Vogel, Commission wants passenger data on travellers from the US, European Voice, 8 avril 2010.