C’est le titre d’un très intéressant et récent article du blog C’est pas mon idée !. Un article qui signale que, face aux tueries de masse répétées aux Etats-Unis, la dirigeante d’un petit établissement, l’Amalgamated Bank, réputé pour son engagement en matière de responsabilité sociale et environnementale, a émis l’hypothèse de détecter les personnes susceptibles de passer à l’acte par l’analyse de leurs transactions. La même dirigeante a auparavant introduit un code marchand spécifique pour les boutiques d’armement, permettant d’identifier ce type d’achat sur les relevés d’opérations de cartes de crédit.
L’article détaille les contours de ce projet, consistant à concevoir des modèles d’apprentissage automatique capable de repérer les comportements suspects correspondant à un motif typique précédant un massacre. Il rapproche cette initiative du célèbre film Minority Report et souligne quels dangers elle soulève.
Cependant, depuis dix ans, si la protection des données individuelles a pu être réglementée, les visées liées à leur exploitation n’ont guère soulevé de débats. On voit mal, d’ailleurs, comment un débat pourrait s’engager puisqu’au départ, les mesures étant prises pour servir les plus nobles causes, comme dans le cas présent, personne ne peut s’y opposer.
Si tant est que ces mesures soient seulement aperçues.
Découvrir cela nous a en effet rappelé un article, publié sur le présent blog il y a déjà sept ans et qui signalait que contre les trafics humains, un guide a été communiqué en septembre 2014 aux banques américaines pour qu’elles détectent des comportements suspects, permettant de pister les organisations à l’origine de ces trafics.
Nous soulignions alors qu’il n’y avait guère de raison de limiter cette démarche au seul cas des trafics humains, parmi d’autres entreprises criminelles. Car, dès lors que des actions délictueuses font l’objet de transactions numériques, les banques sont évidemment bien placées pour les détecter, les dénoncer et les empêcher.
Allant plus loin, tandis qu’à l’heure du Big Data, simplement en scrutant et en stockant nos dépenses et mouvements en compte, les banques acquièrent la possibilité de fouiller à l’échelle des comportements individuels non seulement les actes potentiellement délictueux mais encore peu recommandables ou simplement déplaisants, nous demandions si les scorings individuels eux-mêmes n’intégreraient pas demain des éléments de plus en plus moralisants ou socialement pénalisants.
Un extrait de casier judiciaire pour obtenir un crédit ? En ces domaines, on peut imaginer beaucoup de choses. Et l’on peut aussi bien se demander ce qui pourrait empêcher qu’elles ne se mettent en place !
Notre principale défense consiste à nous répéter que l’on n’a de toute façon rien à cacher. Ce qui ne veut cependant rien dire dès lors que, sous le registre des intentions ou des profils de comportements possibles, on ne sait pas ce qu’on peut exactement nous reprocher.
