Qui a oublié le Minority report de Philip K. Dick ? En 1956, la nouvelle du romancier américain y décrit une société dystopique, où les futurs criminels sont arrêtés avant de passer à l'acte. Une fiction qui évoque aujourd'hui le cas de la Chine, où peuvent être réalisées des arrestations "préventives" grâce au big data (ou mégadonnées). Grâce à un système de "crédit social" dont l'expérimentation a débuté en mars 2018, la surveillance de masse détermine même qui a le droit de se déplacer en avion ou en train.
En France, nous n'en sommes évidemment pas là. Mais au cours d'un discours début juin 2018, qui dressait le bilan annuel de son action, le ministre de l'Intérieur Gérard Collomb a évoqué l'intelligence artificielle et son utilité pour les forces de l'ordre. "En matière d’exploitation des images et d’identification des personnes, on a encore une grande marge de progression. L’intelligence artificielle doit permettre, par exemple, de repérer dans la foule des individus au comportement bizarre", a-t-il indiqué, rapportent nos confrères de La Croix. Le "policier augmenté" par l'intelligence artificielle existe-t-il déjà aujourd'hui ? Un tel système est-il techniquement possible ? La réponse est oui, en partie tout du moins, car tout dépend des données sur lequel il se base. État des lieux.
Des prototypes conçus grâce à la science des données
Pour déployer des technologies de surveillance, encore faut-il commencer par collecter des données. Or il existe déjà le mégafichier TES (ou fichier des titres électroniques sécurisés), qui regroupe les données biométriques de tous les détenteurs d'une carte d'identité ou d'un passeport français. Selon cette page du ministère de l'Intérieur, la donnée reste "une mine d'or pour la sécurité". Mais à l'heure du tout numérique, tout ou presque peut devenir une source de données : images de vidéosurveillance, enregistrements sonores, reconnaissance faciale sur d'anciennes photos d'identité, analyse des publications sur les réseaux sociaux (Facebook, Twitter..) ou de l'activité sur des jeux en réalité augmentée tel Pokemon Go...
Qui a oublié le Minority report de Philip K. Dick ? En 1956, la nouvelle du romancier américain y décrit une société dystopique, où les futurs criminels sont arrêtés avant de passer à l'acte. Une fiction qui évoque aujourd'hui le cas de la Chine, où peuvent être réalisées des arrestations "préventives" grâce au big data (ou mégadonnées). Grâce à un système de "crédit social" dont l'expérimentation a débuté en mars 2018, la surveillance de masse détermine même qui a le droit de se déplacer en avion ou en train.
En France, nous n'en sommes évidemment pas là. Mais au cours d'un discours début juin 2018, qui dressait le bilan annuel de son action, le ministre de l'Intérieur Gérard Collomb a évoqué l'intelligence artificielle et son utilité pour les forces de l'ordre. "En matière d’exploitation des images et d’identification des personnes, on a encore une grande marge de progression. L’intelligence artificielle doit permettre, par exemple, de repérer dans la foule des individus au comportement bizarre", a-t-il indiqué, rapportent nos confrères de La Croix. Le "policier augmenté" par l'intelligence artificielle existe-t-il déjà aujourd'hui ? Un tel système est-il techniquement possible ? La réponse est oui, en partie tout du moins, car tout dépend des données sur lequel il se base. État des lieux.
Des prototypes conçus grâce à la science des données
Pour déployer des technologies de surveillance, encore faut-il commencer par collecter des données. Or il existe déjà le mégafichier TES (ou fichier des titres électroniques sécurisés), qui regroupe les données biométriques de tous les détenteurs d'une carte d'identité ou d'un passeport français. Selon cette page du ministère de l'Intérieur, la donnée reste "une mine d'or pour la sécurité". Mais à l'heure du tout numérique, tout ou presque peut devenir une source de données : images de vidéosurveillance, enregistrements sonores, reconnaissance faciale sur d'anciennes photos d'identité, analyse des publications sur les réseaux sociaux (Facebook, Twitter..) ou de l'activité sur des jeux en réalité augmentée tel Pokemon Go...
Un inventaire futuriste ? Pas tant que ça, puisque les quelques exemples listés ci-dessus proviennent de propositions faites dans le cadre d'un concours d'innovation intitulé "détection objets renseignement militaire", lancé en 2017 par l'Intelligence Campus, premier pôle de compétitivité dédié à la data science appliquée aux enjeux de la direction du renseignement militaire (DRM). Des prototypes ont été réalisés, sans que la DRM n'annonce pour l'instant un déploiement à large échelle d'un de ces systèmes. Fin 2015, suite aux attentats, la DRM a d'ailleurs signé une convention de recherche avec le CNRS. "Les recherches sur la reconnaissance automatique d’image intéressent particulièrement le renseignement militaire", expliquait Fabrice Boudjaaba, chargé de recherches au CNRS, sur le site de l'organisation scientifique. "En effet, leur principal problème du renseignement aujourd’hui n’est pas le manque d’information, mais bien le trop plein d’information qui peut submerger et finalement paralyser l’outil de renseignement."
L'intelligence artificielle face à la question des données personnelles
En février 2018, Gérard Collomb avait déjà détaillé ses propositions pour une "police numérique", et mentionné une première expérimentation prédictive bien concrète déjà menée en France. "Les services de l'Etat vont analyser les données avec de l'intelligence artificielle pour être encore plus efficaces, avec une expérimentation déjà lancée dans onze départements", indiquait-il dans une interview donnée au Point. En fait, ce logiciel "d'anticipation des crimes" ne concerne pour l'instant que la prédiction des vols de voiture et des cambriolages, et affiche une sorte de "carte météo" du risque. L'enjeu : orienter les patrouilles de gendarmes, ainsi que le relatent nos confrères de Radio France qui ont vu fonctionner le logiciel. Autrement dit, il s'agit d'un simple outil d'aide à la décision qui ne se base pas sur des données personnelles, mais les 7 dernières années de statistiques criminelles de chaque secteur.
Mais la généralisation de systèmes de captation tels que les caméras, notamment par les CRS (voir l'exemple de la caméra à 360° sur ce communiqué du ministère de l'Intérieur) face à des foules lors de grands événements ou de manifestations, pose de nouvelles questions, notamment quant au droit d'accès des données personnelles. À cet égard, un décret a encadré l'usage des caméras mobiles par les agents de polices et les militaires. Avec une nuance importante : le droit d'accès prévu par la CNIL ne peut plus s'appliquer qu'indirectement, en saisissant la CNIL, tandis que le droit d'opposition au traitement ne s'applique plus. Les caméras doivent toutefois être portées de façon apparente, et le déclenchement de l'enregistrement être notifiée aux personnes filmées. Ces données personnelles peuvent ensuite être conservées jusqu'à 6 mois, voire plus longtemps si elles sont utilisées dans le cadre d'une procédure judiciaire ou administrative.