Après la voiture et le téléphone, l’IA sera-t-elle la prochaine révolution de la police ?

« Cette délégation doit ainsi accélérer l’action, la décision mais ne doit pas créer une dépendance. Il s’agit donc de bien identifier les cas d’usage sur les bons processus, notamment ceux à faible valeur ajoutée et de bien maintenir in fine la capacité de prise de décisions des forces de sécurité intérieure », écrivez-vous. N’y a-t-il pas en effet un risque excessif, avec l’IA, que l’État perde le contrôle de ses propres prérogatives ?

Benoît FAYET. – L’IA n’est pas une fin en soi mais seulement un nouvel outil pour améliorer le travail des forces de sécurité intérieure, comme le sont l’informatique ou la biométrie par exemple, et tel doit être le sens de cette innovation technologique. Il faut se féliciter que la France et l’Union européenne disposent d’un cadre protecteur permettant de se prémunir contre le risque évoqué, et défendent un usage raisonné des données et de l’IA, loin des usages excessifs parfois constatés dans d’autres pays. L’IA doit toujours venir en appui afin que les tâches qui pourraient lui être confiées restent sous la primauté humaine en contrôle et en validation.

Mathieu ZAGRODZKI. – L’IA ne doit pas remplacer la présence humaine, car on voit bien que la population est en demande d’interlocuteurs humains. Tout le monde a été frustré un jour de ne pas parvenir à parler à un humain en tentant de contacter un service client ou une administration, donc la police ne doit pas tomber dans ce même travers. En revanche, tout ce qui décharge les fonctionnaires de police et les militaires de la gendarmerie de tâches pouvant être automatisées, au bénéfice du temps consacré à traiter les demandes de la population et contribuer à sa sécurité, peut être un outil utile.

Au niveau européen, l’AI Act, en vigueur depuis 2024, encadre juridiquement l’usage des intelligences artificielles. Quelles restrictions impose-t-il et, en matière de sécurité, quelles exceptions prévoit-il ?

B.F. – L’objectif de l’AI Act est de garantir que les systèmes d’IA utilisés dans l’UE soient sûrs, transparents et sous contrôle humain, avec une vigilance particulière pour les usages dans l’espace public. Pour ce qui concerne la sécurité, l’identification biométrique dans l’espace public, les systèmes de reconnaissance faciale ou de police prédictive sont interdits. En revanche, les systèmes d’IA à «risque limité» sont permis avec des obligations de conformité et de transparence : détection d’objets, contrôle de zones, ….

Retrouvez l’entretien sur lefigaro.fr