Il y a souvent un décalage entre la perception des journalistes sur un sujet technologique et l’état de l’art réel. Prenons cet exemple très actuel de surveillance vidéo automatisée dans les gares. La SNCF veut mettre en place de « nouvelles technologies » pour exploiter les données de ses « nombreuses » caméras de sécurité. Qu’elle est aujourd’hui bien incapable d’exploiter en temps réel (du moins pas à leur plein potentiel !).
La solution ? Des technologies soit-disant nouvelles d’analyse comportementale pour détecter des comportements / situations suspects. Très bien. On sait qu’il y a aura plein d’erreurs mais l’idée est de faire le tri et d’attirer l’attention des opérateurs du système sur les caméras et situations potentiellement d’intérêt. En effet chaque opérateur a potentiellement des dizaines de caméras à surveiller, avec des flux très monotones, et n’est pas capable d’identifier sans assistance les situations suspectes.

Mais ces technologies ne sont pas nouvelles. Dans mes jeunes années (en 2008), lorsque je travaillais pour ASL, une boîte d’ingénierie en Angleterre, ils apportaient ces technologies au projet de la gare de Saint-Pancras de Londres. Déjà…
http://www.asl-control.co.uk/transport-building-technologies/rail-building-control-systems.php

Système de surveillance automatisée à Saint-Pancras

Vu le décollage promis au marché (et à ce sèmes technologies utilisées sur les véhicules autonomes) j’aurais peut-être dû rester ingénieur de recherche là-bas 🙂

Aujourd’hui ces technologies ont indéniablement mûri et sont disponibles « sur étagère », ce sont des fonctionnalités presque standard de logiciels de surveillance. Ce dont vont pouvoir bénéficier ces systèmes, ce sont les technologies de « deep learning », peu utilisées en 2008 : apprendre des multiples situations du quotidien (grâce à l’évaluation de chaque cas par les opérateurs) comment améliorer la détection. Celle-ci ne sera jamais parfaite ni dénuée d’ambiguïté. Surtout jamais dénuée de problèmes éthiques.

Les atteintes à la vie privée et aux libertés publiques sont bien sûr évoquées pour la forme (et balayées fort élégamment par le porte-parole SNCF). Mais il y a plus « intéressant » : les systèmes qui utiliseront à l’avenir des algorithmes de « deep learning » pour améliorer la détection pourraient bien reproduire les schémas discriminatoires habituellement appliqués par la police ou les agents de sécurité : fouiller en priorité des gens basanés, surtout s’ils portent une barbe, des babouches, ou le voile. Prendre en compte le parcours des personnes dans le système de transport. Assurément quelqu’un qui vient du « 9-3 » (voire d’un certain quartier belge désormais connu de tous) devrait-il être considéré comme plus suspect que quelqu’un ayant commencé son trajet dans le XVIè arrondissement, non ?

Ceci pourrait arriver d’autant plus vite que les technologies de « deep learning » utilisent la réponse des humains derrière le système pour apprendre. Donc si les humains ont ce type d’approche (et ils l’ont dans de nombreux cas démontrés), les systèmes de détection pourraient le reproduire à large échelle, de manière systématique. Guère enthousiasmant… On attend de voir à horizon 5-10 ans un scandale qui émergerait sur ce sujet. La sécurité ne serait pas garantie pour autant puisque l’expérience montre aussi (allez voir en Israël) que les apprentis terroristes s’adaptent aussi au type de contrôle, dans une course à l’échalote. On utilise alors des femmes plutôt que des hommes comme kamikaze, puis des enfants, ou des berceaux avec des bébés, etc… C’est sans fin.

 

Le bon côté c’est qu’il n’est pas avéré que la RATP ou la SNCF en soient à ce niveau. Pour l’instant ils mettent en place officiellement le bon vieil algorithme de détection du bagage laissé sur le quai un peu trop longtemps par un individu suspect (ou qui quitte le quai). Si cela peut aider le service des objets trouvés à faire de la prévention et me prévenir avant que je ne sorte de la station que j’ai oublié mon sac sur le quai 🙂

http://m.lesechos.fr/redirect_article.php?id=021565780613&fw=1#

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s