La confidentialité de l’être humain et l'intelligence artificielle - Clearview AI

Contenu

• Clearview AI : un nouveau concept de l’intelligence artificielle
• Une utilisation aussi large qu’effrayante
• Un immense danger pour la confidentialité des données

Parmi les succès flagrants de Hoan Ton-That, un technicien australien, nous identifions la fameuse application iPhone. Celle-ci permet aux utilisateurs de mettre les cheveux de Donald Trump sur leurs propres photos. C’est le même inventeur qui a mis en place un outil qui pourrait mettre fin à la marche de l’être humain dans la rue de manière anonyme. Cette capacité d’identifier des personnes dans les endroits publiques a été fournie à des centaines d'agences d'application de la loi, allant des flics locaux en Floride au FBI et jusqu’au département de la sécurité intérieure. Découvrons l'application,

Clearview AI : un nouveau concept de l’intelligence artificielle

Clearview AI se sert de l’intelligence artificielle pour identifier les personnes à partir d’une photo ou une vidéo. Il s’agit d’une sorte de moteur de recherche mais avec des photos …

Clearview a été cofondée par M. Ton-That, et Richard Schwartz - un assistant de Rudolph W. Giuliani lorsqu'il était maire de New York - et soutenu financièrement par Peter Thiel, un capital-risqueur derrière Facebook et Palantir. Un autre investisseur est une petite entreprise appelée Kirenaga Partners. Son fondateur, a ainsi mis à l’écart tous les doutes et suspicions concernant l’application en relation avec internet, en confirmant le grand intérêt et utilisabilité de l’application pour la détection et résolution des crimes: "Je suis parvenu à la conclusion que, comme les informations augmentent constamment, il n'y aura jamais de confidentialité", a déclaré M. Scalzo. «Les lois doivent déterminer ce qui est légal, mais vous ne pouvez pas interdire la technologie. Bien sûr, cela pourrait conduire à un avenir risqué, mais vous ne pouvez pas l'interdire.» a t-il ajouté. En savoir plus sur l'intelligence artificielle.

Une utilisation aussi large qu’effrayante ! 

L‘application de reconnaissance faciale a de quoi faire peur. Ainsi, elle dévoile des informations personnelles de n’importe quel passant dans la rue à partir d’une simple photo.

Dans un autre contexte, et sans examen public, plus de 600 organismes d'application de la loi ont commencé à utiliser l'application Clearview au cours de l'année écoulée. Le code informatique de cette application est analysé par le New York Times. Ainsi, il comprend un langage de programmation pour l'associer à des lunettes dits “de réalité augmentée“. Les utilisateurs peuvent potentiellement identifier chaque personne qu'ils ont vue. L'outil possède ainsi la capacité de réaliser plusieurs identifications dans divers cadres; A titre d'exemple, les militants dans une manifestation ou les personnes suspectes dans les moyens de transport publiques. Il révèle non seulement leurs noms, mais plusieurs autres informations telles que leurs adresses, leurs professions, leurs centres d’intérêt, etc.

Cependant, cette application n’est pas sans failles. En effet, Ton-That a affirmé que l'outil ne fonctionne pas toujours. Ceci revient au fait que la plupart des photos de la base de données de Clearview sont prises au niveau des yeux. Une grande partie du matériel que la police télécharge provient de caméras de surveillance montées au plafond ou sur les murs. Ce qui rend inadéquat l’angle de prise de photos pour la reconnaissance faciale. Malgré cela, selon la société, l’outil approuve des correspondances jusqu'à 75% du temps. Cependant, la fréquence à laquelle il fournit de fausses correspondances n'est pas claire ni exacte. En effet, l'outil n'a pas été testé par une entité indépendante, comme le “National Institute of Standards and Technology“.

Un immense danger pour la confidentialité des données

Comme toute autre machine ou technologie, l'appli Clearview AI pourra commettre des erreurs et des bugs. Son utilisation est jusqu’à maintenant réservée au domaine de la sécurité, et pas encore ouverte au grand public.

En effet, quelques tierces parties ont déclaré l’inexactitude de l’outil. D'après elles, cela revient au risque d’erreur élevé d’identification, provenant de bases de données volumineuses. Cette conclusion a été stipulée par Clare Garvie, chercheur au centre Privacy & Technology de l’université de Georgetown. L'une des raisons pour lesquelles Clearview a eu ce succès est l’unicité de son service. Par contre, quelques outils tels que Facebook et d'autres médias sociaux interdisent aux gens d’extraire les images des utilisateurs. Toutefois, Clearview ne respecte pas cette condition, et Ton-That déclare même que Facebook l’approuve. 

Cependant, certains responsables de l'application des lois ont déclaré qu'ils n’étaient pas au courant que les photos qu'ils avaient téléchargées étaient envoyées et stockées sur les serveurs de Clearview.  En tenant compte que la police télécharge des photos de personnes qu'elle essaie d'identifier, Clearview possède une base de données croissante d'individus qui ont attiré l'attention des utilisateurs. Elle a également la possibilité de manipuler les résultats que la police voit. Dans ce sens, Al Gidari, professeur de confidentialité à la Stanford Law School, a qualifié ce que “ClearView“ fait d’effrayant. Toutefois, il y aura beaucoup plus de ces entreprises dans le futur proche. À cette cadence et en l'absence d'une loi fédérale très stricte sur la vie privée, la confidentialité de l’être humain sera littéralement dans un état critique. 

Lors d'une récente interview dans les bureaux deClearview, M. Ton-That a fait la démonstration de l'application par lui-même. Il a pris un selfie et l'a téléchargé. L'application a sorti 23 photos de lui à torse nu, alors qu’il portait ses vêtements. Il a ensuite pris la photo de l’interviewer avec l'application. Le «bug logiciel» avait été corrigé et la photo a retourné de nombreux résultats. Ceux-ci remontent à une décennie, y compris des photos que la personne n’avait jamais vues auparavant. Lorsque l’utilisateur a utilisé sa main pour couvrir son nez et le bas de son visage, l'application lui a renvoyé sept correspondances correctes, ce qui confirme la haute performance de Clearview !