Et si on en entend parler, comme souvent, c'est à travers des ratés.

 

Résumé : le comportement des citoyens chinois au quotidien est surveillé en vidéo et des algorithmes d'IA sont chargés de pointer les mauvais comportements... Si l'algorithme détecte un tel comportement, il injecte automatiquement, sur écrans géants partout à travers les villes concernées, le visage du contrevenant.

 

Et donc, sans supervision humaine, et le couac est arrivé : https://slashdot.org/story/18/11/26/0527259/ai-mistakes-ad-on-a-bus-for-an-actual-ceo-then-publicly-shames-them-for-jaywalking (lien original : https://www.scmp.com/tech/innovation/article/2174564/facial-recognition-catches-chinas-air-con-queen-dong-mingzhu)

 

tl;dr :

• l'algorithme est dédié à la détection de ce qu'en anglais on appelle le jaywalking (wkikipedia) ;
• la victime de la faute de l'algorithme est la présidente de la société dominante en Chine de fourniture de climatisations pour immeubles et résidences particulières ;
• sa photo était affichée sur une publicité affichée sur un bus ;
• l'algorithme s'est pris les pieds dedans...
• ... et encore une fois, pas de supervision humaine.

 

Ça fait peur.

Dans le même style le gouvernement chinois attribue une sonnerie de téléphone spéciale aux citoyens endettés, pour leur foutre la honte ! C'est dans le cadre du "crédit social", qui collecte toutes les données sociales d'un individu...

 

http://www.lefigaro.fr/secteur/high-tech/la-chine-attribue-une-sonnerie-de-telephone-speciale-aux-citoyens-endettes-20190521