L’ONU demande un moratoire sur la vente et l’utilisation de l’IA

ONU Genève écrit que la Haute-Commissaire des Nations unies aux droits de l’homme recommande que « les États établissent un moratoire sur la vente et l’utilisation des systèmes d’IA jusqu’à ce que des garanties adéquates soient mises en place. Une action urgente est nécessaire, car il peut falloir du temps pour évaluer et traiter les risques sérieux que cette technologie pose aux droits de l’homme, a prévenu la Haute-Commissaire : “Plus le risque en matière de droits de l’homme est élevé, plus les exigences légales pour l’utilisation de la technologie de l’IA devraient être strictes”. »

ONU Genève ajoute que selon le rapport de l’ONU, « les États et les entreprises précipitent souvent l’incorporation des applications d’IA, en omettant de faire des vérifications préalables ». Le rapport indique qu’il y a eu de nombreux cas de personnes traitées injustement en raison d’une mauvaise utilisation de l’IA, comme le fait de se voir refuser des prestations de sécurité sociale en raison d’outils d’IA défectueux ou d’être arrêté en raison d’un logiciel de reconnaissance faciale déficient. »