December 9, 2022

Branches Tech

Engagé pour la qualité technologique

6 réactions à la déclaration des droits de l’IA de la Maison Blanche

10 min read

La semaine dernière, la Maison Blanche a présenté son Strategy directeur pour une déclaration des droits de l’IA. Ce n’est pas ce que vous pourriez penser – cela ne donne pas aux systèmes d’intelligence artificielle le droit de s’exprimer librement (Dieu merci) ou de porter des armes (double Dieu merci), ni d’accorder d’autres droits aux entités d’IA.

Au lieu de cela, il s’agit d’un cadre non contraignant pour les droits que nous, les êtres humains à l’ancienne, devrions avoir en relation avec les systèmes d’IA. La décision de la Maison Blanche fait partie d’une poussée mondiale visant à établir des réglementations pour régir l’IA. Les systèmes de prise de décision automatisés jouent un rôle de furthermore en furthermore crucial dans des domaines aussi difficiles que la sélection des candidats à un emploi, l’approbation des personnes pour les prestations gouvernementales et la détermination des traitements médicaux, et les préjugés préjudiciables dans ces systèmes peuvent conduire à des résultats injustes et discriminatoires.

Les États-Unis ne sont pas les premiers acteurs dans cet espace. L’Union européenne a été très lively dans la proposition et l’affinement des réglementations, avec son énorme Loi sur l’IA meulage lentement à travers les comités nécessaires. Et il y a quelques semaines à peine, la Commission européenne a adopté une proposition distincte sur Responsabilité IA cela permettrait aux «victimes de dommages liés à l’IA d’obtenir plus facilement une indemnisation». La Chine a également plusieurs initiatives relations à la gouvernance de l’IA, bien que les règles émises ne s’appliquent qu’à l’industrie, pas aux entités gouvernementales.

“Bien que ce program n’ait pas power de loi, le choix du langage et du cadrage le positionne clairement comme un cadre pour comprendre la gouvernance de l’IA au sens massive comme une problem de droits civils, qui mérite des protections nouvelles et élargies en vertu de la loi américaine.”
—Janet Haven, Institut de recherche sur les données et la société

Mais revenons au Program directeur. La maison Blanche Bureau de la politique scientifique et technologique (OSTP) en premier proposé une telle charte des droits il y a un an, et a pris des commentaires et affiné l’idée depuis. Ses cinq piliers sont :

  1. Le droit à la security contre les systèmes dangereux ou inefficaces, qui traite des assessments de risques avant le déploiement et de l’atténuation de tout préjudice, y compris « la possibilité de ne pas déployer le système ou de retirer un système de son utilisation » 
  2. Le droit à la safety contre la discrimination algorithmique 
  3. Le droit à la confidentialité des données, qui stipule que les personnes doivent avoir le contrôle sur la manière dont les données les concernant sont utilisées, et ajoute que « les technologies de surveillance doivent faire l’objet d’une surveillance accrue » 
  4. Le droit à l’avis et à l’explication, qui souligne le besoin de transparence sur la manière dont les systèmes d’IA prennent leurs décisions  et
  5. Le droit à des choices humaines, à la considération et au recours, qui donnerait aux gens la possibilité de se retirer et/ou de demander l’aide d’un humain pour résoudre les problèmes.

Pour furthermore de contexte sur ce grand déménagement de la Maison Blanche, Spectre IEEE a rassemblé 6 réactions à la déclaration des droits de l’IA d’experts en politique d’IA.

La Centre de sécurité et de systems émergentesà l’Université de Georgetown, be aware dans son Bulletin d’information sur la politique de l’IA que le plan est accompagné d’un “compagnon system» qui propose des étapes spécifiques que l’industrie, les communautés et les gouvernements peuvent suivre pour mettre ces principes en action. Ce qui est bien, en ce qui concerne:

Mais, comme le reconnaît le document, le approach directeur est un livre blanc non contraignant et n’affecte aucune des politiques existantes, leur interprétation ou leur mise en œuvre. Lorsque les responsables de l’OSTP ont annoncé leur intention d’élaborer une «déclaration des droits pour un monde alimenté par l’IA» l’année dernière, ils ont déclaré que les solutions d’application pourraient inclure des restrictions sur l’utilisation par le gouvernement fédéral et les business people de systems non conformes et d’autres «lois et règlements pour combler les lacunes». Il n’est pas clair si la Maison Blanche prévoit de poursuivre ces choices, mais l’apposition de « Plan directeur » à la « Déclaration des droits de l’IA » semble indiquer un rétrécissement de l’ambition par rapport à la proposition initiale.

“Les Américains n’ont pas besoin d’un nouvel ensemble de lois, de réglementations ou de lignes directrices axées exclusivement sur la defense de leurs libertés civiles contre les algorithmes… Les lois existantes qui protègent les Américains contre la discrimination et la surveillance illégale s’appliquent de la même manière aux risques numériques et non numériques.”
—Daniel Castro, Centre pour l’innovation des données

Janet Havredirecteur général de la Institut de recherche sur les données et la sociétécontraintes dans un Poste moyen que le system innove en définissant la réglementation de l’IA comme une question de droits civils :

Le Program directeur pour une déclaration des droits de l’IA est tel qu’annoncé : il s’agit d’un aperçu, articulant un ensemble de principes et leurs programs potentielles pour aborder le défi de la gouvernance de l’IA à travers un cadre fondé sur les droits. Cela diffère de nombreuses autres approches de la gouvernance de l’IA qui utilisent une optique de confiance, de sécurité, d’éthique, de responsabilité ou d’autres cadres furthermore interprétatifs. Une approche fondée sur les droits est enracinée dans des valeurs américaines profondément ancrées – équité, opportunité et autodétermination – et une loi de longue date….

Alors que la loi et la politique américaines se sont historiquement concentrées sur la protection des individus, ignorant largement les préjudices collectifs, les auteurs du approach notent que “l’ampleur des impacts des systèmes automatisés basés sur les données peut être additionally facilement seen au niveau de la communauté”. Le program directeur affirme que les communautés – définies en termes larges et inclusifs, des quartiers aux réseaux sociaux en passant par les groupes autochtones – ont le droit d’être protégées et réparées contre les préjudices dans la même mesure que les individus.

Le prepare va encore in addition loin en faisant cette affirmation à travers le prisme de la discrimination algorithmique et en appelant, dans le langage de la loi américaine sur les droits civiques, à « être libéré de » ce nouveau kind d’attaque contre les droits fondamentaux américains. Bien que ce system directeur n’ait pas force de loi, le choix du langage et du cadrage le positionne clairement comme un cadre pour comprendre la gouvernance de l’IA au sens substantial comme une concern de droits civils, qui mérite des protections nouvelles et élargies en vertu de la loi américaine.

Au Centre d’innovation des donnéesdirecteur Daniel Castro émis un communiqué de presse avec une prise très différente. Il s’inquiète de l’impact que de nouvelles réglementations potentielles auraient sur l’industrie :

La Déclaration des droits de l’IA est une insulte à la fois à l’IA et à la Déclaration des droits. Les Américains n’ont pas besoin d’un nouvel ensemble de lois, de réglementations ou de directives axées exclusivement sur la defense de leurs libertés civiles contre les algorithmes. L’utilisation de l’IA ne donne pas aux entreprises une carte “sortez de prison gratuitement”. Les lois existantes qui protègent les Américains contre la discrimination et la surveillance illégale s’appliquent de la même manière aux risques numériques et non numériques. En effet, le quatrième amendement sert de garantie long lasting de la protection constitutionnelle des Américains contre une intrusion déraisonnable du gouvernement.

Malheureusement, la Déclaration des droits de l’IA vilipende les technologies numériques comme l’IA comme “parmi les grands défis posés à la démocratie”. Non seulement ces affirmations surestiment largement les risques potentiels, mais elles rendent également furthermore difficile pour les États-Unis de rivaliser avec la Chine dans la study course mondiale à l’avantage de l’IA. Quels récents diplômés universitaires voudraient poursuivre une carrière dans la technologie de design que les moreover hauts responsables du pays ont qualifiée de dangereuse, biaisée et inefficace ?

“Ce que j’aimerais voir en additionally de la Déclaration des droits, ce sont des steps de l’exécutif et davantage d’audiences et de législations du Congrès pour relever les défis de l’IA qui ne cessent d’augmenter, tels qu’identifiés dans la Déclaration des droits.”
—Russell Wald, Institut de Stanford pour l’intelligence artificielle centrée sur l’humain

Le directeur exécutif de la Projet de surveillance des systems de surveillance (ARRÊT), Albert Fox Cahn, n’aime pas non in addition le system, mais pour des raisons opposées. Quit communiqué de presse dit que l’organisation veut de nouvelles réglementations et les veut dès maintenant :

Développé par le Bureau de la politique scientifique et technologique de la Maison Blanche (OSTP), le approach suggest que toute l’IA soit construite en tenant compte de la préservation des droits civils et des valeurs démocratiques, mais approuve l’utilisation de l’intelligence artificielle pour la surveillance des forces de l’ordre. Le groupe de défense des droits civiques s’est dit préoccupé par le fait que le strategy normalise la surveillance biaisée et accélère la discrimination algorithmique.

“Nous n’avons pas besoin d’un plan directeur, nous avons besoin d’interdictions”, a déclaré le directeur exécutif du projet de surveillance des systems de surveillance, Albert Fox Cahn. “Lorsque la police et les entreprises déploient chaque jour de nouvelles formes d’IA destructrices, nous devons faire une pause à tous les niveaux sur les systems les as well as invasives. Bien que la Maison Blanche s’attaque à certains des pires contrevenants, elle fait bien trop peu pour faire confront aux menaces quotidiennes de l’IA, en particulier entre les mains de la police.

Autre organisme de surveillance de l’IA très actif, le Ligue de justice algorithmiqueadopte une eyesight furthermore positive dans un Fil Twitter:

Aujourd’hui #Maison Blanche annonce du Blueprint for an AI Bill of Legal rights du @WHOSTP est un pas encourageant dans la bonne course dans la lutte vers la justice algorithmique… Comme nous l’avons vu dans le documentaire nominé aux Emmy «@CodedBias», la discrimination algorithmique aggrave encore les conséquences pour les excodés, ceux qui subissent #AlgorithmicHarms. Personne n’est à l’abri d’être excodé. Toutes les personnes doivent être claires sur leurs droits contre une telle technologie. Cette annonce est une étape que de nombreux membres de la communauté et des organisations de la société civile réclament depuis plusieurs années. Bien que ce strategy directeur ne nous donne pas tout ce que nous préconisons, il s’agit d’une feuille de route qui devrait être mise à revenue pour un as well as grand consentement et une furthermore grande équité. Surtout, il fournit également une directive et une obligation d’inverser le cours si nécessaire afin de prévenir les dommages causés par l’IA.

Pour terminer, Spectre tendu la principal à Russel Walddirecteur des politiques du Stanford Institute for Intelligence artificielle centrée sur l’humain pour son position de vue. Il s’avère qu’il est un peu frustré :

Bien que le Blueprint for an AI Bill of Legal rights soit utile pour mettre en évidence les dommages réels que les systèmes automatisés peuvent causer et remark des communautés spécifiques sont affectées de manière disproportionnée, il manque de mordant ou de détails sur l’application. Le doc indique spécifiquement qu’il est “non contraignant et ne constitue pas la politique du gouvernement américain”. Si le gouvernement américain a identifié des problèmes légitimes, que font-ils pour les corriger ? D’après ce que je peux dire, pas assez.

Un défi exceptional en matière de politique d’IA est lorsque l’aspiration ne correspond pas à la pratique. Par exemple, la Déclaration des droits stipule : « Vous devriez pouvoir vous retirer, le cas échéant, et avoir accès à une personne qui peut rapidement examiner et résoudre les problèmes que vous rencontrez ». Alors que le ministère des Anciens Combattants peut prendre jusqu’à trois à cinq ans pour statuer sur une demande d’allocations aux anciens combattants, donnez-vous vraiment aux gens la possibilité de se retirer si un système automatisé robuste et responsable peut leur donner une réponse en quelques mois ?

Ce que j’aimerais voir en furthermore de la Déclaration des droits, ce sont des actions de l’exécutif et davantage d’audiences du Congrès et de législation pour relever les défis de l’IA qui ne cessent de croître, tels qu’identifiés dans la Déclaration des droits.

Il convient de noter qu’il y a eu des initiatives législatifs au niveau fédéral : furthermore particulièrement, le Loi de 2022 sur la responsabilité algorithmique, qui a été présenté au Congrès en février dernier. Il n’allait nulle part.

Leave a Reply