Énoncé de politique global
-
But éthique et bénéfice social
- Responsabilité
- Transparence et explicabilité
- Équité et non-discrimination
- Sécurité et fiabilité
- Données ouvertes et concurrence loyale
- Confidentialité
- L’intelligence artificielle et la propriété intellectuelle
Principe 5
Données ouvertes et concurrence loyale
Les organisations qui développent, déploient ou utilisent des systèmes d’intelligence artificielle (IA) et toute législation nationale réglementant une telle utilisation doivent adopter des régimes et des normes de conception garantissant une sécurité et une fiabilité élevées des systèmes d’IA tout en limitant l’exposition des développeurs et des entités procédant aux déploiements de tels systèmes.
1 Exiger et définir des principes éthiques et moraux explicites sous-tendant le système d’IA
1.1 Les gouvernements et les organisations développant, déployant ou utilisant des systèmes d’IA doivent définir l’ensemble des principes éthiques et moraux sur lesquels repose le système d’IA à élaborer, déployer ou utiliser en tenant compte de toutes les circonstances pertinentes. Un système conçu pour prendre des décisions de manière autonome ne sera acceptable que s’il fonctionne sur la base de principes clairement définis et dans les limites de ses pouvoirs décisionnels.
1.2 Les gouvernements et les organisations développant, déployant ou utilisant des systèmes d’IA doivent valider les principes éthiques et moraux sous-jacents tels que définis périodiquement pour assurer une précision continue.
2 Standardisation du comportement
2.1 Les gouvernements et les organisations développant, déployant ou utilisant des systèmes d’IA doivent garder à l’esprit que les principes éthiques et moraux ne sont pas uniformes à l’échelle mondiale, mais peuvent être touchés, par exemple, par des considérations et des traditions géographiques, religieuses ou sociales. Pour être acceptés, les systèmes d’IA devront peut-être être ajustés afin de respecter les normes locales en vigueur dans les endroits où ils seront utilisés.
2.2 Déterminer si toutes les éventualités possibles doivent être préalablement décidées de manière à garantir un comportement cohérent du système d’IA, son impact sur l’agrégation des conséquences et le bien-fondé moral de « comparer l’incomparable » comme la vie par rapport à la vie.
3 Assurer la sécurité, la fiabilité et la confiance
3.1 Les gouvernements doivent exiger que les systèmes d’IA soient testés de manière rigoureuse par les organisations, afin de s’assurer qu’ils adhèrent de manière fiable aux principes éthiques et moraux sous-jacents et ont été formés avec des données soigneusement archivées et aussi « exempts d’erreur » que possible, dans les circonstances.
3.2 Les gouvernements sont invités à ajuster les régimes de réglementation et à promouvoir les régimes d’autoréglementation de l’industrie afin de permettre l’entrée de systèmes d’IA sur le marché afin de refléter raisonnablement l’exposition positive pouvant résulter de l’exploitation publique de ces systèmes. Des régimes spéciaux pour les admissions intermédiaires et limitées permettant de tester et d’affiner le fonctionnement du système d’IA peuvent contribuer à accélérer l’achèvement du système d’IA, et à améliorer sa sécurité et sa fiabilité.
3.3 Afin de garantir et de maintenir la confiance du public dans le contrôle humain final, les gouvernements doivent envisager d’appliquer des règles garantissant une enquête complète et transparente sur les conséquences négatives et imprévues des systèmes d’IA résultant de leur utilisation, en particulier si ces conséquences ont été mortelles ou préjudiciables pour les humains utilisant de tels systèmes. Ces enquêtes doivent être utilisées pour envisager un ajustement du cadre réglementaire des systèmes d’IA, en particulier pour développer une compréhension plus exhaustive de la manière dont de tels systèmes doivent être transférés en douceur à leurs opérateurs humains.
4 Faciliter le progrès technologique à des risques raisonnables
4.1 Les gouvernements sont invités à examiner si les cadres juridiques existants, comme la responsabilité du produit, nécessitent un ajustement à la lumière des caractéristiques uniques des systèmes d’IA.
4.2 Les gouvernements doivent offrir leur soutien et participer à la coordination internationale (par l’intermédiaire d’organismes comme l’Organisation internationale de normalisation [ISO] et la Commission électrotechnique internationale [CEI]) afin d’élaborer des normes internationales pour le développement et le déploiement de systèmes d’IA fiables et sûrs.
Principe 6
Données ouvertes et concurrence loyale
Les organisations qui développent, déploient ou utilisent des systèmes d’intelligence artificielle (IA) et toute législation nationale réglementant une telle utilisation doivent promouvoir : a) un accès ouvert aux ensembles de données pouvant être utilisés dans le développement de systèmes d’IA et b) des logiciels et des cadres de source ouverte pour les systèmes d’IA. Les systèmes d’IA doivent être développés et déployés sur une base de « conformité par nature » en ce qui concerne le droit de la concurrence/antitrust.
1 Soutenir une concurrence efficace en ce qui concerne les systèmes d’IA
1.1 Les gouvernements doivent offrir leur soutien et participer à la coordination internationale (par le biais d’organismes comme l’OCDE et le Réseau international de la concurrence) afin de développer des pratiques exemplaires et des analyses rigoureuses pour comprendre l’impact concurrentiel du contrôle des ensembles de données et des systèmes d’IA sur les marchés économiques.
1.2 Les gouvernements doivent procéder à des examens réguliers pour s’assurer que les cadres du droit de la concurrence et les outils d’application de la loi mis à la disposition des autorités compétentes d’exécution de la loi sont suffisants et efficaces pour garantir un accès suffisant aux intrants nécessaires, ainsi qu’un choix adéquat, une rivalité dynamique, une innovation créative et des résultats de grande qualité dans le développement et le déploiement de systèmes d’IA, au bénéfice ultime des consommateurs.
2 Données ouvertes
2.1 Les gouvernements doivent encourager et faciliter les infrastructures nationales nécessaires pour promouvoir un accès ouvert aux ensembles de données à tous les éléments de la société ayant un intérêt direct dans l’accès à ces ensembles de données à des fins de recherche et d’utilisation non commerciale. À cet égard, les gouvernements doivent sérieusement envisager des modèles d’accès à deux niveaux qui permettent un accès gratuit à des fins pédagogiques et de recherche, ainsi qu’un accès payant à des fins commerciales.
2.2 Les gouvernements doivent soutenir les initiatives de données ouvertes dans les secteurs public et privé en proposant des conseils et des recherches visant mieux à faire comprendre les avantages à retirer des données en accès ouvert, des structures permettant de partager et d’échanger des ensembles de données, et les processus par lesquels les données peuvent être adaptées à un accès ouvert (y compris la normalisation des API, la pseudonymisation, l’agrégation ou toute autre procédure de conservation, le cas échéant).
2.3 Les gouvernements doivent veiller à ce que les données détenues par les organismes du secteur public soient accessibles et ouvertes, dans la mesure du possible et lorsque cela n’est pas en contradiction avec un mandat du secteur public visant à récupérer les investissements des contribuables dans la collecte et la conservation de ces données. Les organismes du secteur privé, comme les organisations industrielles et les associations professionnelles, doivent de même soutenir et promouvoir les données ouvertes au sein de leur secteur d’activité, en rendant leurs propres ensembles de données ouverts, dans la mesure du possible.
2.4 Les organisations qui développent, déploient ou utilisent des systèmes d’IA sont invitées à ouvrir l’accès à leurs ensembles de données et à les concéder sous licence, dans la mesure du possible, grâce à des mécanismes supervisés comme les fiducies de données.
2.5 Tout partage ou octroi de licences de données doit se faire dans la mesure du raisonnable, compte tenu des circonstances et du respect des obligations légales, réglementaires, contractuelles et autres en ce qui concerne les données concernées (notamment la confidentialité, la sécurité, la liberté de l’information et autre considération de confidentialité).
3 Systèmes d’IA de source ouverte
3.1 Les organisations qui développent des systèmes d’IA sont normalement autorisées à commercialiser ces systèmes à leur guise. Cependant, les gouvernements doivent minimalement défendre l’accessibilité grâce à des systèmes de source ouverte ou d’autres accords de licence similaires à ces systèmes d’IA novateurs qui peuvent présenter un avantage sociétal particulier ou faire progresser l’état de la technique sur le terrain, par exemple par le biais de mécanismes d’incitation ciblés.
3.2 Les organisations qui choisissent de ne pas lancer leurs systèmes d’IA en tant que logiciels à code source ouvert sont néanmoins encouragées à octroyer une licence pour le système sur une base commerciale.
3.3 Dans la mesure où un système d’IA peut être subdivisé en divers éléments constitutifs ayant une utilité générale et pouvant être utilisés dans d’autres cas d’utilisation de l’IA, les organisations qui choisissent de ne pas octroyer de licence au système d’IA dans son ensemble (que ce soit sur une base de code source ouvert ou commerciale) sont invitées à accorder une licence au plus grand nombre possible de composants réutilisables.
4 Conformité par nature aux lois sur la concurrence/antitrust
4.1 Les organisations qui développent, déploient ou utilisent des systèmes d’IA doivent concevoir, développer et déployer des systèmes d’IA de manière « conforme par nature » garantissant la cohérence avec l’éthique générale des régimes de concurrence/antitrust en vigueur, afin de promouvoir une concurrence libre et dynamique entre entreprises au profit ultime des consommateurs.
Responsible AI: A Global Policy Framework se veut un appel à l’action avec le lancement d’une première période de consultation publique ouverte à tous les intervenants à l’échelle mondiale désireux de fournir des commentaires et des idées sur des façons de renforcer ces principes stratégiques fondamentaux.
Pour soumettre vos commentaires : https://www.itechlaw.org/responsibleai