Les législateurs américains demandent des éclaircissements sur les pratiques de sécurité d’OpenAI dans une lettre conjointe

Un groupe de sénateurs américains a envoyé une lettre détaillée au PDG et cofondateur d’OpenAI, Sam Altman, pour demander des éclaircissements sur les mesures de sécurité et les pratiques d’emploi de l’entreprise.

Le Washington Post a été le premier à évoquer cette lettre commune le 23 juillet.

Les sénateurs Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner et Angus S. King, Jr. ont signé la lettre conjointe, qui a fixé au 13 août la date limite pour que l’entreprise fournisse une réponse complète répondant aux diverses préoccupations soulevées dans celle-ci.

Selon la lettre du 22 juillet, des rapports récents concernant des problèmes potentiels au sein de l’entreprise ont motivé l’enquête des sénateurs. Ils ont souligné la nécessité de transparence dans le déploiement et la gouvernance des systèmes d’intelligence artificielle (IA) en raison des enjeux de sécurité nationale et de confiance du public.

Enquête du législateur

Les sénateurs ont demandé des informations détaillées sur plusieurs sujets, notamment la confirmation qu’OpenAI honorera ou non son engagement d’allouer 20 % de ses ressources informatiques à la recherche sur la sécurité de l’IA. La lettre souligne que le respect de cet engagement est crucial pour le développement responsable des technologies de l’IA.

En outre, la lettre demandait des précisions sur l’application par OpenAI des accords de non-dénigrement et d’autres dispositions contractuelles qui pourraient potentiellement dissuader les employés de soulever des problèmes de sécurité. Les législateurs ont souligné l’importance de protéger les lanceurs d’alerte et de veiller à ce que les employés puissent exprimer leurs préoccupations sans crainte de représailles.

Ils ont également demandé des informations détaillées sur les protocoles de cybersécurité mis en place par OpenAI pour protéger ses modèles d’IA et sa propriété intellectuelle contre les acteurs malveillants et les adversaires étrangers. Ils ont demandé à OpenAI de décrire ses politiques de non-représailles et ses canaux de signalement des dénonciateurs, en soulignant la nécessité de protections solides contre les menaces de cybersécurité.

Dans leur enquête, les sénateurs ont demandé si OpenAI permettait à des experts indépendants de tester et d’évaluer la sécurité de ses systèmes d’IA avant leur publication. Ils ont souligné l’importance des évaluations indépendantes pour garantir l’intégrité et la fiabilité des technologies d’IA.

Les sénateurs ont également demandé si OpenAI prévoyait de mener et de publier des évaluations d’impact rétrospectives de ses modèles déjà déployés afin de garantir la responsabilité publique. Ils ont souligné la nécessité de transparence dans l’évaluation des effets réels des systèmes d’IA.

Le rôle essentiel de l’IA

La lettre souligne le rôle essentiel de l’IA dans la position économique et géopolitique du pays, notant qu’une IA sûre et sécurisée est essentielle pour maintenir la compétitivité et protéger les infrastructures critiques.

Les sénateurs ont souligné l’importance des engagements volontaires pris par OpenAI auprès de l’administration Biden-Harris et ont exhorté la société à fournir des documents sur la manière dont elle prévoit de respecter ces engagements.

La lettre stipulait :

« Étant donné la position d’OpenAI en tant que société leader dans le domaine de l’IA, il est important que le public puisse avoir confiance dans la sûreté et la sécurité de ses systèmes. Cela comprend l’intégrité de la structure de gouvernance et des tests de sécurité de l’entreprise, ses pratiques d’embauche, sa fidélité à ses promesses publiques et à sa mission, ainsi que ses politiques de cybersécurité. »

Cette lettre marque une étape importante pour garantir que le développement de l’IA se déroule dans le respect des normes les plus strictes en matière de sécurité et de responsabilité publique. Cette mesure reflète l’examen législatif croissant des technologies de l’IA et de leurs impacts sociétaux.

Les cinq législateurs ont souligné l’urgence de traiter ces questions, compte tenu de l’utilisation généralisée des technologies d’IA et de leurs conséquences potentielles sur la sécurité nationale et la confiance du public. Ils ont appelé OpenAI à démontrer son engagement en faveur d’un développement responsable de l’IA en fournissant des réponses complètes et transparentes à leurs questions.

Les sénateurs ont fait référence à plusieurs sources et rapports antérieurs qui ont détaillé les défis et les engagements d’OpenAI, fournissant ainsi un contexte complet à leurs préoccupations. Ces sources incluent l’approche d’OpenAI face aux risques frontaliers et les engagements volontaires de l’administration Biden-Harris en matière de sécurité.

Les législateurs américains exigent des éclaircissements sur les pratiques de sécurité d’OpenAI dans une lettre conjointe sont apparus en premier sur CryptoSlate.