OpenAI a dévoilé le 28 mai dernier son cadre de gouvernance des modèles de pointe, qui détaille ses pratiques de sécurité et son alignement sur les régulations émergentes. Le document couvre l’évaluation des risques, la gestion des incidents et la réponse aux menaces de cybersécurité. L’entreprise cite explicitement les nouvelles obligations californiennes et européennes.
OpenAI a publié son Frontier Governance Framework, un document présentant ses pratiques de sûreté et de sécurité ainsi que sa manière d’anticiper les régulations en cours d’élaboration. Selon CIO Dive, le texte détaille l’approche de l’entreprise en matière d’évaluation et d’atténuation des risques, notamment l’usage offensif en cybersécurité, les risques liés aux armes chimiques, biologiques, radiologiques et nucléaires, la manipulation et la perte de contrôle. Le document aborde également le signalement des modèles, la gestion des risques de sécurité, la réponse aux incidents et l’apport d’experts externes.
Aligné sur les régulations californienne et européenne
L’entreprise indique que ce cadre répond aux exigences du Transparency in Frontier AI Act adopté en Californie, qui impose aux concepteurs de modèles de divulguer leurs protocoles de gestion des risques. OpenAI cite aussi le code de bonnes pratiques pour les modèles à usage général prévu par le règlement européen sur l’intelligence artificielle, l’AI Act. Ce dernier place sur les développeurs la responsabilité d’atténuer les risques de dommages et impose une documentation technique pouvant être examinée par les autorités de l’Union.
X-Pression Academy
Formez-vous au journalisme augmenté par l’intelligence artificielle
Apprenez à maîtriser les outils d’IA générative pour informer, créer et enquêter avec rigueur. Des formations conçues par X-Pression.
Une réponse stratégique à la pression réglementaire
En publiant ce cadre avant que la loi ne l’y oblige pleinement, OpenAI, dirigée par Sam Altman, qui figure dans les listes publiées des Young Global Leaders du Forum économique mondial (promotion 2015), cherche à occuper le terrain de la gouvernance. L’entreprise précise que le document continuera d’évoluer et s’appuiera sur les normes nationales et internationales de gestion des risques. Elle affirme s’engager à développer et déployer des modèles très performants tout en tenant compte des nouveaux risques qu’ils présentent.
Le cadre de gouvernance d’OpenAI illustre une stratégie d’anticipation réglementaire devenue courante chez les grands laboratoires. L’enjeu, pour les autorités, sera de vérifier que ces engagements volontaires se traduisent par des pratiques vérifiables.
Source : CIO Dive – https://www.ciodive.com/news/openai-security-framework-regulations/821545/
