Le Bureau de l’IA est la pièce maîtresse du règlement pour l’intelligence artificielle. Ce nouvel organe vise à s’assurer que l’UE supervise de manière cohérente l’IA générative. Face à l’ampleur de la tâche, l’UE a troqué ses longues procédures bureaucratiques pour une structure qui se veut agile et rapidement opérationnelle. Le bureau a d’ailleurs été établi juridiquement avant même que les nouvelles règles concernant l’IA ne soient officiellement adoptées et son mandat a vocation à évoluer en fonction des problématiques…
Les missions du bureau
Le Bureau de l’IA agit comme gendarme européen des modèles d’IA à usage général et est chargé de porter la voix de l’UE sur la scène internationale.
- Les codes de bonnes pratiques
L’une de ses missions consiste à élaborer, d’ici à 2025, des codes de bonnes pratiques pour les modèles à usage général, pour ceux qualifiés de systémiques ainsi que pour la détection et l’étiquetage de « deepfakes ». Ces codes, qui se présenteront sous la forme d’actes d’exécution, offriront une présomption de conformité aux acteurs y ayant adhéré et le bureau en assurera le suivi. Autre document à produire : le modèle que devront suivre les fournisseurs d’IA à usage général pour fournir un résumé des contenus protégés qu’ils ont utilisés à des fins d’entraînement. À nouveau, le bureau est chargé de s’assurer qu’un « niveau approprié de détail » est fourni en vertu des codes de bonnes pratiques qu’il aura contribué à établir.
- Les modèles systémiques
Plus généralement, la nouvelle instance surveillera l’évolution des modèles et leur qualification au sens du règlement. Elle pourra examiner, de son propre chef ou sur base d’une alerte du futur panel scientifique, si un modèle pose des risques systémiques, et assurera un dialogue régulier avec les fournisseurs, qui devront l’informer de tout incident grave. C’est d’ailleurs elle qui jouera un rôle dans la réévaluation du seuil quantitatif permettant de qualifier un modèle systémique, soit la quantité cumulée de calculs utilisée pour l’entraînement du modèle d’IA à usage général mesurée en opérations en virgule flottante (10^25).
- Les systèmes à haut risque
Mais le bureau a également un rôle à jouer sur les systèmes à haut risque, comme les applications de santé. Il est chargé d’élaborer une série de lignes directrices concernant l’application concrète du règlement, en particulier à propos de la définition d’un système d’IA, sur des exemples pratiques d’usages à haut risque ou encore de l’application du système de gestion de la qualité pour les microentreprises. Il doit également coordonner les enquêtes pour les applications présentant un risque grave dans au moins deux États membres. Mais aussi mettre au point un modèle automatisé de questionnaire pour l’analyse d’impact concernant les droits fondamentaux et des « clauses types volontaires » pour les contrats entre les fournisseurs de systèmes d’IA à haut risque et les tiers. Il publiera également une liste des bacs à sable réglementaires de l’IA prévus et existants.
