Les assistants pédagogiques et les activités d'évaluation agentique proposés par Raison relèvent de la catégorie à haut risque au sens de l'annexe III, point 3 b), de l'AI Act lorsqu'ils sont déployés pour évaluer les acquis d'apprentissage des étudiants.
Obligations du fournisseur
Raison mène un programme de conformité aligné sur les obligations applicables aux fournisseurs de systèmes à haut risque :
Système de gestion des risques documenté et tenu à jour.
Gouvernance des données : qualité, pertinence et gestion des biais des corpus utilisés pour configurer et évaluer les assistants.
Documentation technique conforme à l'annexe IV (architecture, méthodes, limites, performances).
Journalisation automatique des événements. Les journaux techniques sont conservés 30 jours (voir Combien de temps les données sont-elles conservées ?).
Transparence et information des utilisateurs finaux (étudiants, enseignants).
Contrôle humain : conception de l'interface permettant l'arbitrage et la reprise de la main par l'enseignant.
Robustesse, exactitude et cybersécurité mesurées et documentées.
Marquage CE et enregistrement dans la base de données européenne au titre de l'article 71.
Obligations du déployeur
Les clients déployeurs (établissements) restent responsables de leurs obligations de déployeur (surveillance du fonctionnement, information des personnes concernées, conservation des journaux côté établissement). Un avenant dédié à l'AI Act précisant la répartition des obligations entre fournisseur et déployeur peut être fourni.
Articles liés
Besoin d'aide ? Écrivez à [email protected].