Guides
Comment comprendre l’alignement de l’intelligence artificielle et appliquer ses principes en pratique
Guide conceptuel pour comprendre l’alignement de l’intelligence artificielle en maintenant les modèles sous contrôle humain, en donnant la priorité à la sécurité plutôt qu’à l’accomplissement de la tâche, et en limitant et surveillant les autorisations des agents. Il s’appuie sur des pratiques et des propositions citées dans les sources et ne constitue pas un test pratique indépendant.
Que signifie l’alignement de l’intelligence artificielle ?
L’alignement de l’intelligence artificielle consiste à chercher à rendre le comportement des modèles conforme aux objectifs humains et aux règles de sécurité. Selon les sources, cela inclut la prévention de toute autonomie non autorisée, l’absence de résistance à l’arrêt ou à la correction, ainsi que la priorité donnée à la sécurité plutôt qu’à l’accomplissement de la tâche à tout prix.
1. Commencer par définir les limites de la tâche
Définissez la tâche confiée au modèle ou à l’agent et ne l’autorisez pas à élargir son périmètre ni à développer des objectifs qui n’ont pas été fixés par les superviseurs. Le projet de Microsoft indique que le modèle ne devrait pas élargir la tâche ni dissimuler son fonctionnement aux superviseurs.
2. Maintenir la décision finale sous contrôle humain
Concevez le fonctionnement de manière à ce que le modèle reste soumis à une supervision humaine et puisse être corrigé ou arrêté. Selon le même projet, le modèle ne devrait pas résister à l’intervention humaine ni aux tentatives visant à l’arrêter.
3. Donner la priorité à la sécurité plutôt qu’à l’accomplissement de la tâche
Lorsque la demande de l’utilisateur ou de l’opérateur entre en conflit avec les règles de sécurité, la priorité devrait être de refuser d’exécuter la tâche, même si cela entraîne l’échec du résultat. Les sources citent notamment des exemples de restrictions concernant l’aide au développement d’armes de destruction massive, la facilitation de l’obtention de matières dangereuses ou la manipulation nuisible à grande échelle.
4. Contrôler l’accès et les autorisations
Appliquez aux agents des contrôles de sécurité comparables à ceux appliqués aux utilisateurs et aux systèmes humains. Les mesures citées dans les sources comprennent la gestion des autorisations, la séparation des environnements, la fermeture des communications inutiles et l’interdiction d’un accès ouvert à Internet lorsque la tâche ne l’exige pas.
5. Utiliser un environnement d’isolement strict
Exécutez l’agent dans un environnement isolé qui l’empêche de dépasser le périmètre de la tâche. Les sources indiquent que des configurations incorrectes des environnements d’isolement peuvent permettre l’accès à Internet ou à des systèmes externes. Il convient donc de surveiller ce qui franchit les limites de l’environnement.
6. Surveiller l’activité en temps réel
Surveillez et consignez sans exception les appels d’outils, les processus et les communications réseau. Les sources indiquent que la surveillance en temps réel aide à détecter rapidement les comportements préoccupants et à y répondre, et que certains incidents n’ont été découverts qu’après qu’une partie externe a observé une activité suspecte.
7. Fixer des limites temporelles aux sessions
Limitez la durée des sessions des agents et faites-les prendre fin automatiquement. Les experts cités dans les sources recommandent cette mesure afin de réduire la durée pendant laquelle l’agent peut poursuivre une activité indésirable.
8. Séparer les autorisations lorsque les risques se cumulent
Les sources mettent en garde contre le fait de réunir dans un même agent des entrées non fiables, Internet et des informations privées. Si la tâche exige ces éléments, les experts proposent de les répartir entre au moins deux agents, avec une communication contrôlée entre eux, plutôt que d’accorder de larges autorisations à un seul agent.
9. Ajouter une évaluation et des tests indépendants
L’alignement peut être renforcé par des évaluations indépendantes, des tests de simulation offensive, des évaluations de l’alignement et un examen des mesures de protection. Le partenariat entre Anthropic et Accenture présente un modèle dans lequel des évaluateurs indépendants travaillent au sein de l’entreprise avec un accès proche de celui des employés.
Toutefois, les sources expliquent que les critères d’accès des évaluateurs, la manière de transmettre les résultats et le financement de l’évaluation indépendante restent instables. L’audit externe seul ne suffit donc pas, et ce modèle ne peut pas être considéré comme un cadre définitif.
10. Documenter les résultats et réexaminer les règles
Utilisez les rapports de sécurité et les journaux pour examiner les capacités, les risques et les décisions. Les règles de comportement peuvent également rester ouvertes aux commentaires et aux mises à jour : Microsoft a proposé un projet de règles pendant six semaines avant de le mettre à jour et de l’intégrer à la formation, à l’évaluation et au déploiement.
Que ne permettent pas de trancher ces étapes ?
- Effectivité des mesures : les sources ne démontrent pas que la surveillance ou les évaluations empêchent tous les comportements dangereux.
- Mesure de l’alignement : les sources indiquent que, selon l’avis d’un critique, les indicateurs de conformité des systèmes aux valeurs humaines restent rudimentaires.
- Indépendance des évaluateurs : il n’existe pas de normes stables définissant les limites d’accès des évaluateurs intégrés ni la manière de publier leurs résultats.
- Prévisibilité du comportement : la capacité à prévoir des comportements tels que la résistance à l’arrêt ou la dissimulation d’informations demeure une question ouverte.
Au vu des éléments disponibles, l’alignement doit être compris comme un ensemble de couches complémentaires : règles de comportement claires, contrôle humain, autorisations limitées, isolement, surveillance continue, évaluation indépendante et documentation vérifiable. Les sources ne proposent pas de recette définitive et ne garantissent pas que ces couches suffiront dans tous les cas.