Les développeurs d’IA puissantes devront partager les résultats de sécurité et les informations critiques avec le gouvernement américain.
Le président des États-Unis, Joe Biden, a publié un décret ambitieux visant à réglementer le développement de l’intelligence artificielle (IA), dans un contexte d’inquiétude croissante quant à son impact potentiel sur tous les domaines, de la sécurité nationale à la santé publique.
« Pour réaliser la promesse de l’IA et éviter les risques, nous devons gouverner cette technologie », a déclaré Biden jeudi. « Entre de mauvaises mains, l’IA peut permettre aux pirates informatiques d’exploiter plus facilement les vulnérabilités des logiciels qui font fonctionner notre société. »
Le décret comprend une disposition selon laquelle les développeurs des modèles d’IA les plus puissants doivent informer le gouvernement de leur travail et partager les résultats des tests de sécurité.
Il appelle également l’Institut national des normes et technologies à établir des « normes rigoureuses » pour tester l’IA avant sa publication, le ministère du Commerce à élaborer des lignes directrices pour identifier le contenu généré par l’IA et les agences finançant des « projets de sciences de la vie » à établir « de nouvelles normes strictes en matière de criblage par synthèse biologique » pour garantir que l’IA ne peut pas créer de risques biologiques.
Biden a également appelé le Congrès à adopter une législation sur la confidentialité des données et au ministère de la Justice de lutter contre la « discrimination algorithmique » entre les propriétaires et les programmes de prestations fédérales.
Le chef de cabinet adjoint de la Maison Blanche, Bruce Reed, a salué ces mesures comme « l’ensemble d’actions le plus fort qu’un gouvernement dans le monde ait jamais pris en matière de sûreté, de sécurité et de confiance en matière d’IA » et la « prochaine étape d’une stratégie agressive visant à tout faire sur tous les fronts pour exploiter les avantages de l’IA et atténuer les risques ».
Les craintes concernant les risques de l’IA ont augmenté de façon exponentielle depuis la sortie l’année dernière du ChatGPT d’Open AI, dont les capacités ont pris au dépourvu les régulateurs et les responsables gouvernementaux du monde entier.