Appel mondial à établir des lignes rouges pour l’IA

via l’éveilleur

un texte repris du site redd-lines-ai

L’intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. L’IA pourrait bientôt dépasser de loin les capacités humaines et exacerber des risques tels que le développement de pandémies artificielles, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains.

Certains systèmes d’IA avancés ont déjà manifesté des comportements trompeurs et nuisibles. Or, ces systèmes se voient accorder une autonomie croissante pour agir et prendre des décisions dans le monde réel. De nombreux experts, y compris ceux à la pointe du domaine, préviennent que si rien n’est fait, il deviendra de plus en plus difficile d’exercer un contrôle humain significatif dans les années à venir.

Les gouvernements doivent agir avec détermination avant qu’il ne soit trop tard pour toute intervention significative. Un accord international définissant des lignes rouges claires et vérifiables est indispensable pour parer à des risques jugés universellement inacceptables. Ces lignes rouges devront s’appuyer sur les cadres juridiques mondiaux existants et sur les engagements volontaires des entreprises, tout en les renforçant, afin de garantir que tous les développeurs d’IA avancée soient soumis à des règles communes.

Nous exhortons les gouvernements à parvenir à un accord politique international sur des lignes rouges pour l’IA — en veillant à ce qu’elles soient opérationnelles, avec des mécanismes d’application robustes — d’ici la fin de l’année 2026.

– lien pour la signature