Merci à Gamma d’avoir sponsorisé cette vidéo ! Si vous voulez découvrir l’outil et le tester par vous-même, voici le lien
Et si une intelligence artificielle pouvait suivre parfaitement nos instructions… tout en faisant exactement ce qu’on voulait éviter ?
C’est tout le problème de l’alignement des IA. On pourrait penser qu’il suffit de leur donner quelques règles pour éviter les dérives, mais la réalité est bien plus complexe.
Car finalement, comment peut-on apprendre à une IA à faire ce que nous voulons, alors que nous avons parfois nous-mêmes du mal à exprimer ce que nous voulons vraiment ?
Et si une intelligence artificielle pouvait suivre parfaitement nos instructions… tout en faisant exactement ce qu’on voulait éviter ?
C’est tout le problème de l’alignement des IA. On pourrait penser qu’il suffit de leur donner quelques règles pour éviter les dérives, mais la réalité est bien plus complexe.
Car finalement, comment peut-on apprendre à une IA à faire ce que nous voulons, alors que nous avons parfois nous-mêmes du mal à exprimer ce que nous voulons vraiment ?
Comments 0
Be the first to comment!