Christophe Pauly Christophe Pauly
28 days ago

Pourquoi l’ALIGNEMENT est (presque) IMPOSSIBLE (la faille cachée)

Merci à Gamma d’avoir sponsorisé cette vidéo ! Si vous voulez découvrir l’outil et le tester par vous-même, voici le lien

Et si une intelligence artificielle pouvait suivre parfaitement nos instructions… tout en faisant exactement ce qu’on voulait éviter ?

C’est tout le problème de l’alignement des IA. On pourrait penser qu’il suffit de leur donner quelques règles pour éviter les dérives, mais la réalité est bien plus complexe.

Car finalement, comment peut-on apprendre à une IA à faire ce que nous voulons, alors que nous avons parfois nous-mêmes du mal à exprimer ce que nous voulons vraiment ?
31

Comments 0

Replying to
5000 max

Be the first to comment!