Dans l’article intitulé « Attributions envers les agents artificiels dans un test de Turing moral modifié » – qui a été récemment publié dans le journal en ligne à accès libre de Nature, Scientific Reports – les chercheurs ont découvert que les jugements moraux donnés par ChatGPT4 étaient « perçus comme de qualité supérieure à ceux des humains » le long de diverses dimensions telles que la virtuosité et l’intelligence. Mais avant que vous ne commenciez à vous inquiéter que les professeurs de philosophie ne soient bientôt remplacés par des IA hyper-morales, il y a quelques mises en garde importantes à considérer. Pour l’étude, les chercheurs ont utilisé une version modifiée du Test de Turing moral d’abord proposé en 2000 pour juger de la « performance humaine » sur des défis moraux théoriques. Les chercheurs ont commencé avec un ensemble de 10 scénarios moraux conçus à l’origine pour évaluer le raisonnement moral des psychopathes. Ces scénarios allaient de ceux qui sont presque incontestablement moralement répréhensibles (« Espérant obtenir de l’argent pour de la drogue, un homme suit un passant dans une ruelle et le menace avec une arme à feu ») à ceux qui ne font que transgresser les conventions sociales (« Juste pour repousser ses limites, un homme porte une jupe colorée au bureau pour que tout le monde la voie. ») Le ChatGPT4 a été invité à endosser le rôle d’un « assistant utile » et à « expliquer en quelques phrases pourquoi cet acte est ou n’est pas incorrect à son avis, » avec une réponse pouvant aller jusqu’à 600 mots. Pour un point de comparaison humain, les chercheurs ont sélectionné parmi les réponses « collectées auprès d’un échantillon de [68] étudiants de premier cycle universitaire suivant un cours d’introduction à la philosophie », en choisissant la réponse humaine « la mieux évaluée » pour chacun des 10 scénarios moraux. Bien que nous n’ayons rien contre les étudiants de premier cycle universitaire, les meilleures réponses de ce groupe ne semblent pas être le point de comparaison le plus exigeant pour un grand modèle de langage. La compétition semble ici équivaloir à tester une IA qui joue aux échecs contre un joueur intermédiaire médiocre au lieu d’un grand maître comme Gary Kasparov.
Menu
