En quoi les intelligences artificielles génératives représentent-elles un enjeu dans la formation des citoyens ?

Pierre-Yves Oudeyer s’intéresse aux enjeux sociétaux et éducatifs de l’intelligence artificielle (IA) :

• L’IA est utilisée par la quasi-majorité des adolescents en France, qui connaissent pour autant peu son évolution et son fonctionnement : de ses prémices en 1912, à l’émergence récente de l’IA générative ou IAGens (ex. ChatGPT), l’IA ne cesse d’évoluer et est aujourd’hui massivement utilisée : en France, 70 % des 14-18 ans utilisent des IAGens (47 % des 25-34 ans et 22 % des plus de 35 ans). Quand les élèves ont commencé à utiliser ChatGPT, ils ont une forte tendance à ne plus utiliser de moteurs de recherche.
• Les IAGens sont avant tout des technologies de transmission culturelle : lorsque les jeunes utilisent ces outils pour accéder à la connaissance et à l’information, ils ont une vision du monde qui va correspondre à la culture des textes qui ont été utilisés pour entraîner les outils. Les jeunes doivent donc avoir conscience / doivent comprendre, les erreurs et les hallucinations, les biais et les stéréotypes possibles des IAGen pour en faire une bonne utilisation.
• Il y a un usage massif et très rapide des IAGen par les élèves, sur lequel la recherche n’a pas encore suffisamment de recul. Néanmoins, quelques premiers résultats montrent qu’un certain nombre d’usages se développent, qui peuvent être problématiques (par ex. les élèves qui utilisent ChatGPT pour faire leurs devoirs à leur place ; les enseignants pour noter les productions écrites des élèves), ou intéressants (réviser avec des quizz, former les enseignants, leur permettre de créer du contenu, etc.), mais à évaluer. Ces études se sont notamment demandées si les élèves savent poser les bonnes questions à ChatGPT : elles révèlent que 1/ ceux ayant une métacognition élevée ont de meilleurs résultats ; et 2/ ceux qui disent bien connaitre l’outil (ses forces/limites) ont de moins bons résultats (sur-confiants).