Dans un guide rendu public ce jeudi 7 septembre, l’Organisation des Nations unies considère que les autorités publiques ne sont pas prêtes à gérer les problématiques éthiques liées à l’intégration des programmes d’intelligence artificielle en milieu scolaire.

Le remplacement des professeurs par de tels programmes pourrait affecter le bien-être émotionnel des enfants et les rendre vulnérables à la manipulation, avertit l’organisation basée à Paris.

Selon la directrice générale de l’UNESCO, la Française Audrey Azoulay, citée dans un communiqué, “l’IA générative peut être une formidable opportunité pour le développement humain, mais elle peut aussi être la source de dommages et de préjudices”. “Elle ne peut être intégrée dans l’éducation sans l’engagement du public et sans de solides garanties et réglementations gouvernementales”, a-t-elle ajouté.

Les programmes d’IA générative accessibles au grand public se sont multipliés depuis fin 2022, lorsque ChatGPT, créé par la start-up californienne OpenAI, a démontré sa capacité à générer des essais, poèmes et conversations cohérentes à partir de questions succinctes.

Cet essor a aussi suscité des craintes sur de nouvelles formes de plagiat ou de triche au sein des écoles et des universités, sans toutefois venir diminuer l’attractivité d’un marché de l’éducation jugé potentiellement très lucratif.

La recommandation de l’UNESCO indique que les outils d’IA ont le potentiel d’aider les enfants avec des besoins éducatifs spécifiques, en générant par exemple des sous-titres, à la condition que les enseignants, les utilisateurs et les chercheurs aident à les concevoir, et que les gouvernements réglementent leur usage.

Le guide ne s’avance toutefois pas à recommander à un âge minimum pour les écoliers, mais relève que ChatGPT ne peut selon ses propres conditions être utilisé par des moins de 13 ans. De nombreux commentateurs plaident pour relever le plafond à 16 ans, selon le rapport.