Désactiver la navigation animée
Désactiver la navigation animée

  • Les risques à l'utilisation de l'IA

    • Ce module sur les risques à l'utilisation de l'IA vise à aborder des problématiques éthiques.

      Dans un premier temps, nous vous invitons à compléter un Padlet dans lequel vous pouvez poser vos questions, liker et commenter celles des autres. Dans un second temps, vous pourrez effectuer des parcours de formation relatifs aux risques que nous avons identifiés. Enfin, dans un troisième temps, si vous vous intéressez à l'une ou l'autre question plus spécifique, nous vous invitons à consulter nos modules complémentaires.

      Les outils et usages relatifs à l'IA évoluant rapidement, ce module est amené à évoluer.

    • Dites-nous ce qui vous préoccupe

      Dans ce Padlet, posez vos questions, likez et commentez celles des autres. Vos questions nous serviront à faire évoluer les différents parcours de ce module de formation.

    • Quels sont les risques à l'utilisation de l'IA générative ?

      1. Génération de contenus inadéquats. Les réponses générées ou le comportement de ces outils peuvent être inadéquats. 
      2. Désordre informationnel et désinformation. La frontière de plus en plus floue entre contenus synthétiques et authentiques engendre une plus grande confusion informationnelle, réduisant la possibilité pour les individus et citoyen·nes de prendre des décisions éclairées et autonomes.
      3. Utilisation malveillante. Ces outils peuvent être utilisés de façon malveillante, pour propager de fausses informations, pour générer de la propagande, de l’influence, des contrefaçons, des deepfakes ... 
      4. Sécurité. Ces outils peuvent fournir des instructions efficaces ainsi que générer des programmes pour les hackers amateurs. 
      5. Éthique et droits d’auteur. L’entraînement de ces outils est souvent basé sur des œuvres protégées et les autorisations pour la phase d’entraînement n’ont souvent pas été clairement obtenues. De plus, les défaut d’explicabilité et de documentation indiqués ci-dessus ne permettent pas, pour un résultat donné, d’identifier si des contenus de ce type ont été utilisés. 
      6. Atteinte à la confidentialité des données. Les outils ne garantissent pas tous la confidentialité des questions posées ni des informations sur l’utilisateur·rice. Intégrer des données personnelles, confidentielles ou sensibles dans un prompt peut donc être risqué.
      7. Reproduction et amplification de discriminations et de stéréotypes. Les biais statistiques présents dans les données d’entraînement peuvent renforcer les stéréotypes et les discriminations traversant déjà notre société. La supervision de ces modèles par un nombre réduit d’opérateurs privés (situés pour la plupart sur la côte Ouest des Etats-Unis) contribue à une homogénéisation culturelle au détriment de la diversité et de la richesse de cultures locales. 
      8. Renforcement des fractures numériques. L'utilisation de ces outils nécessite certaines compétences numériques. Une généralisation de tels outils peut renforcer la fracture numérique entre les citoyens. 
      9. Concentration des acteurs de l’IA générative. Les coûts élevés de développement des outils technologiques pourraient concentrer le pouvoir entre les mains de quelques grandes entreprises d'intelligence artificielle, influençant ainsi les prix, les technologies, et les orientations de recherche. Ce phénomène pourrait également biaiser les normes techniques, éthiques et réglementaires, augmentant les risques d'abus de pouvoir. 
      10. Coût environnemental. Le bilan carbone de ces outils est actuellement déplorable. En effet, la puissance de calcul nécessaire à l’entraînement des modèles est très grande et proportionnelle à leur taille (qui a tendance à augmenter exponentiellement). L’utilisation d’un modèle pour répondre à une question occasionne lui aussi un coût énergétique.
      [source : Utilisation Responsable de l’Intelligences Artificielle Générative. https://oer.uclouvain.be/jspui/bitstream/20.500.12279/1079.2/1/IAGenerative_Groupe_de_Travail_UCLouvain_2024_06.pdf, p.5 et 6]

    • Récolte et traitement des données
      Récolte et traitement des données
    • Aggravation de la pauvreté numérique
      Aggravation de la pauvreté numérique
    • Renforcement des fractures numériques
      Renforcement des fractures numériques
    • De la créativité à la dépendance
      De la créativité à la dépendance
    • Désinformation
      Désinformation
    • Enjeux environnementaux
      Enjeux environnementaux

    • 15 questions critiques pour penser son usage de l'IA générative

      Dans ce module, vous trouverez une série de questions à vous poser avant d'utiliser sérieusement un outil d'intelligence artificielle générative. Cet outil a été construit à partir des travaux de A. Méthé de l'UQAM.

    • 15 questions critiques
      15 questions critiques

    • Quelle est votre responsabilité académique en cas d'utilisation de l'IA ?

    • Pour aller plus loin

      Vous voulez en savoir plus sur certains aspects ? Nous vous proposons ci-dessous une série de ressources pour prendre le temps sur certains enjeux plus spécifiques.


    • Vidéo
      Module complémentaire - IA : après la fin du travail
    • Module complémentaire - reconnaissance faciale : How normal am I?
      Module complémentaire - reconnaissance faciale : How normal am I?
    • Module complémentaire - L'AI Act Game
      Module complémentaire - L'AI Act Game