Découvrez l'intelligence artificielle

Quelles sont les limites ?

1. Ces outils ne sont pas capables de compréhension, ni des questions ni de ce qui est généré. Ils n’ont pas de représentation du monde et ne sont pas une base de connaissances. Dès lors, la fiabilité, la qualité et la précision ne sont pas nécessairement au rendez-vous dans les réponses générées.
2. Ces outils peuvent avoir des biais. Ce qui est généré par le modèle dépend des données utilisées lors de l’apprentissage (reproduction des biais présents dans les données d’entraînement) et de la façon dont la supervision a été réalisée, ainsi que des règles imposées (reproduction des biais et choix des concepteurs du modèle).
3. Les résultats et le processus de génération ne sont pas explicables et ne peuvent être documentés. Les modèles en tant que tels ne sont pas en mesure d’indiquer la source des contenus ayant servi à la génération de la réponse et il est impossible de remonter des résultats aux prémisses et points de départ (effet de boîte noire).
4. Les réponses sont dérivées des données utilisées lors de l’entraînement et leur originalité est donc discutable.

[source : Utilisation Responsable de l’Intelligences Artificielle Générative. https://oer.uclouvain.be/jspui/bitstream/20.500.12279/1079.2/1/IAGenerative_Groupe_de_Travail_UCLouvain_2024_06.pdf, p. 5]