Explorer les enjeux de l'Intelligence Artificielle à l'Université
-
Points de vigilance
-
Les intelligences artificielles génératives présentent plusieurs défis éthiques importants.
Dans ce cadre, l'éthique fait référence à un ensemble de principes et de valeurs qui guident le développement et l'utilisation de ces technologies de manière responsable.
Les principaux défis éthiques sont : les biais et la discrimination, la confidentialité et la sécurité des données, la désinformation et la manipulation, la responsabilité et la transparence, la propriété intellectuelle. -
Biais et fausses informations
Les IAG ne pensent pas et ne comprennent pas les informations qu'elles produisent. Elles génèrent des réponses sur la base de modèles statistiques, et peuvent produire des contenus plausibles mais faux ou mal interpréter le contexte, ce qui conduit à des résultats erronés. Elles peuvent également introduire des biais voire des informations discriminatoires.
Le fonctionnement d’une IAG est basé sur l’apprentissage profond qui implique le traitement de vastes ensembles de données textuelles provenant de diverses sources (livres, articles, sites web, médias en ligne, réseaux sociaux, etc.) à travers des modèles mathématiques complexes. Le comportement global de ces modèles reste opaque, ce qui rend difficile la prédiction du moment où une IAG pourrait générer des informations incorrectes ou trompeuses. Il est donc nécessaire que son utilisation soit couplée à une analyse critique systématique de son contenu, ce qui peut représenter un coût cognitif et temporel supplémentaire. Il ne faut jamais reprendre tel quel, sans le vérifier, un contenu produit par une IAG. (Source : Université de Genève)
-
Désinformation et manipulation
Les outils d'IAG peuvent créer du contenu très réaliste (textes, images ou vidéos) qui peut paraître vrai mais qui en réalité est faux. Ce type de contenu peut être utilisé pour tromper les gens. Par exemple :
Les Deepfakes : des vidéos ou des audios modifiés qui montrent des personnes en train de parler ou faire des choses qu'elles n'ont en réalité jamais faites.
Les FakeNews (fausses nouvelles) : génération de faux articles de presse qui semblent réels mais qui contiennent des informations fausses.
Manipulation des réseaux sociaux : des comptes automatisés peuvent utiliser les outils d'IAG pour créer et partager massivement des messages trompeurs.
Pour éviter ces problèmes, il est important de vérifier les sources d'information et de rester critique face aux contenus trouvés en ligne.
-
-
-
-
Conférence l'intelligence artificielle responsable
Mardi 13 février 2024 a eu lieu une très belle conférence de Vincent Courboulay sur l’Intelligence Artificielle Responsable, dans le cadre de Pro3. Retrouvez le replay de la conférence en cliquant ici.
-
Dimension écologique
Actuellement, il y a peu de transparence quant aux coûts que l’utilisation de l’IAG représente sur le plan planétaire et évaluer précisément l'empreinte écologique de son utilisation demeure complexe. Plusieurs chercheurs ont proposé des estimations de l'impact en termes d'empreinte carbone, de consommation énergétique, d’extraction de minéraux et d’autres ressources naturelles associées à ces outils, offrant des mesures variées.
Par exemple, le fonctionnement quotidien d’une IAG dépend de ressources naturelles telle que l’eau pour refroidir les serveurs qui stockent les données nécessaires. Il est admis que parmi les différentes tâches exécutées par ces outils, la génération d'images est la plus consommatrice en énergie. Il apparaît donc important de prendre cela en compte tant dans le recours à ces technologies que dans la conception d'activités impliquant l'utilisation des IA génératives et de n’y recourir que lorsqu’il n’existe pas de solutions alternatives moins énergivores. (Source : Université de Genève)
-
L'IA est une technologie qui peut s'avérer être très gourmande en terme d'énergie.
Les Data Center qui stockent et traitent les données nécessaires à l'utilisation de l'IA, consomment beaucoup d'énergie.
Selon les estimations, les centres de données seraient responsables d’environ 2% de la consommation mondiale d’électricité.
En effet, ils nécessitent non seulement une énorme quantité d’électricité pour leur fonctionnement quotidien, mais également des systèmes de refroidissement sophistiqués pour éviter toute surchauffe de l’équipement informatique.
De nombreux appareils compatibles avec l’IA, tels que les smartphones, les voitures autonomes, les drones et les robots, nécessitent également des capacités de traitement élevées qui consomment beaucoup d’énergie.
-
-
-
-