Passer au contenu principal
  • Points de vigilance

    • Les intelligences artificielles génératives présentent plusieurs défis éthiques importants.

      Dans ce cadre, l'éthique fait référence à un ensemble de principes et de valeurs qui guident le développement et l'utilisation de ces technologies de manière responsable.

      Les principaux défis éthiques sont : les biais et la discrimination, la confidentialité et la sécurité des données, la désinformation et la manipulation, la responsabilité et la transparence, la propriété intellectuelle.

    •  Biais et fausses informations

      Les IAG ne pensent pas et ne comprennent pas les informations qu'elles produisent. Elles génèrent des réponses sur la base de modèles statistiques, et peuvent produire des contenus plausibles mais faux ou mal interpréter le contexte, ce qui conduit à des résultats erronés. Elles peuvent également introduire des biais voire des informations discriminatoires.

      Le fonctionnement d’une IAG est basé sur l’apprentissage profond qui implique le traitement de vastes ensembles de données textuelles provenant de diverses sources (livres, articles, sites web, médias en ligne, réseaux sociaux, etc.) à travers des modèles mathématiques complexes. Le comportement global de ces modèles reste opaque, ce qui rend difficile la prédiction du moment où une IAG pourrait générer des informations incorrectes ou trompeuses. Il est donc nécessaire que son utilisation soit couplée à une analyse critique systématique de son contenu, ce qui peut représenter un coût cognitif et temporel supplémentaire.  Il ne faut jamais reprendre tel quel, sans le vérifier, un contenu produit par une IAG(Source : Université de Genève)

       

    •  Désinformation et manipulation

      Les outils d'IAG peuvent créer du contenu très réaliste (textes, images ou vidéos) qui peut paraître vrai mais qui en réalité est faux. Ce type de contenu peut être utilisé pour tromper les gens. Par exemple :

      Les Deepfakes : des vidéos ou des audios modifiés qui montrent des personnes en train de parler ou faire des choses qu'elles n'ont en réalité jamais faites.

      Les FakeNews (fausses nouvelles) : génération de faux articles de presse qui semblent réels mais qui contiennent des informations fausses.

      Manipulation des réseaux sociaux : des comptes automatisés peuvent utiliser les outils d'IAG pour créer et partager massivement des messages trompeurs.

      Pour éviter ces problèmes, il est important de vérifier les sources d'information et de rester critique face aux contenus trouvés en ligne.

      • Protection des données personnelles

        • "Ne jamais transmettre de données personnelles ni de documents professionnels, a fortiori de documents confidentiels. Des données relevant du domaine public peuvent être transmises. Pour tout autre type de document, même sous licence ouverte (par exemple Créative Commons), la transmission est déconseillée (une licence ouverte ne signifie pas nécessairement que tous les droits soient cédés). En cas de doute sur le caractère confidentiel ou public d'une information, il est possible de s’adresser au fournisseur de l'information."

          Source : Charte de l'utilisation de l'IA à l'Université d'Orléans

        •  Protection des données personnelles

          Les outils d’IA générative en ligne peuvent collecter diverses informations et données des utilisateurs, ainsi que du contenu fourni lors de l’utilisation. Par exemple, ChatGPT, conformément à son site web officiel, peut collecter un large éventail d'informations personnelles et d'usage. Les données personnelles collectées incluent des informations relatives au compte de l’utilisateur, au contenu fourni par ce dernier, des informations sur les éventuelles communications avec ChatGPT. En plus de cela, l'entreprise reçoit des données automatiques sur l'utilisation de ses services, notamment des journaux (logs), des données d'utilisation, des informations sur l'appareil utilisé, des cookies et des analytiques de données.

          Il est donc crucial de faire preuve d'une extrême prudence lors de la transmission d'informations et de données via les outils d’IA génératives en ligne, en veillant à ne pas partager de données personnelles sensibles lorsque les outils ne fournissent pas de garantie de protection des données. (Source : Université de Genève)

          Qu'entend-on par données personnelles ?
          Toute information qui se rapportent à une personne physique, comme le nom, prénom, adresse postale, adresse mail, n° sécurité sociale, informations bancaires... et qui permettent d'identifier directement ou indirectement une personne.

      • IA et environnement

        • Conférence l'intelligence artificielle responsable

          Mardi 13 février 2024 a eu lieu une très belle conférence de Vincent Courboulay sur l’Intelligence Artificielle Responsable, dans le cadre de Pro3. Retrouvez le replay de la conférence en cliquant ici.


        • main qui porte une terre en illustration Dimension écologique

          Actuellement, il y a peu de transparence quant aux coûts que l’utilisation de l’IAG représente sur le plan planétaire et évaluer précisément l'empreinte écologique de son utilisation demeure complexe. Plusieurs chercheurs ont proposé des estimations de l'impact en termes d'empreinte carbone, de consommation énergétique, d’extraction de minéraux et d’autres ressources naturelles associées à ces outils, offrant des mesures variées. 

          Par exemple, le fonctionnement quotidien d’une IAG dépend de ressources naturelles telle que l’eau pour refroidir les serveurs qui stockent les données nécessaires. Il est admis que parmi les différentes tâches exécutées par ces outils, la génération d'images est la plus consommatrice en énergie. Il apparaît donc important de prendre cela en compte tant dans le recours à ces technologies que dans la conception d'activités impliquant l'utilisation des IA génératives et de n’y recourir que lorsqu’il n’existe pas de solutions alternatives moins énergivores. (Source : Université de Genève)

        • L'IA est une technologie qui peut s'avérer être très gourmande en terme d'énergie.

          Les Data Center qui stockent et traitent les données nécessaires à l'utilisation de l'IA, consomment beaucoup d'énergie. 

          Selon les estimations, les centres de données seraient responsables d’environ 2% de la consommation mondiale d’électricité.

          En effet, ils nécessitent non seulement une énorme quantité d’électricité pour leur fonctionnement quotidien, mais également des systèmes de refroidissement sophistiqués pour éviter toute surchauffe de l’équipement informatique.

          De nombreux appareils compatibles avec l’IA, tels que les smartphones, les voitures autonomes, les drones et les robots, nécessitent également des capacités de traitement élevées qui consomment beaucoup d’énergie.

          Source : La revue IA

        • Extrait de la BD Utop'IA