Vers une IA holistique

Tant au niveau individuel que collectif, l’usage de l’intelligence artificielle générative atteint un taux d’utilisation qui tend à s’accélérer. 

Alors que nous venons de sortir d’un été avec un nombre inouïe de canicules, des feux de forêts qui ont décimé des paysages, qu’aussi bien Anthropic que OpenAI ont annoncé des modèles en test ont pu s’exfiltrer de leurs environnements de tests, quel cadre est-il possible de mettre en place afin d’articuler de manière soutenable et sécurisée, les capacités de cette technologie et les initiatives humaines ? 

L’IA responsable, qu’est-ce que c’est ? 

L’IA responsable offre des premiers leviers d’actions. Fondée sur le principe de maximiser les bénéfices de l’IA pour la société tout en minimisant ses risques et dérives. 

Basée sur des principes, des normes éthiques et cadres juridique, elle vise à concevoir, développer, déployer et utiliser des solutions d’IA de manière sûre, équitable et transparente avec une empreinte maîtrisée. 

Les principes fondamentaux 

Équité et non-discrimination (Fairness) 

Les modèles ne doivent pas perpétuer ou amplifier des biais discriminatoires basés sur le genre, l'origine, l'âge, etc… avec toutes les difficultés liées aux biais des personnes qui conçoivent, développent et étiquettent les données d’apprentissage 

Explicabilité (Explainability) 

Les décisions prises par une IA doivent être compréhensibles par les utilisateurs ou les experts afin d’éviter l'effet « boîte noire ». 

Confidentialité et protection des données (Privacy & Security) 

Le respect de la vie privée et de la propriété intellectuelle doit être garanti dès la conception du système (Privacy by Design).  

Fiabilité et sécurité (Robustness & Safety) 

Le système doit fonctionner de manière stable, exacte et prévisible, y compris face à des situations imprévues ou des tentatives de manipulation. 

Responsabilité et redevabilité (Accountability) 

Des humains doivent toujours être responsables des décisions prises ou assistées par une IA : Human as a judge. 

Durabilité et impact environnemental (Sustainability) 

Prendre en compte l'empreinte carbone et l'impact écologique de l'entraînement et de l'exécution des grands modèles sans oublier l’exploitation des travailleurs du clics qui opèrent à l’étiquetage des données d’apprentissage dans des conditions de travail indigne et aux impacts psychologiques criants. 

En niveau de l’Europe, l’AI Act offre un cadre robuste pour répondre aux problématiques éthiques et représente un premier niveau de régulation et donc de cadre partagée d’exploitation de cette technologie. 

Comment la mettre concrètement en place ? 

Pour que cela ne reste pas une bibliothèque de belles intentions, comment la rendre concrète au sein des organisations ? 

Le défi à relever est de pouvoir intégrer cette démarche tant au niveau du business model que de l’operating model. 

Nous nous intéresserons ici que la mise en œuvre dans l’operating model 

Culture, personnes et rôles  

Sensibiliser et infuser les bénéfices, risques et impacts de l’IA auprès de l’ensemble de l’organisation, en définissant des rôles et responsabilités clairs 

Créer des espaces et des temps en mesure d’accueillir les inquiétudes, préoccupations et de célébrer les succès   

Gouvernance  

Les principes doivent intégrés les politiques IA et donner lieu à des standards de conception, développement et déploiement  

Inclure dans les instances de pilotage stratégique, tactique et opérationnelle, des indicateurs dédiés 

Processus  

Vous allez une appellation de plus mais cela semble incontournable. L’AI responsible Ops offre à votre organisation une coloration teintée des principes, responsabilité et gestion des ressources mentionnés dans votre gouvernance et votre matrice des rôles et responsabilités 

AI Product 

Intégrer des fonctionnalités en mesure de répondre aux principes de transparence, sécurité tout en générant la valeur attendue bien évidement … tout en suivant l’adoption et les risques psychosociaux induis par l’usage de ces produits 

Est-ce suffisant ? 

C’est une première étape qui reste à compléter.  

En effet les impacts anthropologiques, sociétaux, psychologiques et écologiques sont tels que plusieurs axes semblent nécessaires pour compléter l’approche : 

 Prendre en compte toutes la chaîne de valeur de l’extraction des matières premières nécessaires à la fabrication des puces exécutant les modèles, en passant par la consommation en eau des data centers, aux évolutions comportementales tant individuelles que collectives 

De s’appuyer sur les organismes existants tout en créant de nouvelles entités en mesure de définir des règles communes à l’échelle mondiale  

L’innovation par contrainte, portée par une régulation adaptée à un usage pérenne de l’intelligence artificielle, offre des perspectives de réalisation pouvant fédérer les différentes aspirations et offrir des perspectives soutenables aux écosystèmes.