L’intelligence artificielle constitue une révolution majeure, non seulement par la puissance de calcul qu’elle mobilise, mais surtout par la facilité avec laquelle elle met des capacités considérables à la disposition du plus grand nombre. Elle permet désormais à chacun de rechercher des informations, de synthétiser des documents, de comparer des points de vue, de produire des textes, des images, des programmes et de bénéficier d’une assistance dans des domaines autrefois réservés aux spécialistes.

Les principales forces de l’IA

Ses principales forces sont les suivantes :

• Traiter des masses considérables d’informations : repérer des régularités, établir des corrélations, classer et synthétiser des données à une vitesse inaccessible à l’être humain.
• Accéder rapidement aux connaissances : effectuer des recherches, expliquer des notions complexes, résumer des documents et faciliter l’apprentissage.
• Reconnaître des formes et des configurations : notamment dans les images médicales, les IRM, les radiographies ou les systèmes de surveillance.
• Prédire et assister la décision : identifier des risques, simuler des scénarios, proposer des solutions et aider à la programmation de tâches.
• Fonctionner en permanence : traiter des demandes sans interruption, avec une grande régularité opérationnelle.
• Démocratiser l’accès aux compétences : les petites entreprises, les associations et les particuliers peuvent désormais accéder à des moyens d’analyse et de production auparavant coûteux.

Les progrès des modèles génératifs, neuronaux et hybrides laissent prévoir des capacités encore plus importantes, y compris dans des domaines professionnels très qualifiés.

Le premier enseignement est donc de ne pas sous-estimer l’IA. Elle peut nous dépasser dans de nombreuses tâches intellectuelles et techniques. Ne pas apprendre à l’utiliser risque de devenir un handicap professionnel, éducatif et économique. Mais cette puissance ne doit pas être confondue avec une intelligence humaine complète.

ne pas sous-estimer l’IA,
Mais sa puissance ne doit pas être confondue avec une intelligence humaine complète

Les faiblesses et les limites fondamentales de l’IA

l’IA peut produire des résultats remarquables sans nécessairement comprendre ce qu’elle fait au sens où un être humain comprend une situation. Elle fonctionne principalement par calcul, apprentissage, reconnaissance de configurations et exploitation de probabilités. Elle peut produire une réponse convaincante sans être capable d’en garantir la vérité.

Ses principales limites sont les suivantes :

1. La fiabilité n’est jamais acquise.

• Elle peut inventer des informations, se tromper ou reprendre des erreurs contenues dans ses données.
• Elle peut donner une réponse fausse avec beaucoup d’assurance.
• Elle ne sait pas toujours reconnaître ses erreurs sur le fond.

La qualité de ses réponses dépend fortement de la qualité et de la pertinence des données utilisées.

2. Elle ne maîtrise pas véritablement le sens.

L’IA a une difficulté à produire des concepts nouveaux, à formuler des hypothèses originales, à construire des significations et à hiérarchiser les informations selon plusieurs niveaux de compréhension. Elle peut manipuler les mots, les analogies et les raisonnements sans nécessairement saisir leur portée dans une situation concrète.

3. Elle ne possède pas les qualités humaines du jugement.

Elle ne dispose pas de notre expérience vécue, de notre rapport au corps, de notre intuition, de notre sensibilité et de notre capacité à écouter ce qui n’est pas immédiatement exprimé. Elle ne sait pas véritablement apprécier ce qui est opportun, juste ou souhaitable dans une situation humaine complexe.

4. Elle ne sait pas définir seule les finalités pertinentes.

Elle peut poursuivre un objectif qui lui est assigné, mais cela ne signifie pas qu’elle sache déterminer si cet objectif est bon, souhaitable ou compatible avec l’intérêt collectif. Une erreur peut provenir de trois endroits : une mauvaise représentation du monde, une mauvaise stratégie pour atteindre le résultat ou un objectif initialement mal défini.

5. Elle présente des risques importants pour les personnes et les sociétés.

• Atteinte à la confidentialité et à la protection des données.
• Manipulation de l’information, désinformation et imitation de personnes.
• Concentration des connaissances et des pouvoirs entre quelques entreprises et États.
• Risques liés à la délégation de décisions importantes à des systèmes autonomes.
• Transformation profonde des métiers et risques de chômage ou de déclassement.
• Dépendance intellectuelle et perte progressive de notre capacité à chercher, apprendre et juger.
• Consommations matérielles et énergétiques importantes, encore insuffisamment prises en compte.

Une difficulté supplémentaire est que les systèmes les plus complexes ne permettent pas toujours de comprendre comment ils sont parvenus à leur résultat.

La distinction fondamentale à retenir : une machine peut être très performante dans la résolution d’un problème sans être capable de déterminer si ce problème est le bon, si la réponse est juste ou si elle est souhaitable.

Les recommandations essentielles : utiliser l’IA sans nous en rendre dépendants

Il ne s’agit pas de rejeter l’IA ni de lui faire une confiance aveugle. Il est question de construire une véritable intelligence augmentée, dans laquelle les compétences humaines et artificielles se complètent, avec des responsabilités clairement définies.

Sept recommandations peuvent en être dégagées.

1. Réserver à l’humain la définition des objectifs et le pouvoir de décision

L’IA doit être considérée comme un auxiliaire de réflexion, d’analyse et d’action, et non comme une autorité qui décide à notre place.

• L’humain définit les finalités.
• L’IA apporte des informations, des analyses et des propositions.
• L’humain apprécie leur pertinence et leurs conséquences.
• La décision finale reste sous responsabilité humaine, particulièrement en matière de santé, de justice, d’éducation et de politique.

Il faut également prévoir la possibilité de reprendre la main ou de désactiver un système autonome lorsque cela devient nécessaire.

2. Organiser systématiquement la vérification des réponses

Il faut apprendre à ne jamais confondre une réponse bien formulée avec une réponse vraie.

• Vérifier les informations importantes auprès de sources indépendantes.
• Demander les références et les éléments qui justifient une affirmation.
• Faire apparaître les incertitudes, les hypothèses et les éventuelles contradictions.
• Faire intervenir un regard humain compétent dans les décisions sensibles.

La transparence sur l’origine des informations et la distinction entre production humaine et artificielle deviennent essentielles.

3. Apprendre à poser les bonnes questions

La qualité de l’utilisation de l’IA dépend largement de notre capacité à formuler les problèmes. Il faut donc apprendre à :

• Questionner les réponses plutôt que les accepter.
• Demander des arguments contradictoires.
• Explorer plusieurs hypothèses.
• Identifier les angles morts.
• Reconsidérer le problème sous différents points de vue.
• Se demander si la question initiale est réellement la bonne.

L’objectif n’est pas seulement d’obtenir une réponse, mais de progresser dans notre compréhension

4. Préserver et développer les capacités spécifiquement humaines

L’IA risque de favoriser le moindre effort intellectuel et une certaine passivité. Il faut donc préserver ce qui fait la richesse de l’expérience humaine :

• Le discernement et la faculté de juger.
• L’intuition et la créativité libre.
• La sensibilité et l’écoute.
• La capacité à coopérer et à comprendre les autres.
• L’expérience concrète et le contact avec le vivant.
• La recherche du vrai, du beau et du judicieux.

Il ne faut pas laisser la facilité d’obtenir une réponse nous faire perdre le désir d’apprendre.

5. Repenser profondément l’éducation et les formations.

L’école ne peut plus se limiter à transmettre des connaissances que les machines peuvent désormais restituer rapidement. Il faut faire évoluer les missions des enseignants vers :

• L’apprentissage du questionnement et de l’esprit critique.
• La capacité à comprendre, contester et corriger les réponses de l’IA.
• La coopération et le travail en équipe.
• La connaissance de soi et les qualités relationnelles.
• La créativité et la formulation de projets.
• La compréhension des grands enjeux écologiques et sociétaux.

L’évaluation devrait davantage porter sur l’originalité, la compréhension, la précision, la justesse et la capacité à mobiliser les connaissances dans des situations réelles. Commencer par des expérimentations pédagogiques avant d’engager une réforme plus générale.

6. Faire de l’IA un outil d’intelligence collective

L’une des perspectives les plus intéressantes est de mettre l’IA au service de la coopération plutôt que de la seule performance individuelle ou commerciale. Elle pourrait notamment :

• Rassembler et organiser des contributions citoyennes très nombreuses.
• Faire apparaître des convergences et des désaccords.
• Faciliter la confrontation de points de vue différents.
• Aider à identifier des solutions et à comparer leurs conséquences.
• Conserver une mémoire collective des expériences et des initiatives.

Mais il faut distinguer deux choses : la synthèse statistique de ce que pensent les individus et la construction collective de ce que nous souhaitons réellement faire ensemble. L’IA peut faciliter la délibération démocratique ; elle ne peut pas se substituer à celle-ci.

7. Construire une véritable gouvernance de l’IA

Enfin, le développement de l’IA ne peut être abandonné aux seuls intérêts commerciaux ou aux choix de quelques entreprises. Il faut notamment :

• Protéger les données personnelles et la confidentialité.
• Contrôler les systèmes utilisés dans les domaines sensibles.
• Évaluer les conséquences sociales, économiques et environnementales.
• Anticiper les transformations des métiers et organiser les reconversions.
• Prévenir la concentration excessive des pouvoirs.
• Définir des règles de responsabilité et de contrôle des systèmes autonomes.
• Rechercher des accords internationaux sur les usages les plus dangereux.La gouvernance doit associer les citoyens, les chercheurs, les entreprises et les pouvoirs publics.

Conclusion : augmenter l’intelligence humaine plutôt que la remplacer

Le véritable enjeu n’est pas de savoir si l’IA deviendra plus performante que l’être humain dans toujours davantage de domaines. C’est très probable. La question essentielle est de savoir ce que nous voulons conserver, développer et accomplir grâce à elle. L’IA peut nous aider à mieux connaître, à mieux prévoir, à mieux comprendre certains problèmes et à accélérer la réalisation de nombreuses tâches. Mais elle ne garantit ni la sagesse, ni la justesse, ni la capacité à choisir collectivement un avenir souhaitable. Il faut donc éviter deux écueils : la fascination technologique, qui lui déléguerait progressivement nos responsabilités, et le rejet systématique, qui nous priverait de ressources considérables.

La bonne orientation consiste à gagner en puissance grâce aux machines tout en développant nos capacités humaines de discernement, de coopération et de décision

C’est finalement une question de civilisation : faire en sorte que le progrès technique serve le développement humain, la démocratie et le vivant, et non l’inverse.

Une formule pourrait résumer cette orientation :

Confier aux machines ce qu’elles savent mieux faire, conserver aux humains ce qui exige du jugement et de la responsabilité, et apprendre ensemble à faire ce qu’aucun des deux ne peut accomplir seul.