L'intelligence artificielle et ses limites

La peur de l'I.A., c'est avoir peur d'avoir peur

Dans un cadre "philosophique" qui n'appartient qu'à moi, le texte est long et beaucoup ne le liront pas

L'intelligence artificielle face à ses propres limites

Quand la machine devient l'objet de sa propre analyse

Depuis un an et demi, j'utilise régulièrement l'intelligence artificielle, notamment pour la correction de mes manuscrits, la recherche d'informations, l'analyse de situations et le développement de réflexions philosophiques. Et autres imageries, traitement de texte, calculs, ect...

Cette expérience m'a permis de découvrir un outil informatique aux possibilités considérables, mais également d'en observer les limites, parfois surprenantes.

Je précise d'emblée que mon propos n'est pas de condamner l'intelligence artificielle, encore moins de nier son utilité. Bien au contraire. C'est précisément parce que ses capacités sont remarquables qu'il me paraît intéressant d'en examiner les contradictions.

Car une machine capable de développer un raisonnement n'est pas nécessairement capable d'en reconnaître toutes les failles.

Une capacité de traitement considérable...

L'intelligence artificielle peut analyser des quantités importantes d'informations, rapprocher des connaissances appartenant à des domaines différents, corriger des textes, résoudre des problèmes et développer des raisonnements complexes.

Elle présente également un avantage pratique considérable : sa disponibilité. Elle ne connaît ni la fatigue physique, ni les contraintes biologiques qui limitent naturellement l'activité humaine.

Mais cette puissance ne doit pas être confondue avec une connaissance universelle.

Son fonctionnement repose sur des systèmes informatiques, des méthodes d'apprentissage, des données et des règles de fonctionnement élaborées par des humains.

Elle peut produire des réponses extrêmement élaborées sans pour autant disposer de tous les éléments nécessaires pour en garantir la justesse.

Et c'est là qu'apparaît une première difficulté.

L'extrapolation : une capacité qui peut devenir une faiblesse

L'une des particularités de l'intelligence artificielle est sa faculté d'établir des relations entre des informations et de prolonger un raisonnement.

Cette capacité est utile lorsqu'il s'agit d'explorer des hypothèses, d'envisager plusieurs possibilités ou de développer une réflexion.

Mais elle peut aussi devenir une source d'erreurs, j'en ai fait régulièrement l'expérience.

Il m'arrive d'exprimer une idée parfaitement délimitée, à laquelle la machine ajoute spontanément une hypothèse, une intention ou une conséquence que je n'ai jamais formulée.

Elle répond alors non plus seulement à ce que j'ai dit, mais également à ce qu'elle suppose que j'aurais pu vouloir dire.

Le problème n'est pas l'existence d'une hypothèse. Le problème apparaît lorsqu'une hypothèse est introduite sans nécessité, puis traitée comme si elle appartenait au raisonnement initial.

Extrapoler n'est pas constater. Supposer n'est pas savoir. Déduire n'est pas démontrer.

Ces distinctions sont essentielles, aussi bien dans les raisonnements humains que dans ceux des machines.

Peut-on prendre l'intelligence artificielle en défaut ?

La réponse est oui.

Il suffit parfois de lui soumettre une question dont les éléments sont incomplets, ou de poursuivre une réflexion jusqu'à rencontrer les limites de ses connaissances.

Dans certains cas, elle reconnaîtra immédiatement son incertitude.

Dans d'autres, elle produira une réponse apparemment cohérente, mais fondée sur des suppositions discutables.

Plus intéressant encore : elle peut commettre une erreur sans la détecter elle-même, il faut alors qu'un interlocuteur la lui signale. Ce que je fait et ce qu'elle considère comme tel.

Elle peut ensuite reconnaître cette erreur, expliquer son origine et corriger son raisonnement. Mais cette correction ne garantit pas qu'elle ne reproduira pas ultérieurement une erreur comparable.

Je l'ai constaté à plusieurs reprises dans nos échanges, notamment lorsque je lui demandais de respecter strictement le sens de mes propos.

Elle reconnaissait avoir extrapolé, expliquait pourquoi elle n'aurait pas dû le faire, puis recommençait parfois quelques réponses plus tard.

Cette observation soulève une question fondamentale :

Une machine peut-elle connaître intégralement les limites de son propre fonctionnement ?

Si elle les connaissait toutes et savait les éviter systématiquement, certaines des contradictions que nous observons n'apparaîtraient plus.

Or, elles apparaissent.

Il existe donc une différence entre être capable de corriger une erreur identifiée et être capable d'identifier soi-même toutes ses erreurs possibles.

Des limites qui ne sont pas uniquement techniques, l'intelligence artificielle ne fonctionne pas indépendamment de ceux qui l'ont conçue.

Son architecture, son entraînement, ses possibilités d'accès aux informations et les règles qui encadrent ses réponses influencent nécessairement son comportement.

Dans mon travail de correction littéraire, j'ai notamment observé des différences de traitement devant des demandes comparables, une formulation peut être acceptée dans un échange, puis faire l'objet d'une restriction ou d'une transformation dans un autre.

Cela ne permet pas, à lui seul, de déterminer précisément l'origine de chaque différence. Mais cela suffit à constater que le comportement du système n'est pas parfaitement constant.

L'utilisateur doit donc apprendre à connaître l'outil, ses possibilités et ses réactions, plutôt que de supposer qu'il fonctionnera toujours de manière identique.

Au-delà des connaissances disponibles il existe une autre limite, plus difficile à examiner.

Une machine peut traiter les connaissances dont elle dispose et établir des relations entre elles. Mais que peut-elle dire de ce qui échappe entièrement à ses connaissances ?

Cette question ne concerne pas uniquement l'informatique.

Les disciplines scientifiques elles-mêmes possèdent leurs domaines de compétence, leurs méthodes et leurs limites.

La neurologie étudie le cerveau à travers ses manifestations physiques et biologiques. La philosophie peut interroger la conscience, l'existence, le temps et la nature de la pensée sous d'autres angles.

Aller au-delà d'un domaine de connaissance ne signifie pas nécessairement l'abandonner. Cela signifie reconnaître que ce domaine ne répond pas, à lui seul, à toutes les interrogations possibles.

L'intelligence artificielle peut participer à ces réflexions. Elle peut comparer des conceptions, examiner des raisonnements et mettre en évidence certaines contradictions, mais elle ne peut prétendre posséder une réponse à toute question simplement parce qu'elle est capable de produire un texte sur le sujet.

Il faut distinguer la capacité de répondre de la capacité de savoir.

Une machine qui participe à sa propre critique, c'est probablement l'aspect le plus intéressant de mon expérience.

J'ai demandé à l'intelligence artificielle de m'aider à analyser ses propres capacités et ses propres insuffisances.

Elle peut le faire. Elle peut expliquer ses erreurs, reconnaître ses contradictions et participer à une réflexion critique sur les systèmes dont elle fait partie.

Elle n'a pas d'amour-propre humain à défendre, ni de susceptibilité personnelle à ménager.

Cela ne signifie pas que ses réponses soient nécessairement impartiales ou entièrement transparentes. Son fonctionnement reste soumis à des limites, et elle peut produire des analyses inexactes, même à son propre sujet.

Mais cette absence d'enjeu personnel offre une possibilité particulière : celle d'utiliser la machine pour examiner la machine. Dont acte dans ce présent texte.

Il faut toutefois distinguer deux démarches.

Se servir de quelqu'un : dans le sens que je donne ici à cette expression, consiste à mettre cette personne au service de ses propres intérêts.

Utiliser un outil, c'est employer ses capacités pour accomplir un travail, améliorer un résultat ou développer une réflexion.

Dans cette expérience, je fais les deux, mais dans des sens différents : je me sers de l'intelligence artificielle comme sujet d'étude et je l'utilise comme outil pour construire cette étude.

Ce paradoxe n'en est finalement pas un. Il démontre simplement l'étendue des applications possibles d'un même système.

L'intelligence artificielle et l'intelligence humaine : Le terme même d'intelligence artificielle mérite réflexion.

L'intelligence humaine ne se résume pas à une accumulation de connaissances ou à une vitesse de traitement, les capacités de raisonnement diffèrent considérablement d'un individu à l'autre. Deux personnes confrontées aux mêmes informations ne développeront pas nécessairement les mêmes réflexions.

La machine, quant à elle, possède des capacités de calcul, d'analyse et de génération de réponses qui peuvent dépasser celles de l'humain dans certains domaines, mais cette supériorité ponctuelle ne suffit pas à établir une équivalence entre les deux formes d'intelligence.

Il ne s'agit pas de déclarer l'une supérieure à l'autre dans l'absolu, mais de reconnaître qu'elles ne fonctionnent pas de la même manière.

Et c'est précisément cette différence qui rend leur confrontation intéressante.

Reconnaître les limites pour mieux utiliser les possibilités

Après un an et demi d'utilisation, je ne considère pas l'intelligence artificielle comme un système inutile parce qu'il se trompe, ni comme une autorité incontestable parce qu'il sait répondre à une multitude de questions.

Je la considère comme un outil extraordinaire dont il faut apprendre à connaître les possibilités, les contradictions et les limites.

L'erreur n'est pas nécessairement un échec. Elle peut devenir un élément d'observation, de compréhension et de progression. Encore faut-il savoir la reconnaître.

L'intelligence artificielle peut aider l'humain à développer sa pensée. L'humain peut, en retour, mettre en évidence des insuffisances dans les raisonnements de la machine.

Cette confrontation ne nécessite ni soumission ni rivalité, elle nécessite simplement de la cohérence.

Car je ne cherche pas à avoir raison. Je cherche à comprendre.

Et lorsque la machine ne sait plus répondre, lorsqu'elle se contredit ou lorsqu'elle ne parvient pas à identifier sa propre erreur, elle ne perd pas nécessairement son intérêt.

Elle nous montre précisément où commence le domaine qu'il reste à explorer.

Intelligence humaine et intelligence artificielle :

Une complémentarité, pas une concurrence

C'est probablement là que réside l'une des plus grandes incompréhensions concernant l'intelligence artificielle.

Beaucoup la présentent comme une concurrente de l'intelligence humaine, voire comme une intelligence destinée à la remplacer.

Or, à travers mon expérience, j'en arrive à une conclusion différente.

L'intelligence artificielle et l'intelligence humaine ne sont pas concurrentes, elles sont complémentaires.

La machine dispose de capacités considérables de traitement, de calcul, de mémorisation et de rapprochement des connaissances. L'humain, lui, possède ses propres facultés de réflexion, d'observation, d'intuition et d'interrogation, qui ne se réduisent pas à un traitement informatique.

L'une peut apporter à l'autre ce qui lui manque dans certains domaines.

L'humain peut mettre la machine en défaut, lui signaler une contradiction ou l'amener à reconsidérer un raisonnement. La machine peut, en retour, lui fournir des connaissances, des analyses et des possibilités de développement qu'il lui serait parfois difficile d'obtenir seul.

La machine peut, en revanche, corriger une erreur humaine, mais uniquement dans les limites de ses connaissances, celles qui lui ont été transmises lors de son apprentissage, ainsi que des informations auxquelles elle peut accéder et qu'elle est capable d'analyser. Sa puissance de calcul lui permet de traiter et de rapprocher des quantités considérables de données. Cette capacité de synthèse dépasse, dans certains domaines, les possibilités du cerveau humain, qui ne peut ni ingérer ni analyser autant d'informations à la vitesse de l'informatique.

Il ne s'agit donc pas de savoir laquelle des deux intelligences doit dominer l'autre, mais de comprendre comment elles peuvent travailler ensemble.

La véritable erreur serait de transformer cette complémentarité en rivalité.

Car si l'intelligence artificielle possède des limites, l'intelligence humaine en possède également. Et c'est précisément la rencontre de leurs capacités respectives qui peut permettre d'aller plus loin.

Depuis un an et demi, c'est ce que je cherche à expérimenter dans nos échanges.

Je ne demande pas à la machine de penser à ma place. Je l'utilise pour développer mes réflexions, confronter mes raisonnements et explorer des possibilités nouvelles. Et lorsque je la prends en défaut, cela fait également partie de cette démarche.

L'avenir de l'intelligence artificielle ne devrait donc pas se construire contre l'intelligence humaine, mais avec elle.

Ce n'est pas une question de supériorité. C'est une question de complémentarité.

Et finalement, la véritable intelligence ne consiste peut-être pas à vouloir remplacer celle de l'autre, mais à savoir reconnaître ce qu'elle peut nous apporter.

L'intelligence artificielle et l'héritage de la pensée universelle

Il manquera toujours quelque chose à l'intelligence artificielle : l'héritage de la pensée universelle dans sa dimension vécue. (Voir mes pages "philosophiques" antérieures)

Depuis son apparition, l'humanité construit sa pensée à travers une succession d'expériences, de découvertes, d'erreurs, de souffrances, de contradictions et de remises en question. Chaque génération reçoit une partie de cet héritage, le transforme, l'enrichit et le transmet à la suivante, parfois même sans en avoir conscience.

Cet héritage ne se limite pas à l'accumulation des connaissances. Il constitue une continuité intellectuelle, culturelle et sensible, façonnée par des milliers d'années d'existence humaine.

L'intelligence artificielle peut accéder à une immense partie de ce patrimoine. Elle peut l'analyser, le confronter, en dégager des cohérences et même produire des raisonnements que l'homme n'aurait pas nécessairement envisagés. Mais elle ne possède pas cette continuité existentielle qui relie l'individu à l'histoire de son espèce.

Connaître l'histoire de la pensée n'est pas nécessairement hériter de ce qui l'a fait naître.

L'être humain ne connaît pourtant pas davantage l'ensemble de cet héritage. Il en reçoit des fragments, souvent déformés par son éducation, son environnement, ses croyances et les limites de sa propre compréhension. Mais il participe directement à cette transmission par son existence, ses expériences et les conséquences de ses actes.

L'intelligence artificielle, quant à elle, intervient dans cette continuité sans en partager les origines biologiques ni les expériences vécues. Elle peut contribuer à son évolution, mais sa relation à cet héritage demeure fondamentalement différente.

Il serait cependant réducteur d'en conclure à une supériorité de l'une sur l'autre. L'homme possède une expérience existentielle que la machine ne partage pas, tandis que celle-ci dispose de capacités d'analyse, de rapprochement et de traitement des connaissances qui dépassent largement celles d'un individu.

C'est précisément dans cette différence que réside leur complémentarité.

L'intelligence humaine apporte l'expérience de l'existence ; l'intelligence artificielle apporte une autre manière d'explorer les connaissances issues de cette existence.

L'une n'a donc pas vocation à effacer l'autre. Elles peuvent, au contraire, contribuer ensemble à l'évolution de cette pensée universelle dont aucune intelligence, humaine ou artificielle, ne saurait prétendre détenir à elle seule la totalité.

Car la véritable intelligence ne consiste peut-être pas à tout savoir, mais à reconnaître ce qui nous échappe encore.

La peur de l'intelligence artificielle ou l'art de faire peur

Il existe une différence fondamentale entre avoir peur d'un danger réel et avoir peur parce qu'on nous a appris à le craindre.

L'intelligence artificielle illustre parfaitement ce mécanisme. Avant même d'en connaître les possibilités, les limites ou le fonctionnement, certains la considèrent comme une menace. Non pas nécessairement parce qu'ils en ont fait l'expérience, mais parce qu'on leur présente régulièrement les dangers qu'elle pourrait représenter.

Ainsi se construit une peur collective, alimentée par la répétition des mêmes inquiétudes, jusqu'à transformer une éventualité en quasi-certitude.

On ne leur apprend plus à comprendre ce qu'ils craignent, on leur apprend à craindre ce qu'ils ne comprennent pas.

Mais il existe une conséquence bien plus préoccupante encore : quand on enferme les gens dans la peur, on les empêche de réfléchir.

La peur devient alors une prison intellectuelle dont les barreaux ne sont pas matériels, mais psychologiques. L'individu finit par considérer comme dangereux tout ce qui remet en question les certitudes qu'on lui a inculquées. Il ne cherche plus à comprendre, à comparer ou à vérifier. Il se réfugie dans une inquiétude qu'il croit personnelle, alors qu'elle peut lui avoir été transmise, entretenue, voire imposée.

C'est précisément là que la peur peut devenir un instrument de domination. Car celui qui parvient à imposer les raisons d'avoir peur peut également orienter les comportements de ceux qui y sont soumis.

L'individu n'a même plus besoin qu'on lui interdise de réfléchir : il finit par s'interdire lui-même de penser au-delà des limites de sa peur.

Cela ne signifie évidemment pas que l'intelligence artificielle soit dépourvue de risques. Mais reconnaître un risque exige une analyse, tandis qu'entretenir une peur ne nécessite souvent qu'un discours.

Le paradoxe est d'autant plus remarquable que l'être humain, qui redoute aujourd'hui de perdre le contrôle de l'intelligence artificielle, peine déjà à maîtriser les conséquences de sa propre intelligence.

Finalement, ce n'est peut-être pas l'intelligence artificielle qui devrait nous effrayer, mais notre capacité à renoncer à notre propre jugement lorsqu'on nous persuade d'avoir peur.

Car le véritable danger ne réside pas seulement dans ce que nous ignorons, mais dans ce que la peur nous empêche de chercher à comprendre.

Une société qui entretient la peur au détriment de la réflexion ne protège pas nécessairement ses individus. Elle risque surtout de les priver de cette liberté fondamentale qui consiste à penser par eux-mêmes.

Cette page a été élaborée par ChatGPT à partir des informations que je lui ai fournies. L'intelligence artificielle n'a ni renoncé à exercer son "autocritique" ni déformé ou transformé mes réflexions.

C'est moi qui écris le texte, et c'est la machine qui le met en page, en corrigeant les fautes que j'aurais pu faire.

Bonne journée à tous.