Qu’est-ce qui nous rend humains ? Cette question est posée par beaucoup – y compris par des personnalités célèbres comme l’historien israélien Yuval Noah Harari et le fondateur d’OpenAI, Sam Altman – répondent : « humour », « imagination », « émotions ». Nous soutenons que ces réponses sont philosophiquement et théologiquement naïves et finalement inadéquates : la caractéristique déterminante de la condition humaine réside plutôt dans la conscience, qui est également communément considérée comme le « Saint Graal » de la recherche sur l’intelligence artificielle (IA).

Dans cet article, nous voudrions montrer que la soi-disant « intelligence artificielle générative » ne peut en principe pas être aussi intelligente que nous, c’est-à-dire que les machines ne seront jamais « conscientes d’elles-mêmes ». Bien entendu, ces affirmations requièrent une explication plus nuancée, pour éviter les pièges de la pensée non scientifique et de « l’arrogance cléricale » : deux pièges dans lesquels les théologiens sont parfois tombés depuis le début de l’ère moderne.

Pour introduire le sujet, nous présentons une courte anecdote. Deux moines se tiennent au bord d’un ruisseau et contemplent l’eau ondulante. Soudain, l’un d’eux dit pensivement : « J’aimerais être aussi heureux que ce poisson dans l’eau ! » L’autre répond : « Comment être sûr que ce poisson est heureux ? Tu n’es pas un poisson ». Le premier répond : « Comment sais-tu que je ne peux pas savoir ? Tu n’es pas moi ».

Le 26 avril 2023, l’État d’Israël a célébré les 75 ans de sa fondation. Ce jour-là, le président israélien Isaac Herzog s’est adressé au corps diplomatique en ces termes : « L’État moderne d’Israël est un véritable miracle. Nous avons dû travailler dur pour y parvenir. Lorsque nos fondateurs ont déclaré la création de l’État d’Israël le 14 mai 1948 – un État fondé sur la vision prophétique d’un monde où régneraient la liberté, la justice et la paix – beaucoup pensaient que le pays naissant ne survivrait pas. Rares sont ceux qui auraient pu prédire le cours de notre improbable histoire. Aujourd’hui, nous sommes un pays à la pointe des efforts visant à rendre le monde meilleur pour nous tous, dans l’esprit de notre vision fondatrice ».

Cependant, le 75^e anniversaire de l’État d’Israël a été marqué par de profondes divisions internes en raison de la réforme judiciaire proposée. Semaine après semaine, les grandes villes ont été le théâtre de manifestations massives contre la décision du gouvernement de modifier le système judiciaire et, en particulier, contre la réduction prévue du contrôle du pouvoir judiciaire sur les décisions du gouvernement.

Trois mois plus tard, le 24 juillet 2023, le parlement israélien (la Knesset) a adopté un amendement à la loi fondamentale de 1984 sur le système judiciaire, interdisant aux juges d’utiliser la « clause du raisonnable » pour évaluer les décisions administratives prises par le gouvernement. Le ministre de la Justice, Yariv Levin, a présenté cet amendement comme la première étape d’une révision juridique qui, selon lui, rétablirait la démocratie israélienne, jusqu’à présent limitée par les juges qui, en tant que personnalités non élues par le peuple, interfèrent dans la manière dont le gouvernement élu administre le pays.