The Limits of Rationality in Artificial Intelligence
Les limites de la rationalité en intelligence artificielle
Résumé
Artificial intelligence (AI) arouses many fantasies among cognitive science researchers in North America, some of which persist today in the media and public debate. Often presented as a revolutionary technology, which it is in practice, particularly in its most recent techniques, it nevertheless still meets theoretical limits (sometimes insurmountable) identified as early as the 20th century. Indeed, whether in understanding the context, interpreting semantically ambiguous propositions, or quite simply in its processing of information, the rationality of AI remains limited to that of a logical-mathematical approach to the world. There are therefore many abuses of language in the public debate when we talk about AI which leads to the development of beliefs about its reality. We will thus say of a machine that it is "more intelligent" than the human being (while it is simply not intelligent), that it "understands" certain problems more or less well (while she does not understand things in the same way as a human), or that she is an “autonomous system” (while she is rigorously determined in all her actions). However, to express oneself in this way is to ignore the real limits of AI which it owes to its mechanical nature and it is to pursue and prolong the fantasies that this technology has fueled since the 1950s. The purpose of our presentation is not therefore to say that AI is ineffective (it obviously is in many cases), but rather to shed light on some of its limits and dispel misunderstandings about its possibilities.
L’intelligence artificielle (IA) suscite de nombreux fantasmes parmi les chercheurs en sciences cognitives d’Amérique du Nord et dont certains perdurent encore aujourd’hui dans les médias et le débat public. Souvent présentée comme une technologie révolutionnaire, ce qu’elle est en pratique, notamment dans ses techniques les plus récentes, elle rencontre pourtant encore de nos jours des limites théoriques (parfois indépassables) identifiées dès le 20e siècle. En effet, que ce soit dans la compréhension du contexte, l’interprétation de propositions sémantiquement ambiguës, ou tout simplement dans son traitement de l’information, la rationalité de l’IA demeure bornée à celle d’une approche logico-mathématique du monde. Il y a ainsi de nombreux abus de langage dans le débat public lorsque l’on évoque l’IA et qui conduisent à développer des croyances quant à sa réalité. On dira ainsi d’une machine qu’elle est « plus intelligente » que l’être humain (alors qu’elle n’est tout simplement pas intelligente), qu’elle « comprend » plus ou moins bien certains problèmes (alors qu’elle ne comprend pas des choses au même titre qu’un humain), ou encore qu’elle est un « système autonome » (alors qu’elle est rigoureusement déterminée dans toutes ses actions). Or, s’exprimer ainsi c’est méconnaître les limites réelles de l’IA qu’elle doit à sa nature mécanique et c’est poursuivre et prolonger les fantasmes que cette technologie alimente depuis les années 50. L’enjeu de notre présentation ne sera donc pas de dire que l’IA est inefficace (elle l’est bien évidemment dans de nombreux cas), mais plutôt d’amener un éclairage quant à certaines de ses limites et dissiper les malentendus quant à ses possibilités.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|