Les LLM sont en train d'atteindre un gros plafond : les améliorer par un facteur de deux requièrerait l'ingestion de dix fois plus de données supplémentaires... et nous n'avons pas neuf autres internets qui traînent, déjà que le nôtre se retrouve bien pollué par des conneries autogénérées en tout genre !
Ils seront toujours approximatifs, il y aura toujours 10% d'hallucinations grand minimum ; c'est ça qui les rendrait créatifs, et c'est en essayant de supprimer ces hallucinations que les modèles se retrouvent lobotomisés... donc je n'ai pas non plus un grand espoir de les voir s'améliorer de ce côté-là.
Je pense qu'ils ont une utilité : tout ce qui relève d'un côté "fuzzy search", « recherche vague ». Utilité qui est d'autant plus importante étant donné qu'internet se retrouve pollué, et Google de moins en moins utilisable (pas seulement à cause des I.A. et de leur propre I.A. mais quand même). La prochaine fois que vous avez un truc sur le bout de la langue, mais que vous ne le retrouvez pas, essayez de demander en disant « je me souviens que X, de Y, et que Z... » et ça arrive quand même très souvent à vous mettre sur la bonne piste.
Je pense que la technologie est bonne pour tout ce qui relève des questions vagues, qui ont besoin d'une réponse qui n'est pas précise, mais qui bénéficierait de l'appui d'une telle quantité de données ingurgitées. La traduction est plutôt un bon exemple : entre l'ancien Google Translate, le nouveau avec apprentissage machine, DeepL, et ChatGPT, c'est clairement ce dernier qui aide le plus. Contrairement à tous les autres outils, on peut guider les LLM, en ajoutant du contexte à côté de ce que l'on cherche à traduire. Donc ça peut être un assistant pour des traductions très difficiles.
A part ce que Marin a très justement souligné (un fantasme du patronat pour permettre de délocaliser / virer tout le monde), une des tendances qui m'inquiète le plus, c'est de voir à quel point certaines personnes sont prêtes à déléguer autant de leur vie à ChatGPT. On peut voir des situations rocambolesques comme des personnes qui finissent par dialoguer par ChatGPT interposé... ça finit par devenir ChatGPT qui drague ChatGPT dans les rencards... il finit par y avoir une sorte
« d'impuissance apprise ». Et surtout dans l'éducation !
https://old.reddit.com/r/Teachers/search?q=chatgpt&restrict_sr=on&sort=relevance&t=allhttps://old.reddit.com/r/enseignants/search?q=gpt&restrict_sr=on&sort=top&t=allJe vous laisse lire ce que les enseignants du monde anglophone et d'ici en pensent !
Le pire, c'est que, comme je l'ai dit dans un autre message à propos du nouveau mode « apprentissage » de ChatGPT, ça aurait pu être un formidable outil...
Si ça peut mettre les élèves sur la piste sans leur donner une réponse toute prête, qui expliquerait comment résoudre sans le faire pour eux, alors je pense que ça pourrait être une bonne chose. Le problème étant, bien évidemment, que ce n'est pas ce que la plupart des élèves souhaitent...
Il y a des matières au lycée dans lesquelles j'étais complètement paumé, et j'aurais adoré avoir ce moyen de savoir par où commencer à détricoter quelque chose, d'avoir un « prof à moi tout seul » ; par exemple, avec la philosophie, j'ai toujours eu l'impression d'avoir été jeté au fond de la piscine à 5 mètres de profondeur sans savoir nager. C'était très frustrant et désarmant. Un peu comme si on vous avait téléporté dans un cours de physique quantique alors que vous ne savez même pas faire 2+2.
Je comprends pourquoi il y a énormément de personnes qui se tournent vers les I.A. pour poser des questions (et qui même, parfois, les traitent comme des psychothérapeutes) ; il n'y a pas de jugement, personne ne va vous répondre de manière sarcastique en sous-entendant que vous êtes vraiment le dernier des imbéciles pour avoir posé une « question bête ». Et dieu sait que c'est encore plus valable dans le milieu scolaire, étant donné sa propension au harcèlement.
Donc... franchement, ouais, malgré tous les problèmes des I.A., je pense que c'est quelque chose d'intéressant
EDIT : il y a aussi tout ce qui est lié a la désinformation, surtout avec les vidéos générées par I.A. mais je pense qu'on est tous d'accord là-dessus donc je ne vais pas m'attarder sur le sujet
C'est bien dommage que le terme même d'intelligence artificielle se retrouve associé si fortement à ChatGPT et aux LLM, car tous les signes me laissent à penser que ça ne sera sûrement pas cette technologie qui amènera le gros fantasme de « l'intelligence artificielle générale » (AIG / AGI). Toutes les autres technologies d'apprentissage machine se retrouvent associées sémantiquement à ce concept dans la tête du grand public, et c'est assez frustrant, surtout dans mon domaine de travail, le développement de jeux vidéo, ou on se retrouve à lire
des conneries pareilles :
Bistro