La Fibre
Fonctionnement du forum => A lire avant de commencer... => 
Bistro => Discussion démarrée par: Mogette le 05 août 2025 à 17:09:57
-
Bonjour à tous,
Je me permets d’ouvrir ce sujet, en espérant qu’il soit publié dans la section appropriée.
J’aimerais recueillir vos impressions et réflexions concernant l’intelligence artificielle ou plutôt les intelligences artificielles, tant il en existe aujourd’hui une grande diversité.
Partagez-vous mon sentiment selon lequel l’IA pourrait constituer une menace pour l’humanité ?
Ou, au contraire, estimez-vous qu’elle représente une opportunité, un atout pour notre société ?
Pensez-vous qu’elle puisse un jour se développer de manière autonome, à l’image de ce que l’on observe dans des œuvres de science-fiction telles que Terminator ou Matrix ?
Craignez-vous des dérives telles que l’usurpation d’identité par la reproduction de la voix, de l’image ou de la vidéo à partir de vos propres données personnelles ?
Enfin, quels recours juridiques ou technologiques pouvons-nous envisager face à ces risques potentiels ?
-
Perso je pense que ca clairement nous péter a la gueule, une fois quelles seront capable de se reproduire et de s'auto améliorer, il vont devenir indépendantes et là ... Je ne crois pas du tout a un scénario genre terminator, aucun intérêts pour elles, je vois plutôt une sorte de mafia d'IA, qui vous tout pirater et exploiter les humains
-
Partagez-vous mon sentiment selon lequel l’IA pourrait constituer une menace pour l’humanité ?
C'est un thème cher à la science-fiction (Terminator, ou dans les années 60 "Colossus: The Forbin Project"), de croire que des machines peuvent prendre le pouvoir. Nous sommes encore très loin d'avoir des machines capables de réfléchir par elles-mêmes et de prendre le contrôle de l'humanité
La menace, s'il y en a une, est l'imbécilité des humains de croire que des machines pourraient faire le travail à leur place, sans aucun problème. C'est l'avènement d'une société où les esclaves sont des machines.
Ou, au contraire, estimez-vous qu’elle représente une opportunité, un atout pour notre société ?
Il est trop tôt pour dire quoi que ce soit à ce sujet.
Pensez-vous qu’elle puisse un jour se développer de manière autonome, à l’image de ce que l’on observe dans des œuvres de science-fiction telles que Terminator ou Matrix ?
Tout le problème est de savoir si un jour, cette machine atteindrait ce fameux point zéro de la singularité technologique, celle de l'émergence d'une conscience dont elle serait capable de devenir autonome et de dépasser l'homme en tout point.
Je retourne le problème en posant la question de qu'est-ce qu'une conscience ?
Craignez-vous des dérives telles que l’usurpation d’identité par la reproduction de la voix, de l’image ou de la vidéo à partir de vos propres données personnelles ?
Ne laissez pas des informations sensibles trainer sur le net. Il parait que le bon sens est totalement dépourvu chez l'homme. Il ne faut pas s'étonner des problèmes que cela peut engendrer.
Enfin, quels recours juridiques ou technologiques pouvons-nous envisager face à ces risques potentiels ?
Aucun, car le vers est déjà dans la pomme. Comment empêcher les être humains de vouloir toujours plus ? C'est dans leur nature, et tu ne peux rien faire pour y remédier. Il parait que cela se fait au nom du progrès.
-
Bien sur quelles auront une conscience, notre cerveau c'est de la chimie et des connexions ... quand les stimulations seront suffisamment complexes elles auront des sentiments, une conscience, un libre arbitre ....
-
Bonjour à tous,
Je me permets d’ouvrir ce sujet, en espérant qu’il soit publié dans la section appropriée.
J’aimerais recueillir vos impressions et réflexions concernant l’intelligence artificielle ou plutôt les intelligences artificielles, tant il en existe aujourd’hui une grande diversité.
Partagez-vous mon sentiment selon lequel l’IA pourrait constituer une menace pour l’humanité ?
Ou, au contraire, estimez-vous qu’elle représente une opportunité, un atout pour notre société ?
Pensez-vous qu’elle puisse un jour se développer de manière autonome, à l’image de ce que l’on observe dans des œuvres de science-fiction telles que Terminator ou Matrix ?
Craignez-vous des dérives telles que l’usurpation d’identité par la reproduction de la voix, de l’image ou de la vidéo à partir de vos propres données personnelles ?
Enfin, quels recours juridiques ou technologiques pouvons-nous envisager face à ces risques potentiels ?
Pour le moment, moins que la Chine. Je me demande si ce sera départagé dans quelques années (ou décennies)
-
Bien sur quelles auront une conscience, notre cerveau c'est de la chimie et des connexions ... quand les stimulations seront suffisamment complexes elles auront des sentiments, une conscience, un libre arbitre ....
Vous ne pouvez pas utiliser une affirmation sur quelque chose qui se passera dans le futur mais qui n'est pas certain d'arriver !
-
Une menace pour l'humanité, oui, si elle n'est pas bien utilisée.
Plusieurs choses à dire:
1) se rassurer en se disant que l'IA n'aura jamais de conscience, ne pourra jamais raisonner, inventer, c'est se mentir à soi même, je pense.
1.1) Raisonner et inventer, les IA savent déjà le faire. On voit déjà des IA capable de faire des recherches et des raisonnements complexes, des synthèses extrêmement pertinentes. Le côté "artistique" des IA a déjà été montré.
1.2) L'absence de "conscience", on voyait l'argument il y a 40 ans pour montrer que les animaux étaient "inférieurs" aux humains car dépourvus de conscience; on sait désormais que ces arguments étaient faux; donc il ne faut pas croire à ce genre d'argument.
1.3) De même, il ne faut surtout pas s'attendre à ce que l'IA ressemble à ce que l'on voit dans les films de SF passés et actuels. Attendre que l'IA soit comme dans les fils avant de commencer à s'en méfier, ça serait une grosse erreur. Il faut déjà s'en méfier aujourd'hui, et demain. Ne pas attendre que l'IA ressemble à des humains dans son comportement, son "apparence physique" (robots humanoides), elle pourra être néfaste/mal utilisée sous plein d'autres formes.
2) L'IA, et plein d'autres algorithmes sont déjà massivement utilisés en entreprise pour prendre des décision, pour donner des ordres à des gens, conseiller des décideurs. Donc en entreprise, on place parfois déjà les algorithmes et l'IA au dessus des humain dans la chaine de décision, de commandement, de management !
2.1) Sans parler d'IA, on le voit déjà avec les esclaves humain des métiers "uberisés" qui se font "manager", donner des ordre par des ordinateurs/algorithmes. Que ça soit les VTC, les livreurs, les call-center, les préparateurs de commande dans les entrepôts, etc... On voit des algorithme noter la performance, la "fiabilité" des salariés. Et l'utilisation d'algorithmes pour prendre des décisions et donner des ordres, ça ne fait que croitre depuis ~30 ans. On a dépassé le raisonnable, et ça ne s'arrête pas.
2.2) Beaucoup d'entreprises veulent utiliser l'IA dans des utilisation, ou domaine de responsabilité où elle ne devrait pas l'être. J'ai vu la semaine dernière une communication interne à un grand groupe où on parlait de conseillés de carrière (RH) remplacés partiellement par l'IA, aux USA. C'est du délire!
Le manque de prise de recul des entreprises sur l'éthique autour de l'IA, c'est tout simplement délirant, absurde. L’appât du gain, de la nouveauté, l'envie d'être précurseur, ça amène les entreprises à faire n'importe quoi.
Donc oui, l'IA fait peur, à juste titre. Et pas besoin d'attendre la "singularité technologique" pour voir les méfaits de la mauvaise utilisation de l'IA.
Leon.
-
Pour faire court, l'IA n'a pas de zizi, l'IA n'a pas de bras, l'IA dépend de l'électricité qu'on veut bien lui apporter, alors l'IA n'est pas prête à prendre le pouvoir tout de suite étant donné qu'elle ne peut se reproduire et s'améliorer que si l'homme le décide.
-
Pour faire court, l'IA n'a pas de zizi, l'IA n'a pas de bras, l'IA dépend de l'électricité qu'on veut bien lui apporter, alors l'IA n'est pas prête à prendre le pouvoir tout de suite étant donné qu'elle ne peut se reproduire et s'améliorer que si l'homme le décide.
L'IA est en partie (et je dit bien en partie) un grand fantasme. Presque aussi puissant que ceux de Patrick Sébastien au Cap d'Agde ! C'est dire !
L'IA, c'est la voiture volante de 2025 (vous savez, le truc qu'il devrait avoir partout depuis 25 ans...).
Oui, l'IA pourra remplacer en partie les gens avec des casquettes de Univers Freebox. Mais c'est le sens de l'Histoire que les métiers avec une moindre plus value disparaisse. Ceux qui ont une vraie expertise resterons !
-
L'IA est en partie (et je dit bien en partie) un grand fantasme.
Ouip, le patronat est en train de rêver de pouvoir réduire une partie de la masse salariale qu'il n'est pas en mesure de délocaliser là.
Mais les LLM sont des perroquets géants, la génération d'images « artistique » par apprentissage profond est un système de violation de la propriété des petits artistes, ChatGPT est un plagiat de reddit et wikipedia.
Pour faire court, l'IA n'a pas de zizi, l'IA n'a pas de bras, l'IA dépend de l'électricité qu'on veut bien lui apporter, alors l'IA n'est pas prête à prendre le pouvoir tout de suite étant donné qu'elle ne peut se reproduire et s'améliorer que si l'homme le décide.
Du coup en effet, pas d'intérêt à produire des androides tueurs, la russie peut déjà faire plus puissant et bête
-
Du coup en effet, pas d'intérêt à produire des androides tueurs, la russie peut déjà faire plus puissant et bête
Pour le moment la Russie grave déjà à 65 et bientôt à 90...
-
Elle sait même envoyer Laïka dans l'espace il paraît (https://em-content.zobj.net/source/twitter/408/nerd-face_1f913.png)
-
Envoyer c'est bien, ramener à bon port c'est mieux, non?
Cette pauvre Laïka n'a fait qu'expérimenter le "réchauffement climatique" spatial avant l'heure.
-
Envoyer c'est bien, ramener à bon port c'est mieux, non?
Cette pauvre Laïka n'a fait qu'expérimenter le "réchauffement climatique" spatial avant l'heure.
Comme le chien de Gabriel Attal. Rachida Dati promettait de le transformer en Kebab.
Le temps de cuisson doit être supérieur pour Laika.
-
Comme le chien de Gabriel Attal. Rachida Dati promettait de le transformer en Kebab.
Le temps de cuisson doit être supérieur pour Laika.
Certains grincheux prétendent qu'il y a déjà longtemps que l'Idiocratie Abrutissante a gangrené les sphères du pouvoir...
Se fourvoient-ils? J'ai comme un semblant de peur que non! :(
-
Les LLM sont en train d'atteindre un gros plafond (https://www.jonvet.com/blog/llm-scaling-in-2025) : les améliorer par un facteur de deux requièrerait l'ingestion de dix fois plus de données supplémentaires... et nous n'avons pas neuf autres internets qui traînent, déjà que le nôtre se retrouve bien pollué par des conneries autogénérées en tout genre !
Ils seront toujours approximatifs, il y aura toujours 10% d'hallucinations grand minimum ; c'est ça qui les rendrait créatifs, et c'est en essayant de supprimer ces hallucinations que les modèles se retrouvent lobotomisés... donc je n'ai pas non plus un grand espoir de les voir s'améliorer de ce côté-là.
Je pense qu'ils ont une utilité : tout ce qui relève d'un côté "fuzzy search", « recherche vague ». Utilité qui est d'autant plus importante étant donné qu'internet se retrouve pollué, et Google de moins en moins utilisable (pas seulement à cause des I.A. et de leur propre I.A. mais quand même). La prochaine fois que vous avez un truc sur le bout de la langue, mais que vous ne le retrouvez pas, essayez de demander en disant « je me souviens que X, de Y, et que Z... » et ça arrive quand même très souvent à vous mettre sur la bonne piste.
Je pense que la technologie est bonne pour tout ce qui relève des questions vagues, qui ont besoin d'une réponse qui n'est pas précise, mais qui bénéficierait de l'appui d'une telle quantité de données ingurgitées. La traduction est plutôt un bon exemple : entre l'ancien Google Translate, le nouveau avec apprentissage machine, DeepL, et ChatGPT, c'est clairement ce dernier qui aide le plus. Contrairement à tous les autres outils, on peut guider les LLM, en ajoutant du contexte à côté de ce que l'on cherche à traduire. Donc ça peut être un assistant pour des traductions très difficiles.
A part ce que Marin a très justement souligné (un fantasme du patronat pour permettre de délocaliser / virer tout le monde), une des tendances qui m'inquiète le plus, c'est de voir à quel point certaines personnes sont prêtes à déléguer autant de leur vie à ChatGPT. On peut voir des situations rocambolesques comme des personnes qui finissent par dialoguer par ChatGPT interposé... ça finit par devenir ChatGPT qui drague ChatGPT dans les rencards... il finit par y avoir une sorte « d'impuissance apprise » (https://www.reddit.com/r/Teachers/search?q=learned+helplessness&restrict_sr=on&include_over_18=on&sort=relevance&t=all). Et surtout dans l'éducation !
https://old.reddit.com/r/Teachers/search?q=chatgpt&restrict_sr=on&sort=relevance&t=all
https://old.reddit.com/r/enseignants/search?q=gpt&restrict_sr=on&sort=top&t=all
Je vous laisse lire ce que les enseignants du monde anglophone et d'ici en pensent !
Le pire, c'est que, comme je l'ai dit dans un autre message à propos du nouveau mode « apprentissage » de ChatGPT, ça aurait pu être un formidable outil...
Si ça peut mettre les élèves sur la piste sans leur donner une réponse toute prête, qui expliquerait comment résoudre sans le faire pour eux, alors je pense que ça pourrait être une bonne chose. Le problème étant, bien évidemment, que ce n'est pas ce que la plupart des élèves souhaitent...
Il y a des matières au lycée dans lesquelles j'étais complètement paumé, et j'aurais adoré avoir ce moyen de savoir par où commencer à détricoter quelque chose, d'avoir un « prof à moi tout seul » ; par exemple, avec la philosophie, j'ai toujours eu l'impression d'avoir été jeté au fond de la piscine à 5 mètres de profondeur sans savoir nager. C'était très frustrant et désarmant. Un peu comme si on vous avait téléporté dans un cours de physique quantique alors que vous ne savez même pas faire 2+2.
Je comprends pourquoi il y a énormément de personnes qui se tournent vers les I.A. pour poser des questions (et qui même, parfois, les traitent comme des psychothérapeutes) ; il n'y a pas de jugement, personne ne va vous répondre de manière sarcastique en sous-entendant que vous êtes vraiment le dernier des imbéciles pour avoir posé une « question bête ». Et dieu sait que c'est encore plus valable dans le milieu scolaire, étant donné sa propension au harcèlement.
Donc... franchement, ouais, malgré tous les problèmes des I.A., je pense que c'est quelque chose d'intéressant
EDIT : il y a aussi tout ce qui est lié a la désinformation, surtout avec les vidéos générées par I.A. mais je pense qu'on est tous d'accord là-dessus donc je ne vais pas m'attarder sur le sujet
C'est bien dommage que le terme même d'intelligence artificielle se retrouve associé si fortement à ChatGPT et aux LLM, car tous les signes me laissent à penser que ça ne sera sûrement pas cette technologie qui amènera le gros fantasme de « l'intelligence artificielle générale » (AIG / AGI). Toutes les autres technologies d'apprentissage machine se retrouvent associées sémantiquement à ce concept dans la tête du grand public, et c'est assez frustrant, surtout dans mon domaine de travail, le développement de jeux vidéo, ou on se retrouve à lire des conneries pareilles (https://bsky.app/profile/bryantfrancis.me/post/3lv2zp4bfvc2m) :
-
Les LLM sont en train d'atteindre un gros plafond (https://www.jonvet.com/blog/llm-scaling-in-2025) : les améliorer par un facteur de deux requièrerait l'ingestion de dix fois plus de données supplémentaires... et nous n'avons pas neuf autres internets qui traînent, déjà que le nôtre se retrouve bien pollué par des conneries autogénérées en tout genre !
(...)
A part ce que Marin a très justement souligné (un fantasme du patronat pour permettre de délocaliser / virer tout le monde)
Ma sœur a un diplôme de traduction, elle a pu me confirmer indépendamment que certains éditeurs commencent à donner des templates pré-traduites alors que ça prend plus de temps à réorganiser et corriger qu'en passant par un processus classique ; chez les devs il y a une mode du ""vibe coding"" qui consiste à supprimer la mince couche de réflexion qui pouvait être attendue en reprenant des templates google > stack overflow (déjà presque la même chose que l'emploi des LLM actuels au final) en n'essayant pas de réfléchir à ce que ça fait (porte ouverte aux vulnérabilités, bugs, soucis de maintenabilité), les études les plus récentes disent que ça ne fait pas spécialement pas gagner de temps, mais les équipes de management aiment souvent l'idée de foncer dans des murs par hypothèse de compétitivité (vu que la suite de la mondialisation qu'elles auto déclenchent leur semble inévitable) donc etc
-
une des tendances qui m'inquiète le plus, c'est de voir à quel point certaines personnes sont prêtes à déléguer autant de leur vie à ChatGPT. On peut voir des situations rocambolesques comme des personnes qui finissent par dialoguer par ChatGPT interposé...
Pour faire un peu de pair-aidance médicale et vivre dans un endroit en situation de désert/saturation pour l'accès à certains soins, ChatGPT me semble malheureusement aussi correctement informé et même plus correct pour l'orientation vers certains traitement/parcours de soins que certains praticiens (je suppose qu'il y a eu un travail avec des spécialistes sur certains sujets, c'est pas comme sur google où les résultats sont pollués par les pages des industriels qui veulent vendre des produits ou cliniques des prestations ; ou comme la france en général où tu as des fakemed des psychanalystes douteux etc de partout, quand tu peux juste avoir les soins)
Mais ça reste une base de connaissance avec curation, on peut comparer ça aux tentatives knol/quora/encarta/etc.
Pour les histoires de relation avec bots c'est surtout du fantasme de journaliste mdr (il y a des cas d'attachement thérapeutique qui ont été constatés je crois mais ça dure pas forcément).
-
en tout genre !
Et surtout dans l'éducation !
et d'ici en pensent !
ça progresse....
une des tendances qui m'inquiète le plus, c'est de voir à quel point certaines personnes sont prêtes à déléguer autant de leur vie à ChatGPT.
Les gens ont été drogués à google, ils en sont pas morts.
Les gens sont drogués à YT, ils sont encore en vie
(j'abstiendrai la part des réseaux sociaux)
Les gens adorent avoir de nouvelles habitudes (un peu moins changer celles en cours :D)
ce qui m'effraie le plus, c'est pas l'IA elle meme, c'est sa façon dont ils interagissent avec, depuis Siri :
ils parlent à l'appareil. Très sympa, oui. Bien qu'il existe de rares logiciels de reconnaissances vocales en local (sans internet), la plupart des usages passent par internet. Et exigent donc que l'utilisateur soit enregistré en audio. Normal. Mais. Faire ca dans les transports, à table, avec des gens autour... les utilisateurs s'abstiennent conscentieusement de demander à leurs entourage s'ils acceptent d'être enregistrés : "bah pas besoin, c'est normal c'est comme ça maintenant".
Bien, donc à priori je dois m'inquiéter de ne pas être d'accord que mon voisin de cantine laisse son téléphone enregistrer tout ce qui passe dans le micro, au prétexte que c'est la nouvelle ère. Ceci dit : les gens sont accros au bruit désormais, adorent déranger l'autre. J'arrive pas à trancher : est ce que l'IA me fait peur? En fait, si, je tranche : les gens accros au smartphone (pour cette raison) me foutent encore plus les jetons. Et mais que sur miaougpt.
-
J'utilise chatgpt regulierement : gain de temps
Claude 4, via Cursor quasiment tous les jours : gros gain de temps. Par contre faut pas etre un debile si on veut un resultat correct. En 4h tu peux faire ce qui t'aurait pris 10j, en 20min tu peux faire ce qui t'aurai pris 2 ou 3h. Dans 10 ans on pourra virer les devs ? heben peut-etre, on verra.
notebooklm : gain de temps, 10sec au lieu de 10min.
Exemple de ce matin :
J'ai une vm avec une install fraiche (debut juillet) de gitlab-ce. Ce matin j'update le bousin. Y a une nouvelle version.
D'habitude je met toujours gitlab en hold car les upgrade ne se passent quasiment jamais bien, meme si on se faisant chier on arrive toujours a relancer le truc. Bref ce matin, confiant, ouais j'accepte de passer de 18.1 a 18.2.
Heben ca a pas loupé, erreur lors du reconfigure, trop bien. Et pas que ca a faire aujourd'hui, j'etais a deux doigts de cliquer sur le bouton de restore du backup.
Bon ben 10min avec chatgpt, pour résoudre 2 pb successifs.
1 : fallait virer des merdes qui avaient rien a faire là : apt purge gitlab-ee. le reconfigure fonctionne a nouveau.
mais interface web inaccessible
2 : fallait stopper/disabler apache2 qui prenait les port80/443 necessaires à nginx.
tout seul je serai arrivé au meme resultat mais ca m'aurait pris facilement 45min à bien me faire chier, alors que là, en 10min c'est réglé et surtout pas eu besoin de bcp réfléchir, donc reposé ;)
-
À ce niveau le service est +/- comparable aux combis moteurs de recherche + bases de connaissances préexistantes je dirais (Google+Superuser ou Reddit) pour les soucis d'infra, donc oui c'est un gain de temps par rapport au fait de piocher dans sa mémoire ou agir à l'aveugle mais pas forcément de l'innovation pour la partie devops à mon sens
D'ailleurs les moteurs de recherche « classique » utilisent des modèles de langage non génératifs depuis des années, c'est juste une question de branding
-
Après dans l'absolu si les sphères de management encouragent aussi poussivement à utiliser des modèles génératifs c'est aussi dans l'idée qu'ils se nourrissent des corrections faites par les utilisateurs (surtout si on a un modèle intégré à une solution logicielle comme dans l'IDE cité par Free_me), donc c'est censé être dans leur intérêt si ça permet dans une prospective douteuse de se passer de plus de personnes pour effectuer le travail à l'avenir.
Mais il faut voir ça aussi dans le contexte économique actuel, l'argent des fonds d'investissement ne coule plus tellement à flot et des grosses entreprises du secteur tech américaine commencent à avoir de la dette à rembourser/des impératifs de rentabilité, donc cycle de contraction de l'économie, exigences plus fortes quitte à prévoir de licencier des gens et abaisser la qualité de la production, ...
-
Je continue à les percevoir comme un moteur de recherche++ avec commentaires à valeur souvent ajoutée. Les quelques fois où je l'utilise, c'est toujours ça qui en ressort.
-
Les modèles de langage génératifs en particulier c'est exactement ça, c'est juste la nouvelle génération de modèles de langage à usage général, les moteurs de recherche sont la précédente techniquement parlant.
Ça consomme juste plus de ressources et est plus polyvalent. Moi je suis une personne qui a des facilités pour lire/écrire rapidement mais ça aide d'autres personnes, pas toujours dans le bon sens au quotidien si ça pousse à négliger des études ou à produire moins correctement, mais c'est à double tranchant.
-
Mon point de vue actuel c'est que ces outils sont l'équivalent des outillages électriques de l'ouvrier. Indispensable non (pour l'instant ?), plus productif certainement. Un mauvais ouvrier restera mauvais avec ces outils. Un bon sera plus productif et peut-être même meilleur.
-
Certains grincheux prétendent qu'il y a déjà longtemps que l'Idiocratie Abrutissante a gangrené les sphères du pouvoir...
Se fourvoient-ils? J'ai comme un semblant de peur que non! :(
Peut être qu’un LLM pourrait remplacer des députés et des sénateurs un jour ? Peut être !
On voterait pour des IA politisés qui une fois élue pourrait prendre des mesures.
-
Les macronistes sous-traitent en grande partie la rédaction de leurs projets législatifs à des cabinets de conseil privés aujourd'hui, qui ont tout le loisir d'en utiliser pour compléter leur travail.
Par contre automatiser la prise de décision et le vote ce n'est pas possible sous la Ve qui requiert des humains (qui peuvent faire des choses aussi bêtes que de déclencher des guerres sur simple fond d'ego, malheureusement).
-
@ G40530 : La complexité n'implique pas l'émergence de la conscience, cela se saurait depuis longtemps. Sauf que ton argumentation ne définie pas ce qu'est la conscience. Commence par définir ce qu'est la conscience et l'on pourra pet-être débattre de cela. Je constate que la conscience apparait dans le monde vivant. Un corps mort est dépourvu de conscience. Comment expliques tu cela ?
@ PDuke : Le problème n'est pas de ce qui va arriver dans le futur, mais de comprendre de quoi nous parlons. J'ai beau me renseigner sur la conscience, je ne sais toujours pas ce que c'est. Et d'ailleurs, que savons nous de la conscience ? Pour certains, La conscience est une manifestation de la complexité d'un corps vivant. Par analogie avec le vicant, on croit que plus un système est complexe, et plus l'apparition de la conscience peut se manifester. Pour d'autres, la conscience est quelque chose qui vient s'insérer dans le corps, mais n'en fait pas partie. C'est comme le pilote (la conscience) dans un véhicule (le corps).
@ Léon : J'ai plus à craindre de l'imbécilité des gens qui veulent mettre de l'IA partout, sans comprendre l'impact que cela peut avoir sur l'humanité. Le danger n'est pas l'IA mais bien son usage. Ou mieux, une déshumanisation de notre société où la machine va tout contrôler.
@ Jérome34 : le fantasme concerne l'IAG (L'intelligence artificielle générale), pas les autres formes d'IA.
@ Paul : comme toi, j'utilise ChatGPT comme moteur de recherche. En dehors de son bla bla bla, les IA font quand même beaucoup d'erreurs. Pas très fiables.
@ Tous : Peur des IA, non, je ne vois pas pourquoi. Peut-être à cause du changement, et sur ses conséquences. Personne ne nous oblige à les utiliser. Nous sommes encore au début de l'IA, il faudra leur laisser du temps pour progresser.
-
@ G40530 : La complexité n'implique pas l'émergence de la conscience, cela se saurait depuis longtemps. Sauf que ton argumentation ne définie pas ce qu'est la conscience. Commence par définir ce qu'est la conscience et l'on pourra pet-être débattre de cela. Je constate que la conscience apparait dans le monde vivant. Un corps mort est dépourvu de conscience. Comment expliques tu cela ?
C'est une remarque très juste, actuellement la technologie a des besoins bien plus simples et moins consommateurs en ressources que le vivant (ATP, alimentation, bâti, etc. vs électricité et stockage), c'est pour ça qu'on ne cherche pas vraiment à émuler le vivant (on est loin de savoir le faire pour les mêmes résultats de toutes façons).
@ PDuke : Le problème n'est pas de ce qui va arriver dans le futur, mais de comprendre de quoi nous parlons. J'ai beau me renseigner sur la conscience, je ne sais toujours pas ce que c'est. Et d'ailleurs, que savons nous de la conscience ? Pour certains, La conscience est une manifestation de la complexité d'un corps vivant. Par analogie avec le vicant, on croit que plus un système est complexe, et plus l'apparition de la conscience peut se manifester. Pour d'autres, la conscience est quelque chose qui vient s'insérer dans le corps, mais n'en fait pas partie. C'est comme le pilote (la conscience) dans un véhicule (le corps).
Les systèmes électroniques ont conscience des variables qui ont trait à leur environnement lorsqu'ils sont utilisés.
De même que les catégories de vivant qui savent émettre des phonèmes en réfléchissant peu ont un degré de conscience comparables à certains moteurs d'AI actuels. Certains papiers de recherche critique sur l'IA populaires ces dernières années sont connus pour faire des comparaisons extensives entre les aras et les LLM, d'ailleurs.
-
Il y a des usines entièrement automatisé. Donc une IA pourrait bien s'auto reproduire. L'Homme se prend pour un créateur. Il subira ses choix.
-
Il subira ses choix.
Ca n'a jamais ete different.
-
Je vous remercie pour vos réponses, toutes aussi variées qu’enrichissantes.
À l’heure actuelle, nous conservons encore une certaine forme de contrôle sur les intelligences artificielles. Toutefois, je demeure convaincu que, dans un avenir proche, celles-ci connaîtront des avancées considérables, allant jusqu’à se doter d’une enveloppe corporelle par le biais de robots qu’elles concevront elles-mêmes. Il ne serait d’ailleurs guère étonnant d’assister, un jour, à des conflits opposant différentes intelligences artificielles. L’humanité, telle que nous la connaissons aujourd’hui, pourrait alors cesser d’exister.
-
ho oui vas-y inquietes toi a fond
tu es bien dans l'epoque moderne
-
Un résumé des risques en lien avec le marché spéculatif de l'IA aujourd'hui : https://eldritch.cafe/@UnePorte/114986962031526715
Petit résumé en français de la dernière newsletter "AI is a Honey Trap" d'Ed Zitron (https://www.wheresyoured.at/ai-is-a-money-trap/) (qui est un condensé d'infos ultra importantes et utiles pour comprendre les enjeux économiques de la bulle de l'IA générative) :
1. Le chiffre d'affaires des boites de l'IA (essentiellement OpenAI et Anthropic) atteint très, très péniblement 10 ou 15 milliards de dollars/an
2. Ces chiffres eux mêmes sont basés sur des données opaques, très loin de ce qu'on a habituellement. C'est très suspect sur la santé et les pratiques de ces entreprises.
3. Pour une startup, les options de sortie sont soit a) se faire racheter b) aller en bourse
4. Aucune startup de l'IA ne se fait racheter, aucune ne va en bourse
5. Même les gros acteurs (Anthropic, OpenAI) ne vont pas en bourse, probablement parce qu'ils ne peuvent pas rendre publiques certaines données ou se faire auditer
6. Cursor, la plus grosse startup proposant un produit construit sur l'IA générative, a une valeur estimée à 10 milliards de dollars, et génère moins d'un demi milliards de chiffre d'affaire par an (attention on parle bien de chiffre d'affaires ici, pas de bénéfices)
7. Toutes les entreprises de l'IA fonctionnent à perte, en vendant un service qui leur coûte plus cher que le chiffre d'affaires généré par les abonnements
8. Anthropic, qui fournissait le modèle faisant fonctionner Cursor, a changé ses conditions tarifaires récemment, ce qui a massivement dégradé la qualité du service proposé par Cursor, tout en augmentant les couts pour Cursor et donc les utilisateurs finaux
9. C'était, hors OpenAI et Anthropic, la seule boite ayant un poids dans le secteur
10. Elle va probablement couler, car personne n'a l'argent pour la racheter (10 milliards ça ne se trouve pas comme ça), et si elle va en bourse, elle devra passer par la case audit ce qui devrait révéler des horreurs
11. Toutes les boites faisant de l'IA semblent être dans une situation similaire : elles vendent un service à pertes et sont 100% dépendantes des tarifs proposés par OpenAI/Anthropic pour survivre. Si ces tarifs augmentent, elles meurent, elles sont trop chères pour êtres rachetées, trop toxiques pour aller en bourse
12. Les investissements (capex, ou capital expenditures) liés à l'IA atteignent quelque chose comme 300 milliards de dollars pour 2025. Essentiellement pour la construction de datacenters et l'achat de GPU (vendus par NVIDIA)
13. Le tout, on le rappelle, pour générer un chiffre d'affaires de 15 milliards (en étant très, très optimistes) en 2025
14. Ce capex est tellement gourmand en thunes que les entreprises doivent constamment faire des levées de fonds. OpenAI a ainsi levé 8.3 milliards récemment, à peine deux mois après avoir levé 10 milliards.
15. Contrairement à d'autres investissements d'infrastructure comme les télécom ou les chemins de fer, les capex liés à l'AI ne sont pas durables. Les GPU se déprécient très vite, les datacenters ne peuvent pas être facilement réutilisés pour d'autres choses.
16. En 2025, 300 milliards sont donc injectés dans des infrastructures qui ne vaudront plus rien dans quelques années
17. Ces dépenses sont tellement énormes qu'elles font bouger de manière visible des indicateurs comme le PIB des états-unis. On estime que l'IA compte pour 2% du PIB américain en 2025, et 0,7% de la croissance.
18. La croissance de l'économie américaine est donc actuellement drivée en grande partie par cette force là
19. Les Magnificent 7 (NVIDIA, Microsoft, Alphabet (Google), Apple, Meta, Tesla, Amazon) comptent pour 35% de la valeur de la bourse américaine
20. NVIDIA compte pour 19% des M7
21. Donc une seule entreprise, NVIDIA, compte pour 7% de la bourse américaine.
22. Plus de 40% du chiffre d'affaires de NVIDIA provient d'entreprises du M7, et quasiment 20% rien que pour Microsoft
23. La stabilité de tout ça dépend donc de la bonne santé de quelques acteurs (NVIDIA, Microsoft, OpenAI et quelques autres), et de leur capacité à injecter des capitaux à un rythme suffisant
24. Or, pour la première fois, Microsoft annonce une baisse de ses capex dans l'IA (notamment en ne déclanchant plus de nouvelle constructions de centre de données)
25. Si cela se poursuit, cela va donc probablement impacter les ventes de NVIDIA, donc le cours de l'action, donc l'ensemble de la bourse américaine
26. À côté de ça, autres acteurs ont de plus en plus de mal à lever des fonds.
27. OpenAI, par exemple a recours à SoftBank pour ses levées de fonds. Or, SoftBank arrive à court de liquidité (en étant déjà dans une position très précaire)
28. En 2024, OpenAI a dépensé 9 milliards pour générer un chiffre d'affaires de 4 milliards.
29. Si une levée de fonds échoue, OpenAI ne peut donc pas fonctionner longtemps (probablement pas plus de quelques mois)
30. OpenAI bénéficie de réductions massives de la part de Microsoft pour faire tourner ses modèles sur l'infrastructure de Microsoft. Si ces conditions changent, la situation sera encore pire
L'IA est un piège à thunes (2/2)
1. Tout le secteur ne tient donc qu'au bon vouloir de quelques acteurs, et une portion non négligeable de l'économie américaine repose sur ce secteur
2. Contrairement à d'autres bulles comme celle des subprimes (par exemple), il ne peut pas y avoir de retour à la normale pour l'AI générative. La crise des subprimes était liée à des biens immobiliers. L'argent investi dans l'immobilier ne peut pas être totalement perdu, car un bien immobilier a une valeur fondamentale et durable. Tout le monde a besoin de se loger.
3. Pour l'IA, les datacenters et les GPU qui représentent la quasi totalité des investissements, n'ont aucune valeur tangible hors de la bulle.
4. Cette valeur n'est pas durable même dans le contexte de la bulle, le matériel ayant une espérance de vie de quelques années maximum.
5. Quand la bulle explosera, ces investissements vaudront approximativement zéro dollars. Il n'y aura aucune pression pour faire remonter les prix.
7. Tout cet argent est donc déjà parti en fumée.
8. Et tout ça sans même évoquer la question de l'utilité de l'IA générative. Que l'IA générative soit utile, éthique, légale, etc. ou non, elle n'est économiquement pas viable malgré des centaines de milliards injectés
9. Ce qui a déjà été dépensé dans l'infrastructure dédiée à l'IA représente 20% des dépenses autour des infrastructures ferroviaires de 1880. Et déjà plus que les dépenses autour des télécoms (5G, Fibre) dans la période de 2020.
10. Pour un service que personne n'est prêt a payer ou presque, et certainement pas à son coût *réel
Si la newsletter est trop longue pour vous, cet article (https://paulkedrosky.com/honey-ai-capex-ate-the-economy/?ref=wheresyoured.at) de Paul Kedrosky est plus succinct et très clair.
-
Je vous remercie pour vos réponses, toutes aussi variées qu’enrichissantes.
À l’heure actuelle, nous conservons encore une certaine forme de contrôle sur les intelligences artificielles. Toutefois, je demeure convaincu que, dans un avenir proche, celles-ci connaîtront des avancées considérables, allant jusqu’à se doter d’une enveloppe corporelle par le biais de robots qu’elles concevront elles-mêmes. Il ne serait d’ailleurs guère étonnant d’assister, un jour, à des conflits opposant différentes intelligences artificielles. L’humanité, telle que nous la connaissons aujourd’hui, pourrait alors cesser d’exister.
Je ne comprends pas tellement l'intérêt d'imaginer des androïdes tueurs, les hélicoïdes tueurs (drones) existent déjà dans les zones de guerre. Qui aurait pour but de produire ça, quelle serait la demande correspondante, etc. ?
Le risque de prolifération des armes chimiques est bien plus grand, par exemple.
-
La crise des subprimes était liée à des biens immobiliers. L'argent investi dans l'immobilier ne peut pas être totalement perdu, car un bien immobilier a une valeur fondamentale et durable. Tout le monde a besoin de se loger.
Non, pas du tout car les subprimes sont basés sur la titrisation de prêts immobiliers à risque, c'est-à-dire une construction financière autour de crédits hypothécaires de mauvaise qualité et non sur des biens immobiliers. Autrement dit, c'est une crise financière et non une crise immobilière.
-
Les macronistes sous-traitent en grande partie la rédaction de leurs projets législatifs à des cabinets de conseil privés aujourd'hui, qui ont tout le loisir d'en utiliser pour compléter leur travail.
Par contre automatiser la prise de décision et le vote ce n'est pas possible sous la Ve qui requiert des humains (qui peuvent faire des choses aussi bêtes que de déclencher des guerres sur simple fond d'ego, malheureusement).
Vu la qualité approximative des conseils de Mc Kinsey (c’est factuel) oui une IA pourrait donner un rendu similaire.
La ou ça risque de saigner , c’est dans le secteur de l’Audit. Si il restera de gens pour donner des conseils finaux, une partie des postes risque d’être supprimé.
-
Ouip, il y a des postes d'audit (de sécurité) dans ma boite et on voit clairement la pression arriver, il y a déjà eu des délocalisations pour raisons financières, ce sont les équipes de dev/infra qui restent en france...
Après c'est aussi le contexte commercial le + mondialisé possible
-
Je ne comprends pas tellement l'intérêt d'imaginer des androïdes tueurs, les hélicoïdes tueurs (drones) existent déjà dans les zones de guerre. Qui aurait pour but de produire ça, quelle serait la demande correspondante, etc. ?
Le risque de prolifération des armes chimiques est bien plus grand, par exemple.
+1, je l'ai déjà dit plus haut.
C'est une grossière erreur de croire qu'il faut craindre seulement une forme humanoide contrôlée par l'intelligence artificielle. Attendre ça pour commencer à se méfier, ça serait une erreur.
Oui, les machines tueuses existent déjà sous plein de formes. Rien qu'un missile, concept qui existe depuis 80 ans, c'est une machine tueuse dotée aujourd'hui d'une grande autonomie de décision.
Et une IA qui voudrait faire du mal à une communauté humaine pourrait s'y prendre par pleins de moyens différents déjà utilisés aujourd'hui par des cyberterroristes:
Relayer de fausses informations, ou divulguer des informations confidentielles sensibles, déclencher des révoltes, manipuler des élections, truander des comptes bancaires, manipuler des marchés, se faire passer pour des humains/décideurs légitimes et donner des ordres à distance à de vrais humains via les réseaux de communications existants, cyber-attaquer des infrastructures (transport, électricité), des systèmes d'information, détruire des informations vitales à notre société, etc...
Leon.