Auteur Sujet: Les IA , vous font elles peur ?  (Lu 23407 fois)

0 Membres et 2 Invités sur ce sujet

timpera

  • Abonné FAI autre
  • *
  • Messages: 381
  • Paris
Les IA , vous font elles peur ?
« Réponse #96 le: 04 février 2026 à 15:00:01 »
là je parle de faux liens web créés de toutes pièces !

Personnellement, j'ai arrêté d'utiliser Gemini pour cette raison.
Là où GPT-5.2-Thinking et Claude 4.5 Opus prennent généralement plusieurs minutes, voire dizaines de minutes, pour répondre sur des questions de recherche documentaire et ne semblent pas avoir peur de dire "je n'ai rien trouvé de pertinent", Gemini 3.0 Pro me répond toujours en moins de 30 secondes et invente constamment des liens. C'est quand même étonnant, sachant que Google est avant tout connu pour son moteur de recherche...

D'après ce classement, aucun modèle ne brille particulièrement au niveau des hallucinations, mais je ne suis pas le seul à trouver que ChatGPT "Thinking" est très très bon pour effectuer des recherches sur internet et fournir des sources.

Perso ce qui me fait peur avec l'IA, c'est pas les faux liens, c'est les gens qui deviennent expert sur un sujet avec 3 prompts et qui tiennent tête à des gens dont c'est le métier  ;D

Effectivement, j'ai eu quelques clients récemment qui arrivent convaincus qu'une solution est praticable parce que l'IA l'a dit, et ça devient délicat de gérer les frustrations que ça crée.

chad86

  • Abonné Free fibre
  • *
  • Messages: 446
  • chatellerault (86)
Les IA , vous font elles peur ?
« Réponse #97 le: 04 février 2026 à 23:40:58 »
vous savez que les médecins voient de plus en plus de gens qui viennent avec leurs diagnostics et leurs prescriptions

ceci dit c'est logique
moi je ne peux pas avoir accès à un généraliste sans faire 40km
bon j'ai une forte culture médicale donc je verrai si GPT fait une grosse bourde
il me permet d'affiner un diagnostic ou de le faire plus rapidement
(il déblaie la travail)

il y'a déjà des infarctus traités rapidement grace à l'ia

je ne sais pas combien sont morts à cause d'elle

80% des médecins ou plus utilisent un LLM chaque jour (source Les Échos)

chad86

  • Abonné Free fibre
  • *
  • Messages: 446
  • chatellerault (86)
Les IA , vous font elles peur ?
« Réponse #98 le: Aujourd'hui à 08:34:19 »
'''
En décembre, Amazon Web Services (AWS), la branche d’informatique en nuage d’Amazon, a subi une panne de treize heures “après que des ingénieurs ont autorisé Kiro, l’agent IA spécialiste du code, à opérer certains changements”.

Les agents IA sont réputés pour avoir une certaine autonomie et “prendre des décisions au nom des utilisateurs”.
À cette occasion, Kiro aurait décidé “que la meilleure chose à faire était de supprimer et de recréer l’environnement”, expliquent des sources bien informées au quotidien économique britannique.
Dans les faits, cette décision a provoqué la panne
'''

PDuke

  • Abonné Free fibre
  • *
  • Messages: 434
  • La Ville du Bois (91)
Les IA , vous font elles peur ?
« Réponse #99 le: Aujourd'hui à 09:11:13 »
80% des médecins ou plus utilisent un LLM chaque jour (source Les Échos)

Oui mais jamais pour poser un diagnostique, c'est souvent pour savoir les effets indésirables de certains medocs etc...

fansat70

  • Abonné Free fibre
  • *
  • Messages: 5 871
  • 70 - St Loup-sur-Semouse
    • Carte ZANRO/ZASRO-PM Haute Saône
Les IA , vous font elles peur ?
« Réponse #100 le: Aujourd'hui à 10:17:38 »
Oui mais jamais pour poser un diagnostique, c'est souvent pour savoir les effets indésirables de certains medocs etc...
Eh oui, les fameuses statistiques, sortie de leur contexte et sans analyse approfondie...
Pour ceux qui ne jurent que part l'IA, ils ont déjà une démo de ce que cette superbe technologie peut faire comme dégâts, si le cerveau humain ne fait pas son boulot correctement ensuite!  ;)

alain_p

  • Abonné Free fibre
  • *
  • Messages: 18 440
  • Delta S 10G-EPON sur Les Ulis (91)
Les IA , vous font elles peur ?
« Réponse #101 le: Aujourd'hui à 11:29:42 »
En attendant, les dégâts les plus évidents, ce sont les pénuries de composants, et hausses de prix, qui pourraient durer plusieurs années.

Dans quelque temps, on pourrait ne plus pouvoir acheter de PC ou de smartphones, tant les prix seraient élevés, et donc fini les consultations des IAs !

fansat70

  • Abonné Free fibre
  • *
  • Messages: 5 871
  • 70 - St Loup-sur-Semouse
    • Carte ZANRO/ZASRO-PM Haute Saône
Les IA , vous font elles peur ?
« Réponse #102 le: Aujourd'hui à 14:43:20 »
En attendant, les dégâts les plus évidents, ce sont les pénuries de composants, et hausses de prix, qui pourraient durer plusieurs années.

Dans quelque temps, on pourrait ne plus pouvoir acheter de PC ou de smartphones, tant les prix seraient élevés, et donc fini les consultations des IAs !
Vu la masse de ce que d'aucuns appelleraient de la "propagande", il est plus que probable qu'un paquet de projets verront bien le jour, et se casser la figure ensuite, particulièrement lorsque les investisseurs vont commencer à réclamer leur dû.
Car qui va payer? La masse de pognon dans le monde n'étant pas infinie, le risque de "bulliser" est plus que probable... (ki ka dit un jour que l'augmentation moyenne de richesse dans le monde ne dépassait au mieux que 3% par an? Là, la mémoire me fait défaut...)
Il est à craindre qu'une fois de plus, un paquet de petits investisseurs se retrouve sur la paille, car au final, ce sont ces derniers qui allongent le pognon... 
Bon, je ne suis qu'un béotien en la matière, ayant juste dans ma courte mémoire quelques péripéties du genre, dans les décennies écoulées.
Mais je suis certain que les "spécialistes" sauront vérifier la probabilité de survenance d'un "carton" économique de plus, la mémoire humaine étant très volatile, en ayant la plus que fâcheuse manie de croire au merveilleux et au pognon facile...
Tiens, au fait, l'IA fonctionnant sur des algos statistiques et surtout probabilistes,, elle devrait pouvoir répondre, non? M'enfin, à condition que l'on sache lui poser les bonnes questions! Et là, c'est pas gagné!  :(

chad86

  • Abonné Free fibre
  • *
  • Messages: 446
  • chatellerault (86)
Les IA , vous font elles peur ?
« Réponse #103 le: Aujourd'hui à 18:07:38 »
Citer
jamais pour poser un diagnostique

en radiologie elle est utilisée
je pense que le métier de radiologue va disparaître à court terme

pour le reste c'est encore du "diagnostic assisté par ia" notamment dans les maladies rares, mais pas que

"""Des IA comme Dr. CaBot (Harvard Medical School) sont capables de :

    analyser un cas complexe,
    proposer un diagnostic différentiel,
    expliquer étape par étape leur raisonnement"""

aux USA c'est clairement une réalité dans les hôpitaux

la saison 2 de la série "The Pitt" en parle pour les comptes rendus et la transmission entre services (avec des erreurs notables d'ailleurs pour un patient)

"""Aux États‑Unis, plus de 500 dispositifs médicaux IA ont été autorisés par la FDA, dont beaucoup pour le diagnostic"""


Citer
elle devrait pouvoir répondre, non

c'est à dire ?
dire "je ne sais pas" ?
ça arrive, mais il est vrai qu'elles ont le syndrome de l'omniscience  ;D


fansat70

  • Abonné Free fibre
  • *
  • Messages: 5 871
  • 70 - St Loup-sur-Semouse
    • Carte ZANRO/ZASRO-PM Haute Saône
Les IA , vous font elles peur ?
« Réponse #104 le: Aujourd'hui à 18:38:31 »
Là, on n'est pas sur l'IA généraliste (et qui sait tout faire!), telle que les médias nous en rebattent les oreilles tous les jours.
On est sur des IA qui ont déjà "de la bouteille", et qui ont été revues et corrigées, testées et retestées, améliorées, encore et encore et encore, par des hyper spécialistes.
De l'IA très ciblée, on en bouffe quelquefois depuis années, voire des dizaines...
Une des IA les plus récentes et répandues tient dans les aides à la conduite, et les (déjà présents aux US) et futurs véhicules sans conducteurs.
Et on ne parlera pas des laves linges et autres appareils domestiques qui ont "appris" à faire partiellement à notre place.
L'IA, lorsqu'elle est hyper ciblée et maîtrisée, elle est déjà dans notre vie habituelle.
Ce que l'on vit actuellement, c'est un fantasme médiatique et financier, avec un déchaînement marketing délirant, et les dégâts qui iront avec...
Après, libre à chacun de penser ce qu'il veut, et éventuellement devoir assumer plus tard les conséquences de ses choix, moi y compris, qui suis dans le genre légèrement parano sur le sujet!

chad86

  • Abonné Free fibre
  • *
  • Messages: 446
  • chatellerault (86)
Les IA , vous font elles peur ?
« Réponse #105 le: Aujourd'hui à 19:17:09 »
dans la S2 de The Pitt il est bien question de LLM
aucun n'est approuvé par la FDA
mais ça n'empêche pas les médecins de les utiliser

"""
Même s’ils ne sont pas approuvés, certains hôpitaux expérimentent des LLM
Modèles utilisés :

    GPT‑4 / GPT‑4o (OpenAI)
    Med‑PaLM 2 (Google)
    LLaMA / LLaMA‑2 / LLaMA‑3 (Meta)
    Mistral / Mixtral (Mistral AI)
    Claude 3 (Anthropic)

Usages non réglementés :

    rédaction de comptes‑rendus
    aide administrative
    synthèse de dossiers patients
    support non décisionnel
    chatbots internes

Ces usages sont tolérés, mais pas approuvés
"""

encore une fois, entre la loi et la pratique...
pour le diagnostic et les traitements (notamment en médecine générale), je pense que les LLM sont utilisés par valider une piste diagnostique ou thérapeutique
pas en première intention

genre "quel est le traitement standard pour X pathologie"
ça évite d'ouvrir le VIDAL (c'est lourd !)
ou "redonne moi la liste des critères diagnostics pour Y"

le médecin sait et donc quand il voit la réponse cela fait "tilt" dans son cerveau
ça lui fait juste gagner du temps et de l'énergie

l'humain va toujours au chemin le plus court et le plus économe en calories
c'est dans nos gènes