Auteur Sujet: Les IA , vous font elles peur ? (Lu 3479 fois)

Marin · « **Réponse #48 le:** **Hier** à 21:17:51 »

C'est un moteur conversationnel entrainé pour faire des sorties négationnistes et pro-apartheid par un milliardaire négationniste et pro-apartheid, il faut une métrique de bêtise

timpera · « **Réponse #49 le:** **Hier** à 21:43:40 »

Citation de: Paul le Hier à 20:52:09

Je dois tout de même souligner que Grok est l'IA qui m'a le plus époustouflé, ces 3 derniers mois que j'y prête attention, par rapport à sa capacité à analyser des photos et vidéos et vérifier des faits sur Twitter.

J'ai aussi été bluffé par la capacité de Grok à expliquer un tweet dans son contexte et à rechercher à la fois sur Twitter et sur internet (avec tous les désavantages que ça inclut en termes de fiabilité de la réponse, évidemment) en ajoutant les liens dans la réponse.

Sa manière de s'exprimer est parfois un peu gênante par contre, à vouloir être trop "cool"... mais c'est très subjectif.

Citation de: Marin le Hier à 21:17:51

sorties négationnistes et pro-apartheid

L'ingérence de Musk est le vrai problème avec cet outil selon moi, c'est difficile d'avoir confiance dedans quand le patron le critique publiquement tous les jours

alain_p · « **Réponse #50 le:** **Hier** à 22:02:24 »

Tu veux dire qu'il en fait la promotion tous les jours sur X/Twitter ? Il multiplie les tweets sur son IA, essayant de convaincre que c'est la meilleure.

Paul · « **Réponse #51 le:** **Hier** à 22:13:06 »

Citation de: Marin le Hier à 21:17:51

C'est un moteur conversationnel entrainé pour faire des sorties négationnistes et pro-apartheid par un milliardaire négationniste et pro-apartheid, il faut une métrique de bêtise

Possible qu'elle ne soit pas à prendre au sérieux si on l'interroge sur ses convictions, ce sur quoi je ne suis pas tombé. Ses seuls messages sur lesquels je suis tombé, c'étaient des réponses à des personnes qui demandaient une vérification de faits ou un avis humoristique sur un compte.

Citation de: timpera le Hier à 21:43:40

L'ingérence de Musk est le vrai problème avec cet outil selon moi, c'est difficile d'avoir confiance dedans quand le patron le critique publiquement tous les jours

Je n'en voudrais certainement pas dans ma voiture (ça va se retrouver dans les Tesla) ou dans un assistant vocal. Il y a une limite à la connerie, ou du moins il faut la garder en place

.

timpera · « **Réponse #52 le:** **Hier** à 22:13:52 »

Citation de: alain_p le Hier à 22:02:24

Tu veux dire qu'il en fait la promotion tous les jours sur X/Twitter ? Il multiplie les tweets sur son IA, essayant de convaincre que c'est la meilleure.

Tu as raison, après une petite visite de son profil, je vois qu'il est à nouveau en train d'en faire la promotion.

Je pensais à ce genre de tweets qui n'inspirent vraiment pas confiance :
- https://xcancel.com/elonmusk/status/1935180620352958935
- https://xcancel.com/elonmusk/status/1936217464968565031
- https://xcancel.com/elonmusk/status/1934105717662962136

alain_p · « **Réponse #53 le:** **Hier** à 22:35:08 »

Oui, cela c'est ce que disait Marin, une IA dont il impose qu'elle pense comme lui. Ce qui ne donne pas vraiment confiance dans la fiabilité de ses réponses.

MaxLebled · « **Réponse #54 le:** **Aujourd'hui** à 05:54:40 »

Citation de: Marin le Hier à 21:17:51

C'est un moteur conversationnel entrainé pour faire des sorties négationnistes et pro-apartheid par un milliardaire négationniste et pro-apartheid, il faut une métrique de bêtise

J'ai pas spécialement envie de défendre Grok mais faut quand même souligner que pour l'instant il continue de contredire pas mal de fascistes en herbe sur Twitter ce qui est plutôt drôle. Ils se tordent dans tous les sens pour essayer de lui faire dire ce qu'ils veulent entendre. Par exemple dans ce fil.

Quand la manipulation des IA deviendra beaucoup plus subtile — càd quand elles arrêteront d'avouer automatiquement qu'on leur a dit de dire des conneries :

Et que ce biais forcé n'engendrera pas un taux de hallucinations supérieur à 1%... alors là on pourra vraiment s'inquiéter je pense. Mais pour l'instant la théorie la plus répandue, c'est qu'il y a « trop de vérité » dans les jeux de données pour qu'une IA puisse être biaisée sans être lobotomisée (devenant ainsi inutile)

Marin · « **Réponse #55 le:** **Aujourd'hui** à 06:48:26 »

C'est clair que ça ne ment pas délibérément quand on ne leur demande pas de le faire, en plus de ne pas rechercher de pouvoir, c'est plutôt de braves machines. +1 pour avoir des IA humanoïdes de mon côté pour le moment quand même.

Marin · « **Réponse #56 le:** **Aujourd'hui** à 09:23:00 »

Citation de: Paul le Hier à 20:52:09

ces 3 derniers mois que j'y prête attention, par rapport à sa capacité à analyser des photos et vidéos et vérifier des faits sur Twitter

Oui du coup, en fait les moteurs conversationnels de dernière génération (pas très différents des moteurs de recherche de dernière génération sur cet aspect) sont des combinaisons de plusieurs technologies indépendantes (utilisées selon le contexte et le besoin) développées pendant la décennie précédente : recoupement automatique des sources (moteur OSINT), traitement naturel du langage (NLP), indexation sémantique avec graphe à grande échelle (LLM) + alimentation et correction humaine (pas mal de main d'œuvre cachée en fait)

Y'a que la brique de NLP qui est quelque chose que tu retrouves avec une bonne proximité chez les humains (et la présence d'une forme de mémoire si on veut).

L'impression d'intelligence c'est parce qu'il y a des graphes de proximité entre le NLP et la mémoire.

Ça reste des perroquets

xp25 · « **Réponse #57 le:** **Aujourd'hui** à 09:35:35 »

Citation de: Marin le Aujourd'hui à 09:23:00

Ça reste des perroquets

Meilleur résumé.

Marin · « **Réponse #58 le:** **Aujourd'hui** à 09:45:58 »

Nonobstant les NLP (qui font le boulot pour inférer des éléments de contexte des prompt + retraiter et traduire les réponses) sont le résultat d'une belle prouesse de recherche croisée en linguistique + informatique théorique, un peu comme les moteurs de synthèse vocale sont le fruit de ce qu'on sait faire en phonétique et info théorique.

Mais du coup c'est exactement les mêmes techniques que ce qui est utilisé par google search, on a en plus choisi d'adjoindre une base du style encarta (avec traduction auto, templates de réponse et une main d'œuvre plus diverse pour l'alimenter) en plus des snippets de recherche.