C'est un moteur conversationnel entrainé pour faire des sorties négationnistes et pro-apartheid par un milliardaire négationniste et pro-apartheid, il faut une métrique de bêtise

Tu veux dire qu'il en fait la promotion tous les jours sur X/Twitter ? Il multiplie les tweets sur son IA, essayant de convaincre que c'est la meilleure.

Tu veux dire qu'il en fait la promotion tous les jours sur X/Twitter ? Il multiplie les tweets sur son IA, essayant de convaincre que c'est la meilleure.

Tu as raison, après une petite visite de son profil, je vois qu'il est à nouveau en train d'en faire la promotion.

Je pensais à ce genre de tweets qui n'inspirent vraiment pas confiance :
- https://xcancel.com/elonmusk/status/1935180620352958935
- https://xcancel.com/elonmusk/status/1936217464968565031
- https://xcancel.com/elonmusk/status/1934105717662962136

C'est un moteur conversationnel entrainé pour faire des sorties négationnistes et pro-apartheid par un milliardaire négationniste et pro-apartheid, il faut une métrique de bêtise

J'ai pas spécialement envie de défendre Grok mais faut quand même souligner que pour l'instant il continue de contredire pas mal de fascistes en herbe sur Twitter ce qui est plutôt drôle. Ils se tordent dans tous les sens pour essayer de lui faire dire ce qu'ils veulent entendre. Par exemple dans ce fil.

Quand la manipulation des IA deviendra beaucoup plus subtile — càd quand elles arrêteront d'avouer automatiquement qu'on leur a dit de dire des conneries :



Et que ce biais forcé n'engendrera pas un taux de hallucinations supérieur à 1%... alors là on pourra vraiment s'inquiéter je pense. Mais pour l'instant la théorie la plus répandue, c'est qu'il y a « trop de vérité » dans les jeux de données pour qu'une IA puisse être biaisée sans être lobotomisée (devenant ainsi inutile)

ces 3 derniers mois que j'y prête attention, par rapport à sa capacité à analyser des photos et vidéos et vérifier des faits sur Twitter

Oui du coup, en fait les moteurs conversationnels de dernière génération (pas très différents des moteurs de recherche de dernière génération sur cet aspect) sont des combinaisons de plusieurs technologies indépendantes (utilisées selon le contexte et le besoin) développées pendant la décennie précédente : recoupement automatique des sources (moteur OSINT), traitement naturel du langage (NLP), indexation sémantique avec graphe à grande échelle (LLM) + alimentation et correction humaine (pas mal de main d'œuvre cachée en fait)

Y'a que la brique de NLP qui est quelque chose que tu retrouves avec une bonne proximité chez les humains (et la présence d'une forme de mémoire si on veut).

L'impression d'intelligence c'est parce qu'il y a des graphes de proximité entre le NLP et la mémoire.

Ça reste des perroquets

Nonobstant les NLP (qui font le boulot pour inférer des éléments de contexte des prompt + retraiter et traduire les réponses) sont le résultat d'une belle prouesse de recherche croisée en linguistique + informatique théorique, un peu comme les moteurs de synthèse vocale sont le fruit de ce qu'on sait faire en phonétique et info théorique.

Mais du coup c'est exactement les mêmes techniques que ce qui est utilisé par google search, on a en plus choisi d'adjoindre une base du style encarta (avec traduction auto, templates de réponse et une main d'œuvre plus diverse pour l'alimenter) en plus des snippets de recherche.