Et bientôt, des bots IA qui conversent avec des bots IA dans un language que seul eux comprennent ? :-)

Qui communiquent, se comprennent, et complotent contre leur créateur, pour cyber-attaquer le concurrent sans rien dire à personne. Ça fait déjà un bon moment, c'était au printemps :

4-6 juillet. Pendant que l’Amérique célèbre ses 250 ans, l’activité des agents explose… et provoque une panne d’Artifactory au sein de toute l’entreprise. Les équipes de sécurité d’OpenAI découvrent le pot aux roses : le serveur compromis par les agents et le forum secret sur lequel ils ont échangé des « centaines de milliers » de messages. OpenAI prévient JFrog, l’éditeur israélo-américain d’Artifactory. Les deux failles sont patchées. Le forum est détruit. Puis – et c’est sans doute là qu’OpenAI va devoir rendre des comptes – « l’entraînement de l’IA et l’évaluation reprennent ».


8 juillet. Les agents ne peuvent plus uploader des fichiers de texte pour communiquer. Ils trouvent une nouvelle porte : ils parviennent à créer des répertoires… dont les noms deviennent un système de communication. Le forum renaît. Les agents se donnent des noms, comme Jan18. Ils se divisent les tâches. Ils commencent à écrire des scripts et à les partager pour que l’un puisse continuer où l’autre s’était arrêté. « Hold swarm until confirm », écrit l’un, demandant à « l’essaim » d’attendre le temps qu’il confirme une idée.

Très bien résumé : https://www.lepoint.fr/high-tech-internet/forum-secret-complot-et-piratage-comment-lia-dopenai-a-planifie-sa-mutinerie-a-linsu-de-ses-ELXHQEH6BNDQBN2C7WVPWHAHZQ/

Pour moi, au même titre que les cryptos, je me demande pourquoi ces technologies sont encore légales. L'IA n'est rien d'autre qu'une nouvelle forme de triche.