Une menace pour l'humanité, oui, si elle n'est pas bien utilisée.
Plusieurs choses à dire:
1) se rassurer en se disant que l'IA n'aura jamais de conscience, ne pourra jamais raisonner, inventer, c'est se mentir à soi même, je pense.
1.1) Raisonner et inventer, les IA savent déjà le faire. On voit déjà des IA capable de faire des recherches et des raisonnements complexes, des synthèses extrêmement pertinentes. Le côté "artistique" des IA a déjà été montré.
1.2) L'absence de "conscience", on voyait l'argument il y a 40 ans pour montrer que les animaux étaient "inférieurs" aux humains car dépourvus de conscience; on sait désormais que ces arguments étaient faux; donc il ne faut pas croire à ce genre d'argument.
1.3) De même, il ne faut surtout pas s'attendre à ce que l'IA ressemble à ce que l'on voit dans les films de SF passés et actuels. Attendre que l'IA soit comme dans les fils avant de commencer à s'en méfier, ça serait une grosse erreur. Il faut déjà s'en méfier aujourd'hui, et demain. Ne pas attendre que l'IA ressemble à des humains dans son comportement, son "apparence physique" (robots humanoides), elle pourra être néfaste/mal utilisée sous plein d'autres formes.
2) L'IA, et plein d'autres algorithmes sont déjà massivement utilisés en entreprise pour prendre des décision, pour donner des ordres à des gens, conseiller des décideurs. Donc en entreprise, on place parfois déjà les algorithmes et l'IA au dessus des humain dans la chaine de décision, de commandement, de management !
2.1) Sans parler d'IA, on le voit déjà avec les esclaves humain des métiers "uberisés" qui se font "manager", donner des ordre par des ordinateurs/algorithmes. Que ça soit les VTC, les livreurs, les call-center, les préparateurs de commande dans les entrepôts, etc... On voit des algorithme noter la performance, la "fiabilité" des salariés. Et l'utilisation d'algorithmes pour prendre des décisions et donner des ordres, ça ne fait que croitre depuis ~30 ans. On a dépassé le raisonnable, et ça ne s'arrête pas.
2.2) Beaucoup d'entreprises veulent utiliser l'IA dans des utilisation, ou domaine de responsabilité où elle ne devrait pas l'être. J'ai vu la semaine dernière une communication interne à un grand groupe où on parlait de conseillés de carrière (RH) remplacés partiellement par l'IA, aux USA. C'est du délire!
Le manque de prise de recul des entreprises sur l'éthique autour de l'IA, c'est tout simplement délirant, absurde. L’appât du gain, de la nouveauté, l'envie d'être précurseur, ça amène les entreprises à faire n'importe quoi.
Donc oui, l'IA fait peur, à juste titre. Et pas besoin d'attendre la "singularité technologique" pour voir les méfaits de la mauvaise utilisation de l'IA.
Leon.