51
Bistro / Les IA , vous font elles peur ?
« Dernier message par Leon le Aujourd'hui à 11:57:45 »
C’est pas l’IA qui me fait peur en tant que telle, c’est celui qui l’utilise.Je vais enfoncer des portes ouvertes, mais il y a une énorme différence entre la bombe nucléaire et l'IA.
C’est le même schéma avec la bombe nucléaire, avec un système de bouton un peu plus complexe.
Les bombes nucléaires, même si on a fait d'énormes excès pendant la guerre froide, ça n'est accessible qu'à quelques décideurs, avec énormément de gardes fous.
L'IA, faire travailler des agents IA pour des activités criminelles ou autre, c'est juste accessible à tout le monde, il suffit juste d'avoir de l'argent.
OK, j'espère qu'on régulera les "IA online" assez rapidement, avec des règles claires et contraignantes.
Mais ça n'empêchera pas les vrais criminels de faire tourner des IA débridées, désinhibées, en local sur leur propre infrastructure, de développer leurs modèles malveillants à partir de modèles de base en open source.
Donc oui, la régulation internationale est indispensable. Mais je ne sais pas si elle sera suffisante malheureusement.
Mais je suis parfaitement d'accord avec ta conclusion
Donc in fine : le problème doit être traité en amont de l’IA elle même. Les gardes fous ne peuvent pas concerner que le dernier maillon.Il ne faut pas laisser l'utilisateur final porter sur ses épaules la responsabilité de la cyber-sécurité, ou autre risque, ça n'aurait aucun sens. Tout doit pouvoir être bridé en amont, de manière claire.
Une entreprise cliente d'IA doit pouvoir configurer de manière claire ce qu'elle autorise ou non en terme d'IA à ses employés, ses utilisateurs.
En parallèle, il faut éduquer tous les utilisateurs potentiels.
Leon.

Messages récents
Débit fibre