On peut envisagé un avenir ou l'IA va tirer la demande en bande passante local pour télécharger des modeles localement et ce meme en domestique.

Si l'IA a un avenir c'est:

- des grands datacenters remplis de GPU pour entrainer les modeles
- des GPU locaux au plus près de utilisateurs pour de l'inférence. On a déjà des PC 'IA' pouvant accueillir des modeles de 70Go (a base d'AMD Strix Halo par exemple) et voir plus donc dans l'avenir.

Ca veut dire transferer d'énormes flux , les modèles calculés dans les DC vers les PC des utilisateurs et ce assez vite pour que la maj d'un modèle ne prennent pas des heures. Donc peut-etre qu'un débit de 25Gbps voir plus aura son utilité meme en grand public.

Pour référence télécharger un modele de 70G sur un ligne actuelle de 8Gbps ca prend quand meme 1minute 15secs (quand le maillon lent est la connexion Internet ce qui n'est pas toujours le cas (testé a l'instant, un modele de 65Gb ca passe "qu'a" 6Gbps sur ma ligne a 8 Gbps).

Bon après c'est hautement spéculatif, l'avenir de l'IA si y'en a un c'est peut-être pas avec de l'inférence local mais du full cloud comme maintenant (j'en doute quand meme si tout les humains veulent faire de l'inférence faudra bien 'localiser' l'inférence...) ou bien l'IA dans sa forme actuelle n'a pas d'avenir du tout

Le plus gros problème de débit actuellement c'est surtout le "bufferbloat". https://en.wikipedia.org/wiki/Bufferbloat

le bufferbloat c'est un probleme du passé du temps de l'ADSL ...

Bon après c'est hautement spéculatif, l'avenir de l'IA si y'en a un c'est peut-être pas avec de l'inférence local mais du full cloud comme maintenant (j'en doute quand meme si tout les humains veulent faire de l'inférence faudra bien 'localiser' l'inférence...) ou bien l'IA dans sa forme actuelle n'a pas d'avenir du tout

Il me semble assez probable que la majorité de l'inférence se fasse dans le cloud, et que seul des inférences simples, avec de petits modèles, se fassent en local, dans la très grande majorité des cas.
La majorité des utilisateurs consomment de l'IA sur des smartphones ou des PC portable de boulot aux ressources très limitées, bien loin des 70Go de RAM dont tu parles.
Pour ces utilisateurs, il est beaucoup plus pertinent de faire transiter la donnée via les réseaux (voix, texte, image, vidéo), donc quelques Mo à chaque interaction, plutôt que de déplacer les modèles entiers, à coup de dizaines de Go.

Oui, les "stations de travail IA" qui arrivent sur le marché, elles vont se déployer, et elles auront besoin de gros débits; mais de mon point de vue ça restera un petit marché assez confidentiel. Soit pour des gens qui font des recherches et développements en IA, soit pour garantir un haut niveau de confidentialité en conservant les données en local exclusivement.

Leon.

Imaginez si tous les flux de camera de surveillance au monde doivent passer par un serveur externe pour être analysé par l'IA. Mais 40Gb/s c'est toujours 10 fois trop, je suis sûr qu'il y a des datacenter avec beaucoup moins en 2025