On peut envisagé un avenir ou l'IA va tirer la demande en bande passante local pour télécharger des modeles localement et ce meme en domestique.

Si l'IA a un avenir c'est:

- des grands datacenters remplis de GPU pour entrainer les modeles
- des GPU locaux au plus près de utilisateurs pour de l'inférence. On a déjà des PC 'IA' pouvant accueillir des modeles de 70Go (a base d'AMD Strix Halo par exemple) et voir plus donc dans l'avenir.

Ca veut dire transferer d'énormes flux , les modèles calculés dans les DC vers les PC des utilisateurs et ce assez vite pour que la maj d'un modèle ne prennent pas des heures. Donc peut-etre qu'un débit de 25Gbps voir plus aura son utilité meme en grand public.

Pour référence télécharger un modele de 70G sur un ligne actuelle de 8Gbps ca prend quand meme 1minute 15secs (quand le maillon lent est la connexion Internet ce qui n'est pas toujours le cas (testé a l'instant, un modele de 65Gb ca passe "qu'a" 6Gbps sur ma ligne a 8 Gbps).

Bon après c'est hautement spéculatif, l'avenir de l'IA si y'en a un c'est peut-être pas avec de l'inférence local mais du full cloud comme maintenant (j'en doute quand meme si tout les humains veulent faire de l'inférence faudra bien 'localiser' l'inférence...) ou bien l'IA dans sa forme actuelle n'a pas d'avenir du tout

Le plus gros problème de débit actuellement c'est surtout le "bufferbloat". https://en.wikipedia.org/wiki/Bufferbloat

le bufferbloat c'est un probleme du passé du temps de l'ADSL ...

Bon après c'est hautement spéculatif, l'avenir de l'IA si y'en a un c'est peut-être pas avec de l'inférence local mais du full cloud comme maintenant (j'en doute quand meme si tout les humains veulent faire de l'inférence faudra bien 'localiser' l'inférence...) ou bien l'IA dans sa forme actuelle n'a pas d'avenir du tout

Il me semble assez probable que la majorité de l'inférence se fasse dans le cloud, et que seul des inférences simples, avec de petits modèles, se fassent en local, dans la très grande majorité des cas.
La majorité des utilisateurs consomment de l'IA sur des smartphones ou des PC portable de boulot aux ressources très limitées, bien loin des 70Go de RAM dont tu parles.
Pour ces utilisateurs, il est beaucoup plus pertinent de faire transiter la donnée via les réseaux (voix, texte, image, vidéo), donc quelques Mo à chaque interaction, plutôt que de déplacer les modèles entiers, à coup de dizaines de Go.

Oui, les "stations de travail IA" qui arrivent sur le marché, elles vont se déployer, et elles auront besoin de gros débits; mais de mon point de vue ça restera un petit marché assez confidentiel. Soit pour des gens qui font des recherches et développements en IA, soit pour garantir un haut niveau de confidentialité en conservant les données en local exclusivement.

Leon.

Imaginez si tous les flux de camera de surveillance au monde doivent passer par un serveur externe pour être analysé par l'IA. Mais 40Gb/s c'est toujours 10 fois trop, je suis sûr qu'il y a des datacenter avec beaucoup moins en 2025

Il pourra très bien y avoir du cloud et du local, en fonction du niveau de criticité des données.

Par exemple la machine NVIDIA DGX Spark (qui est un four pour le moment), ce type de machine pourrait s'intégrer dans une entreprise.
Elle possède, un port 10Gbits et 2 * 100Gbits (connectx7)

Je tiens quand même à préciser que en 2025, plus aucune entreprise sérieuse investisse dans des serveurs ou des machines en local, la technologie d'aujourd'hui c'est du serverless : Cloudflare Page/Worker, Microsoft 365 Business, Verisure, les cloud (iCloud, Google Drive, One Drive, Dropbox...). J'ai tous les jours des demandes d'entreprise qui ne veulent plus de leur serveur Microsoft, et c'est un pur bonheur de gérer des tenants Microsoft à distance.
D'ailleurs ça fait plusieurs années que je joue sur des gpu en Cloud (Mac c'est pas fou pour le gaming).

Oui pour 95% des besoins d'entreprise, les entreprises veulent leur applications dans le cloud, c'est une évidence.

Mais certaines entreprises qui ont un très haut besoin de sécurité (défense) imposent d'avoir des machines en local, que ça soit sur des serveurs "on premise" ou sur des stations de travail.
Et de même certains développeurs en IA ont besoin de faire tourner des modèles en local, je n'ai pas trop compris pourquoi mais ce besoin existe apparemment.
Donc le besoin d'IA qui tourne en local, en entreprise, ça existe. Mais c'est très minoritaire, oui.

Leon.

Oui, je suis d'accord. Justifier du FTTH 50Gb pour juste ça, ça n'est pas crédible, ça n'intéressera que 1% de la population à la louche.

Leon.