le jour ou les PC mainstream seront capable de faire tourner nativement des models en local, et ca va forcément bientot arriver, que va-t-il se passer pour le modele économique de chatGPT, claude, gemini et compagnie ?
Avec le coût de la RAM et du stockage en ce moment, ce n'est pas pour tout de suite malheureusement.
On est aussi encore loin d'avoir des solutions utilisables pour tout le monde.
Je pense qu'il y a plusieurs catégories :
- les entreprises : c'est probablement surtout là dessus qu'ils comptent pour leur modèle économique (et là, même les services qui peuvent être hébergés en local sont souvent déjà dans le cloud, donc ça ne fait qu'un de plus)
- l'utilisateur de base, qui se satisfait de l'offre gratuite : il paye avec ses données, ou dans le futur avec l'intégration de la pub
- ceux qui ont besoin des modèles les plus avancés : d'ici à ce qu'ils puissent tourner en local, il va s'écouler un certain temps (il faudrait que les modèles plafonnent en taille ou ne progressent plus vraiment, et que les couts du matériel repartent à la baisse, ce n'est pas pour tout de suite)
- les utilisateurs ayant des PC puissants, les compétences nécessaires, et qui sont satisfaits des modèles à poids ouvert : je ne suis pas sûr que ça représente tant de monde que ça
Je pense qu'ils sont plus concurrencés par les modèles à poids ouverts hébergés (même si c'est parfois sur Google Cloud ou Azure), que par les utilisateurs qui font tourner ces mêmes modèles (dans leurs versions les plus légères uniquement) en local.