Auteur Sujet: NSpeed: nouveau projet de mesure de débit  (Lu 51862 fois)

0 Membres et 1 Invité sur ce sujet

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 091
  • Paris (75)
Mesure de débit - nouveau projet
« Réponse #12 le: 09 février 2020 à 10:48:05 »
J'avais plus dans l'idée de développer un testeur de débit en peer-to-peer pour ne plus être dépendant d'un seul serveur par test.

c'est le but a la base: pouvoir faire un test avec plusieurs serveurs en meme temps. Apres que ces serveurs soit dédiés a ca, pas dédiés a ca ou chez un particulier ou pas c'est un détail.

l'idée: tu fais une liste d'url a télécharger. par exemple:

A: https://bouygues.testdebit.info/1G/1G.iso
B: http://ubuntu.mirrors.ovh.net/ubuntu-releases/19.10/ubuntu-19.10-live-server-amd64.iso
C: https://dl.google.com/android/studio/maven-google-com/stable/offline-gmaven-stable.zip

puis pour chaque url tu peux choisir combien d'exemplaires a télécharger en meme temps voir enchainer des flux: 4 fois A en meme temps que B 4 fois a la suite en meme temps que 2 C a la suite.

ca fait donc dans le temps:

A.................
A.................
A.................
A.................
B...B...B...B...
C.......C........


soit 6 flux en meme temps (qui finissent pas forcement en meme temps) vers 3 serveurs différents.
Pour chaque flux on aura le débit instantané et moyen avec un graphe de l'ensemble et le max et la moyenne total ainsi que la latence de chaque flux.

On peut optionnellement mettre un temps maxi par flux, un temps maxi total et un volume maxi par flux et maxi total.

Avec ce type de schéma on couvre pas mal de tests possibles d'autant qu'un peut faire des GET et des POST en meme temps. Donc on peut aussi tester l'envoi en meme temps que la réception.

Ceci permet de comparer les FAI sur le peering aussi et pas que sur le débit  final.

En ligne de commande on peut donc passer des url :

nspeed.exe --get https://bouygues.testdebit.info/1G/1G.iso,4 --get http://ubuntu.mirrors.ovh.net/ubuntu-releases/19.10/ubuntu-19.10-live-server-amd64.iso,4x --get http://ubuntu.mirrors.ovh.net/ubuntu-releases/19.10/ubuntu-19.10-live-server-amd64.iso,2

Mais l'idée ensuite est proposer des tests préparés a l'avance pour simplifier les choses pour les utilisateurs novices:

nspeed.exe --test https://nspeed.app/nspeed/test1.ns(vous pouvez ouvrir test1.ns sans risque c'est un fichier texte).

Pour le P2P quand on sera a l'étape 3: les serveurs nspeed peuvent tres bien s'annoncer quelque part pour "s'offrir" en serveurs de test (avec une limite de BP et temps par exemple). du coup on pourra avoir un "url centrale" qui fera un sorte de "reverse proxy load balancer" vers  tout les participants, a l'instar d'un tracker torrent.

voici c'est l'idée 'sur le papier' pour le moment , ca peut changer quand la réalité va frapper ;)

xp25

  • Abonné RED by SFR fibre FttH
  • *
  • Messages: 5 924
Mesure de débit - nouveau projet
« Réponse #13 le: 09 février 2020 à 13:11:12 »
Très intéressant comme projet mais je me demande si c'est pas un peut le principe d'un accélérateur de téléchargement avec affichage des statistiques du traffic généré et agrégé une fois que tout les téléchargements sont effectués ce que tu veux faire....

En effet, Internet Download Manager (IDM pour les intimes) permet de télécharger en mono/multi flux, avec des limites de vitesse (pour faire une QOS éventuelle pour les petits débits) et de créer des listes de téléchargements qui lancent les téléchargements l'un après l'autre (dès que fini, le suivant se lance), avec Schudele ou alors à l'envie si je veux que le PDF de 2Mo soit téléchargé immédiatement.



À noter que ADM, son pendant sous Android fait pratiquement la même chose :



Et en appuyant sur le petit graphique dans le menu ADM on a même des stats de traffic 🤣

vivien

  • Administrateur
  • *
  • Messages: 47 168
    • Twitter LaFibre.info
Mesure de débit - nouveau projet
« Réponse #14 le: 09 février 2020 à 13:58:02 »
Avec un accélérateur de téléchargement il est impossible d'envoyer les flux vers /dev/null et on est donc limité par la vitesse du SSD.

Maintenant le débit monothread me semble aussi intéressant car un bon réseau qui proposer 1 Gb/s doit proposer un débit monothread à 1 Gb/s quand tout se passe bien.

En 10 Gb/s, c'est plus compliqué pour plusieurs raisons (quand il y a un LAG de n liens 10 Gb/s, les connexions TCP sont réparties entre les différents liens et une seule connexion ne peut utiliser qu'un seul lien 10 Gb/s. L'utilisateur n'étant pas seul sur le lag, il va voir son débit monothread limité)

Pour les tests en multithread, on voit que l'utilisation de l'algorithme BBR peut faire chuter le débit.



BBR est par contre bon en monothread :

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 091
  • Paris (75)
Mesure de débit - nouveau projet
« Réponse #15 le: 10 février 2020 à 10:32:23 »
oui les accélérateurs de téléchargement ca existe déja notamment aria2 en ligne de commande.
Comme souligne Vivien le souci c'est qu'ils ne peuvent sauvegarder vers /dev/null.

aria2 était un bon candidat de départ pour ce projet d'ailleurs mais il faut se plonger dans le code d'un autre et il est assez complexe.

L'idée de base est aussi de faire un outil simple d'utilisation pour les novices (interface 'un bouton' pas plus) mais avec des options avancées pour les experts.

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 091
  • Paris (75)
Mesure de débit - nouveau projet
« Réponse #16 le: 29 février 2020 à 18:56:25 »
petit update: j'avance sur le concept et l'archi générale du projet (étapes, composants a trouver, code a développer). J'étais en vacances pendant 2 semaines donc pas de code produit   ;D

Je m'y remet des lundi.

J’essaierai de faire un point hebdo tout les lundis par exemple.

En attendant si quelqu'un pouvait compiler une liste d'url interresants a utiliser par nspeed, par exemple:

https://bouygues.testdebit.info/1G/1G.iso (plus toute ces variantes)
http://ubuntu.mirrors.ovh.net/ubuntu-releases/19.10/ubuntu-19.10-live-server-amd64.iso
https://dl.google.com/android/studio/maven-google-com/stable/offline-gmaven-stable.zip

Il y a sans doute les miroirs des distros, des gros binaires sur github, peut-etre des données open data , etc

Pour chacun il serait bien d'avoir la taille , le type de protocole supporter par le serveur (http 1.1, 2, quic, 3) et chiffrement ou pas.

On manque surtout d'url pour faire des 'POST' (test upload).

Le projet est la : https://github.com/kgersen/nspeed . Vous pouvez vous abonnez ('watch') pour suivre les évolutions ('releases only' pour être notifié des nouveaux binaires quand dispo.).

Vous pouvez ouvrir des 'issues' pour faire des suggestions/demandes.

willemijns

  • Abonné FreeMobile
  • *
  • Messages: 2 681
Mesure de débit - nouveau projet
« Réponse #17 le: 29 février 2020 à 19:24:53 »
My 2 cents sur le sujet sur github ;)

Attention aussi aux liens de type GOOGLE qui sont souvent en CDN...

vivien

  • Administrateur
  • *
  • Messages: 47 168
    • Twitter LaFibre.info
Mesure de débit - nouveau projet
« Réponse #18 le: 29 février 2020 à 21:08:32 »
La liste des miroirs Ubuntu es disponible sur :
- CD : https://launchpad.net/ubuntu/+cdmirrors
- Archive : https://launchpad.net/ubuntu/+archivemirrors

Il y a en effet des fichiers de plus de 1 Go sur le miroir :

$ find /home/ubuntu-archive/ -size +1G
/home/ubuntu-archive/ubuntu/pool/universe/t/texlive-extra/texlive-extra_2019.20190710.orig.tar.xz
/home/ubuntu-archive/ubuntu/pool/universe/t/texlive-extra/texlive-extra_2017.20180305.orig.tar.xz
/home/ubuntu-archive/ubuntu/pool/universe/t/texlive-extra/texlive-extra_2019.202000218.orig.tar.xz
/home/ubuntu-archive/ubuntu/pool/universe/t/texlive-extra/texlive-extra_2018.20190227.orig.tar.xz
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data_3.4.0+dfsg.orig.tar.bz2
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data_2018.1.1+dfsg.orig.tar.bz2
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data-base_2019.1.1+dfsg-1_all.deb
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data_2019.1.1+dfsg.orig.tar.bz2
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data-base_2018.3.2+dfsg-1_all.deb
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data_3.0.0.orig.tar.bz2
/home/ubuntu-archive/ubuntu/pool/universe/f/flightgear-data/flightgear-data_2018.3.2+dfsg.orig.tar.bz2
/home/ubuntu-archive/ubuntu/pool/universe/c/ceph/ceph-test-dbg_10.2.11-0ubuntu0.16.04.2_i386.deb
/home/ubuntu-archive/ubuntu/pool/universe/c/ceph/ceph-test-dbg_10.1.2-0ubuntu1_amd64.deb
/home/ubuntu-archive/ubuntu/pool/universe/c/ceph/ceph-test-dbg_10.1.2-0ubuntu1_i386.deb
/home/ubuntu-archive/ubuntu/pool/universe/c/ceph/ceph-test-dbg_10.2.11-0ubuntu0.16.04.2_amd64.deb
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.243.orig-ppc64el.tar.xz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.243.orig-amd64.tar.xz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_9.1.85.orig.tar.gz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_5.5.22.orig.tar.gz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.168.orig-ppc64el.tar.xz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.105.orig-ppc64el.tar.xz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.105.orig-amd64.tar.xz
/home/ubuntu-archive/ubuntu/pool/multiverse/n/nvidia-cuda-toolkit/nvidia-cuda-toolkit_10.1.168.orig-amd64.tar.xz


Maintenant ce n'est pas trop fait pour tester les débits ces serveurs.

willemijns

  • Abonné FreeMobile
  • *
  • Messages: 2 681
Mesure de débit - nouveau projet
« Réponse #19 le: 29 février 2020 à 21:48:12 »
le niveau de compression doit être de 100% en plus ;)

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 091
  • Paris (75)
Mesure de débit - nouveau projet
« Réponse #20 le: 01 mars 2020 à 21:28:42 »
My 2 cents sur le sujet sur github ;)

Attention aussi aux liens de type GOOGLE qui sont souvent en CDN...

Les 'issues' github c'est plus pour ouvrir des bugs & demandes d'amélioration 'précises' (une fonctionnalité bien précise par exemple). Pour commentaires plus général ou liste de serveurs utilisons ce sujet ici.

Je ne vois pas trop le rapport entre  www.willemijns.com/faqspeed.htm et le sujet des urls ou j'ai loupé un truc.



vivien

  • Administrateur
  • *
  • Messages: 47 168
    • Twitter LaFibre.info
Mesure de débit - nouveau projet
« Réponse #21 le: 01 mars 2020 à 22:32:47 »
willemijns a développé en 2006 un script de test de débit qui utilise pleins de serveurs distincts en parallèle (vivilproject). Il va télécharger sur pleins de serveurs FTP des fichiers en parallèle, pour saturer la connexion.

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 091
  • Paris (75)
Mesure de débit - nouveau projet
« Réponse #22 le: 01 mars 2020 à 22:48:53 »
ah ok oui je ne voyais pas la liste des url , il faut scroller bien bas pour les voir. Le début n'est qu'une liste de speedtest et je m'étais arrêté la.

willemijns

  • Abonné FreeMobile
  • *
  • Messages: 2 681
Mesure de débit - nouveau projet
« Réponse #23 le: 01 mars 2020 à 23:01:28 »
vivien, ce truc est désactivé depuis 2 mois ;) les MAJ interne de listes foiraient et j'avais developpé depuis 1 an des scripts linux privés donc j'ai sabordé le tout.

il y a 15 ans j'utilisais les serveurs FTP des mirrors de distro linux mais ce temps là est dépassé...
se baser sur dl.google.fr qui est un mega-CDN c'est pas logique.

oui la liste que j'ai donné contient plus dans le bas des dizaines et des dizaines de site de tests comme test-debit.free.fr il y a dedans par exemple https://speed.hetzner.de/10GB.bin qui est l'un des 4 ou 5 webhosters allemand les plus connus.

Je conseille toujours et encore des fichiers incompressibles (et vivien m'appuiera sur cela on en a déjà parlé sur ce forum) pas des fichiers remplis de 0. j'ai AUCUN serveur de test de ce type dans mes scripts internes.
Idem quand ca pue le CDN à plein nez.