La Fibre

Fournisseurs d'accès à Internet fixe en France métropolitaine => K-Net K-Net => Opérateurs grand public alternatifs => K-Net Espace technique internet K-Net => Discussion démarrée par: Ralph le 27 août 2020 à 21:25:27

Titre: Soucis peering Google / Netflix ?
Posté par: Ralph le 27 août 2020 à 21:25:27
Bonjour,

Je remarque depuis plusieurs jours un étrange comportement du smoke-ping mis en place chez moi vers 1.1.1.1, 8.8.8.8 et 9.9.9.9

Ce jour :

(https://i.imgur.com/qQsWyiJ.png)

Hier:

(https://i.imgur.com/Gv3UmtZ.png)

Et les derniers 14 jours :

(https://i.imgur.com/5R6AHIw.png)


Bref, depuis quasiment que j'ai mis en place ce smoke-ping vers les 3 DNS, celui de Google (8.8.8.8) a des soucis de temps de réponse très régulièrement entre 20h et 23h. Et même en journée depuis peu.

Les autres adresses 1.1.1.1 (Cloudflare) et 9.9.9.9 (Quad9) n'ont pas ce soucis ce qui dédouane à priori un soucis coté collecte (je fais des speedtest, nperf, speed-cloudflare à pas loin de 900 Mbits/s sans soucis le soir).

De plus, si je teste le ping vers 8.8.8.8 depuis une machine chez online.net, j'ai de très bon temps :

$ ping 8.8.8.8
PING 8.8.8.8 (8.8.8.8) 56(84) bytes of data.
64 bytes from 8.8.8.8: icmp_seq=1 ttl=119 time=1.02 ms
64 bytes from 8.8.8.8: icmp_seq=2 ttl=119 time=0.994 ms
...
64 bytes from 8.8.8.8: icmp_seq=34 ttl=119 time=0.994 ms
64 bytes from 8.8.8.8: icmp_seq=35 ttl=119 time=0.997 ms
^C
--- 8.8.8.8 ping statistics ---
35 packets transmitted, 35 received, 0% packet loss, time 34038ms
rtt min/avg/max/mdev = 0.988/0.998/1.016/0.005 ms

Ce qui dédouane aussi un problème chez Google.

Suis-je le seul à remarquer cela chez K-Net ?


J'ai aussi remarqué une baisse significative de mon débit depuis les serveurs Netflix le soir depuis peu, mais c'est un autre sujet je pense. Je passe de 350/400 Mbits à ... 70/80 ! Et ceci bien sur en Ethernet.
Titre: Soucis peering Google ?
Posté par: VincentO le 28 août 2020 à 00:00:53
Traceroute à un moment où vous avez le problème ? Est-ce que ça fait pareil vers 8.8.4.4 au même moment ? J'ai testé directement à partir de votre routeur et tout semblait normal :
Start: 2020-08-27T23:29:37+0200
HOST: KBOX            Loss%   Snt   Last   Avg  Best  Wrst StDev
  1.|-- 10.2.0.151       0.0%   100    3.0   3.1   2.0   6.0   0.5
  2.|-- ???             100.0   100    0.0   0.0   0.0   0.0   0.0
  3.|-- 10.2.0.5         0.0%   100    8.0   7.4   6.0  24.0   1.8
  4.|-- 178.250.208.14   0.0%   100   18.0  17.0   8.0  60.0   8.4
  5.|-- 108.170.244.193  0.0%   100    8.0   7.9   6.0   9.0   0.2
  6.|-- 72.14.237.93     0.0%   100   18.0   9.0   8.0  18.0   1.2
  7.|-- 8.8.8.8          0.0%   100   19.0  15.8   8.0  33.0   6.2

Les autres adresses 1.1.1.1 (Cloudflare) et 9.9.9.9 (Quad9) n'ont pas ce soucis ce qui dédouane à priori un soucis coté collecte

Pas forcément, il y a très souvent des agrégations de liens dans la collecte (le traffic d'un même client est réparti entre plusieurs liens en fonction par exemple de l'IP source et de destination). Un lien de l'agrégat peut saturer si le traffic n'est pas bien équilibré / si la fonction de hashage est mal choisie, n'impactant dans qu'une partie du traffic.

Ce qui dédouane aussi un problème chez Google.

Là encore, pas forcément. Google a plusieurs centaines de serveurs qui répondent à cette IP (anycast), le traffic venant de Online et de K-Net ne va pas forcément vers le même serveur (et cela peut changer un peu à n'importe quel moment). De la même façon, cela pourrait saturer sur un lien chez Google. Mais ces problèmes sont rarissimes chez Google.

Côté K-Net, la collecte de Covage et les PNI vers Google et Netflix sont tous sur le même routeur (donc pas de saturation entre routeurs K-Net possible), et l'état des liens est sur https://as24904.kwaoo.net/ où on ne voit pas de saturation. Dans le traceroute plus haut, 10.2.0.5 c'est notre routeur, et 178.250.208.14 c'est un routeur chez Google (on fournit l'IP pour l'interco).

J'ai aussi remarqué une baisse significative de mon débit depuis les serveurs Netflix le soir depuis peu, mais c'est un autre sujet je pense. Je passe de 350/400 Mbits à ... 70/80 ! Et ceci bien sur en Ethernet.

Testé comment, sur https://fast.com/ ?
Titre: Soucis peering Google ?
Posté par: Ralph le 28 août 2020 à 08:38:59
Traceroute à un moment où vous avez le problème ? Est-ce que ça fait pareil vers 8.8.4.4 au même moment ? J'ai testé directement à partir de votre routeur et tout semblait normal :
Start: 2020-08-27T23:29:37+0200
HOST: KBOX            Loss%   Snt   Last   Avg  Best  Wrst StDev
  1.|-- 10.2.0.151       0.0%   100    3.0   3.1   2.0   6.0   0.5
  2.|-- ???             100.0   100    0.0   0.0   0.0   0.0   0.0
  3.|-- 10.2.0.5         0.0%   100    8.0   7.4   6.0  24.0   1.8
  4.|-- 178.250.208.14   0.0%   100   18.0  17.0   8.0  60.0   8.4
  5.|-- 108.170.244.193  0.0%   100    8.0   7.9   6.0   9.0   0.2
  6.|-- 72.14.237.93     0.0%   100   18.0   9.0   8.0  18.0   1.2
  7.|-- 8.8.8.8          0.0%   100   19.0  15.8   8.0  33.0   6.2

Même symptome sur 8.8.4.4, j'aurais du le préciser.
Je vais tenter de mettre en place un mtr historisé dans un base et affiché via grafana.

Pas forcément, il y a très souvent des agrégations de liens dans la collecte (le traffic d'un même client est réparti entre plusieurs liens en fonction par exemple de l'IP source et de destination). Un lien de l'agrégat peut saturer si le traffic n'est pas bien équilibré / si la fonction de hashage est mal choisie, n'impactant dans qu'une partie du traffic.

Oui je sais que le routage sur internet n'a rien de trivial.

Là encore, pas forcément. Google a plusieurs centaines de serveurs qui répondent à cette IP (anycast), le traffic venant de Online et de K-Net ne va pas forcément vers le même serveur (et cela peut changer un peu à n'importe quel moment). De la même façon, cela pourrait saturer sur un lien chez Google. Mais ces problèmes sont rarissimes chez Google.

En effet, il y a un très grand nombre de machines qui vont répondre sur 8.8.8.8 et c'est clair que les sources sont tellement différente que plus de 50% d'un traceroute allait être différent

Côté K-Net, la collecte de Covage et les PNI vers Google et Netflix sont tous sur le même routeur (donc pas de saturation entre routeurs K-Net possible), et l'état des liens est sur https://as24904.kwaoo.net/ où on ne voit pas de saturation. Dans le traceroute plus haut, 10.2.0.5 c'est notre routeur, et 178.250.208.14 c'est un routeur chez Google (on fournit l'IP pour l'interco).

Justement, la weather-map hier à 20h30:

(https://i.imgur.com/9f0GSKh.png)

Et à 23 heures:

(https://i.imgur.com/IYieTTp.png)

Le lien LyonIX a chaud à 20h !


Le truc c'est que je suis dans le Nord près de Lille, mais on m'a attribué une IP "près" de Genève, j'espère que je ne me tape pas des allers-retours en passant par LyonIX pour faire Lille - Paris selon les IP ciblées.

Testé comment, sur https://fast.com/ ?

Oui, sur :

J'ai fait un post sur le forum K-Net pour que cela sois plus direct : https://forum.caps.services/index.php/topic,8015.0.html (https://forum.caps.services/index.php/topic,8015.0.html)
Titre: Soucis peering Google ?
Posté par: thedark le 28 août 2020 à 08:46:49
Citer
Le lien LyonIX a chaud à 20h !
C'est à cause de la nouvelle saison de fortnite. (Cache Akamai)
Titre: Soucis peering Google ?
Posté par: Ralph le 28 août 2020 à 09:02:56
C'est à cause de la nouvelle saison de fortnite. (Cache Akamai)

Mouais... Akamai en haut à droite de la Weather-map se tourne les pouces vers Paris, j'ai un gros doute sur la cause du coup.
Titre: Soucis peering Google ?
Posté par: thedark le 28 août 2020 à 09:09:24
Mouais... Akamai en haut à droite de la Weather-map se tourne les pouces vers Paris, j'ai un gros doute sur la cause du coup.
Le PNI Akamai est très compliqué a comprendre.
https://as24904.kwaoo.net/as-stats/history.php?as=34164&peerusage=0&v=4 la justification cadeaux.
https://pix.milkywan.fr/c4Lk6Z6a.png
Je dis rarement de la merde sur le forum :)
Titre: Soucis peering Google ?
Posté par: vivien le 28 août 2020 à 09:19:54
Je confirme Akamai peut provenir de n'importe quel lien avec même des caches qui sont sur des IP d'autres opérateurs.

En fonction du prix payé chez Akamai, le trafic sera au plus proche de l'opérateur (via un peering direct) ou éloigné avec passage par les transitaires (ce que le FAI n’apprécie pas)

Bouygues Telecom a du de-peerer Akamai sur les différents IXP afin de ne laisser Akamai que sur celui souhaité, sinon, ils sont capable de saturer un soir l'IXP1, le soir suivant l'IXP2 et le dernier l'IXP3.

Bref Akamai, c'est vraiment complexe à maitriser.
Titre: Soucis peering Google ?
Posté par: Ralph le 28 août 2020 à 09:39:23
Le PNI Akamai est très compliqué a comprendre.
https://as24904.kwaoo.net/as-stats/history.php?as=34164&peerusage=0&v=4 la justification cadeaux.
https://pix.milkywan.fr/c4Lk6Z6a.png
Je dis rarement de la merde sur le forum :)

Certes, un peu plus de trafic hier mais bon, à ce rythme, on aura plus de débits avec tous les jeux AAA à mettre a jour.

Je confirme Akamai peut provenir de n'importe quel lien avec même des caches qui sont sur des IP d'autres opérateurs.

En fonction du prix payé chez Akamai, le trafic sera au plus proche de l'opérateur (via un peering direct) ou éloigné avec passage par les transitaires (ce que le FAI n’apprécie pas)

Bouygues Telecom a du de-peerer Akamai sur les différents IXP afin de ne laisser Akamai que sur celui souhaité, sinon, ils sont capable de saturer un soir l'IXP1, le soir suivant l'IXP2 et le dernier l'IXP3.

Bref Akamai, c'est vraiment complexe à maitriser.

Donc la WM K-Net pour Akamaï il vaut mieux se baser sur https://as24904.kwaoo.net/as-stats/top.php (https://as24904.kwaoo.net/as-stats/top.php).

Reste que ça n'explique pas pour le moment les "soucis" Google / Netflix. En espérant que la "localisation" de mon IP actuelle vue à 95% du temps dans le Jura alors que je suis vers Lille ne pose pas de soucis.
Titre: Soucis peering Google ?
Posté par: Fyr le 28 août 2020 à 13:46:02
Et du coup en dehors de ping c'est quoi l'expérience utilisateur altérée ?
Titre: Soucis peering Google ?
Posté par: Ralph le 29 août 2020 à 09:50:31
Et du coup en dehors de ping c'est quoi l'expérience utilisateur altérée ?

Il y a aussi une baisse significative des débits pour Netflix
Titre: Soucis peering Google / Netflix ?
Posté par: Free_me le 29 août 2020 à 10:04:06
au point de gener l'utilisation de netflix ?
Titre: Soucis peering Google / Netflix ?
Posté par: thedark le 29 août 2020 à 10:51:31
Ou peut être la collecte Covage qui sature sur leur backbone nationale ?
Titre: Soucis peering Google / Netflix ?
Posté par: Ralph le 29 août 2020 à 16:38:04
au point de gener l'utilisation de netflix ?

Oui car le double écran (un FHD + un UHD) ça ne passe plus avec 19Mbits/s.

Ou peut être la collecte Covage qui sature sur leur backbone nationale ?

Non, les tests de débits sont OK pendant ce temps.
Titre: Soucis peering Google / Netflix ?
Posté par: VincentO le 29 août 2020 à 16:53:47
Vous aviez le problème vers 8.8.8.8 hier soir ? J'ai demandé à votre routeur d'enregistrer la latence hier soir entre 20:35 et 23:45 vers 8.8.8.8, c'est plat à 8ms. C'est bien sur la connexion associée au numéro client de votre profil que vous avez le problème ?

Titre: Soucis peering Google / Netflix ?
Posté par: Ralph le 29 août 2020 à 21:30:31
Vous aviez le problème vers 8.8.8.8 hier soir ? J'ai demandé à votre routeur d'enregistrer la latence hier soir entre 20:35 et 23:45 vers 8.8.8.8, c'est plat à 8ms. C'est bien sur la connexion associée au numéro client de votre profil que vous avez le problème ?

Oui c'est bien a ref client et hier soir c'était pour fois le calme plat sur les réponses vers 8.8.8.8 et ce n'était pas arrivé depuis le début de mon monitoring !

Je suis entrain de mettre en place un suivi via mtr (enfin plutôt un mtr-like qui exporte dans prometheus) et je remarque un gros % de packet loss juste sur... ma gateway! Il y a un rate-limit pour les ICMP sur l'Icotera ??
Titre: Soucis peering Google / Netflix ?
Posté par: Ralph le 30 août 2020 à 22:31:34
Pour ce soir :

(https://i.imgur.com/3LwD5nN.png)

Host                                       Loss%   Snt   Last   Avg  Best  Wrst StDev
 1. ???      _gateway                         42.9%     7    1.4   1.3   1.2   1.4   0.1
 2. ???      10.2.0.151                        0.0%     7    4.2   4.1   3.1   4.7   0.5
 3. (waiting for reply)
 4. ???      10.2.0.5                          0.0%     6    8.3   8.2   7.7   8.5   0.3
 5. AS24904  178.250.208.14                    0.0%     6   11.3   9.6   8.8  11.3   0.9
 6. AS15169  108.170.244.193                   0.0%     6    8.1   9.1   8.1  10.8   0.9
 7. AS15169  72.14.237.93                      0.0%     6    8.8   9.2   8.7   9.9   0.5
 8. AS15169  dns.google                        0.0%     6    8.6   9.6   8.6  11.7   1.1

L'IP 178.250.208.14 est sur AS24909 (K-NET), mais ce soir les perturbations sont bien moins fortes et longues que d'habitude.

Par contre la Box Icotera ne semble pas aimer des masses les mtr et autre traceroute en permanence (rate-limite pour l'ICMP ??).

Netflix à 120Mbits/s (en Ethernet via Fast.com avec un profil Chrome prévu pour les tests de perfs utilisé depuis 2 mois) donc ça fonctionne mais c'est 3 fois moins qu'il y a un mois avec exactement les mêmes conditions de tests.
Titre: Soucis peering Google / Netflix ?
Posté par: Steph le 31 août 2020 à 07:30:38
Salut,
J'ai l'impression que mon Icotera fait le même genre de gags avec des pointes de ping max du même genre.

J'ai un topic sur CAPS à ce propos.
https://forum.caps.services/index.php/topic,7631.msg96526.html
Titre: Soucis peering Google ?
Posté par: Steph le 31 août 2020 à 08:02:09
Il y a aussi une baisse significative des débits pour Netflix
J'ai aussi parfois des freezes d'images d'une ou deux secondes sur Netflix, avec des pertes de paquets 4% quand cela se produit.
Titre: Soucis peering Google / Netflix ?
Posté par: Slapotarzed le 02 septembre 2020 à 07:50:57
Pour ma part depuis au moins une dizaine de jours (difficile d'être plus précis, on regarde très peu Netflix), le débit sur Netflix est souvent catastrophique avec des freeze, un image ultra-pixellisée.
Lecture depuis une AppleTV tout en filaire, un seul écran actif, débit irréprochable pour le reste au même moment.
Titre: Soucis peering Google ?
Posté par: Steph le 02 septembre 2020 à 09:42:22
J'ai aussi parfois des freezes d'images d'une ou deux secondes sur Netflix, avec des pertes de paquets 4% quand cela se produit.
Et curieusement,  chez moi, cela marche mieux en wifi AC (PC à coté de la k-box) qu'en Ethernet 100Mbps.