La Fibre
Télécom => Peering Transit (appairage) => 
IXP => Discussion démarrée par: buddy le 25 janvier 2015 à 13:28:39
-
Bonjour,
J'ai régulièrement des "pertes" de connectivité avec lafibre.info depuis 1 ou 2 jours. Je précise que quand lafibre.info est inaccessible (ping & https) pour moi, tous les autres sites (http(s) & ping en ipv4 & IPV6) fonctionnent. j'ai lancé 3 pings en // ping lafibre.info => timeout. Ping6 google.fr OK ping v4 sur un autre site chez OVH => OK. je n'ai pas pensé à faire le ping sur un site chez Adeli ... je n'en connaissais pas comme çà "à froid".
Quand çà marche bien
Détermination de l'itinéraire vers lafibre.info [46.227.16.8]
avec un maximum de 30 sauts :
1 2 ms 2 ms 2 ms box [192.168.1.1]
2 70 ms 70 ms 70 ms 119.48.6.109.rev.sfr.net [109.6.48.119]
3 28 ms 28 ms 28 ms 49.88.3.109.rev.sfr.net [109.3.88.49]
4 91 ms 46 ms 45 ms adeli.equinix-ix.fr [195.42.144.219]
5 87 ms 105 ms 135 ms lafibre.info [46.227.16.8]
Itinéraire déterminé.
quand çà "bug", on dirait un soucis SFR / Adeli
Détermination de l'itinéraire vers lafibre.info [46.227.16.8]
avec un maximum de 30 sauts :
1 2 ms 16 ms 2 ms box [192.168.1.1]
2 61 ms 58 ms 66 ms 119.48.6.109.rev.sfr.net [109.6.48.119]
3 29 ms 29 ms 27 ms 49.88.3.109.rev.sfr.net [109.3.88.49]
4 * * * Délai d'attente de la demande dépassé.
5 * * * Délai d'attente de la demande dépassé.
6 * * * Délai d'attente de la demande dépassé.
çà semble concerner le peering SFR <=> Adeli .
voilà pour ce que je vois de mon côté.
-
Je remarque également ce phénomène de temps en temps, mais c'est très rare. Avec ma box SFR FTTH. Aucun problème avec Orange FTTH et Numericable FTTLA.
-
je l'ai eu 2 ou 3 fois ce week end. après, j'avoue que je ne sais pas si çà dure depuis très longtemps ou pas ... faut vraiement que çà survienne au moment où je poste / navigue pour que je le vois.
-
Edit : Il est normal que cela coupe, le Cisco 6509 de la baie Lyon-IX a été remplacé par une drôle de chose :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_1.jpg)
Photo de la baie Lyon-IX le samedi 24 janvier, postée par Arnaud Fenioux (@afenioux (https://twitter.com/afenioux))
Tous les opérateurs impliqués ont le point commun de passer par Lyon-IX :
Le dimanche, il y a peu de chance pour que ce soit une opération programmée.
Box SFR FTTH sur Lyon :
(https://lafibre.info/images/adeli/201501_box_sfr_lyon_depuis_maxnod.png)
Villes non impactées ne passant pas Lyon-IX : Paris (75), Brest (29) Nantes (44) Lille (59), Nanterre (92), Créteil (94)
Villes impactées, passant probablement par Lyon-IX : Grenoble (38), Lyon (69)
DNS Numericable :
(https://lafibre.info/images/adeli/201501_dns_numericable_depuis_maxnod.png)
Chez Numericable, certaines villes, comme Paris, on gagné du ping avec pendant la panne de Lyon-IX : (Box 200 Mb/s de citron-bleu sur Paris 5ème)
(https://lafibre.info/images/adeli/201501_box_numericable_paris_depuis_maxnod.png)
Box Wibox dans l'Ain :
(https://lafibre.info/images/adeli/201501_box_wibox_ain_depuis_maxnod.png)
Serveur hébergé sur DCforData un data-center lyonnais : On vois bien que la panne se fait au moment de bascules.
(https://lafibre.info/images/adeli/201501_serveur_dcfordata_depuis_maxnod.png)
A noter que K-Net peer avec Adeli sur le CIXP en ce moment.
-
J'ai vu passer un mail hier (ou vendredi soir) signifiant des problèmes à Lyonix suite à une maintenance. Peut être lié.
-
Lionel (Adeli) me dit que c'est une opération planifiée du Lyon-IX (changement de l'infrastructure)
Voici les traceroutes de ma ligne Numericable sur Paris qui a été impactée par l'incident : On passe par Lyon-IX dans les deux sens.
Numericable => Adeli :
$ mtr -rwc100 lafibre.info
Start: Sun Jan 25 17:13:54 2015
HOST: vivien Loss% Snt Last Avg Best Wrst StDev
1.|-- 10.112.0.1 0.0% 100 8.0 8.2 6.1 14.6 1.5
2.|-- eps1rj-ge-0-1-5.100.numericable.net 0.0% 100 7.4 8.6 5.7 33.7 2.7
3.|-- ip-190.net-80-236-8.asnieres.rev.numericable.fr 0.0% 100 8.3 9.9 7.0 40.4 4.6
4.|-- ip-185.net-80-236-8.asnieres.rev.numericable.fr 0.0% 100 9.5 9.3 7.1 15.1 1.2
5.|-- 172.19.130.174 0.0% 100 22.4 24.3 19.5 81.0 10.6
6.|-- 172.19.130.174 0.0% 100 20.5 22.7 19.4 77.8 6.9
7.|-- ip-95.net-80-236-7.static.numericable.fr 0.0% 100 22.3 24.1 19.0 77.5 9.5
8.|-- adeli-l2.peers.lyonix.net 0.0% 100 21.3 25.5 20.2 162.9 15.6
9.|-- lafibre.info 1.0% 100 28.1 26.0 23.6 31.0 1.4
Adeli => Numericable :
$ mtr -rwc100 89.159.81.68
Start: Sun Jan 25 17:14:01 2015
HOST: lafibre.info Loss% Snt Last Avg Best Wrst StDev
1.|-- portevlan.adeli.biz 0.0% 100 0.3 1.9 0.2 104.6 10.7
2.|-- numericable.peers.lyonix.net 0.0% 100 1.2 2.7 1.0 39.5 6.6
3.|-- ip-94.net-80-236-7.static.numericable.fr 0.0% 100 1.4 4.9 1.4 34.6 8.4
4.|-- 172.19.129.65 0.0% 100 23.0 19.8 13.9 25.9 3.3
5.|-- 172.19.128.178 0.0% 100 12.6 11.2 9.3 13.3 1.0
6.|-- 172.19.131.53 0.0% 100 15.6 15.4 13.5 17.5 1.0
7.|-- 172.19.129.190 0.0% 100 9.3 12.0 9.3 31.2 3.3
8.|-- ip-190.net-80-236-8.asnieres.rev.numericable.fr 0.0% 100 13.3 13.3 13.1 21.5 0.8
9.|-- ? ? 100.0 100
10.|-- 213-245-253-68.rev.numericable.fr 0.0% 100 13.8 13.7 13.4 16.0 0.3
11.|-- 89-159-81-68.rev.dartybox.com 0.0% 100 21.0 22.2 19.8 26.0 1.2
-
Ah OK, le comportement du speedtest de Rezopole s'explique !
(https://lafibre.info/images/peering/201501_disponiblite_site_rezopole.png)
-
Faire des opérations programmées le samedi après-midi, c'est vraiment ignorer les opérateurs grand public. Le samedi après-midi est chaud au niveau du trafic et surtout la soirée où certains opérateurs ne sont pas en mesure de faire face à une coupure de Lyon-IX sans dégrader les services.
Cela me fait penser aux maintenances du SIEA qui commencent le soir à 20h00.
Il est largement préférable de le faire le matin tôt, si ce n'est pas possible de le faire la nuit.
De 7h à 9h les réseaux sont vide. 20h 22h c'est le pic du trafic !
Graphe K-Net pour Lyon-IX : On note une coupure totale hier (opération programmée)
(https://lafibre.info/images/k-net/201501_k-net_lyon-ix.png)
-
Cela me fait penser aux maintenances du SIEA qui commencent le soir à 20h00.
Il est largement préférable de le faire le matin tôt, si ce n'est pas possible de le faire la nuit.
De 7h à 9h les réseaux sont vide. 20h 22h c'est le pic du trafic !
Sauf si le SEIA choisit les horaires en fonction de ses clients "pros" ?
La journée, pour un pro qui a besoin d'internet ce n'est pas possible de faire une maintenance et la nuit il y a peut être de la maintenance automatique / backup donc il tape en pleine soirée où çà n'impacte que peu les pros mais de plein fouet les particuliers .. c'est un choix ... (ceci est mon avis/idée et n'engage que moi)
-
J'ai un site web d'un client utilisé la journée par les pros et le GP et le soir uniquement par le GP. Ben devinez quoi : le client demande toujours les opérations de maintenance le soir.
Rien à péter du Grand public !
-
Voici le graphe du Lyon-IX pour Bouygues Telecom, hier samedi :
(https://lafibre.info/images/bbox/201501_lyon-ix_maintenance_programee.png)
Aucune coupure aujourd'hui.
A noter que Bouygues Telecom n'aime pas sécuriser pas ses peering (PNI ou via un GIX) par un second peering par exemple sur un autre GIX, mais par le transit.
Si un GIX tombe, cela entraîne la saturation d'autres GIX en cascade.
Un hébergeur choisit où envoyer son trafic.
Un FAI subit les CDN qui bougent leur trafic (qui peut être de plusieurs dizaines de Gb/s) de GIX en GIX.
-
L'opération consiste à enlever le Cisco 6509, qui a un uptime de presque 5ans :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_2.jpg)
Photo postée par Arnaud Fenioux (@afenioux (https://twitter.com/afenioux)) :
Baie Lyon-IX avec le Cisco 6509 avant l'opération :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_3.jpg)
-
Photo de la baie Lyon-IX postée par Arnaud Fenioux (@afenioux (https://twitter.com/afenioux)) de l'opération d'hier :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_1.jpg)
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_4.jpg)
-
A noter que Bouygues Telecom est également en train de changer un de ses routeur dédié au peering sur TH2 : rpt04-th2.net.bbox.fr (120 ports 10 Gb/s) va être remplacé par rpt06-th2.net.bbox.fr (360 ports 10 Gb/s full rate - les 360 ports peuvent avoir chacun 10 Gb/s symétrique de trafic)
La migration se fait à partir de demain et la procédure est différente de celle utilisé par Rezopole : Le nouveau routeur a été mis dans une autre baie. A partir de demain et pour une durée de deux semaines, les peering son migrés sur le nouveau routeur. Une fois l'opération terminée, l'ancien routeur est retiré du réseau.
Il ne devrait pas y avoir d'impact sur le trafic, excepté au moment de la coupure d'un peering (le trafic est repris par les transitaires le temps de la coupure)
-
Je continue avec les photo postée par Arnaud Fenioux (@afenioux)
Ce qui pourrait être le dessous de la baie en question :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_5.jpg)
Le nouveau matériel en test le 9 septembre 2014 :
Benchmarking with @border_six for new LyonIX backbone :) cc @Rezopole : (source @afenioux (https://twitter.com/afenioux/status/509306720016138243/photo/1))
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_6.jpg)
Le matériel qui pourrait être utilisé à la place équipé de 48 ports 10 Gb/s qui tiennent dans un emplacement de 1u: (source @afenioux (https://twitter.com/afenioux/status/496269731171946497/photo/1))
Le prix publique est de 30ke le switch, soit 625€ le port 10 Gb/s.
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_7.jpg)
Je met le conditionnel, car Arnaud Fenioux intervient sur presque tous les GIX Français : France-IX Paris, France-IX Marseille, Lyon-IX, EuroGIX Strasbourg,...
Toutefois, il me semble reconnaître les locaux de Rezopole.
-
Ce serait plutôt Brocade qui a été sélectionné :
Migration de #LyonIX 3 vers la nouvelle plateforme Brocade Source : @st3rk (https://twitter.com/st3rk)
LyonIX 1 est hébergé au sein de l'IN2P3 (le laboratoire de physique nucléaire du CNRS)
LyonIX 2 est dans le NetCenter SFR de Lyon, c'est là où étaient prises les photos précédentes, le NetCenter SFR est le TH2 de Lyon avec présence de tous les opérateurs nationaux (même Free ou OVH)
LyonIX 3 est tout récent, il a été inauguré en juin 2014 et il est situé au sein du DCforDATA à Limonest.
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_8.jpg)
-
Ce serait plutôt Brocade qui a été sélectionné :
Migration de #LyonIX 3 vers la nouvelle plateforme Brocade Source : @st3rk (https://twitter.com/st3rk)
LyonIX 1 est hébergé au sein de l'IN2P3 (le laboratoire de physique nucléaire du CNRS)
LyonIX 2 est dans le NetCenter SFR de Lyon, c'est là où étaient prises les photos précédentes, le NetCenter SFR est le TH2 de Lyon avec présence de tous les opérateurs nationaux (même Free ou OVH)
LyonIX 3 est tout récent, il a été inauguré en juin 2014 et il est situé au sein du DCforDATA à Limonest.
et le 4 devrait être vers l'aéroport....
-
Salut Vivien et les participants de lafibre.info :)
En effet, LyonIX a fait une migration ce weekend qui consistait a remplacer le Catalyst 6500 de LyonIX2 par des équipements de marque Brocade. J'ai donné un coup de main en tant que bénévole, mais je ne parle pas ici au nom de Rezopole.
Je continue avec les photo postée par Arnaud Fenioux (@afenioux)
Ce qui pourrait être le dessous de la baie en question :
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_5.jpg)
Raté!
Le nouveau matériel en test le 9 septembre 2014 :
Benchmarking with @border_six for new LyonIX backbone :) cc @Rezopole : (source @afenioux (https://twitter.com/afenioux/status/509306720016138243/photo/1))
(https://lafibre.info/images/peering/201501_lyon-ix_supression_cisco_6509_6.jpg)
Le matériel qui pourrait être utilisé à la place équipé de 48 ports 10 Gb/s qui tiennent dans un emplacement de 1u: (source @afenioux (https://twitter.com/afenioux/status/496269731171946497/photo/1))
Le prix publique est de 30ke le switch, soit 625€ le port 10 Gb/s.
Nous avons en effet testé du Juniper, mais c est Brocade qui a été retenu (modele VDX 6740 pour les plus currieux).
Attention de ne pas confondre prix public et prix de vente ;)
Je met le conditionnel, car Arnaud Fenioux intervient sur presque tous les GIX Français : France-IX Paris, France-IX Marseille, Lyon-IX, EuroGIX Strasbourg,...
Toutefois, il me semble reconnaître les locaux de Rezopole.
J'ai en effet travaillé chez Rezopole/LyonIX pendant plusieurs années, mais je travaille actuellement chez FranceIX (d'ou les photos de Paris et Marseille).
A une prochaine!
-
D'après Evolix, une maintenance FranceIX est prévue sur Marseille les jours qui viennent !
-
En effet, du coté de FranceIX sur Marseille on déménage de baie, ce qui nous a permis de préparer un cablage super clean sur notre 2eme MLX:
(https://pbs.twimg.com/media/B611EfzIMAAFTcG.jpg)
On aimerait bien faire aussi propre a chaque fois, mais l'historique, les migrations de membres et les années d'exploitation font que ca n est pas tjs possible...
Cette semaine, on va passer en prod un route-serveur sur Marseille, migrer la liaison Paris-Marseille et les derniers membres qui ne le sont pas encore sur notre second MLX la-bas.
-
Ouais j'ai vu que ca flapouillait pas mal samedi le lyonix, et je me suis dit afenioux doit être dans le coup :)
surtout que vendredi soir tu n'étais pas au gloo, et je savais que tu étais sur lyon. cqfd.
-
surtout que vendredi soir tu n'étais pas au gloo(...)
Et tu avais tort ! :)