Auteur Sujet: AS41114 v2: OrneTHD migre en full Cisco  (Lu 15908 fois)

0 Membres et 1 Invité sur ce sujet

vivien

  • Administrateur
  • *
  • Messages: 47 170
    • Twitter LaFibre.info
AS41114 v2: OrneTHD migre en full Cisco (WIP)
« Réponse #60 le: 17 février 2021 à 13:03:49 »
Une IPv6 est composée de 3 parties :
- 56 bits de préfixe : Orne THD ne gère que cela
- 8 bits de sous-réseau permettant 256 sous-réseaux indépendants : Géré uniquement par la box qui prend le premier (l'utilité se sera surtout le jour ou nous n'aurons plus besoin d'IPv4 avec par exemple un préfixe dédié pour le Wi-Fi invité, un préfixe pour les objets connectés et un généraliste)
- 64 bits d'interface : Ce sont les équipements qui gèrent cette partie là. Ils peuvent mettre les 64 bits de l'adresse mac (ancienne méthode) ou une IP aléatoire dans les milliards disponibles (c'est ce cas là aujourd'hui)

C'est bien différent de l'IPv4, où chaque box n'a qu'une IPv4, ce qui oblige à faire du NAT.

Si on prend une IPv6 Orne THD : 2a0d:e6c0:c61f:1500:29ce:f98a:7a75:5f90
- 2a0d:e6c0:c61f:1500 : préfixe + sous-réseau
- 29ce:f98a:7a75:5f90 : interface

Optix

  • AS41114 - Expert OrneTHD
  • Abonné Orne THD
  • *
  • Messages: 4 663
  • WOOHOO !
    • OrneTHD
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #61 le: 20 février 2021 à 14:05:00 »
** Bilan migration Cisco **

Dans la nuit du jeudi au vendredi 5 février, les derniers équipements de coeur de réseau OrneTHD ont été remplacés par du matériel Cisco. Ce remplacement était nécessaire à la fois pour répondre au gros appétit de nos abonnés et également résoudre des problèmes de stabilité.

Mais ce remplacement était très sensible. En effet, un routeur de coeur de réseau communique avec... tous nos réseaux :
- opérateurs tiers : OrneTHD livre des clients professionnels à d'autres opérateurs
- serveurs : ce sont eux qui gèrent les mails, la téléphonie, les DNS, ils sont indispensables
- management : nos agents ont besoin de ce réseau pour accéder à l'état de votre modem, voir l'état de la ligne, etc
- abonnés professionnels
- abonnés particuliers
...

Bien qu'un 2e routeur de coeur de réseau était déjà en service et prend le relai, ce n'est que de façon logique. Là il fallait déplacer des fibres physiquement ce qui impactait forcément l'ensemble.


* Les difficultés post-migration

Quand bien même la majorité du trafic a été repris, et les services remontés chez beaucoup d'abonnés, il demeurait des complications.

La priorité a été de rétablir l'entièreté des services pour les opérateurs tiers et les abonnés professionnels critiques (qui payent des garanties supplémentaires, des établissements de santé aux régies pour les urgences électricité/gaz). Puis les abonnés en offre professionnelle (avec une garantie de rétablissement classique de 4 heures ouvrées), et enfin les particuliers. Là est la première raison de retard de rétablissement pour les abonnés grand public.

La deuxième, est qu'il s'agit de matériels nouveaux pour nous. Il faut un temps d'accomodation pour qu'on prenne rapidement nos automatismes, nos réflexes et aussi comprendre le pourquoi des régressions. En effet, les approximations et les largesses du matériel précédent ne sont plus tolérés par les Cisco actuels, du coup, il nous a fallu revoir et rationaliser nos règles de filtrage (si on dépasse une limite hardware, le Cisco coupe carrément l'interface, c'est... brutal ^^ ).

Par contre, fait intéressant, c'est que l'IPv6 est tellement bien implémenté, que son absence se fait vite remarquer. En effet, dans l'urgence, seuls les services en IPv4 ont été remontés. Mais le SAV se faisait très sollicité par des problèmes de lenteurs et une impossibilité de joindre des équipements du foyer pour les plus geeks de nos abonnés. Aussitôt l'IPv6 rétabli, tous les problèmes de lenteurs se sont réglés d'eux-mêmes.

C'est ainsi, une fois qu'on a basculé en IPv6 on ne revient plus en arrière.


* Les bénéfices immédiatement visibles

Des retours très positifs se sont fait connaître dès le lendemain et durant les jours qui ont suivi.

Pour beaucoup, le débit monte beaucoup plus vite dès la 1ère seconde d'un speedtest (pas forcément un débit plus élevé, mais une instantanéité est ressentie, plutôt qu'une montée progressive), d'autres ont constaté en plus un débit plus élevé quand même, etc.



Il y avait aussi qq pertes de paquets sporadiques, qu'on avait imputé à tort au réseau câblé, qui se sont résolus d'eux-mêmes (désolé pour les mauvaises langues). En effet, nous suivions de près le cas d'une poignée d'abonnés souffrant de ces maux, et du jour au lendemain, certains nous confirmaient une nette amélioration (quant aux autres, ils ont simplement cessé de se manifester et nous relancer).

Côté OrneTHD, je vous avoue clairement que c'est un soulagement de reposer sur du matériel auquel on peut avoir confiance et que les "Smokeping" qui traduisent la stabilité de la latence sont unanimes : il y a bien un avant et un après.



La migration est visible aux 4 traits bleus foncés

Le câblage a aussi été refait, le passage des fibres est nettement plus propre (bien que ça ne soit pas encore parfait, je sais). On a maintenant beaucoup plus de ports de libres pour relier d'autres communes (notamment Homécourt qu'on va allumer sous peu).

C'est ainsi que s'achèvent les travaux de rénovation du réseau OrneTHD. Plus de 2 années pour rattraper le retard, et maintenanant on est capable de faire la course aux débits sereinement et durablement. On va pouvoir attaquer cette année et les suivantes avec des trucs de malade :)


Voilà à combien ça monte en pleine soirée. Le lien Frankfurt sera porté à 40 Gbps.

PJ: avant/après

vivien

  • Administrateur
  • *
  • Messages: 47 170
    • Twitter LaFibre.info
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #62 le: 20 février 2021 à 16:07:29 »
Ah oui, il y a du trafic, je n'imaginait pas le port France-IX (10 Gb/s) remlit à moitié !

Optix

  • AS41114 - Expert OrneTHD
  • Abonné Orne THD
  • *
  • Messages: 4 663
  • WOOHOO !
    • OrneTHD
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #63 le: 20 février 2021 à 17:23:58 »
Ah oui, il y a du trafic, je n'imaginait pas le port France-IX (10 Gb/s) remlit à moitié !
Aaaah bah c'est ça les abonnés OrneTHD, ils tapent dedans, ils ont la niak, ils en veulent, je suis fier d'eux, putain de merde  ;D

La croissance du trafic est juste folle. Même Julien d'Appliwave, il était sur le cul quand on a allumé notre lien vers Strasbourg (pareil, le DECIX, on le remplit à 8 Gbps sans problème).

Rend toi compte, de la création jusqu'à à ma venue (2015 à début 2019), il y avait environ 3 Gbps de trafic. Maintenant on pulvérise les 20 Gbps en soirée. Entre temps, les travaux de désaturation et la hausse de qualité (du coup plus d'abonnés, du coup davantage de VOD car avant c'était pas la peine vu les microcoupures toussa) ont porté très haut la conso. Et les autres régies à côté de nous qui achètent leur transit gigabit par gigabit :/

Et plus on monte en trafic, plus je commence à comprendre l'intéret des peerings privés.  En effet, mieux vaut demander une interco privée à Netflix où tu payes 50€/mois plutôt que 850€/mois pour passer de 10 à 20G sur FranceIX.

Cette année, on passe le Frankfurt à 40Gbps car on va faire passer tous les PNI data dessus. Puis on va couper le Metz-Paris pour passer sur une FON (donc pendant ce temps, le Metz-Strasbourg-Frankfurt devra supporter tout le trafic)

Donc grosso-modo, nos 2 "gros" POP vont être répartis comme ça :
- Data (Netflix, Google, Facebook etc) de préférence via Frankfurt
- Broadcast TV via Paris, avec des switchs/fibres/waves séparées

Comme ça c'est nickel, c'est bien stable.

xp25

  • Abonné RED by SFR fibre FttH
  • *
  • Messages: 5 924
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #64 le: 20 février 2021 à 18:00:13 »
*Rani prend des notes*

Nico

  • Modérateur
  • *
  • Messages: 44 473
  • FTTH 1000/500 sur Paris 15ème (75)
    • @_GaLaK_
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #65 le: 20 février 2021 à 20:10:48 »
Donc grosso-modo, nos 2 "gros" POP vont être répartis comme ça :
- Data (Netflix, Google, Facebook etc) de préférence via Frankfurt
- Broadcast TV via Paris, avec des switchs/fibres/waves séparées
C'est n'est pas dommage - en terme de latence - d'éviter Paris ?

Optix

  • AS41114 - Expert OrneTHD
  • Abonné Orne THD
  • *
  • Messages: 4 663
  • WOOHOO !
    • OrneTHD
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #66 le: 20 février 2021 à 20:26:30 »
C'est n'est pas dommage - en terme de latence - d'éviter Paris ?
On est pile au milieu entre Paris et Frankfurt en fait.

mtr -rwc1 franceix.net
Start: Sat Feb 20 20:24:35 2021
HOST: sip1.ornethd.net                                Loss%   Snt   Last   Avg  Best  Wrst StDev
  1.|-- gateway                                          0.0%     1    0.8   0.8   0.8   0.8   0.0
  2.|-- be1-3171-n3k-core1.a9k-rombas.infra.ornethd.net  0.0%     1    0.9   0.9   0.9   0.9   0.0
  3.|-- be1-99-ibgp.a9k-briey.infra.ornethd.net          0.0%     1    1.2   1.2   1.2   1.2   0.0
  4.|-- franceix_services1.par.franceix.net              0.0%     1   11.1  11.1  11.1  11.1   0.0
  5.|-- fw-itx5-v99.franceix.net                         0.0%     1   11.5  11.5  11.5  11.5   0.0
  6.|-- www.franceix.net                                 0.0%     1    6.4   6.4   6.4   6.4   0.0

mtr -rwc1 decix.net
Start: Sat Feb 20 20:24:52 2021
HOST: sip1.ornethd.net                                Loss%   Snt   Last   Avg  Best  Wrst StDev
  1.|-- gateway                                          0.0%     1    0.9   0.9   0.9   0.9   0.0
  2.|-- be1-3171-n3k-core1.a9k-rombas.infra.ornethd.net  0.0%     1    0.8   0.8   0.8   0.8   0.0
  3.|-- sgw2-te-0-0-2-3-ixp.fra.de-cix.net               0.0%     1    7.7   7.7   7.7   7.7   0.0
  4.|-- 2a02:c50:6:fe:46:31:120:202                      0.0%     1    6.3   6.3   6.3   6.3   0.0
  5.|-- fw-ext.for-the-inter.net                         0.0%     1    6.1   6.1   6.1   6.1   0.0
  6.|-- webprod01.de-cix.net                             0.0%     1    6.2   6.2   6.2   6.2   0.0


Force est de constater qu'à configuration BGP égale entre FranceIX et DECIX, les fournisseurs de contenus nous poussent davantage via Frankfurt que via Paris. Et aussi, s'il arrive qq chose à Paris TH2, je sais que derrière ça ne va rien changer à ceux qui sont en train de chiller sur Netflix ou Youtube, la bascule TV de la fibre vers le sat c'est immédiat.

Mais sinon tout ce qui est franco-français (style SFR, Bouygues, 6play/bedrock & cie qu'on a sur FranceIX), oui ça passera toujours par là.

JulienOHAYON

  • AS29075 Officiel Ielo
  • Expert
  • *
  • Messages: 199
  • Paris (75)
    • ielo
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #67 le: 20 février 2021 à 20:31:28 »
Ah oui, il y a du trafic, je n'imaginait pas le port France-IX (10 Gb/s) remlit à moitié !

Non franchement il n’y a rien. Les abonnés OrneTHD sont des petits joueurs 😘

Nico

  • Modérateur
  • *
  • Messages: 44 473
  • FTTH 1000/500 sur Paris 15ème (75)
    • @_GaLaK_
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #68 le: 20 février 2021 à 20:45:10 »
Mais sinon tout ce qui est franco-français (style SFR, Bouygues, 6play/bedrock & cie qu'on a sur FranceIX), oui ça passera toujours par là.
Je faisais bien allusion à ça. Ou éventuellement du trafic venant de Londres. Pour ceux que tu citais pas de sujet en effet.

Anonyme

  • Invité
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #69 le: 21 février 2021 à 02:43:08 »
Bravo Cédric !!!
Orne THD a fait un bon recrutement, je savais que tu méritais cette nouvelle chance. :)

Leon

  • Client SFR sur réseau Numericable
  • Modérateur
  • *
  • Messages: 5 983
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #70 le: 23 février 2021 à 07:08:18 »
Salut Optix. Bravo pour tout ça.

Plusieurs questions/remarques
* il reste des "Single Point of Failure" sur le réseau. Notamment le réseau de Polymag-Briey semble tenir sur 1 seul et unique routeur... Vous avez prévu des travaux en ce sens?
* même question pour la récupération des flux TV. Le chemin depuis Paris vers vos têtes de réseau est quand même semé d'embuches. Vous allez redonder ça d'une façon ou d'une autre? Redondé avec de la réception satellite en local (de légèrement moins bonne qualité, mais c'est pas grave)?
* Justement, pour la construction du flux RF broadcast TV (DVB-C et DVB-T), est-ce que vous transportez les flux en numérique vers vos 8 hubs-tête de réseau de Orne-THD? Et des modulateurs/E-QAM locaux transcrivent ça sur place en RF? Ou alors est-ce que vous transporter du RF over fibre depuis 1 ou 2 points centraux du réseau?
* sur la weathermap, est-ce qu'il faut comprendre que le tronçon Briey-Rombas-Strasburg est en 20Gb/s, et la majorité de tout le reste en 10Gb/s?
* sur la weathermap toujours, j'arrive pas à comprendre les chiffres qui sortent de Bombas-Core1 vers les abonnés. On voit 23% de rempli en downlink vers les abonnés, sans doute 23% de 10Gb/s. Mais après, vers les 8 têtes de réseau (Marange, Rombas, etc...), la somme (toujours sur des liens 10Gb/s j'imagine) dépasse allègrement 100%! 

Leon.
« Modifié: 23 février 2021 à 07:56:38 par Leon »

Optix

  • AS41114 - Expert OrneTHD
  • Abonné Orne THD
  • *
  • Messages: 4 663
  • WOOHOO !
    • OrneTHD
AS41114 v2: OrneTHD migre en full Cisco
« Réponse #71 le: 23 février 2021 à 08:42:32 »
Salut Optix. Bravo pour tout ça.
Merci :)

* il reste des "Single Point of Failure" sur le réseau. Notamment le réseau de Polymag-Briey semble tenir sur 1 seul et unique routeur... Vous avez prévu des travaux en ce sens?
Oui bien sûr. On va laisser l'infra Mikrotik tel quel (qui n'est pas représentée) et enlever les abonnés progressivement, et mettre des Cisco Nexus pour collecter le trafic de nos nouveaux CMTS (ou pas... :D )

* même question pour la récupération des flux TV. Le chemin depuis Paris vers vos têtes de réseau est quand même semé d'embuches. Vous allez redonder ça d'une façon ou d'une autre? Redondé avec de la réception satellite en local (de légèrement moins bonne qualité, mais c'est pas grave)?
C'est redondé avec la réception satellite. En cas d'interruption du flux, la bascule TV est instantanée (1 sec à tout casser). Ca change du BGP (pour Internet) où ça prend des dizaines de secondes.

* Justement, pour la construction du flux RF broadcast TV (DVB-C et DVB-T), est-ce que vous transportez les flux en numérique vers vos 8 hubs-tête de réseau de Orne-THD? Et des modulateurs/E-QAM locaux transcrivent ça sur place en RF? Ou alors est-ce que vous transporter du RF over fibre depuis 1 ou 2 points centraux du réseau?
Toute la TV est transportée en RF, déjà modulée, sur les 8 têtes de réseaux, avec un bête coupleur fibre 1:16. C'est simple, facile à gérer/débugger.

Ainsi, sur chaque site, on a un noeud optique qui transforme la fibre (qui contient juste la TV) en coax pour refaire notre mélange de fréquences avec les équipements locaux, et ça repart en fibre.

Et on reste en DVB-T pour rester compatible avec les boxs des concurrents, on est sympa :)

sur la weathermap, est-ce qu'il faut comprendre que le tronçon Briey-Rombas-Strasburg est en 20Gb/s, et la majorité de tout le reste en 10Gb/s?
Paris - Briey, c'est du 10G, ça va dégager au profit d'une fibre noire au printemps.

sur la weathermap toujours, j'arrive pas à comprendre les chiffres qui sortent de Bombas-Core1 vers les abonnés. On voit 23% de rempli en downlink vers les abonnés, sans doute 23% de 10Gb/s. Mais après, vers les 8 têtes de réseau (Marange, Rombas, etc...), la somme (toujours sur des liens 10Gb/s j'imagine) dépasse allègrement 100%! 
Après Core1, le %, c'est en fonction de l'occupation des canaux RF, pas de l'occupation Ethernet. Upgrader nos capacités RF c'est plus de boulot que de rajouter 10G Ethernet qu'on fait en 5min.

Le soir, on tape les 20G régulièrement :)

Bravo Cédric !!!
Orne THD a fait un bon recrutement, je savais que tu méritais cette nouvelle chance. :)
Merci <3