La Fibre

Forum : => La Fibre FTTH (Fiber To The Home) => fibre Dorsale Internet => Discussion démarrée par: Nico le 12 septembre 2014 à 20:43:48

Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 12 septembre 2014 à 20:43:48
Hier vers 16H30, coupure fibre à Marseille.

- Free : deux NRAs sont injoignables depuis 1 jour et 4H. ( free-reseau.fr (http://www.free-reseau.fr/) )
- OVH : Les deux mêmes NRAs ne sont plus sécu mais ils sont toujours up ( travaux.ovh.net (http://travaux.ovh.net/?do=details&id=11568) )
- Une partie du trafic à destination de la Tunisie est perturbé suite à la coupure ( thd.tn (http://www.thd.tn/index.php?option=com_content&view=article&id=4176:grande-perturbation-de-la-connexion-internet-en-tunisie-a-cause-de-la-france&catid=63:enbref&Itemid=316) )

Le soucis vient de travaux de terrassements commencés avant que les opérateurs aient eu le temps de dévoyer les câbles. Le câble a été coupé apparemment en plusieurs endroits. ( Twitter : 1 (https://twitter.com/AlertePelleteuz/status/510451859942027265) ; 2 (https://twitter.com/AlertePelleteuz/status/510451905546702848) ; 3 (https://twitter.com/AlertePelleteuz/status/510451967408496640) )

C'est donc le longhaul LDCom (opérateur racheté par SFR) qui a été coupé par des travaux. Un câble de 336FO.

Particularité : il est "mixte", c'est à dire composé de différents types de fibre. G655 TrueWave (240FO), G652D (60FO), G655 Leaf (40FO).
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 12 septembre 2014 à 20:44:39
réservé
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 12 septembre 2014 à 20:44:44
réservé
Titre: Fibercut à Marseille depuis >24H
Posté par: David75 le 12 septembre 2014 à 22:17:17
Il y a des poursuites envers ceux qui ont décidé de faire les travaux en brûlant des étapes?
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 12 septembre 2014 à 22:19:23
Si les DT/DICT n'ont pas été faites correctement, c'est possible oui. Surtout que vue la durée de l'impact les GTR doivent être explosées !
Titre: Fibercut à Marseille depuis >24H
Posté par: David75 le 13 septembre 2014 à 07:42:23
Parcequ'autant les gars peuvent un peu flipper pour des lignes de courant/gaz, autant pour de la fibre ils peuvent pelleter sans craintes...
J'ai l'impression que ces incidents sont vraiment pas rares, tant au niveau d'un petit quartier, qu'au niveau d'une région dans ce cas.
Titre: Fibercut à Marseille depuis >24H
Posté par: Leon le 13 septembre 2014 à 07:54:44
- Free : deux NRAs sont injoignables depuis 1 jour et 4H. ( free-reseau.fr (http://www.free-reseau.fr/) )
- OVH : Les deux mêmes NRAs ne sont plus sécu mais ils sont toujours up ( travaux.ovh.net (http://travaux.ovh.net/?do=details&id=11568) )
- Une partie du trafic à destination de la Tunisie est perturbé suite à la coupure ( thd.tn (http://www.thd.tn/index.php?option=com_content&view=article&id=4176:grande-perturbation-de-la-connexion-internet-en-tunisie-a-cause-de-la-france&catid=63:enbref&Itemid=316) )
[...]
C'est donc le longhaul LDCom (opérateur racheté par SFR) qui a été coupé par des travaux. Un câble de 336FO.
Autant je comprends parfaitement les coupures de NRA chez Free, mais les perturbations sur le trafic vers la Tunisie, c'est incompréhensible. Du trafic international, c'est bien redondé normalement. Les réseaux internationaux doivent être conçus pour résister à ce genre de panne, qui arrive souvent. Et c'est normal que ça arrive souvent, vu la longueur des liens terrestres internationaux. Plus le lien est long, plus la probabilité d'un coup de pelleteuse est grand.

Rien que la liaison terrestre vers la terminaison du câble sous-marin à Marseille devrait être redondée.

Est-ce qu'on sait quel est l'opérateur réellement à l'origine des conséquences en Tunisie? L'opérateur qui ne redonde pas son réseau longue distance international?

Leon.
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 13 septembre 2014 à 08:37:03
Autant je comprends parfaitement les coupures de NRA chez Free
On notera cependant qu'en faisant des boucles comme OVH ça ne tombe pas ;).

Citer
Rien que la liaison terrestre vers la terminaison du câble sous-marin à Marseille devrait être redondée.
Je ne le vois pas forcement ainsi. A priori les équipements ne sont pas à la landing station mais plus loin. Du coup ça me semble compliqué d'avoir un équipement qui permette 2xin/1xout à cet endroit. Surtout qu'ici on parle de quelques centaines de m / km, pas de dizaines de km entre la landing station et les équipements d'extrémité de SEA-ME-WE 4.

Citer
Est-ce qu'on sait quel est l'opérateur réellement à l'origine des conséquences en Tunisie? L'opérateur qui ne redonde pas son réseau longue distance international?
A première vue le plus gros FAI fixe est l'ATI (https://fr.wikipedia.org/wiki/Agence_tunisienne_d'Internet) et il est probable qu'il fournisse de la connectivité aux autres. Le problème ici est la redondance effectivement mais plus précisèment le dimensionnement de celle-ci. Parce qu'en lisant le papier on apprend qu'il existe deux autres câbles qui alimentent la Tunisie.
Même si la situation est différente ça fait penser à Tahiti où le backup du câble sous-marin est assuré par un satellite avec un STM-4 (622M) de capacité, loin d'être suffisant aujourd'hui !
Titre: Fibercut à Marseille depuis >24H
Posté par: vivien le 13 septembre 2014 à 10:22:18
Si un opérateur n'a pas de POP, la sécurisation est réalisée pour un même lien mais par un autre type de lien.

Par exemple si ATI utilise cette fibre pour rejoindre l'AMS-IX, il doit faire attention a ce que son transitaire passe par un autre lien.

Si cette fibre est utilisé par un transitaire, il doit faire attention que son second transitaire n'utilise pas le même lien.

Bien sur le second transitaire doit pouvoir acceuilir la charge du premier ou d'une perte de peering, ca c'est la règle de base qui n'est pas toujours respecté.

Il me semble par contre étrange de vouloir sécuriser un lien sur une partie (la partie terrestre). Si le lien soupe sous la mer tu le perd tout.

Il faut donc sécuriser par un autre lien ou un transitaire sur place qui remonte en Europe par un autre lien sous-marin (car sécuriser par un transitaire qui utilise le même lien pour aller en Europe, c'est une fausse sécurité)

Les transitaires sérieux peuvent indiquer par où ils passent de façon a ce que le client puisse vérifier qu'il n'y a aucun point en commun avec leur second transitaire.


Si l'opérateur à un POP, par exemple a Amsterdam, où il a un ou deux routeurs et plusieurs liens vers des peering et des transitaires, là une sécurisation du lien entre ce POP et son réseau s'impose, sauf si il a la capacité pour absorber sur un transit la perte du POP en entier.

La sécurisation nécessite deux liens entièrement distincts.
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 13 septembre 2014 à 13:55:07
Le lien est d'ailleurs sécurisé, le gros soucis là c'est le manque de capacité sur le backup.

Un autre opérateur a perdu deux liens dans la coupure, car ce câble est en fait partagé par 3 gros opérateurs d'infra : Viatel / LD (SFR) / GBLX (Level 3). Et ses deux fournisseurs de FON n'avaient pas accès aux cartes pour vérifier.

C'est le problème quand il y a de la co-construction, on trouve vite 2 opérateurs dans la même botte de fourreaux voir le même câble !
Titre: Fibercut à Marseille depuis >24H
Posté par: vivien le 13 septembre 2014 à 17:00:20
D'où la demande à faire pour s’assurer que le chemin est différent.

Par exemple sur Paris - Londres, TeliaSonera propose 6 chemins complètement différents et indépendants les un des autres.

En fait il y a des échanges entre opérateurs qui ont de l'infrastructure : tu me passe une fibre sur ton infra, contre une fibre de mon infra.

Sur les câbles sous-marin, il y a peu de fibres mais des échanges de capa (tu me passes 10 Gb/s sur ton lien et je te passes 10 Gb/s sur mon lien)
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 13 septembre 2014 à 17:12:03
D'où la demande à faire pour s’assurer que le chemin est différent.
Mais celui chez qui tu achètes n'a pas forcement l'information. C'était ici le cas pour au moins un des deux. Pour ça que parfois prendre chez le même opérateur est au final plus sécurisé (en particulier sur de la FON).

Citer
Par exemple sur Paris - Londres, TeliaSonera propose 6 chemins complètement différents et indépendants les un des autres.
En FON ou en wave ? Vu leur carte (http://www.teliasoneraicmap.com/) ça fait beaucoup pour de la FON je dirais.

Citer
En fait il y a des échanges entre opérateurs qui ont de l'infrastructure : tu me passes une fibre sur ton infra, contre une fibre sur ton infra.
J'avais lu ça aux USA quand Octave (OVH) voulait y aller, il semblait dire que c'était une spécificité là-bas.
Titre: Fibercut à Marseille depuis >24H
Posté par: Leon le 13 septembre 2014 à 17:13:49
Il me semble par contre étrange de vouloir sécuriser un lien sur une partie (la partie terrestre). Si le lien soupe sous la mer tu le perd tout.
Oui, mais il y a 2 raisons pour faire plus de redondance à terre qu'en mer:
* quelques fibres à terre, ça coute beaucoup moins cher qu'en mer
* les liens terrestres longue distance sont moins fiables que les liens en mer, justement à cause des coups de pelleteuse, qui sont plus fréquents que les problèmes de chaluts (ou d'attaque de requin dirons certains).

Je me rappelle d'articles où on présentait les architectures des gros Tier-1 à la grande époque de la bulle Internet (avant qu'elle n'éclate). Et ça disait que tout était redondé. Tous les liens terrestres ou maritimes étaient systématiquement doublés, avec toujours capacité de reprise à 100% sur le secours. Ca disait que la meilleure techno permettant de basculer d'un lien coupé à son lien de secours, c'était directement d'opérer sur le Layer 1-2, avec une commutation optique ou SDH. Le re-routage au Layer-3 (BGP) ne convergeait pas assez rapidement pour répondre aux besoins des clients, et la fréquence de coupure des liens était trop élevée pour se permettre d'attendre la convergence du routage.
Du coup, je comprends de ce que vous dites que ces règles d’ingénierie "riches" ne sont plus appliquées aujourd'hui?

A première vue le plus gros FAI fixe est l'ATI (https://fr.wikipedia.org/wiki/Agence_tunisienne_d'Internet) et il est probable qu'il fournisse de la connectivité aux autres. Le problème ici est la redondance effectivement mais plus précisèment le dimensionnement de celle-ci. Parce qu'en lisant le papier on apprend qu'il existe deux autres câbles qui alimentent la Tunisie.
OK, mais est-ce que c'est lui le fautif? Est-ce que ça n'est pas un/plusieurs transitaires? Est-ce qu'on en sait plus? Quelqu'un a-t-il analysé les annonces BGP pendant l'incident pour voir où ça clochait?

Leon.
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 13 septembre 2014 à 17:26:41
Oui, mais il y a 2 raisons pour faire plus de redondance à terre qu'en mer:
Tout à fait d'accord mais ce que je disais c'est que la partie terrestre n'était peut-être pas techniquement redondable.

Citer
Du coup, je comprends de ce que vous dites que ces règles d’ingénierie "riches" ne sont plus appliquées aujourd'hui?
N'étaient pas appliquées dans le cas présent [voir en dessous].

Citer
OK, mais est-ce que c'est lui le fautif? Est-ce que ça n'est pas un/plusieurs transitaires? Est-ce qu'on en sait plus? Quelqu'un a-t-il analysé les annonces BGP pendant l'incident pour voir où ça clochait?
Aucune idée.

Pour creuser :
- ATI (AS5438) est au cul de Tunisia BackBone (AS2609)
- Dans PeeringDB on ne trouve AS2609 qu'à TH2

Du coup c'est bien possible qu'ils se fassent livrer sur place de la capa. A voir qui du FAI ou du transitaire n'est pas en mesure de re-router la capa perdu.
Titre: Fibercut à Marseille depuis >24H
Posté par: vivien le 13 septembre 2014 à 17:32:03
Pour moi sécuriser un lien terrestre pour aller jusqu'à une fibre alors qu'un second chemin de bout en bout est possible n'a qu'un seul intérêt : se protéger contre des pannes triples.

Les opérateurs regardent de plus en plus les conséquences d'une panne triple. Je ne suis pas sur que cela soit suivit de beaucoup d'action mais certains regardent.

Pour faire un parallèle avec les serveurs, il est possible de sécuriser un maximum un serveur avec du RAID sur le disque dur, des alimentations doublées, des cartes réseaux doublées, des barrette de ram avec correction d'erreur, de la tolérance aux panne sur la carte mère,... C'est bien mais cela laisse de nombreux SPOF (Single Point of Failure ou Point individuel de défaillance).

L'autre solution, adopté de plus en plus, c'est de doubler le serveur par un autre qui fait la même tache ou qui prend rapidement le relias.

Maintenant quand une activité est vraiment critique on multiplie les sécurité mais pour moi pour un accès internet, avec un chemin complètement différent est suffisant. Sécuriser la partie terrestre n'est pas suffisant si il n'y a pas de chemin alternatif (sauf si on s’appelle Free) et sécuriser le terrestre quand il y a déjà un autre chemin bout en bout possible c'est du luxe.
Titre: Fibercut à Marseille depuis >24H
Posté par: David75 le 13 septembre 2014 à 18:10:23
Est-ce que les règles riches d'ingénierie n'ont pas été abandonnées à cause d'une trop rapide progression des volumes de données échangées?
Titre: Fibercut à Marseille depuis >24H
Posté par: vivien le 13 septembre 2014 à 23:01:48
Les règles sont toujours les mêmes quel que soit le trafic : il faut prévoir les cas avec une panne afin que cela ne gêne pas les clients.
Titre: Fibercut à Marseille depuis >24H
Posté par: Nico le 13 septembre 2014 à 23:12:33
Après chaque opérateur a ses propres règles à ce niveau. Redondance ou pas, à quel niveau, etc...
Titre: Fibercut à Marseille depuis >24H
Posté par: vivien le 13 septembre 2014 à 23:35:41
L'incident il y a même pas une semaine de Tata montre bien que les doubles pannes cela existe (pas de chance) :

En fait TATA etait déjà en mode dégradé depuis qqs jours suite à la perte d'un lien sous-marin Londres->Pays-Bas (ca prend tjrs 3 plombes à réparer ...),
ils ont subit un double effet kiss cool sur la perte d'un lien vers Paris le 08/09 et ils ont galéré pour trouver de la place pour faire passer ailleurs ... au final c'est la réparation de ce 2ème lien qui a résolu effectivement le souci

Mik
Titre: Fibercut à Marseille depuis >24H
Posté par: David75 le 13 septembre 2014 à 23:49:19
Les règles sont toujours les mêmes quel que soit le trafic : il faut prévoir les cas avec une panne afin que cela ne gêne pas les clients.

Je pensais au cas ou les besoins croissent plus vite que la capacité de travaux...
Auquel cas, la redondance se voit utilisée en capa standard le temps que les travaux ajoutent de la marge... Si on y arrive.
Titre: Fibercut à Marseille depuis >24H
Posté par: Leon le 14 septembre 2014 à 07:16:48
Les règles sont toujours les mêmes quel que soit le trafic : il faut prévoir les cas avec une panne afin que cela ne gêne pas les clients.
L'incident avec la Tunisie montre que la règle n'était sans doute pas appliquée. C'est bien pour ça que nous nous posons ces questions, David75 et moi même.

Leon.