La Fibre

Datacenter et équipements réseaux => Datacenter => Telehouse Telehouse => Discussion démarrée par: Nico le 09 mars 2014 à 22:28:28

Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 09 mars 2014 à 22:28:28
Ça vient de twitter, je mettrai les sources plus tard. A priori les circuits de clim' fonctionnent mais les groupes ne produisent plus de froid.

Si ça continue de monter, ça va couper sur les internettent !
Titre: Ptit coup de chaud à Telehouse 2
Posté par: butler_fr le 09 mars 2014 à 23:34:12
effectivement ça commence a chauffer pas mal sur les graphs... Ça a évolué comment?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 09 mars 2014 à 23:37:54
Ça s'est inversé vers 22H heureusement.

Comme j'ai pu lire sur Twitter, heureusement que c'est pas arrivé en plein mois d'Août !
Titre: Ptit coup de chaud à Telehouse 2
Posté par: NBQG1304 le 09 mars 2014 à 23:49:46
Dommage  :(
Ils en ont mis du temps...
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 10 mars 2014 à 07:52:33
Nico, c'est quels étages qui étaient concernés ? Tous ?

La température qui augmente de 18°c en 4h, c'est pas rapide. Il y a des datacenter où cela monte beaucoup plus vite (en même temps, à TH2 difficile de faire de la haute densité vu le peu d'énergie disponible).

Je ne suis pas sûr que la température extérieure joue beaucoup, sauf si ils ont ouvert les fenêtres (je ne suis pas sur qu'il soit possible de les ouvrir)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 08:01:39
Nico, c'est quel étage qui étaient concernés ? Tous ?
1-2-3, aucune idée pour le 0.

Citer
La température qui augmente de 18°c en 4h, c'est pas rapide. Il y a des datacenter où cela monte beaucoup plus vite (en même temps, à TH2 difficile de faire de la haute densité vu le peu d'énergie disponible).
Selon les infos vues, les circuits de clim' fonctionnaient du coup y avait toujours un flux d'air (heureusement ?).
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 10 mars 2014 à 08:45:31
Gros LOL Nico
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 09:33:10
Pas pu m'empêcher :) (par contre t'as un truc bizarre en sur-impression dans ta capture d'écran)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: butler_fr le 10 mars 2014 à 11:58:46
je l'ai vus aussi ça m'a bien fait marré

 ;D
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 10 mars 2014 à 14:14:51
Pas pu m'empêcher :) (par contre t'as un truc bizarre en sur-impression dans ta capture d'écran)

Ah oui en effet j'avais pas fait gaffe, ça doit venir de KDE va savoir pourquoi.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: tivoli le 10 mars 2014 à 14:20:23
Grave incident dimanche sur l'Internet français : "On n'est pas passés loin"

Le centre de données Telehouse2, au coeur de Paris, a subi une panne de climatisation dimanche soir. L'accès au réseau a été maintenu tant bien que mal.

C'est un scénario catastrophe qu'a vécu le centre de données Telehouse 2 (TH2) de Paris dimanche soir. L'Internet français aurait pu souffrir beaucoup plus si l'incident n'avait pas été, semble-t-il, plutôt bien géré. Le site Voltaire de Telehouse, un point d'interconnexion vital pour l'Internet français au coeur de Paris, a été victime d'une panne de climatisation pendant plusieurs heures, entraînant une forte perturbation de certains services.

Les dizaines d'opérateurs qui raccordent leurs fibres optiques chez Telehouse afin d'échanger du trafic ont dû trouver d'autres voies pour acheminer leurs données. "On n'est pas passés loin" d'un grave incident, a commenté lundi matin Mathieu Weill, le patron de l'Afnic, qui gère l'extension .fr sur Internet, à l'occasion de l'ouverture du Forum de la gouvernance d'Internet à Paris. Comme le relève le site spécialisé ITespresso, TH2 avait déjà subi une panne majeure en 2012, avec une interruption de l'alimentation en électricité.

Quand France-IX évoquait la sécurité chez Telehouse2

Il y a quelques mois, Le Point.fr avait visité ce même centre et avait évoqué sa sécurité (voir notre vidéo ci-dessous) avec Franck Simon, le patron de France-IX, principal point d'échange Internet en France. Il nous avait notamment confié que le trafic était "l'équivalent de plusieurs dizaines de millions de vidéos YouTube en téléchargement simultané", simplement sur l'équipement de France-IX. Le centre Voltaire dans son ensemble représente la "consommation électrique d'une ville de plusieurs dizaines de milliers d'habitants".

Côté sécurité, Franck Simon avait précisé que les professionnels "cherchent à faire un maillage, à interconnecter les sites, pour faire en sorte que s'il y a une panne sur une infrastructure optique le trafic soit automatiquement basculé en quelques millièmes de seconde vers un autre site, en toute transparence pour l'utilisateur". Un montage technique pas toujours facile à réaliser et qui peut souvent supporter une panne, mais pas deux simultanées.

Telehouse dispose autour de Paris de deux autres datacenters importants, qui permettennt d'absorber une partie des conséquences d'un incident comme celui de dimanche soir. Reste à savoir à quel point nous étions proches de l'effondrement en chaîne des datacenters français. Seul un retour d'expérience, honnêtement mené, pourra le montrer. Le compte Twitter de Telehouse, ressuscité tardivement dimanche pour tenir les clients informés, promet un "rapport technique".


Source : Le Point (http://www.lepoint.fr/chroniqueurs-du-point/guerric-poncet/grave-incident-dimanche-sur-l-internet-francais-on-n-est-pas-passes-loin-10-03-2014-1799263_506.php#xtor=CS1-32) le 10 mars 2014 par Guerric Poncet.


Ils se font un monde pour rien ? quel aurait ete l'impact au pire ?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 14:23:14
Ils se font un monde pour rien ?
L'article va un peu loin en effet.

Citer
quel aurait ete l'impact au pire ?
Difficile à prévoir. Mais je suis persuadé que TH2 est un SPOF pour certains. Genre chez FDN la collecte Nerim arrive à TH2 et ... c'est tout.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 10 mars 2014 à 14:37:44
Je connais aussi quelques liaisons privées basées uniquement à TH2...

Sinon j'ai cru que mon Transit avait anticipé une panne car vers minuit j'ai cru détecter une bascule BGP. A priori non.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 14:41:33
Incident entre 18H et 22H (+ le temps que ça redescende) du coup si ça a coupé à minuit c'est qu'ils étaient un peu à la bourre :p.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 10 mars 2014 à 19:44:37
Difficile à prévoir. Mais je suis persuadé que TH2 est un SPOF pour certains. Genre chez FDN la collecte Nerim arrive à TH2 et ... c'est tout.
Les effets de bord d'un arrêt complet de TH2 sont à mon avis difficilement maitrisables...

Personnellement, j'ai toujours du mal à comprendre un truc : pourquoi mélanger dans un même site, dans des mêmes salles 2 fonctions complètement différentes : interconnexion d'opérateurs (meet-me room/carrier hotel) et hébergement de serveurs. Je pense que les 2 fonctions doivent impérativement être distinguées, et localisées dans des salles différentes. Pourquoi? Tout simplement parce que les besoins sont très différents dans les 2 cas :
* très haute disponibilité et consommation électrique raisonnable pour les équipements réseaux
* haute disponibilité (seulement) et consommation électrique élevée pour les serveurs

En mélangeant les 2, on ne fait que diminuer la disponibilité de équipements de coeur de réseau à cause de la puissance nécessaire pour
les serveurs. Une salle avec uniquement des routeurs, ça chauffe moins vite en cas de panne de clim qu'une salle remplie de serveurs. De même, les sites télécom ont une capacité batterie (onduleurs) supérieure en terme de temps (1/2h, 1h, 2h), par rapport à une salle serveur (15 min en moyenne).

Dites-moi si je me trompe, mais je n'ai pas l'impression qu'il y ait des "meet me room" séparées du reste du site à TH2. C'est pourtant le dans la pratique plus gros "carrier hotel" de France! D'autres sites (plus récents?) sont conçus avec de vraies meet-me-room séparées.

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 19:55:30
Pourquoi faire des MMR quand tu peux tirer des rocades comme t'as envie (du moment que le faux-plancher ferme toujours ... et encore) ? :D

Au delà de ça j'ai pas l'impression que ça manque. Parfois avoir des MMR c'est le meilleur moyen de se taper de la réflectance à cause de connecteurs pourris.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 10 mars 2014 à 20:13:22
Aujourd'hui je trouve qu'il y a une inflation de la consommation électrique des matériels réseaux par rapport aux serveurs. Du coup les MMR deviennent électriquement limitées pour certains nouveaux coeurs de réseaux.


Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 10 mars 2014 à 20:18:39
Ah en fait si leon_m entendait MMR au sens équipements et pas juste interconnexion physique (FO, cuivre), il y a toujours les salles mutualisées à TH2 pour ça.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 11 mars 2014 à 08:05:23
Sinon en phase sur le fait que les routeurs consomment plus que les serveurs (hors cas de serveurs haute densité)

J'ai ouvert un post : Routeur Juniper T1600 (https://lafibre.info/datacenter/juniper-t1600/)

La taille des câbles d'alimentation donnent une idée de la consommation :
(https://lafibre.info/images/datacenter/201403_juniper_t1600_11.jpg)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 01:25:18
Sinon en phase sur le fait que les routeurs consomment plus que les serveurs (hors cas de serveurs haute densité)

J'ai ouvert un post : Routeur Juniper T1600 (https://lafibre.info/datacenter/juniper-t1600/)

La taille des câbles d'alimentation donnent une idée de la consommation :
(https://lafibre.info/images/datacenter/201403_juniper_t1600_11.jpg)

Sur le fait lui même, c'est vrai. Dans le contexte et sur le sujet de la température, je ne suis pas d'accord.

D'abord, les serveurs sont plus nombreux dans une baie, là où un routeur est souvent seul ou accompagné d'un seul frère avec souvent du patching ou des choses peu consommatrices à côté. Donc la conso d'une baie réseau est moindre par rapport à une baie de serveurs.

La densité électrique au U est également à prendre en compte. Pour un routeur 10U, on a entre 5 et 10 serveurs et la conso de ces serveurs est généralement supérieure à celle d'un routeur 10U.

Pour finir et surtout, un routeur dégage moins de chaleur qu'un serveur généralement. Je ne suis pas assez spécialiste pour aller dans le détail, mais les disques et les CPUs des serveurs, ainsi que les transfos électriques dans les alims produisent beaucoup de dégagement calorigique, c'est moins le cas dans les routeurs. Peut-être parce qu'une partie part dans les lasers, peut-être parce que la densité est moindre, je ne sais pas, mais mes baies réseaux ont toujours ventilé un air plus frais que les baies serveurs chez moi.

Si le problème s'était produit sur un site de hosting où sont surtout hébergés des serveurs, la température n'aurait pas baissé aussi vite je pense, c'est la première fois que je vois une salle redescendre aussi rapidement à température normale après une panne de clim.

Sinon pour les câbles d'alims, sur de l'ASR9006 par exemple, on a du C21 (pas courant) pour tenir un fort ampérage. Pour autant actuellement il consomme dans les 3A. Peut-être en configuration full avec du port 40G/100G ça consomme plus, mais je ne connais pas tant d'opérateurs qui ont des châssis aussi fournis. On est loin de tous avoir des CRS1 ou des T1600 full (tiens d'ailleurs des infos de comment ils ont chauffé les CRS-1 de Free au 3eme ?)

Et au prix de l'électricité sur TH2, je pense que les gens qui y font de la densité ne sont pas très nombreux :)

En tout cas c'était le premier incident du 3eme étage de TH2 depuis son ouverture, la communication n'a pour moi pas été bonne : Pas de réponse aux mails de demande d'infos, le rapport m'a semblé un peu brouillon dans la forme.

Par ailleurs ça montre aussi que si les étages sont indépendants au niveau électricité, ce n'est pas le cas pour la clim. Et ça je n'en avais pas eu vent jusqu'ici. Egalement toutes les clims seraient donc sur le même circuit ?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 12 mars 2014 à 06:41:08
Salut Synack,
En tout cas c'était le premier incident du 3eme étage de TH2 depuis son ouverture, la communication n'a pour moi pas été bonne : Pas de réponse aux mails de demande d'infos, le rapport m'a semblé un peu brouillon dans la forme.
Est-ce que tu as eu un rapport d'incident? Est-ce que tu as le droit de le partager?

J'ai trouvé ça: https://twitter.com/manu_thy/status/443417131875454976 (https://twitter.com/manu_thy/status/443417131875454976) , mais ça n'est pas le rapport officiel.
S'il y a 1 seul circuit d'eau glacée, c'est incompréhensible! C'est un gros SPoF!

(https://lafibre.info/images/datacenter/201403_th2_panne_climatisation_9mars2014.png)

Citer
Par ailleurs ça montre aussi que si les étages sont indépendants au niveau électricité, ce n'est pas le cas pour la clim. Et ça je n'en avais pas eu vent jusqu'ici. Egalement toutes les clims seraient donc sur le même circuit ?
Il y a quelques années, on avait vu (sur je ne sais plus quel datacenter) un site avec clim redondées, mais effectivement avec 1 seul circuit d'eau glacée : 1 seule fuite, et c'est mort!
C'était Level3?
http://www.lemagit.fr/actualites/2240193555/Plusieurs-sites-internet-francais-paralyses-par-une-panne-dun-datacenter-de-Level3 (http://www.lemagit.fr/actualites/2240193555/Plusieurs-sites-internet-francais-paralyses-par-une-panne-dun-datacenter-de-Level3)

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 06:58:19
S'il y a 1 seul circuit d'eau glacée, c'est incompréhensible! C'est un gros SPoF!
C'est grosso modo ce que dit le rapport officiel. Y a rien de bien intéressant dedans.

Citer
Il y a quelques années, on avait vu (sur je ne sais plus quel datacenter) un site avec clim redondées, mais effectivement avec 1 seul circuit d'eau glacée : 1 seule fuite, et c'est mort!
C'était Level3?
Oui, au Capitole (Nanterre).
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 07:10:04
Pour la chaleur produit par un routeur, il y a une énorme différence entre un routeur avec de carte avec un routeur rempli de cartes.

il me semble qu'il y a aussi une différence importante entre un routeur où les liens sont down et un routeur avec les ports actifs.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 07:15:59
Concernant les optiques, voila deux graphes postés par Raphael Maunier (https://lafibre.info/profile/rmaunier), la température des optiques et la conséquence sur la réception :
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 12:43:04
Salut Synack, Est-ce que tu as eu un rapport d'incident? Est-ce que tu as le droit de le partager?

J'ai trouvé ça: https://twitter.com/manu_thy/status/443417131875454976 (https://twitter.com/manu_thy/status/443417131875454976) , mais ça n'est pas le rapport officiel.
S'il y a 1 seul circuit d'eau glacée, c'est incompréhensible! C'est un gros SPoF!

(https://lafibre.info/images/datacenter/201403_th2_panne_climatisation_9mars2014.png)
Il y a quelques années, on avait vu (sur je ne sais plus quel datacenter) un site avec clim redondées, mais effectivement avec 1 seul circuit d'eau glacée : 1 seule fuite, et c'est mort!
C'était Level3?
http://www.lemagit.fr/actualites/2240193555/Plusieurs-sites-internet-francais-paralyses-par-une-panne-dun-datacenter-de-Level3 (http://www.lemagit.fr/actualites/2240193555/Plusieurs-sites-internet-francais-paralyses-par-une-panne-dun-datacenter-de-Level3)

Leon.

Pour le rapport : Vu que j'ai reçu le rapport via une espèce d'emailing "Hi! Blog" de Telehouse et vu la forme, pour moi pas de problème de confidentialité :

"Dear Fr�d�ric,

Voici le rapport concernant l'élévation de température survenue ce dimanche 9
mars à TH2.

LOCALISATION : Site TH2 – 137 Boulevard Voltaire

DUREE DE LA PERTURBATION : De 18h à minuit
                                                                               
                                                                               
     
ZONES IMPACTEES PAR LA MONTEE EN TEMPERATURE :Tout le site Voltaire

CHRONOLOGIE :
-   Dès 18h00, le système GTC du site ainsi que notre système indépendant  de
mesure des
 températures en salle    client èmettent des alertes de défaut.
-   Intervention de l'équipe maintenance présente sur site pour vérification des
installations
-   Arrivée sur site d'une équipe technique complèmentaire
-   Vérification des positions de vannes et pressions du réseau d'eau glacée. Les
investigations
 révèlent qu'une vanne normalement fermée et sécurisée située en pied de
colonne avait été
 ouverte par erreur provoquant une forte baisse de pression  du réseau d'eau
glacée.
-   Rétablissement de la pression du réseau. Cette opération a nécessité environ
deux heures.
-   Remise en service des premiers groupes froids vers 22h30.
-   L'ensemble des groupes froids a été remis en service vers 23h30. Les
températures en salle
redescendent
-   Vérification globale des installations de climatisation. Les températures
dans les salles clients
 ont retrouvé les valeurs habituelles  vers minuit.         
Une étude approfondie est en cours pour déterminer la cause précise de cette
erreur humaine et
 améliorer nos procédures en conséquence. Nous vous en communiquerons les
résultats très
prochainement.

Nous vous prions d'accepter toutes nos excuses pour la gêne occasionnée. Votre
interlocuteur
commercial se tient à votre disposition pour répondre à vos éventuelles
questions.

Sincères salutations,

L'équipe Telehouse




--

Pour vous désabonner, visitez :"


Sinon, Level 3 en 2011 avait eu un problème bien plus important aux conséquences plus douloureuses : C'était également un problème sur l'unique circuit d'eau de refroidissement, mais c'était une rupture de canalisation sous le faux plancher.

Résultat : Faux plancher inondé par endroit (l'électricité étant amené sur des rails au sol pour ce site, je vous laisse imaginer le stress). La clim a été coupée dans la nuit et n'est revenue qu'en début d'après midi. La température était montée aux limites des équipements réseaux, entrainant des shutdown, le CDN de Level 3 avait particulièrement souffert, j'avais fait acheter d'énormes ventilos pour créer un flux d'air sur les points chauds de nos baies à l'époque, ils avaient pu ouvrir les fenêtres sur l'extérieur mais sur une salle de 300 baies de serveurs c'était très compliqué, surtout que le climat était plutôt doux à ce moment là en journée.

Mais bon Level 3 est champion du pas de bol aussi, plusieurs années avant, il y avait eu une rupture de canalisation dans des WC de l'étage du dessus, qui avait provoqué une inondation par le plafond dans les mêmes salles. J'ai ce souvenir marquant de l'eau qui ruisselait comme de la pluie dans les salles, des mecs de Level 3 en train de mettre des déflecteurs pour diriger l'eau ailleurs que sur les batteries et les routeurs. On s'en était sortis bien avec très peu de dégâts de notre côté, aussi parce qu'on y était allés très très vite à la première anomalie. D'autres ont trouvé des serveurs en mode aquarium au petit matin.

Et Level 3 Braham Street à Londres pareil, rupture de canalisation au dessus, grosse inondation il y a plusieurs années également.

L'eau c'est parfois compliqué...
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 12 mars 2014 à 13:35:56
OK, donc dans les 2 cas (Level3 Capitole à Nanterre et Telehouse 2) le circuit d'eau glacée n'est pas redondant, avec pourtant des clims redondantes. C'est quand même complètement anormal dans des datacenters qui se prétendent au moins N+1! Il ne devrait y avoir aucun SPOF!

Ne pas se prémunir contre des fuites du circuit d'eau glacée, c'est complètement anormal.

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Optrolight le 12 mars 2014 à 13:48:24
ça jette un froid !!
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 15:05:01
OK, donc dans les 2 cas (Level3 Capitole à Nanterre et Telehouse 2) le circuit d'eau glacée n'est pas redondant, avec pourtant des clims redondantes. C'est quand même complètement anormal dans des datacenters qui se prétendent au moins N+1! Il ne devrait y avoir aucun SPOF!

Ne pas se prémunir contre des fuites du circuit d'eau glacée, c'est complètement anormal.

Leon.

On est d'accord sur ce point. J'attends d'avoir un peu plus d'infos concernant TH2 sur l'impact exact, mais si toutes les clims étaient concernées, c'est moche.

Le minimum logique étant d'avoir 2 circuits d'eau avec une clim sur 2 sur chaque circuit...
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 18:35:52
TH2 ils ont quoi comme certification Tiers ? 1, 2 ou 3 ? aucune ???
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 18:40:43
Un seul DC certifié par l'Uptime Institute (http://uptimeinstitute.com/TierCertification/certMaps.php) en France, DC3 qui est TIER III.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 18:44:39
Pas besoin de certification pour TH2 pour avoir des clients.

Je me demande si cela existe dans les autres pays, une telle concentration.

Tous les opérateurs disent vouloir s'interconnecter en priorité hors de TH2 mais dans de nombreux cas, le seul site commun, c'est TH2.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 18:47:25
Surtout quand on connais l'exigence de certains clients en terme de sécurisation Datacenter, c'est étonnant que tout le monde continue de s'appuyer sur TH2.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 18:47:58
C'est simple et économique. C'est tout.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 19:27:32
Pas besoin de certification pour TH2 pour avoir des clients.

Je me demande si cela existe dans les autres pays, une telle concentration.

Tous les opérateurs disent vouloir s'interconnecter en priorité hors de TH2 mais dans de nombreux cas, le seul site commun, c'est TH2.

Telecity 2 à Amsterdam est également un bon exemple de très forte concentration d'interconnexions, un peu comme TH2 à Paris. A New York, TELX au 60 Hudson ou 111 8th sont des sites également incontournables pour le réseau, à Hong Kong c'est tout simplement la misère totale pour avoir un lien international qui ne passe pas par Mega IAdvantage. A Londres c'est un peu moins violent parce qu'il y a énormèment de DC, mais Telehouse North et East sont tout de même très stratégiques.

Je pense qu'on n'est pas si mal lotis à Paris, il y a SFR pour les historiques en redondance, il y a Equinix PA3/PA4 qui deviennent des très gros points, InterXion 5&7 sont pas mal non plus (InterXion 2 a aussi de l'historique pas mal), Iliad DC3 va accueillir des gros coeurs de réseaux aussi, ça s'améliore petit à petit.

Sinon ils ont tous des certifications, qu'ils vantent ou pas, qui sont de différents organismes.

En France on parle souvent de Tier3+ d'ailleurs pour les DC.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 19:29:30
Surtout quand on connais l'exigence de certains clients en terme de sécurisation Datacenter, c'est étonnant que tout le monde continue de s'appuyer sur TH2.

Tu y trouves tout le monde et le 3eme étage était jusqu'à il y a quelques jours d'une fiabilité parfaite. Va faire livrer du réseau ou des liens sur des sites plus exotiques :/

Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 19:38:44
Oui, TH2 est plutôt fiable (par chance ou car Telehouse est conscient de la publicité négative que lui apporterais un incident majeur ?).

Chaque petit incident est monté en épingle vu les conséquence sur l'Internet Français. Des datacenter qui ont une panne de clim de quelques heures, c'est quand même pas si exceptionnel.

Mais si TH2 devait être coupé plusieurs jours, voir détruit, je n'imagine pas l'impact sur le PIB Français.

Sinon pour ma première question, les fenêtres sont condamnées.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 19:44:34
J'ai vu une baie EMC2 et un Superdome HP s'éteindre automatiquement après 30 minutes d'arret de clim (le gars de la maintenance n'avait pas fait gaffe qu'il avait arreté toutes les clims de la salle en meme temps, c'était il y a quelques années).

Certes c'est pas exceptionnel mais ça devrait l'etre vu la criticité de TH2.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 12 mars 2014 à 20:03:09
Je me demande si cela existe dans les autres pays, une telle concentration.
Rappelle-toi les photos de "One Wilshire" à Los Angeles. C'est sans doute encore plus concentré qu'à TH2 Paris.
https://lafibre.info/datacenter/cablage-dans-un-datacenter/msg57093/#msg57093

Oui, TH2 est plutôt fiable (par chance ou car Telehouse est conscient de la publicité négative que lui apporterais un incident majeur ?).

Chaque petit incident est monté en épingle vu les conséquence sur l'Internet Français. Des datacenter qui ont une panne de clim de quelques heures, c'est quand même pas si exceptionnel.
Je ne pense pas qu'on puisse dire qu'un datacenter qui a un ou plusieurs gros SPOF (la clim, le masterpack) soit "plutôt fiable".

J'ai du mal à comprendre ce genre de discours. Ca n'est pas parce qu'on connait beaucoup d'incidents de datacenters que ça doit être la norme. Je suis persuadé que plein de datacenters s'en sortent très bien grâce à leur conception (et non par chance). Par exemple, les Interxion et Equinix font rarement parler d'eux pour leur manque de fiabilité, il me semble. Et encore une fois, il est tout à fait possible d'obtenir des fiabilité très importante, si tout est bien conçu. L'industrie a déjà énormèment réfléchi aux problèmes d'alimentation électrique et refroidissement ininterrompus : regardez le nucléaire, les sites pétrochimiques, les hauts fourneaux, etc...

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 20:08:41
Je suis persuadé que plein de datacenters s'en sortent très bien grâce à leur conception (et non par chance). Par exemple, les Interxion et Equinix font rarement parler d'eux pour leur manque de fiabilité, il me semble.
En même temps la médiatisation quand ça arrive à TH2 n'a strictement rien à voir !
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Polynesia le 12 mars 2014 à 20:37:04
Comme quoi il faudrait DC de secours en cas de coup vraiment dure
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 20:39:26
Y'a meme des clients qui exigent des hébergements Dual-Site ou Dual-Building pour éviter ce genre de problème.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Davidarex le 12 mars 2014 à 20:42:06
@Polynesia: Le problème, c'est que personne ne peut s'accorder sur 1 DC commun, pour redonder, puisque le TH2 est l'exemple même d'une centralisation (et donc de SPOF potentiel).
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Polynesia le 12 mars 2014 à 21:01:02
Il doit être normalement donc super protéger pour éviter de tomber en panne
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:04:33
Ou pas :).

@Polynesia: Le problème, c'est que personne ne peut s'accorder sur 1 DC commun, pour redonder, puisque le TH2 est l'exemple même d'une centralisation (et donc de SPOF potentiel).
Je sais pas si c'est tant un mal que ça, répartir les interco dans plusieurs DCs c'est bien aussi. Comme disait Synack y a le Netcenter CBV qui est plutôt bien loti en terme d'opérateurs présents.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 12 mars 2014 à 21:05:36
@Polynesia: Le problème, c'est que personne ne peut s'accorder sur 1 DC commun, pour redonder, puisque le TH2 est l'exemple même d'une centralisation (et donc de SPOF potentiel).
Euh, je n'ai pas compris. En fait, il y a déjà plein de DC alternatifs à TH2 autour de Paris. Tous les réseaux sérieux centrés à Paris, même les plus petits, sont hébergés dans au moins 2 datacenters parisiens!

Tous les gros opérateurs de transit, et les GIX parisiens sont dans les datacenters les plus fréquentés, et pas que TH2. Je vois au moins : Equinix, Netcenter Courbevoie, Télécity Courbevoie, Interxion Aubervilliers. Donc pour un opérateur, le choix d'un 2ieme DC sur lequel s'interconnecter, en plus de TH2, ce choix me semble "facile".

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:07:26
Je pense qu'il voulait dire que si l'avantage de TH2 c'est que tout le monde est dans le même, il serait bien / pratique / pas cher si il y en avait un second du même genre pour redonder. Là si tu veux vraiment sécuriser ta présence à TH2, selon ta taille et tes intercos tu ne pourras pas forcement le faire sur un seul autre DC.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:17:26
C'est un peu plus compliqué, puisque ce DC est assez vieux, et a donc une conception ancienne, sans les grands principes de la redondance.
C'est pas que ça, regarde la procédure d'accès. Y a pas besoin de fermer le DC pour en faire qqch de sécurisé !
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Davidarex le 12 mars 2014 à 21:24:37
Tu parles de la discussion sur Frnog il y a ~2-3 mois, sur "Les procédures d'accès aux DCs", où ça commençait par  TH2?
Niveau sécurité, il suffit que j'envoie un drone (je suis à portée de Wifi du TH2), armé à l'islamiste, et la "sécurité" est finie.
La porte, même pas besoin de belier, du social enginering devrait suffire.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:31:57
Tu parles de la discussion sur Frnog il y a ~2-3 mois, sur "Les procédures d'accès aux DCs", où ça commençait par  TH2?
Pas spécialement, mais en effet ça en parlait y a pas longtemps. Je pensais juste à comment ça se passe et de quelle façon c'est contournable.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 21:39:36
C'est p'tet pour ça qu'il y a TH3...  ;D
Titre: Ptit coup de chaud à Telehouse 2
Posté par: corrector le 12 mars 2014 à 21:42:15
Tu parles de la discussion sur Frnog il y a ~2-3 mois, sur "Les procédures d'accès aux DCs", où ça commençait par  TH2?
Niveau sécurité, il suffit que j'envoie un drone (je suis à portée de Wifi du TH2), armé à l'islamiste, et la "sécurité" est finie.
La charge utile sur un drone est très limitée.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:42:22
C'est p'tet pour ça qu'il y a TH3...  ;D
TH3 niveau "opérateurs" pour moi ne sert pas à grand chose. Y a des gens qui s'échangent vraiment du trafic là-bas ? C'est un DC pour l'hébergement à mes yeux.

(ah et même combat pour les procédures d'accès)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 21:48:27
Il suffit de contraire le nom d'une personne qui a l'autorisation de donner les accès et d'envoyer un mail en usurpant son adresse mail en demandant l’accès a M. xxxxxx

Le contrôle de la pièce d'identité était presque nul avant. Maintenant ils la scan en heure ouvrée pour en garder une trace.

Je ne sais pas ce qui est fait la nuit. Il y a 8 ans j'ai été en urgence sur TH2 la nuit (le réseau CitéFibre étais intégralement tombé) et j'ai pensé que la personne de l’accueil fessais tout pour me retarder en recommençant le papier car il n'arrivait pas écrire mon nom.

C'est mon chef qui m'a fait remarquer qu'il avait un livre pour apprendre à écrire. Il était donc à la limite d'être analphabète.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: corrector le 12 mars 2014 à 21:51:41
On tombe parfois sur des gens...

Moi j'ai vu un bureau de vote avec un scrutateur qui ne connaissait pas l'ordre alphabétique, autant dire que ça n'allait pas vite.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:53:51
Le contrôle de la pièce d'identité était presque nul avant. Maintenant ils la scan en heure ouvrée pour en garder une trace.
Ah ? J'ai pas fait attention la dernière fois, faudra que je sois vigilant la prochaine ;).

Mais sinon t'as résumé comment ça marche. Du coup c'est pas bien compliqué de trouver un nom.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 21:55:29
TH3 niveau "opérateurs" pour moi ne sert pas à grand chose. Y a des gens qui s'échangent vraiment du trafic là-bas ? C'est un DC pour l'hébergement à mes yeux.

(ah et même combat pour les procédures d'accès)

En fait il n'y a aucun controle d'accès par badge ou autre chez Telehouse ?

(désolé j'ai l'habitude d'accès plus... restreint).
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 21:56:20
En fait il n'y a aucun controle d'accès par badge ou autre chez Telehouse ?
Je ne sais pas si il y a des badges permanents mais pour le reste ça se passe comme expliqué par vivien pour récupérer un badge.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Davidarex le 12 mars 2014 à 21:58:46
Je connais des gens qui ont un badge permanent à TH2.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 22:00:01
La procédure c'est un envoi de mail avec le nom de la personne à autoriser.
C'est le même principe pour de nombreux DataCenter (je pense à Interxion à la différence qu'il faut mettre des protection pour les chaussures pour ne pas faire rentrer de poussière)

Si tu as un accès permanent sur TH2, il suffit de te pointer à l’accueil, ils recherchent dans leur classeur pour vérifier que ton nom est bien dans les accès permanents. J'ai eu dans le passé un accès permanent, je n'avais pas de badge, ni moi, ni les autres permanent.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 22:01:17
Je connais des gens qui ont un badge permanent à TH2.
Et comment ça se passe à TH2, tu le gardes ou tu le récupères à chaque fois ?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 12 mars 2014 à 22:05:00
@nico : Le badge tu le gardes si tu vas manger le midi mais obligation de le rendre avant de partir.

La dernière fois que j'ai été à TH2, avant-hier, j'ai demandé un écran et un clavier . Ils m'ont dit que ce n'est plus l’accueil qui les donnes mais qu'ils sont dans le datacenter. Elle a ajouté que j'avais accès aux 3 étages que je n'avais cas me balader pour trouver un écran / clavier. Je ne me suis pas fait prié. J'ai fait la visite complète des 3 étages. Tous les écrans / clavier étaient en fait utilisés et de retour à l’accueil, ils m'en ont passé. Au passage, ils ont renouvelés les claviers / écran (c'est du matériel neuf maintenant avec sortie PS2 et USB de série)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 22:09:39
Résumons :
 - des SPOF au niveau clim (circuit d'eau glacée) et électrique (masterpack)
 - controle d'accès notoirement "faible"
 - concentration de tout l'Internet français

Des oublis ?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 22:12:45
Les adductions *facilement* accessibles ? Mais bon ça c'est partout pareil. Si ce n'est qu'ici l'impact serait plus important qu'ailleurs.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 22:19:14
Les adductions c'est du domaine public non ? De toutes façons, c'est très (trop) facile à trouver. Sauf peut-etre sur de vieux réseaux...
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Davidarex le 12 mars 2014 à 22:29:12
La chambre FT est à ~10-15 mètres de l'entrée, donc c'est logique que ce soit celle pour le TH2.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 12 mars 2014 à 22:30:04
C'est pas chez FT que tu vas faire le plus de mal.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Polynesia le 12 mars 2014 à 22:55:10
Si la sécurité est si faible, cela m'étonnerais pas que les grandes oreilles ont des chevaux de trois la dedans
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 12 mars 2014 à 22:59:56
Ca dépend de quelles grandes oreilles on parle. Pour certaines, c'est les opérateurs qui vont jusqu'à elles....
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 23:28:14
Rappelle-toi les photos de "One Wilshire" à Los Angeles. C'est sans doute encore plus concentré qu'à TH2 Paris.
https://lafibre.info/datacenter/cablage-dans-un-datacenter/msg57093/#msg57093
Je ne pense pas qu'on puisse dire qu'un datacenter qui a un ou plusieurs gros SPOF (la clim, le masterpack) soit "plutôt fiable".

J'ai du mal à comprendre ce genre de discours. Ca n'est pas parce qu'on connait beaucoup d'incidents de datacenters que ça doit être la norme. Je suis persuadé que plein de datacenters s'en sortent très bien grâce à leur conception (et non par chance). Par exemple, les Interxion et Equinix font rarement parler d'eux pour leur manque de fiabilité, il me semble. Et encore une fois, il est tout à fait possible d'obtenir des fiabilité très importante, si tout est bien conçu. L'industrie a déjà énormèment réfléchi aux problèmes d'alimentation électrique et refroidissement ininterrompus : regardez le nucléaire, les sites pétrochimiques, les hauts fourneaux, etc...

Leon.

Un DC est fiable jusqu'à ce qu'on voit la faille. Combien de fois je me suis énervé de voir les gens faire des louanges sur Redbus à l'époque avant la grosse coupure qui a complètement mis en lumière un énorme faiblesse du site ?

Sur Iliad DC2, le système de générateurs très ingénieux mais qui montre ses défauts il y a quelques temps également.

Après c'est souvent les mauvaises expériences des autres (ou de soi) qui permettent de mieux concevoir les DC suivants. Il y a aussi le problème des coûts, combien de gens regardent le prix de la baie avant la sécurité du DC ? C'est aussi une part de responsabilité partagée ça.

Sinon pour Equinix et InterXion, faut quand même préciser PA3 et PA4 pour l'un et PAR3, PAR5 et PAR7 pour l'autre ;) Parce que des galères dans PAR1 et dans PA2 j'en ai vu (je vais même pas parler de PA1 ex IX Europe CDG)

C'est vraiment un métier où il faut éviter de faire le malin et on le voit, les autres DC ne font pas les malins. Parce que ça arrive, on le voit, ça arrive avec le temps et les failles sont de moins en moins nombreuses, mais on a souvent des surprises.

Après faut voir aussi que tant qu'un DC n'est pas entièrement impacté, la communication est faible autour des incidents.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 12 mars 2014 à 23:33:55
Ils scannent aussi la pièce d'identité la nuit. Après de toute façon qui veut rentrer rentre, comme dans quasi tous les DC. Pas besoin de réinventer Star Wars, tu viens à qq personnes armées, tu fais à peu près ce que tu veux.

C'est un problème de moyens, payer une sécurité militaire dans un DC coûterait bien trop cher :/

Mais bon, la redondance a son importance à ce niveau là et c'est pas pour rien que les choses les plus sensibles ne sont pas dans des DC publics ;)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 13 mars 2014 à 06:30:31
On est d'accord sur ce point. J'attends d'avoir un peu plus d'infos concernant TH2 sur l'impact exact, mais si toutes les clims étaient concernées, c'est moche.
En fait, que toutes les clims soient concernées ou non, peu importe.
* Soit toutes les clims étaient concernées par la fuite -> inacceptable
* Soit seule une partie des clims était impactée, mais elles étaient largement insuffisantes pour maintenir la température -> inacceptable aussi car ça n'est clairement pas du N+1 ou du 2N.
Dans les 2 cas, on est toujours avec un SPOF.

De plus, si le temps mis pour revenir à une température correcte (plusieurs heures) est visiblement du à la lente montée en pression du circuit d'eau glacée, là aussi il existe des solutions. Certaines installations industrielles qui ont un besoin vital d'eau de refroidissement ont une réserve d'eau conséquente sur place, pour parer à toute fuite, permettant de remplire le circuit de refroidissement à "haut débit", sans être limité par le débit de l'eau de ville. Mais bon, je conçois que pour TH2 au coeur de Paris, ce genre de réserve d'eau soit difficile à installer (ça prend de la place).
Citer
-   Rétablissement de la pression du réseau. Cette opération a nécessité environ
deux heures.
-   Remise en service des premiers groupes froids vers 22h30.
-   L'ensemble des groupes froids a été remis en service vers 23h30. Les températures en salle redescendent

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 13 mars 2014 à 08:08:24
J'ai visité les installations techniques d'un autre datacenter sur Paris et ils ont une arrivée d'eau à très haut débit pour refroidir à eau perdue les groupes électrogènes qui sont sous terre, si la piscine de refroidissement est trop chaude.

Cela nécessite par contre un système anti-retour pour être sur que tu n'injectes pas de l'eau dans le circuit d'eau potable de la ville et ce dispositif doit être vérifié chaque année.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 05 avril 2014 à 21:21:34
Plus de détails sur l'incident :
Citer
Une erreur humaine

"La procédure prévue n'a pas été respectée : le technicien a relié les deux réseaux d'eau glacée entre eux, alors qu'il aurait dû ne rien faire : le réseau secondaire prenait le relais !" ajoute-t-il. Sur la photo ci-dessus, la vanne malencontreusement actionnée est la petite poignée rouge en bas à gauche, partiellement cachée par une étiquette portant le chiffre 9. Conséquence : la pression a chuté dans les deux réseaux d'eau glacée et le refroidissement n'était plus possible. "On a dû ouvrir les fenêtres pour évacuer une partie de la chaleur", nous confie Patrick Boudec, responsable technique chez Telehouse. "Il nous a fallu deux heures pour reremplir les 150 mètres cubes des deux réseaux d'eau glacée", poursuit Paul Martins. "Le technicien en cause ne fait plus partie du site Telehouse 2", précise le cadre de Dalkia. "Nous ne l'avons pas licencié, il pensait bien faire", ajoute-t-il.

Source : http://www.lepoint.fr/chroniqueurs-du-point/guerric-poncet/panique-sur-l-internet-francais-ce-qui-s-est-vraiment-passe-chez-th2-04-04-2014-1809182_506.php (http://www.lepoint.fr/chroniqueurs-du-point/guerric-poncet/panique-sur-l-internet-francais-ce-qui-s-est-vraiment-passe-chez-th2-04-04-2014-1809182_506.php)

Sinon j'adore la dernière partie qui explique que l'accès est vachement sécurisé, toussa... Ca va finir qu'on va classer TH2 en ZRR :) (https://fr.wikipedia.org/wiki/Zone_%C3%A0_r%C3%A9gime_restrictif (https://fr.wikipedia.org/wiki/Zone_%C3%A0_r%C3%A9gime_restrictif))
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 05 avril 2014 à 22:40:14
Superbe reportage du point.fr (http://www.lepoint.fr/chroniqueurs-du-point/guerric-poncet/panique-sur-l-internet-francais-ce-qui-s-est-vraiment-passe-chez-th2-04-04-2014-1809182_506.php), avec des photos très rares sur les zones techniques de TH2.


Panique sur l'Internet français : ce qui s'est vraiment passé chez TH2

Le centre de données Telehouse Paris Voltaire avait subi un incident majeur le 9 mars. Le Point.fr a reconstitué l'enchaînement des événements.

La polémique avait été vive après l'incident majeur dans l'un des "coeurs" de l'Internet français le 9 mars. Le centre de données Telehouse 2 (TH2, dit "Paris Voltaire") avait subi une élévation anormale des températures, causée par une panne de climatisation, provoquant une panique sur les réseaux sociaux. "On n'est pas passé loin" d'un grave incident, avait alors jugé Mathieu Weill, le patron de l'Afnic, qui gère l'extension .fr sur Internet. Trois semaines après l'incident, Le Point.fr a rencontré l'équipe dirigeante de Telehouse 2 pour en éclaircir les circonstances.

Une alarme "mineure"

"Dimanche 9 mars, nous avons eu une alarme mineure en fin d'après-midi sur un réseau de climatisation", explique Paul Martins, directeur de centre opérationnel chez Dalkia (groupe EDF), qui gère le site TH2. "Une vanne d'eau glacée fuyait, mais grâce au second réseau de refroidissement, aucune intervention n'était nécessaire", poursuit-il. Malheureusement pour TH2, le technicien, seul le dimanche, "a probablement paniqué" lorsqu'il a reçu la cinquantaine d'alertes déclenchées par l'incident, encore mineur à ce stade.

Une erreur humaine

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_1.jpg)

"La procédure prévue n'a pas été respectée : le technicien a relié les deux réseaux d'eau glacée entre eux, alors qu'il aurait dû ne rien faire : le réseau secondaire prenait le relais !" ajoute-t-il. Sur la photo ci-dessus, la vanne malencontreusement actionnée est la petite poignée rouge en bas à gauche, partiellement cachée par une étiquette portant le chiffre 9. Conséquence : la pression a chuté dans les deux réseaux d'eau glacée et le refroidissement n'était plus possible. "On a dû ouvrir les fenêtres pour évacuer une partie de la chaleur", nous confie Patrick Boudec, responsable technique chez Telehouse. "Il nous a fallu deux heures pour reremplir les 150 mètres cubes des deux réseaux d'eau glacée", poursuit Paul Martins. "Le technicien en cause ne fait plus partie du site Telehouse 2", précise le cadre de Dalkia. "Nous ne l'avons pas licencié, il pensait bien faire", ajoute-t-il.

Les leçons tirées de l'incident

Le retour d'expérience a permis à Telehouse 2 de modifier quelques procédures. En premier lieu, le diamètre des tuyaux de remplissage du système de climatisation a été triplé, afin de réduire le temps d'intervention en cas de nouvel incident de ce type. De plus, les renforts seront désormais envoyés automatiquement par le centre d'appels après des alarmes anormales et n'attendront pas une demande express du technicien de permanence.

Plusieurs niveaux de sécurité

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_2.jpg)

Mis en service en 2001 et hébergeant 300 clients, TH2 est un site de 14 000 mètres carrés (dont 12 000 mètres carrés de salles serveurs) très protégé. Le bâtiment, dont l'entrée est située boulevard Voltaire à Paris, ne donne pas directement sur le boulevard, ce qui le protège partiellement d'une attaque frontale. Deux alimentations EDF distinctes permettent de maintenir l'activité en cas de coupure sur un câble, ce qui arrive régulièrement, en particulier lorsque des pelleteuses s'activent dans la rue voisine...

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_3.jpg)

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_4.jpg)

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_5.jpg)

En plus, les six groupes électrogènes et leurs dizaines de milliers de litres de fioul permettent de tenir entre 72 heures et 10 jours, selon la charge des serveurs. Enfin, des onduleurs reliés à des centaines de batteries permettent de tenir une heure en cas de défaillance des alimentations d'EDF et via les six générateurs. La puissance installée est supérieure à ce qui est nécessaire : seule une alimentation EDF ou seuls trois générateurs suffiraient à alimenter le site.

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_6.jpg)

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_7.jpg)

Idem pour les arrivées de fibres optiques : trois passages de trente fourreaux sont prévus, dont un communique avec le métro, pour faire arriver les fibres des opérateurs. Depuis 2001, 80 millions d'euros ont été investis par le propriétaire japonais KDDI pour la modernisation continue de TH2.

La menace terroriste

Cet incident inquiète, car il montre qu'une simple erreur humaine peut déclencher une cascade de défaillances et finalement un incident très grave. Si le centre de données avait subi légèrement plus de dégâts, l'Internet français aurait pu mettre plusieurs jours à s'en remettre, avec les conséquences non seulement techniques mais aussi économiques que cela implique. Aujourd'hui, une entreprise privée d'Internet est souvent une entreprise privée de chiffre d'affaires... Alors, comment se protéger d'un acte malveillant, venant par exemple d'un expert qui connaîtrait parfaitement les failles ? La réponse n'est pas claire.

"L'acte de malveillance est pris en compte dans les procédures", assure Gilles Pecqueron, directeur marketing de Telehouse. Il faut dire que les menaces sont régulières. L'accès au site est protégé par divers systèmes dont la vérification des pièces d'identité avec le même système que les aéroports (en revanche, pas de rayons X ou de détecteur d'explosifs). En outre, l'accès au parking est très restreint et contrôlé, et le stockage des colis et du matériel des clients est effectué dans un autre bâtiment. "Chez Dalkia, nous gérons plus de 180 000 mètres carrés de centres de données", rassure Paul Martins.

Un talon d'Achille du Net français ?

Quoi qu'il en soit, le fait qu'une part importante du trafic internet français passe par Telehouse 2 reste un talon d'Achille pour le pays. Une solution ne serait-elle pas de répartir les serveurs dans plusieurs centres ? "Cela ne dépend pas que de nous, se défend Gilles Pecqueron, car ce sont les opérateurs qui décident de leur localisation". Par ailleurs, cela impliquerait de faire passer de nouvelles fibres optiques dans Paris, ce qui nécessite toujours des mois, voire des années, de procédures pour les travaux.

Et puis, économiquement, "les opérateurs ont intérêt à se concentrer ici à TH2", poursuit le responsable marketing, qui précise toutefois qu'il lui arrive de proposer des contrats conjoints avec ses concurrents, afin de permettre aux opérateurs de répartir leurs infrastructures sur plusieurs sites.


Source : Le Point (http://www.lepoint.fr/chroniqueurs-du-point/guerric-poncet/panique-sur-l-internet-francais-ce-qui-s-est-vraiment-passe-chez-th2-04-04-2014-1809182_506.php), le 4 avril 2014 par Guerric Poncet.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 05 avril 2014 à 22:43:25
Tiens je n'avais pas vu qu'il y avait une photo du sous-sol, c'est assez impressionnant et rare.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 05 avril 2014 à 22:49:05
Pour ceux qui ne connaissent pas TH2, la photo ci-dessous, c'est l'entrée, mais il faut déjà avoir donné sa carte d'identité (enfin maintenant il la scan) pour arriver là.

Pas besoin d'autorisation, c'est au 2ème point de contrôle à l’intérieur que c'est vérifié. Il est donc possible de faire une sortie technophile et d'aller regarder cet entrée de TH2 puis ressortir  :D

(https://lafibre.info/images/datacenter/201404_th2_telehouse_paris_voltaire_2.jpg)

Les routeurs / serveurs sont dans les 3 étages supérieurs.

Il y a un 4ème étage technique.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 05 avril 2014 à 22:54:01
Il y a aussi du matos au RDC maintenant, sur la droite de l'accueil.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 05 avril 2014 à 23:16:27
Tiens en regardant bien, on voit un Windows XP dans la salle avec les armoires bleues (cellules HT et/ou automates groupes ?).

La prochaine panne c'est la bascule sur groupe qui foire ? ;)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 06 avril 2014 à 02:44:11
Dire que TH2 est un point majeur d'Internet je suis d'accord, dire que sa coupure entrainerait une coupure d'une bonne partie d'Internet en France c'est de la science fiction pour moi.

TH2 est un PoP réseau où se donnent rdv de très nombreux opérateurs pour s'interconnecter, mais s'il a l'avantage d'être le principal point commun de tous, il n'est pas le seul et rares sont les gens qui n'ont pas un backup par un autre site. Quelqu'un qui ne sécurise pas son réseau par un autre site ne me semble pas sérieux et tous les gens un peu sérieux ont forcèment au moins un 2eme site raccordé à différents opérateurs pour basculer.

De plus, peu d'hébergement serveur se fait sur ce site, donc les données sont en général ailleurs (Equinix, InterXion, Telecity) et TH2 n'est qu'un point d'interconnexion réseau pour avoir accès à des transits (une partie) et aux points d'échange (une partie). Donc avec une redondance normale, la coupure de TH2 entrainerait pas mal de reroutages certainement mais peu de coupures pour les opérateurs importants/sérieux. Surtout qu'il est plus facile de basculer automatiquement un réseau d'un site à un autre qu'une archi de serveurs (surtout les DB)

A mon avis perdre Equinix PA3 par exemple aurait plus d'impact visible sur Internet que TH2 au final.

Bref, pour moi le problème TH2 n'est qu'un problème économique (payer cher pour être sûr d'avoir un point où tous les autres sont présents systématiquement), car on peut trouver une majorité d'opérateurs connus sur les autres sites connus à Paris.

Le plus impactant par contre sur TH2 ce serait surement toutes les collectes, là où ça ferait mal.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 06 avril 2014 à 07:41:31
Même si on ne connait pas tous les détails, je trouve ça bien que le technicien n'ait pas été licencié. TH2 reconnait sans doute ses torts également : procédure perfectible, remplissage du circuit de refroidissement trop lent.

Je suis vraiment surpris que on laisse 1 seul et unique technicien sur un site aussi sensible, et qui génère autant de chiffre d'affaire. La solitude dans une telle situation de crise, c'est une source de stress énorme! A deux, on se rassure, se surveille.

Il existe également des installations industrielles où les techniciens de garde sur place sont guidés par des experts à distance, qui eux recoivent également toutes les informations de monitoring. Je ne sais pas si c'est le cas pour TH2, mais ça aurait peut-être aidé le technicien pour éviter de paniquer.

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 06 avril 2014 à 07:51:47
La grande majorité des réseaux d'initiative public et des opérateurs alternatifs ne sont connectés que à TH2.

Une petite liste :
- Cœur Côte Fleurie (14)
- Le Jura (39)
- Grand Nancy (54)
- le SIVU (59)
- Europe Essonne (91)
- Seine-Essonne (91)
- Limeil-Brévannes (94)
et probablement de nombreux autre.

J'ai été étonné sur le fait que le Jura choisies une collecte unique sur TH2 alors qu'il a pris exemple sur son voisin l'Ain qui est lui interconnecté sur deux points (Lyon et Genève)

Maintenant tu prend France-IX TH2, tu perds 80% des membres ! (Google, Dailymotion, OVH, NeoTelecoms, Numericable, Colt, Limelight Networks, M6web...)
Voici la liste des membres de janvier 2013, la liste actuelle n'indique plus le site.
Ne pas oublier que France-IX et Equinix-IX ne sont interconnecté à Lyon-IX que par TH2 donc tu perd aussi les membres qui sont vu via Lyon-IX.


Membres de France-IX connecté à Iliad-vitry uniquement : 7 membres
Cusae   58308
DotSmart   52143
Fotolia   50032
Keyade   59689
Les Nouveaux Constructeurs (Lncsa)   49463
Lixium   39600
Octopuce   39389

Membres de France-IX connecté à Interxion 1 uniquement : 3 membres
AFNIC   2484
Witbe   15436
ZeOP Reunicable   37002

Membres de France-IX connecté à Interxion 2 uniquement : 5 membres
EDPnet   9031
EPT Luxembourg    6661
Hexatom   51269
Hurricane Electric   6939
Over-Link   48426

Membres de France-IX connecté à Interxion 5 uniquement : 10 membres
CDNetworks   36408
Integra   8723
Interxion France   34002
Microsoft   8075
Prodware   57928
Runiso   44099
Schneider Electric   31328
Waycom   30889
Akamai   20940

Membres de France-IX connecté à Telecity-Condorcet uniquement : 2 membres
Amazon   16509
Diademys   51754

Membres de France-IX connecté à Telecity-Courbevoie uniquement : 21 membres
1&1   8560
AS112   112
Alionis   34997
Belcenter   31449
BlueGIX   8565
Burstfire Networks   9153
CELESTE   34177
Clever Network   50796
DRI   6738
Emailvision   39905
Eurocenter   29639
Hivane Network   34019
Infoclip    24776
Lambdanet   13237
Le Figaro   43436
OpenCarrier   41692
Optilian   29246
Oxeva   39104
RMI   16347
Rentabiliweb Telecom   34913
TelecityGroup   15830

Membres de France-IX connecté à Telehouse-1 uniquement : 0 membre

Membres de France-IX connecté à Telehouse-2 uniquement : 80 membres
AFNIC   2486
ASDASD Srl   28929
Acropolis Telecom   29513
Adenis   51985
Airspeed Telecom Ltd   29644
Altitude Infrastructure Exploitation   49594
AtratoIP   5580
AvenirTelematique   35625
Axione   31167
BSO Network Solutions   31216
Belnet   2611
Bull PI   16128
Colt Technology Services   8220
Covage   44902
Criteo   44788
Dailymotion   41690
Digicube   196689
E4A   34695
EBSD   43573
Etisalat   8966
EuroWeb   35393
Evolink AD   8262
Facebook    32934
Goscomb Technologies   39326
Hexaglobe   31564
Hexanet   34863
Hotnet   12849
I3b   39912
IELO   29075
IP Directions   198111
ISC   30126
IX Reach   43531
Iguane Solutions   39605
Infosat Telecom   33835
IntermediaSud   20900
JasTel Network   45629
Keyyo   34659
L'odyssée interactive jeuxvideo.com   35717
Lasotel   39180
LeaseWeb   16265
Limelight Networks   22822
M6web   30972
Meanie   31019
Mediactive   197133
Mediamath   30419
Metrolink   8816
Naitways   57119
Numericable   21502
OVH   16276
OWS   39072
PCH   3856
PCH   42
PPR   15422
Phibee Telecom   8487
Ping Networks   47264
RENATER   2200
ReTN   9002
Risc Group   8399
Root   5577
SIG Telecom   20932
Serverel    50245
Skylogic   29286
Solutions Informatiques   50858
Splio   31688
Stella Telecom   16211
Telma    37054
Tetaneutral   197422
Top-IX DP   41364
Transatel   198335
Trunk Networks   49375
Typhon   34948
Veepee   34006
Wan2many   29608
Warwicknet   48961
WebEX   13445
Websense   44444
Widevoip   42456
Wifirst   52075
Google   15169
NeoTelecoms   8218

Membres de France-IX connecté à Telehouse-2 uniquement via Lyon-IX : 15 membres
AIC Network   47332
Accelance   16073
Adeli   43142
CCC Lyon   51458
Cirtil   48140
Dreamlead   198180
ELB Netissime   32274
Eolas   15401
Equation   41090
Francelink   197114
IPGarde   41765
IPLine   197036
KNet   24904
LDLC   12565
Silvernet   197337

Membres de France-IX connecté à plusieurs POP : 7 membres
Intrinsec   33930   Interxion-5 / Telecity-Condorcet
Intercloud   197981   Interxion-5 / Telecity-Courbevoie
Claranet   8426   Telehouse-1 / Telehouse-2
Jaguar Network   30781   Telehouse-2 / Interxion-2
SmartJog   43646   Telehouse-2 / Interxion-2
Bouygues Telecom   5410   Telehouse-2 / Interxion-2
Vodafone   3209   Telehouse-2 / Interxion-2


Maintenant l'autre GIX parisien, Equinix Internet Exchange Paris, n'est connecté que à TH2 hors des datacenter Equinix => La quasi-totalité des membres sont sur TH2
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 06 avril 2014 à 08:18:19
Google est censé être présent aussi à Marseille sur le France-IX, tu n'as regardé que Paris ?
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 06 avril 2014 à 08:19:24
A mon avis perdre Equinix PA3 par exemple aurait plus d'impact visible sur Internet que TH2 au final.
Autant je suis d'accord sur le fait que beaucoup sont présents sur 2 PoPs, autant je ne suis pas certain que tant de monde que ça ait de la capacité pour écouler le trafic proprement en perdant TH2. Si ça tombait on serait en mode dégradé pour moi.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Leon le 06 avril 2014 à 08:35:58
Ne pas oublier que France-IX et Equinix-IX ne sont interconnecté à Lyon-IX que par TH2 donc tu perd aussi les membres qui sont vu via Lyon-IX.
C'est vrai, ça? Comment ça se fait? Comment un GIX sérieux peut-il ouvrir un site dont le raccordement avec le reste de son réseau n'est pas sécurisé?

Leon.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 06 avril 2014 à 08:40:09
On parle d'une interconnexion limitée à 100M/membre, c'est pas "un site" à proprement parler.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: BadMax le 06 avril 2014 à 09:10:09
Citer
La grande majorité des réseaux d'initiative public et des opérateurs alternatifs ne sont connectés que à TH2.

Une petite liste :
- Cœur Côte Fleurie (14)
- Le Jura (39)
- Grand Nancy (54)
- le SIVU (59)
- Europe Essonne (91)
- Seine-Essonne (91)
- Limeil-Brévannes (94)
et probablement de nombreux autre.

Le réseau ADN n'était qu'à TH2 au début puis a été secouru aussi sur Courbevoie (Netcenter, Redbus ou Interxion je sais plus).

Je connais un gros opérateur international dont je tairais le nom qui avait concentré toutes ses connexions clientes sur TH2. Le jour où le Masterpack a sauté, je vous dis pas le bordel...

Cela dit, c'est bien toutes ses pannes car ça bouge tout le monde à justement aller voir ailleurs et/ou prendre note des erreurs de TeleHouse. Du coup je rejoins l'avis de SynAck, à mon avis TH2 est aujourd'hui bien moins représentatif de l'Internet français. Restera toujours quelques exceptions.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: vivien le 06 avril 2014 à 09:21:03
Même quand ce n'est pas limité à 100 Mb/s par membre, il y a un seul lien.
Exemple : Lyon-IX <=> Turin où les membres du Lyon-IX récupèrent Google.
Un seul lien (1 Gb/s upgradé à 10 Gb/s) sans redondance.

France-IX Marseille, c'est un peu mort comme GIX  ;)

Sinon la limitation à 100 Mb/s par membre, n'est pas configuré sur les équipements. K-Net a déja fait plus de 800 Mb/s sur Deauville téléchargeant des gros fichiers sur un serveur de https://testdebit.info (https://testdebit.info) hébergé par Bouygues Telecom.

A l'époque les GIX parisiens de K-Net n'étais pas up et K-Net passait par Lyon pour récupérer Bouygues Telecom sur France-IX.

On vois ci-dessous le test réalisé de nui où le lien Paris / Lyon de K-Net se charge à 484 Mb/s de moyenne sur 5min avant d'aller sur Lyon-IX :
(https://lafibre.info/images/k-net/201211_reseau_k-net.png)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Boris de Bouygues Telecom le 06 avril 2014 à 10:02:04
Pour Bouygues Telecom, dans le but de limiter la casse en cas de perte de TH2 nous allons changer notre connexion France-IX :
- Avril 2014 : 20 Gb/s TH2 + 20 Gb/s ITX2
- Mai ou juin 2014 : fermeture du lien TH2 et passage du lien ITX2 à 60 Gb/s.

Notre connexion sur l'Equinix Internet Exchange Paris reste par contre sur TH2

Les PNI sont montés hors de TH2 quand c'est possible, mais souvent TH2 reste le seul site commun.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 06 avril 2014 à 13:52:25
Vivien : Pour FranceIX, c'est un point d'échange, j'espère (surtout avec les problèmes de l'an passé) que les gens ne basent pas leur réseau sur ce point uniquement et prévoient au moins un mode dégradé par un transit ou autre IX sur un autre point.

Nico : Oui on est d'accord pour le mode dégradé :)

Boris : C'est pour ça que personne ne veut répondre pour remonter la session sur 37.49.236.63 ? :/ (j'ai pas de réponse non plus pour changer l'AS de la session sur l'AMS-IX :( )
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Boris de Bouygues Telecom le 06 avril 2014 à 14:33:49
Synack : Pour France-IX nous ne montons pas de peer pour l'instant faute de capacité, mais sur l'Equinix Internet Exchange Paris les route serveur sont activés. Il faudrait nous re-contacter après l'upgrade à 60 Gb/s.

Pour AMS-IX, je vous invite à relancer les nouvelles équipes de peering. Les contacts sont sur http://www.peeringdb.com/view.php?asn=5410 (http://www.peeringdb.com/view.php?asn=5410) et comme vous pouvez le voir il y a eu de gros changements.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 06 avril 2014 à 14:39:47
OK merci, je vais relancer sur les nouveaux contacts :)
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 06 avril 2014 à 20:14:20
France-IX Marseille, c'est un peu mort comme GIX  ;)
Sauf quand Google n'arrive plus à pousser de trafic à Paris...

Pour Bouygues Telecom, dans le but de limiter la casse en cas de perte de TH2 nous allons changer notre connexion France-IX :
- Avril 2014 : 20 Gb/s TH2 + 20 Gb/s ITX2
- Mai ou juin 2014 : fermeture du lien TH2 et passage du lien ITX2 à 60 Gb/s.
Tout regrouper sur un seul DC c'est pas pire d'un sens ? C'est sur que TH2 a plus de chances de tomber que PAR2 mais quand même.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Boris de Bouygues Telecom le 06 avril 2014 à 21:15:49
Sauf quand Google n'arrive plus à pousser de trafic à Paris...
C'est à dire ?
Saturation de Google sur France-IX ?
Google n'arrive plus à remplir les PNI sur Paris ?
Google ne livre plus de nouveaux 10G sur Paris ?

Bouygues Telecom ne rencontre pas de problème avec Google sur Paris.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 06 avril 2014 à 21:19:19
Oh je parlais de la coupure de Google sur Paris un week-end, pas d'une situation récurrente. On avait vu l'intérêt du PoP France-IX Marseille qui avait vu son débit décoller temporairement.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Boris de Bouygues Telecom le 06 avril 2014 à 21:40:45
Avec 10 Gb/s sur France-IX Marseille, c'est intéressant, mais pour des petits opérateurs.

Pour comparer, ce mois-ci Bouygues Telecom augmente sa capacité avec Google de 100 Gb/s supplèmentaire.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Synack le 06 avril 2014 à 23:40:31
Sauf quand Google n'arrive plus à pousser de trafic à Paris...
Tout regrouper sur un seul DC c'est pas pire d'un sens ? C'est sur que TH2 a plus de chances de tomber que PAR2 mais quand même.

TH2 plus de chances de tomber que InterXion PAR2 ? Pourquoi ? Hormis le problème de clim dernièrement, le 3eme étage (où sont aussi Bouygues et Free) n'a jamais connu le moindre problème. Il ne faut pas mettre le 3eme étage et le RDC dans le même panier que le 1er et le 2eme pour TH2, c'est vraiment pas la même chose.
Titre: Ptit coup de chaud à Telehouse 2
Posté par: Nico le 07 avril 2014 à 07:22:56
J'ai peut-être parlé un peu vite, mais du coup ma question reste entière.