Auteur Sujet: Titan va ouvrir un data center de 10 000 m² à Mougins (06)  (Lu 15318 fois)

0 Membres et 1 Invité sur ce sujet

Phach

  • Client Orange vdsl
  • *
  • Messages: 1 004
  • Hérault (34) - Occitanie
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #24 le: 04 juillet 2015 à 20:47:39 »
question, en PACA, je vois des DC qui se revendiquent tier-4. (DC euclyde par exemple)

Je ne comprend pas comment c'est possible compte tenu du réseau electrique dans la région.
Si je dis pas de bétise, tier-4 c'est au moins 2 arrivée électrique de sources distinctes.

BadMax

  • Client Free adsl
  • Modérateur
  • *
  • Messages: 3 349
  • Malissard (26)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #25 le: 04 juillet 2015 à 21:22:38 »
En effet Tiers IV necessite 2 sources actives par opposition au niveau 3 qui necessite juste un secours (des groupes HT).
 

BadMax

  • Client Free adsl
  • Modérateur
  • *
  • Messages: 3 349
  • Malissard (26)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #26 le: 04 juillet 2015 à 21:27:56 »
En relisant, j'ai un doute sur 'distribution paths' : ça devrait concerner la distribution BT en aval des onduleurs. En Tiers II il n'y a qu'un circuit de distribution alors qu'en Tiers III la double alimentation des equipements est obligatoire.

Nico

  • Modérateur
  • *
  • Messages: 29 123
  • FTTH 300Mbps sur Paris 15ème (75)
    • @_GaLaK_
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #27 le: 04 juillet 2015 à 21:51:46 »

buddy

  • Client Orange Fibre
  • *
  • Messages: 8 320
  • Mougins (06)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #28 le: 04 juillet 2015 à 23:02:46 »
question, en PACA, je vois des DC qui se revendiquent tier-4. (DC euclyde par exemple)

Je ne comprend pas comment c'est possible compte tenu du réseau electrique dans la région.
Si je dis pas de bétise, tier-4 c'est au moins 2 arrivée électrique de sources distinctes.

Nucléaire de rhone alpes + barrage hydroélectrique ? (il y a pas mal de petits barrages dans les AM et dans les alpes de haute provence, mais pas trop à côté de mougins je l'accorde)

Kaelhan

  • Client Orange Fibre
  • *
  • Messages: 442
  • Toulouse (31)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #29 le: 04 juillet 2015 à 23:18:02 »
Et je vous renverrai à la certification Tiers III de l'uptime institute : la fiabilité électrique est conditionnée par la configuration des groupes et onduleurs, pas du poste de distribution.

Ce qui est logique car l'Uptime Institute est américain et aux Etats-Unis, la fiabilité est surtout liée aux groupes électrogènes et non à la distribution qui est principalement au charbon et n'est pas non plus aussi fiable qu'en Europe et en France en particulier.

BadMax

  • Client Free adsl
  • Modérateur
  • *
  • Messages: 3 349
  • Malissard (26)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #30 le: 05 juillet 2015 à 07:51:48 »
question, en PACA, je vois des DC qui se revendiquent tier-4. (DC euclyde par exemple)

Je ne comprend pas comment c'est possible compte tenu du réseau electrique dans la région.
Si je dis pas de bétise, tier-4 c'est au moins 2 arrivée électrique de sources distinctes.

Euclyde annonce aussi 7,2Gw de capacité pour 3000 m2 et 2 GE. Ça ferait 2 centrales... :) ça doit etre 7,2 Mw, ça doit en effet pouvoir se trouver en hydro mais l'alimentation n'etant pas dédiée, t'as aucune garantie !

Sinon 2GE pour du Tiers 4 ça m'étonne quand certains en ont 3 en Tiers 3.



vivien

  • Administrateur
  • *
  • Messages: 27 226
    • Twitter LaFibre.info
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #31 le: 05 juillet 2015 à 08:56:02 »
La fiabilité de l'alimentation est importante, car plus il y a de coupure de l'alimentation électrique, plus la probabilité d'avoir une coupure augmente.

Un exemple c'est le DataCenter DC2 d'Iliad. Le 4 juillet 2013, après avoir perdu ses 4 alimentations ERDF indépendantes, a réussi à perdre plusieurs chaînes électriques indépendantes (chacune avec son groupe) entraînant une coupures des 2 chaînes d’alimentation des serveurs.

Compte-rendu d'incident d'Arnaud (directeur Online - Iliad Datacenter):
Coté datacenter :
 

Le datacenter DC2 est composé de 7 chaines électriques indépendantes :

- A et B destinées aux salles en architecture N+1, dont la salle 103 (Dedibox)

- C, D, E destinées aux salles en architecture N+N et a la salle opérateur. Ces chaines ne sont pas évoquées dans le présent rapport car n’ont subit aucune interruption ou dégradation de service. De même pour les chaines F1 et F2 : destinées à la climatisation, en architecture N+N
 

10:21:14 le poste source EDF « Vitry-Nord » subit un dysfonctionnement grave impactant (explosion du transformateur) : Ivry sur Seine, Vitry sur Seine, Charenton, Maison Alfort. Nos 4 câbles haute tension alimentant le datacenter (2 câbles de travail, 2 de secours) sont simultanèment coupés.

 
10:21:33 les 7 chaines électriques basculent sur groupe électrogène avec succès, sans coupure.
 

10:21:34 les onduleurs A4 et A5 de la chaine A sont en défaut, sans coupure et sans conséquence compte tenu de la redondance N+2 de la chaine électrique.


10:22:45 Un premier groupe électrogène dédié à la climatisation (GE-F1) subit des pompages moteurs et s’arrête en défaut « hors tolérance fréquence». La chaine électrique associée bascule automatiquement sur le groupe électrogène de secours (GE-S) à 10:23:08.

Le temps de la bascule, compte tenu des deux coupures très rapprochées, la température des salles augmente très légèrement 3°C sans conséquence.

 
10:26:30 Un deuxième groupe électrogène, celui de la chaine A (GE-A), s’arrête en défaut « électronique ».

La chaine électrique associée bascule automatiquement sur le groupe électrogène de secours (GE-S), sans coupure et sans conséquence.

 
11:15:00 Communication aux clients d’une difficulté majeure sur le datacenter. Escalade et envoie de renforts depuis DC3 et depuis le siège de Paris. Escalade au service dépannage du poste source d'ErDF

 
11:18:11 Le groupe électrogène de secours (GE-S) s’arrête en défaut mécanique majeur.

La chaine A ne disposant plus de ni 1- l’arrivée principale EDF (composée de 4 câbles indépendants), ni son groupe électrogène GE-A, ni groupe électrogène de secours GE-S, les 6 sources électrique possibles étant indisponibles, les salles sont alimentées depuis les batteries des onduleurs.


11:29:18 Fin d’autonomie batterie des onduleurs de la chaine A. Coupure de l’alimentation ondulée de la salle 103


11:41:23 Remise en service du groupe électrogène GE-A en « marche forcée » (arrêt de son automate, les défauts sont inhibés et ignorés) pour réalimenter la chaine A. L’opération fonctionne, retour de l’énergie dans toutes les salles

 
de 11:48 à 11:54 Arrivée des renforts et de la direction


11:54:20 Retour de l’électricité sur nos 4 câbles haute tension. Les chaines rebascules sur EDF sans interruption de service à l’exception de la chaine A, que nous laissons sur groupe électrogène afin de charger les batteries et basculer en toute sécurité

 
16:28:20 Fin de charge des batteries des onduleurs. La chaine électrique A est basculée manuellement sur EDF avec succès.

 
De 11:45 à 19:30 Les onduleurs A4 et A5 sont réparés, les groupes électrogènes GE-F, GE-A, GE-S sont réparés. Plusieurs essais sont réalisés pour s’assurer du bon fonctionnement de l’infrastructure.

 
23:00 Départ des renforts, départ des entreprises de maintenance, communication du rapport préliminaire aux clients.


(rapport définitif d'ici 48 heures, le temps d'analyser toutes les données récupérées)


Coté Dedibox :

3000 serveurs et la console de gestion ont étés impactés par la coupure d'énergie (moins de 7% du parc).

Il s'agit principalement d'anciens serveurs Dell (gamme 2010) et d'offres de destockage. Pour la très grande majorité du parc de cette salle, cette interruption a été très courte et n'a pas eut d'impact important.

 
A 12:20, 85% du parc à été remis en service. 13 switchs défaillants ont étés remplacés

A 14:00, 250 serveurs indisponible nécessitant une intervention hardware.

A 14:30, il ne restait qu'une centaine de serveurs indisponibles. Un bug avec les ip failover et l'ipmi est corrigé

A 23:00, il ne reste qu'une dizaine de serveurs nécessitant une intervention plus poussée, notamment au niveau des cartes raid.
 

Conclusion

Cette interruption est liée à la défaillance sur une période de moins d’une heure de 3 groupes électrogènes sur les 6 du datacenter.

L'interruption, très partielle, à concernée 30% de notre datacenter et 7% du parc Dedibox pendant une durée 12 minutes.


Malgré toutes nos précautions dans le design de nos infrastructures, prévoyant systématiquement des onduleurs redondants (N+2), un groupe électrogène de secours installé sur site en permanent, le scénario peu probable de 1- une coupure simultanée de 4 arrivées EDF (sur 4) et  2- la défaillance de 3 groupes électrogènes (sur 6) c'est produit.

Nous le vivons comme un échec et souhaitons vous présenter nos excuses pour cet incident indépendant de notre volonté et qui ne remet pas en cause ni la fiabilité ni le design de nos infrastructures.


Nos datacenters sont régulièrement testés, au minimum 6 heures tous les 3 mois, en charge, avec une coupure réelle réalisée au niveau des arrivées EDF. Les derniers essais (par coupure des arrivées EDF pendant plus de 15 heures sur 3 jours) ont étés réalisés les 28/05 29/05 et 30/05, avec succès. En tout, près de 65 heures d'essais réels et en charge du datacenter ont étés réalisés depuis 4 ans.

La maintenance mécanique annuelle des groupes électrogènes a eut lieu du Lundi 1/07 au Mercredi 03/07 qui n'avait également révélé aucun problème. De même pour les onduleurs qui ont eut leur visite constructeur il y a quelques semaines.

Dure loi de Murphy ...

buddy

  • Client Orange Fibre
  • *
  • Messages: 8 320
  • Mougins (06)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #32 le: 05 juillet 2015 à 09:00:45 »
. Le 4 juillet 2013, après avoir perdu ses 4 alimentations ERDF indépendantes,

oui et non ...
Je ne sais pas si il était possible de faire autrement mais dire que 4 alimentations reliées au même tranfo "Vitry-nord" (ce que j'ai compris avec les explications d'Arnaud d'Online) sont indépendantes ... on a bien vu que ce n'était pas le cas ... Elles sont dépendantes, il y a un SPOF (le transfo de Vitry-nord) ...

miky01

  • Expert. Réseau RESO-LIAin (01)
  • Client K-Net
  • *
  • Messages: 3 175
  • FTTH 100 Mb/s sur Farges (01)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #33 le: 05 juillet 2015 à 10:25:25 »
Il ont vraiment pas eu de chance, mais c'est quand ca arrive que on tire les conséquences et prend les mesures, un peu comme les backups, combien font des tests de restore pour vérifier qu'ils sont lisible ?

J'ai jamais vu ca dans un DC, le plus gros crash a été un pbs de clim, redondante en N+1, et faute a pas de chance 2 sont tombée en panne, la température dans la sale est montée a 50° au lieu de 20°, ca a été des 100 ene de disc crash a remplacer, et évidement personne les avait en stock chez les fournisseurs...

Pour une coupure électrique c'est toujours dramatique, car des équipements qui tournent 24/24, quand tu les arrête il en a toujours 10% qui redémarre plus.


BadMax

  • Client Free adsl
  • Modérateur
  • *
  • Messages: 3 349
  • Malissard (26)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #34 le: 05 juillet 2015 à 11:38:03 »
Si l'alimentation électrique était si vitale, la vallée du Rhone aurait du etre envahie: 3 centrales nucléaires et des barrages hydroélectrique en 100km... Même côté fibre on est bien loti : CNR, ASF, SNCF...

Ben pourtant ça attire pas. Au contraire les DC s'implantent là où il y a... les clients. Donc l'IDF et les grandes agglos :)

Pour revenir au cas d'Online c'etait coup à pas de bol comme il arrive à tout le monde. J'ai eu un problème malgre 3 GE: l'automate, obsolète, s'etait coincé. Depuis on teste tous les mois. Mais parier sur la stabilité du reseau électrique c'est joueur, aucun gros client s'installerai. Comme je l'ai dit, seule la capacité est prise en compte.

Plutôt que des certifications Tiers on devrait faire une classification par points d'expérience.

mattmatt73

  • Expert.
  • Client Bbox fibre "câble"
  • *
  • Messages: 5 223
  • vancia (69)
Titan va ouvrir un data center de 10 000 m² à Mougins (06)
« Réponse #35 le: 05 juillet 2015 à 12:34:41 »
Si l'alimentation électrique était si vitale, la vallée du Rhone aurait du etre envahie: 3 centrales nucléaires et des barrages hydroélectrique en 100km... Même côté fibre on est bien loti : CNR, ASF, SNCF...

Ben pourtant ça attire pas. Au contraire les DC s'implantent là où il y a... les clients. Donc l'IDF et les grandes agglos :)

Pour revenir au cas d'Online c'etait coup à pas de bol comme il arrive à tout le monde. J'ai eu un problème malgre 3 GE: l'automate, obsolète, s'etait coincé. Depuis on teste tous les mois. Mais parier sur la stabilité du reseau électrique c'est joueur, aucun gros client s'installerai. Comme je l'ai dit, seule la capacité est prise en compte.

Plutôt que des certifications Tiers on devrait faire une classification par points d'expérience.

A Lyon, ou je bosse (on ne fait pas de hosting, sauf en amateur pour nous)
EDF alimente nos postes MT/BT par un anneau.

On considère que l'on a deux source EDF, ou qu'un default majeur sur le ring peut le faire tomber ?

 

Mobile View