La Fibre

Datacenter et équipements réseaux => Datacenter => hébergement Datacenter => Discussion démarrée par: fanfouer le 31 janvier 2015 à 20:16:43

Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: fanfouer le 31 janvier 2015 à 20:16:43
Bonsoir,

Voici quelques photos du centre de calcul du CERN, retrouvé dans mes albums.
Il comporte un GIX où différents opérateurs viennent s'échanger leur trafic.

Les photos ne sont pas toutes nettes, faites avec un téléphone, blablabla, le lieu reste mythique

(https://lafibre.info/images/peering/201309_cixp_cern_1.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_2.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_2b.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_3.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_4.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_5.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_6.jpg)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: vivien le 31 janvier 2015 à 21:30:52
Que c'est haut de plafond !

Impressionnant.

Étonnant c'est arrivée d'air froid extérieur pour le point d'échange (CIXP) :
(https://lafibre.info/images/peering/201309_cixp_cern_2b.jpg)

A noter que le CERN n'est présent que sur ce GIX.

Donc à part K-Net et Adeli qui sont présents sur le GIX CIXP, les autres opérateurs français joignent le CIXP via du transit du CERN.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: Nico le 31 janvier 2015 à 21:40:24
Étonnant c'est arrivée d'air froid extérieur pour le point d'échange (CIXP) :
Cold corridor made in à la rache ?
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: BadMax le 31 janvier 2015 à 21:47:06
Cold corridor made in à la rache ?

J'ai pensé pareil :)

Ou éventuellement :
 - une densité différente (+ ou - élevée du fait du nombre différent d'équipement ?)
 - une clim spécifique pour la facturation ?
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: miky01 le 31 janvier 2015 à 23:25:34
Je peux pas te dire combien d'heures j'ai passé dans les 2 datacenter du CERN, a Meyrin et Prevesin,  :) :) :)

Pour le cooling il y a ce qu'il faut avec le LHC refroidit a -270°C !
Ils ont le plus gros système cryogénique du monde

(https://lafibre.info/images/peering/201309_cixp_cern_15.jpg)

Pour info le CERN utilise env 200Mw de consommation électrique, ils ont leurs ligne dédié, les quelques Kw utilisés pour le CXIP c'est des pinuts même pas compté dans frais généraux.

(https://lafibre.info/images/peering/201309_cixp_cern_16.jpg)

Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: fanfouer le 01 février 2015 à 14:23:51
Merci pour ces retours  ;)

La suite...

(https://lafibre.info/images/peering/201309_cixp_cern_7.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_8.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_9.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_10.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_11.jpg)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: fanfouer le 01 février 2015 à 14:26:32
Et quelques bonus

(https://lafibre.info/images/peering/201309_cixp_cern_12.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_13.jpg)

(https://lafibre.info/images/peering/201309_cixp_cern_14.jpg)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: acontios le 01 février 2015 à 14:38:45
200 MW, c'est une belle conso, à la mesure de leurs installations :-)
Effectivement, les quelques kW qu'utilisent probablement les équipements du CIXP (et même ceux utilisés par leurs membres) ne doivent pas leur changer grand chose, niveau facturation électrique...

Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: cali le 02 février 2015 à 18:23:42
Il y pas beaucoup de trafic ou bien beaucoup d'interconnexions privées.

http://cixp.web.cern.ch/
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: cali le 02 février 2015 à 18:27:39
Je viens de voir aussi qu'il y a un AS de Orange qui est sur le route server, intéressant.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: miky01 le 02 février 2015 à 18:54:08
Et oui ils avaiaient deja des connections 10Gbs il a plus de 15 ans, quand nos opérateurs nous prosait du modem a 56k, ou de l'ADSL 512k pour les chanceux  :)

Il n'ont pas inventé que le WEB, mais aussi les connections FO tres hautes vitesses, et a un époque ou il existait aucune carte FO sur le marché pour les serveurs, dévelopées dans leurs labs.

Qques infos sur la technologie impressionant qu'il y a sur leurs 2 sites:

http://www.swissinfo.ch/fre/le-cern-inaugure-son-superordinateur-plan%C3%A9taire/533198
http://press.web.cern.ch/fr/press-releases/1999/10/demonstration-au-cern-du-standard-de-reseau-le-plus-rapide-du-monde
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: vivien le 02 février 2015 à 18:59:49
Trafic pic de 2,75 Gb/s pour le CIXP, c'est effectivement un petit GIX.
Pour donner une comparaison, c'est même pas le trafic pour les mises à jour de sécurité d'Ubuntu pour la France.

Je trouve ça étonnant que Orange France soit présent, car même si tu respectes le ratio en peering privé, ils demandent 5 Gb/s minimum de trafic réel pour monter le lien. Ils proposent peut-être une offre de transit sur le CIXP pour les membres intéressés (comme sur LyonIX ou Orange a 2 x 10 Gb/s mais ne peer pas sauf rares exceptions)

K-Net qui est sur le CIXP n'arrive pas a peerer avec Orange (que ce soit AS3215, AS5511, AS25113 ou AS28708)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: cali le 02 février 2015 à 19:05:10
K-Net qui est sur le CIXP n'arrive pas a peerer avec Orange (que ce soit AS3215, AS5511, AS25113 ou AS28708)

Il faut qu'ils regardent AS6853.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: acontios le 02 février 2015 à 19:07:36
Oui, bah, pour ce qui concerne Orange, deux ASN de semblent raccordés:

Opentransit (France Telecom Network Services Switzerland)
Orange Business Services - GIBN

--> Le premier, tu peux rêver pour peerer avec eux, ils ne peerent qu'avec des tiers-1 et assimilés. Ils doivent surement être raccordés à l'IX et avoir des sessions de backup de leurs PNIs, par exemple avec KPN, ou UPC-Cablecom
--> Le deuxième,  c'est sûrement un des multiples AS d'Equant, ils ne font quasiment pas de traffic sur Internet (mais beaucoup de traff interne).

Bref, pas de quoi s'émouvoir de leur présence :)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: cali le 02 février 2015 à 19:18:08
Il ne faut pas avoir honte d'oser s'appeler "OpenTransit" quand on a une politique pareille.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: acontios le 02 février 2015 à 19:21:52
OpenPeering c'est déjà pris :-))
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: vivien le 02 février 2015 à 19:24:59
AS6853 n'est même pas dans le top 550 des AS de K-Net ( https://as24904.kwaoo.net/as-stats/top.php ) donc je pense que le trafic est quasi nul vers un opérateur grand public.

Opentransit doit vendre du transit via le CIXP a des AS présentes, voir même au CERN.

Non, Orange ne backup pas des PNI par des GIX.

Le moindre PNI avec Opentransit, c'est plusieurs centaines de Gb/s, donc il n'est pas intéressant de backuper ça sur un GIX.
Le backup est obligatoire et il se fait en montant au moins un second PNI dans une autre ville.

A noter que comme le prix des GIX est au port et non au volume échangé, dès que l'opérateur est un peu gros, il ne backup pas sur des GIX, cela obligerais a payer tous les mois des ports supplèmentaires en cas de panne. C'est bien moins onéreux de faire ça sur un transitaire.

On en déjà parlé, mais pour un opérateur comme SFR, le prix au Mb/s sur un GIX (en partant d'une utilisation du port a 50%) est très proche, voir plus cher que le prix au Mb/s d'un transitaire low-cost.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: acontios le 02 février 2015 à 19:33:15
Non, Orange ne backup pas des PNI par des GIX.

Le moindre PNI avec Opentransit, c'est plusieurs centaines de Gb/s, donc il n'est pas intéressant de backuper ça sur un GIX.
Le backup est obligatoire et il se fait en montant au moins un second PNI dans une autre ville.

Renseigne-toi, c'est plutôt une pratique assez commune pour les tier-1 (ou assimilés), de backuper les PNI sur une même zone géographique au moyen d'un IX.

Ca évite (ou permet):

1- De devoir "faire le tour" par d'autres pays en cas de problème sur le PNI. Sachant que les PNI d'autres pays ont déjà du traf en nominal, ca peut poser des soucis de capacity planning
2- De mutualiser une (ou plusieurs) interfaces de routeur pour backup plusieurs PNIs "locaux" (surtout sur les gros IXPs type AMS-IX/Linx/De-CIX)

Je ne parle evidemment pas des réseaux domestiques de Orange.

(et dans le cas présent, c'est peut être aussi un  autre moyen pour s'interconnecter avec l'AS d'equant en plus du reste).
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: Optrolight le 11 mai 2017 à 13:49:28
Un petit tour en drône pour la visite ?

https://youtu.be/dMwP7nEuDGA
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: BadMax le 11 mai 2017 à 19:33:14
Impressionnant... le guidage radio FPV est resté actif même depuis l'extérieur !
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: Nico le 11 mai 2017 à 19:41:18
Il devait pas être à 25mW :).

(cela dit il était pas en FR, je connais pas la réglementation CH)
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: miky01 le 11 mai 2017 à 21:33:40
Tres belle video, merci

A noter que si c'est la partie Suisse a Meyrin, l'autre moitié du DC et la salle de controle du LHC tout aussi impressionnant, sont sur France a Prevesin, mais de toute facon le territoire du CERN est considéré comme un territoire diplomatique comme une ambassade,

qui est le owner pour la legislation ?
j'en sais rien comme c'est une association de plusieurs pays...

Le management, les services,  comme comme le centre des pompiers ont des voitures avec des plaques CD.
C'est aussi assez marrant de voir que tu peux entrer sur le site coté Francais et ressortir coté Suisse... pas mal pour la contrebande  :)
Mais il y a quand meme la douane qui surveille.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: Leon le 14 juin 2017 à 18:47:33
Impressionnant... le guidage radio FPV est resté actif même depuis l'extérieur !
Notez que dans la 2ieme salle plus étroite, le drone était probablement tenu/baladé à la main, avec des "effets vidéo à la con" pour tenter de masquer ça.

Leon.
Titre: Le centre de calcul du CERN et son GIX : le CIXP
Posté par: Nico le 14 juin 2017 à 20:27:08
Effectivement on voit les deux transitions et on ressent les pas de la personne qui le tient :)