Auteur Sujet: MilkyWan - AS2027  (Lu 152218 fois)

0 Membres et 1 Invité sur ce sujet

Leon

  • Client SFR sur réseau Numericable
  • Modérateur
  • *
  • Messages: 5 983
MilkyWan - AS2027
« Réponse #384 le: 01 mai 2021 à 09:13:12 »
Quelle aventure, c'est juste dingue.
Un opérateur associatif avec un vrai réseau WAN, présent sur 8 POPs (pas juste TH2 comme beaucoup), avec des liens backbone de 10Gb/s, c'est assez impressionnant.
Un MAN parisien 100% allumé par vos propres moyens, avec des lambda de 10 ou 25Gb/s, ça serait encore plus dingue.
Si on t'avait dit il y a 5 ans que MilkyWan en serait là aujourd'hui, tu y aurais cru?
Nous exploitons donc un backbone assez varié, avec du 10G et du 25G. Il est pur IP (pas de MPLS, de SR ou autre), Il est drivé par un control plane doté d’une part d’ OSPF en IPv4 et… des routes statiques en IPv6. En effet, l’implémentation de MikroTik d’OSPFv3 étant complètement cassée au niveau des routes récursives et rend le machin impossible à utiliser avec iBGP. OSPFv3 est néanmoins installé et fonctionnel, il sert à l'interco avec les Brocade, Cisco et autres matériels qui fonctionnent correctement. Et d’autre part iBGP, avec les 3 CCR2004 comme RR. Nous n'apprenons plus la fullview, les CCR sont trop peu réactifs avec. Mais quand les 3 CCR2004 auront dégagé des POP centraux, on remettra la full !
Par rapport à ça, j'avoue mon ignorance technique pour pouvoir comprendre le truc.
Les CCR2004 bouffent des liens de transit depuis vos fournisseurs de transit, donc full view, non? Comment est-il possible de "ne pas leur faire apprendre" dans ces conditions ?

Pour la partie Full-View, ils balance juste les info de routage au routeur suivant, sans s'en servir eux mêmes? Un peu comme le ferait un "route reflector"?
Du coup, pour les IP destination que les CCR2004 n'ont pas dans leur table de routage, les CCR2004 ont une route par défaut vers un routeur interne plus "capable" (un Cisco)? 

Ou alors c'est encore plus simple, et pour chaque routeur tu mets simplement une "route par défaut" vers un de tes transitaire fiable?

Leon.
« Modifié: 01 mai 2021 à 09:35:25 par Leon »

Hugues

  • AS2027 MilkyWan
  • Modérateur
  • *
  • Messages: 12 439
  • Lyon (69) / St-Bernard (01)
    • Twitter
MilkyWan - AS2027
« Réponse #385 le: 01 mai 2021 à 10:44:16 »
Un MAN parisien 100% allumé par vos propres moyens, avec des lambda de 10 ou 25Gb/s, ça serait encore plus dingue.
C'est clair :D
On est en train de progressivement bosser sur le sujet, en commençant par les liaisons les plus longues pour voir ce qu'on peut faire :)
Petit teasing : on va faire pareil sur le MAN à Lyon, et avec de la diversité, s'il vous plait !

Si on t'avait dit il y a 5 ans que MilkyWan en serait là aujourd'hui, tu y aurais cru?
Non, clairement pas. On a aussi eu beaucoup de chance de tomber sur Julien d'Appliwave qui a tout de suite cru au projet et nous a plus ou moins fait openbar sur son réseau, ce qui nous a permis de développer rapidement la première mouture du réseau, qui a permis de construire tout le reste :)

Ou alors c'est encore plus simple, et pour chaque routeur tu mets simplement une "route par défaut" vers un de tes transitaire fiable?

C'est quasiment ça, mais en un peu plus élaboré :
- Sur les 3 POP Edge, on prend la default de chacun de nos transitaires (en v4, en v6 c'est fullview)
- AppliWave est privilégié parce qu'il fallait bien définir arbitrairement quelque chose et qu'on a beaucoup de commit chez eux
- J'apprends cependant les routes de certains AS (par exemple Orange, Free) depuis certains transits, pour faire un peu de trafic engineering et sortir par des endroits parfois plus pertinents (Par exemple, sortir Orange depuis le transit OTI de FiberWay et pas par Hopus)

À noter qu'on apprend toutes les routes de tous nos IXP, à l'exception d'HE que j'ai dégagé parce que leurs routes sont trop mauvaises.

Pour te donner une idée, voilà en gros le filtre qu'on a en entrée d'AppliWave à TH2, par exemple :


- Free/Orange sont appris avec une localpref de 120 (pour forcer le trafic par là, même si pour Orange ça passe ailleurs, j'ai du mettre plus, je regarderai)
- Les routes originées par AppliWave sont apprises avec une localpref de 400 (identiques à un peering), pour éviter de joindre AppliWave par un IXP
- La route par défaut est apprise avec la localpref la plus basse, 100

Hugues

  • AS2027 MilkyWan
  • Modérateur
  • *
  • Messages: 12 439
  • Lyon (69) / St-Bernard (01)
    • Twitter
MilkyWan - AS2027
« Réponse #386 le: 01 mai 2021 à 10:49:22 »
Et du coup, pourquoi on apprend plus la fullview sur les CCR2004 :

Autant pour converger, c'est super rapide, tu peux bouffer 4 full en 30 secondes, voir moins.
Par contre, pour supprimer les routes, c'est une autre affaire, ça peut prendre jusqu'à 1h dans certains cas (gros flap avec suppression / reconvergence / insertion / reconvergence), et le temps est exponentiel. Là on a 100k routes, ça prend généralement moins de 10s, dans le pire des cas, 2 minutes.

Bref, avoir un réseau qui marche bien quand tout va bien, mais qui ne marche pas quand tout ne va pas bien, ça n'a strictement aucun intérêt, donc autant sacrifier la full, ce qui n'émeut que les clients transit ipv4, qui sont une minorité de nos abonnés.

Pour plus d'infos sur les temps de convergence BGP, mes tests ici sont je pense édifiants :  https://forum.mikrotik.com/viewtopic.php?t=161044

renaud07

  • Abonné Orange adsl
  • *
  • Messages: 3 367
MilkyWan - AS2027
« Réponse #387 le: 01 mai 2021 à 21:50:00 »
Que de chemin parcouru ! Franchement chapeau  :)

C'est là aussi que je me rends compte que mes compétences en réseau sont ridicules à côté (même en apprenant de nouveaux trucs presque tous les jours).

Et ces photos... je bave littéralement devant  ;D

Leon

  • Client SFR sur réseau Numericable
  • Modérateur
  • *
  • Messages: 5 983
MilkyWan - AS2027
« Réponse #388 le: 08 mai 2021 à 07:25:10 »
Salut.
En regardant les caractéristiques des VM sur le site, je lis
VM SSD
[...]
VM SSD NVMe envisageable si demandes suffisantes


Est-ce qu'il faut comprendre qu'actuellement, vos SSD sont en SATA? 
Pourquoi ne pas passer directement en NVMe?

Sur des hosts avec des dizaines de VM, le NVMe apporte quand même un gros plus, non?
C'est parce que c'est trop cher? Plus compliqué de faire du hot-swap en NVMe?

Leon.

Hugues

  • AS2027 MilkyWan
  • Modérateur
  • *
  • Messages: 12 439
  • Lyon (69) / St-Bernard (01)
    • Twitter
MilkyWan - AS2027
« Réponse #389 le: 08 mai 2021 à 10:37:42 »
Est-ce qu'il faut comprendre qu'actuellement, vos SSD sont en SATA? 
Oui

C'est parce que c'est trop cher? Plus compliqué de faire du hot-swap en NVMe?

Voilà, pour ces deux raisons. Le nvme hot swap existe, mais il faudrait changer au minimum de carte RAID sur les serveurs.
Et franchement, je trouve que les SSD SATA suffisent largement a nos usages :)

vivien

  • Administrateur
  • *
  • Messages: 47 170
    • Twitter LaFibre.info
MilkyWan - AS2027
« Réponse #390 le: 09 mai 2021 à 21:46:13 »
C'est plutôt récents les SSD NVMe pour les serveurs.

Il y a 4 ans chez Dell, pour un PowerEdge R330, on avait le choix entre SSD SATA et SSD SAS plus haut de gamme (pas testé, c'était le double de prix).

Invarion

  • Abonné MilkyWan
  • *
  • Messages: 131
  • Montpellier 34
MilkyWan - AS2027
« Réponse #391 le: 09 mai 2021 à 21:53:33 »

vivien

  • Administrateur
  • *
  • Messages: 47 170
    • Twitter LaFibre.info
MilkyWan - AS2027
« Réponse #392 le: 10 mai 2021 à 12:47:38 »
J'ai été voir chez Dell en 2021, pour un PowerEdge R340, un serveur mono socket Intel 1u populaire : Pas de SSD NVMe

Il est proposé en SSD :

SAS SSD
- 4 015,00 € 3.84TB SSD vSAS Mixed Use 12Gbps 512e 2.5in w/3.5in HYB CARR Hot-Plug AG Drive, 3 DWPD
- 2 047,00 € 1.92TB SSD vSAS Mixed Use 12Gbps 512e 2.5in with 3.5in HYB CARR Hot-Plug AG drive,3 DWPD
- 1 067,00 € 960GB SSD vSAS Mixed Use 12Gbps 512e 2.5in with 3.5in HYB CARR Hot-Plug AG drive,3 DWPD
- 5 798,00 € 7.68TB SSD vSAS Read Intensive 12Gbps 512e 2.5in with 3.5in HYB CARR Hot-Plug AG Drive, 1 DWPD
- 753,00 € 960GB SSD vSAS Read Intensive 12Gbps 512e 2.5in with 3.5in HYB CARR Hot-Plug AG drive, 1 DWPD

SATA SSD
- 2 204,00 € 3.84TB SSD SATA Read Intensive 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 1 DWPD,
- 1 634,00 € 1.92TB SSD SATA Mix Use 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 3 DWPD,
- 1 264,00 € 1.92TB SSD SATA Read Intensive 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 1 DWPD,
- 864,00 € 960GB SSD SATA Mix Use 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 3 DWPD,
- 678,00 € 960GB SSD SATA Read Intensive 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 1 DWPD,
- 424,00 € 480GB SSD SATA Mix Use 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 3 DWPD,
- 367,00 € 480GB SSD SATA Read Intensive 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 1 DWPD,

Je trouve cela super cher, les prix sont HT.

Si on part sur de un mono socket AMD 1u, là oui, le NVMe est proposé :

PCIe/NVMe SSD
- 6 690,00 € 7.68TB, Enterprise, NVMe, Read Intensive, U2, G4, P5500 with carrier
- 6 655,00 € 7.68TB Enterprise NVMe Read Intensive AG Drive U.2 Gen4 with carrier
- 6 156,00 € 6.4TB, NVMe, Mixed Use Express Flash, 2.5 SFF Drive, U.2, G3, P4610 with Carrier
- 6 023,00 € 750GB, NVMe, Ultra Performance Express Flash, 2.5 SFF Drive, U.2, G3, Optane with Carrier
- 5 389,00 € 6.4TB Enterprise NVMe Mixed Use AG Drive U.2 Gen4 with carrier
- 4 490,00 € 3.84TB, Enterprise, NVMe, Read Intensive, U2, G4, P5500 with carrier
- 4 488,00 € 4TB, NVMe, Read Intensive Express Flash, 2.5 SFF Drive, U.2, G3, P4510 with Carrier
- 4 136,00 € 3.2TB, NVMe, Mixed Use Express Flash, 2.5 SFF Drive, U.2, G3, PM1725b with Carrier
- 3 322,00 € 3.84TB Enterprise NVMe Read Intensive AG Drive U.2 Gen4 with carrier
- 3 322,00 € 3.84TB NVMe, Data Center Read Intensive Express Flash, 2.5in with Carrier SFF U.2, G3, AG Drive
- 3 123,00 € 3.2TB, Enterprise, NVMe, Mixed Use, U2, G4, P5600 with carrier
- 3 123,00 € 3.2TB, NVMe, Mixed Use Express Flash, 2.5 SFF Drive, U.2, G3, P4610 with Carrier
- 3 065,00 € 375GB, NVMe, Ultra Performance Express Flash, 2.5 SFF Drive, U.2, G3, Optane with Carrier
- 2 855,00 € 3.2TB Enterprise NVMe Mixed Use AG Drive U.2 Gen4 with carrier
- 2 022,00 € 1.92TB, Enterprise, NVMe, Read Intensive, U2, G4, P5500 with carrier
- 1 933,00 € 1.6TB, Enterprise, NVMe, Mixed Use, U2, G4, P5600 with carrier
- 1 933,00 € 1.6TB, NVMe, Mixed Use Express Flash, 2.5 SFF Drive, U.2, G3, P4610 with Carrier
- 1 723,00 € 1.92TB Enterprise NVMe Read Intensive AG Drive U.2 Gen4 with carrier
- 1 499,00 € 1.6TB Enterprise NVMe Mixed Use AG Drive U.2 Gen4 with carrier
- 848,00 € 960GB NVMe, Data Center Read Intensive Express Flash, 2.5in with Carrier SFF U.2, G3, AG Drive

Si on compare du "Read Intensive", donc un SSD classique, sous-entendu ou les écritures sont limitées, on a pour 960 Go :
- 848,00 € 960GB NVMe, Data Center Read Intensive Express Flash, 2.5in with Carrier SFF U.2, G3, AG Drive
- 753,00 € 960GB SSD vSAS Read Intensive 12Gbps 512e 2.5in with 3.5in HYB CARR Hot-Plug AG drive, 1 DWPD
- 678,00 € 960GB SSD SATA Read Intensive 6Gbps 512 2.5in Hot-plug AG Drive,3.5in HYB CARR, 1 DWPD,

Le NVMe est plus cher que le SAS et le SATA mais cela reste raisonnable. Par contre je ne comprends pas du tout le prix de 678 € HT pour un SSD SATA de 1 To de base.

J'en profite pour raller sur l'interface de configuration d'un serveur Dell, c'est pas accessible. Des options au début change tout et difficile de mettre la configuration que l'on souhaite.

Leon

  • Client SFR sur réseau Numericable
  • Modérateur
  • *
  • Messages: 5 983
MilkyWan - AS2027
« Réponse #393 le: 10 mai 2021 à 21:27:09 »
C'est plutôt récents les SSD NVMe pour les serveurs.

Il y a 4 ans chez Dell, pour un PowerEdge R330, on avait le choix entre SSD SATA et SSD SAS plus haut de gamme (pas testé, c'était le double de prix).
Je dirais le contraire. Les NVMe sont d'abord apparus pour les serveurs. Bien avant que les NVMe soient accessibles aux particuliers (format M.2).
C'est bien sur les serveurs qu'il est le plus utile de faire des IOPS à gogo, ce qu'offre les NVMe.
Les NVMe sont d'abord apparus sous forme de simples cartes PCIe, avant que des vrais standards apparaissent (U.2).
Ca fait maintenant plus de 5 ans que ces standards sont répandus côté serveurs.

Mais OK, je comprends les contraintes de MilkyWan, pas de problème.

Leon.

phalanx

  • Abonné Bbox fibre
  • *
  • Messages: 43
  • Grenoble 38000
MilkyWan - AS2027
« Réponse #394 le: 28 mai 2021 à 17:36:55 »
2 curiosité sur vos outils infra :

Sur le smokeping de Milkywan le module/partie traceroute/mtr c'est fait maison ou c'est un addon officiel ?
Je le trouve bien pratique

Votre weathermap est basé sur quoi ? php weathermap ?  Network Weathermap ?
merci

Hugues

  • AS2027 MilkyWan
  • Modérateur
  • *
  • Messages: 12 439
  • Lyon (69) / St-Bernard (01)
    • Twitter
MilkyWan - AS2027
« Réponse #395 le: 28 mai 2021 à 17:44:51 »
Hello,

Addon maison :)

Php-weathermap