La Fibre
Fournisseurs d'accès à Internet fixe en France métropolitaine => Opérateurs grand public alternatifs =>
MilkyWan => Discussion démarrée par: Hugues le 27 mars 2026 à 13:34:12
-
Hello !
Nouvelle année, nouveaux upgrades :)
Au menu cette année :
- Remplacement de tous nos Arista 7050/7060 par des Arista 7280SR. L'objectif : Avoir du 100G sur tous les PoP
- Suppression des switchs d'agrégation (Cisco 4500-X) : On gagne 1U, quelques centaines de watts et on simplifie le design :)
- Suppression des filers pour l'hébergement des VM : dc2scale passe en full NVMe (VNX et CBO étaient déjà full SSD SATA)
- Remplacement progressif de tous nos serveurs annexes encore en DDR3 (Speedtest par exemple) pour des serveurs en DDR4.
- Nouveaux serveurs de backup sur chaque pop : On a acheté 2 R740 pour D2S et CBO pour y mettre des Proxmox Backup Server
- Ajout de serveurs de console série (Opengear) sur D2S/CBO à la fois pour nos routeurs et pour ceux des abonnés dans la baie :)
- Câblage de 2x10G supplémentaires sur chaque ASR1001-X (pour un total de 30G) pour séparer la partie internet de la partie collecte (le 3ème port 10G sera en rab au cas où)
- Upgrade a 100G de nos liaisons avec Eurofiber (ex appliwave) à CBO, D2S suivra quand j'aurais récupéré les bonnes optiques 100G
- Upgrade à venir aussi de notre transit FiberWay en 100G au lieu de 40G
- Mise en place de routeurs 4G sur chaque POP comme OOB (on abandonne le wifi des datacenter et les OOB des copains, trop volatile et difficile à standardiser)
Bref, pas mal de boulot pour une infra qui est toujours au top (avec des dispos qui n'ont rien à envier a de gros ISP Pro)
Je vous laisse avec des petites photos des pop de D2S et CBO :
(http://pix.milkywan.fr/nr2l9B0z.jpeg)
(http://pix.milkywan.fr/ul6WfZGZ.jpeg)
-
Je suis content de voir que le projet MilkyWan va toujours de l'avant.
Une question de newbie sur le Out-of-Band sur 4G. Juste pour ma culture.
Comment ça fonctionne dans la pratique, en terme de configuration réseau ? C'est un bête accès 4G je suppose, donc derrière un CG-NAT, qui n'accepte pas les connexion entrantes en IPv4 et IPv6.
Si c'est ça, vous mettez un client VPN local au POP, qui se connecte à un (ou plusieurs?) serveur VPN distant et indépendant de l'AS MilkyWan par exemple?
Serveur VPN auquel ont accès tous les utilisateurs.
Autre question : vous limitez volontairement le trafic Out-of-Band des quelques utilisateurs? Ou alors ils utilisent tous ça en "bon père de famille" et ça suffit?
Leon.
-
Hello !
C'est des accès 4G facturés au gigaoctet (donc quand il n'y a pas de conso, ça nous coute 1€/HT/mois en gros) sur lesquels on monte un tunnel L2TP vers une VM en dehors de notre réseau qui concentre tous les OOB de tous les POP. Quand on a besoin d'accéder à l'OOB, on monte un VPN sur cette VM et hop :)
Autre question : vous limitez volontairement le trafic Out-of-Band des quelques utilisateurs? Ou alors ils utilisent tous ça en "bon père de famille" et ça suffit?
Il y'a une petite subtilité : L'OOB des serveurs des abonnés est sur notre réseau (le routeur de management a deux VRF en gros). L'objectif pour eux c'est de récupérer la main si ils cassent leur réseau, si le nôtre est cassé, c'est pas un OOB qui sauvera les choses :p
-
Il y'a une petite subtilité : L'OOB des serveurs des abonnés est sur notre réseau (le routeur de management a deux VRF en gros). L'objectif pour eux c'est de récupérer la main si ils cassent leur réseau, si le nôtre est cassé, c'est pas un OOB qui sauvera les choses :p
Merci Hugues, c'est logique; l'OoB d'un serveur et l'OoB d'un réseau, ça n'est pas la même chose, ni la même utilité.
Ca veut dire que chaque serveur série Avocent local est connecté sur deux sous-réseaux simultanément? Réseau OoB réseau, et réseau OoB serveur?
Leon.
-
En IPv6 sur le réseau MW, en IPv4 sur le réseau OOB ;)
-
Avocent
Pardon c'est des Opengear, je confonds avec ce que j'ai sur nine et chez des clients :p
-
bravo
-
En IPv6 sur le réseau MW, en IPv4 sur le réseau OOB ;)
Effectivement, c'est malin comme astuce. Détourner le "dual stack" de tes serveurs série pour les connecter simultanément à 2 réseaux indépendants.
Leon.
-
Et hop, petite intervention dans notre nouvelle baie à UltraEdge Venissieux hier :)
Au menu :
- Passage d'un Arista 7050SX a un Arista 7280SR
- Ajout d'un terminal console série OpenGear
- Rack d'un nouveau serveur pour lafibre.info (je compte sur vous pour garder le secret !)
- Un peu de ménage avec mise en place de cache U et de passe poils pour les câbles
(http://pix.milkywan.fr/2eF0P20Y.jpeg)
Il ne reste plus que deux routeurs à upgrader dans le réseau, ça sera normalement chose faite d'ici la fin de semaine :)
-
PS : Quelques photos bonus d'ensemble :)
(http://pix.milkywan.fr/v6dvl8EW.jpeg)
(http://pix.milkywan.fr/rxgPGvnq.jpeg)
-
C'est très propre !
Arrivez-vous à trouver le serveur actuel de LaFibre.info dans la photo ?
-
Merci d'améliorer notre Internet
-
C'est très propre !
Arrivez-vous à trouver le serveur actuel de LaFibre.info dans la photo ?
Tout feu tout flammes !
-
Le Mikrotik Chateau arrive à capter quelque chose dans sa cage de faraday? Vous avez peut-être déporté les antennes sur le toit de la baie?
Pour le serveur lafibre.info, 2 questions:
1) il n'y avait pas comme projet de changer le hardware vieillissant?
2) ça ne serait pas plus logique de le rapatrier en Région Parisienne, pour que Vivien puisse y accéder rapidement si besoin?
Leon.
-
C'est le message de Hugues :
- Rack d'un nouveau serveur pour lafibre.info (je compte sur vous pour garder le secret !)
En plus du serveur actuel (Dell PowerEdge R210 II), c'est le même en baie que celui ci-dessous, avec l'étiquette "tout feu tout flammes !"
(https://lafibre.info/images/adeli/202302_28mars2023_serveur_lafibre.webp)
Il y aurait le prochain serveur du forum (là, je ne sais pas lequel c'est).
C'est plus l'absence de double alimentation qui a motivé le changement, il me semble. Merci Hugues pour ce nouveau serveur.
Avec un accès par KVM, il n'y a pas de nécessité d'être situé à coté du serveur.
Je vais en profiter, avant la migration de mettre à jour SMF vers la nouvelle version majeure, ce qui permettra de mettre une version plus récente d'Ubuntu server.
-
Le Mikrotik Chateau arrive à capter quelque chose dans sa cage de faraday? Vous avez peut-être déporté les antennes sur le toit de la baie?
Non du tout, ça capte bien car SFR a une couv indoor dans le netcenter je pense :)
-
Salut salut !
Depuis ce message on a fait 2-3 petits trucs :
UltraEdge Venissieux
Dans la baie MW :
(http://pix.milkywan.fr/KssySYVq.jpeg)
- Changement du vieux switch de management Cisco 2960G (le plus ancien matériel du réseau !) par un Mikrotik CRS326 tout neuf
- Upgrade du lien 40G vers notre routeur dans la baie Netsyst en 100G
Dans la baie Netsyst :
(http://pix.milkywan.fr/719pIiys.jpeg)
- Déménagement de tout notre matériel dans notre baie mentionnée précédemment ::)
- Migration d'un Arista 7050QX-32S vers un Arista 7280SR
- Ajout d'un 100G vers nine
- Migration de 40G vers 100G vers Kissgroup
- Migration de divers 10G avec Netsyst vers un 100G
Dans la baie Eurofiber :
(http://pix.milkywan.fr/vKoh56Vc.jpeg)
- Migration d'un ASR1002 vers un ASR1001-X avec 3x10G
CIXP Genève
(http://pix.milkywan.fr/LpOdWhwv.jpeg)
- Migration d'un ASR1001 à un ASR1001-X avec 3x10G
KDDI Leon Frot (Paris 11)
(pas de photo, désolé :-X)
- Migration d'un Arista 7060SX2 vers un Arista 7280TR
-
Je vais en profiter, avant la migration de mettre à jour SMF vers la nouvelle version majeure, ce qui permettra de mettre une version plus récente d'Ubuntu server.
As-tu une idée de la période de déploiement prévue pour cette nouvelle version majeure de SMF ?
-
Mai 2026 normalement.
-
Bravo Hugues, c'est une très belle installation ! Concernant la fiabilité du matériel que tu déploies, rencontres-tu des soucis particuliers à l'usage ? Jusqu'à quelle durée de vie pousses-tu tes équipements ? Pour comparaison, j'ai vu qu'Infomaniak maintenait ses serveurs Dell en production pendant 15 ans.
-
Hello,
On les déploie jusqu'a ce qu'on ait les moyens (et l'usage) de mieux :)
Pour les serveurs par exemple, on fait la chasse aux serveurs DDR3 en ce moment histoire de tout passer DDR4.
L'intérêt de migrer c'est d'avoir des serveurs plus performants et qui consomment bien moins à perf équivalente (changement de RAM veut dire changement de génération CPU aussi)
Concernant le matériel réseau, c'est principalement les features un peu légères des 7050/7060 et l'absence de ports 100G (sur les 7050) qui nous ont poussé à les retirer.
-
N'empêche, ça doit être l'enfer pour vous avec les prix de la RAM en ce moment...
-
Non du tout, on doit avoir 10 serveurs max en prod chez MilkyWan et on a tout upgradé (ou récupéré/acheté puis stocké) bien avant tout ce bazar de ram :)