Auteur Sujet: Problème étrange MTU MSS ?  (Lu 4551 fois)

0 Membres et 1 Invité sur ce sujet

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« le: 30 juin 2023 à 09:08:22 »
Bonjour à tous,

Je voudrais savoir si vous avez déjà rencontré ce genre de problème.

Ma config : fibre orange 2Gb/s > ONU FS.com > CRS 305 > CCR 2116 > Intel x550 (server Archlinux)

Tout fonctionne parfaitement depuis quelques temps, aussi bien en sortie (server > internet), qu’en entrée (internet > server).

J’héberge qques services sur mon serveur comme des serveurs web (nginx), du WebDAV (rclone), vpn (ovpn et wg), reverse proxy (nginx), domotique (jeedom/ipx800), etc…

Cette je suis parti en vacances qques jours et j’ai remarqué un pb assez curieux,. Mes téléphones (moi, épouse et enfants) sont chez Bouygues Telecom, et lorsque de mon téléphone je voulais joindre l’un de mes services auto-hébergé c’était super lent ou même impossible par moment (14s pour un POST json en HTTPS).

Dans un premier temps, j’ai mis cela sur la mauvaise qualité du réseau 5G / 4G local. Mais même lorsque je captais bien, même problème. Je me suis alors connecté à un wifi, plus de problème tout redevient normal et répond parfaitement. Bien sûr lorsque je suis par chez moi, dans ma région, en 4G ou 5G pas de problème.
Les autres sites web (Google, etc…) fonctionnent parfaitement lorsque je suis en 5G/4G sur mon lieu de vacances. Seuls mes services auto-hébergés ont un problème.

Symptôme révélateur, lorsque je mon monte mon tunnel vpn WireGuard (UDP) hébergé sur Mikrotik CCR2116, plus de problème, tous les services répondent bien. Lorsque je monte mon tunnel WireGuard (UDP aussi) sur mon server (Archlinux), le tunnel monte mais les services fonctionnent très mal ou pas du tout (comme hors tunnel).

J’ai réfléchi un peu (ça m’arrive), et je pense avoir un problème de MTU / MSS.
A partir de mon téléphone (pas facile), j’ai réussi à faire un tcpdump sur le serveur. J’ai pris 2 traces, la premières lorsque mon tel est en wifi (et que tout fonctionne), et une seconde trace lorsque je suis en 5G (fonctionne mal/pas).
J’ai essayé de faire un petit grep de mtu|mss sur les traces (mais sur l’écran de téléphone dans un terminal ssh, pas simple), j’ai vu un mss de 1460 en wifi et 1390 en 5G. Une piste ?

La carte reseau de mon server Archlinux est une Intel x550 en 10Gb sur mon CCR 2116, avec les paramètres MTU par défaut.

Sur CCR 2116 MTU 1500 ; L2 MTU 1584 ; Max L2 MTU 9570
Sur le server : MTU 1500 (ip addr show dev)

Je fais peut être fausse route… Le plus curieux dans tout cela est que lorsque je suis dans ma région en 4G/5G pas de problème. Je ne vois pas pourquoi le même opérateur (Bouygues) aurait des MTU / MSS différents.

Merci pour votre aide…

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #1 le: 30 juin 2023 à 11:47:21 »
Petit test à partir de mon téléphone (iPhone) pour tenter de déterminer la MTU : Ping -s xxx 1.1.1.1
En 5G, xxxx = 1400 maximum, au dessus ça ne passe pas
En wifi xxxx = 1460 maximum, au dessus ça ne passe pas

Je suis peut à côté de la plaque en focalisant sur la MTU, mais du coup j’ai un gros doute, dois - je modifier la MTU sur l’interface WAN de mon server ou le routeur pour ne pas avoir de problème avec certains clients en mobilité 4G/5G ?

Merci

levieuxatorange

  • Expert Orange
  • Expert
  • *
  • Messages: 169
Problème étrange MTU MSS ?
« Réponse #2 le: 30 juin 2023 à 14:00:50 »
Bonjour

Je ne connais pas bien la mécanique de raoming (si tu es à l'étranger) et donc de la MTU max dont tu disposes.

Tu peux aussi avoir une liaison en PPP et donc perdre une partie de tes 1500 octets.

Préco :
- adresse de service "externe" : réduire la MTU
- adresse de service "interne" rester à 1500

It is generally recommended that the MTU for a WAN interface connected to a PPPoE DSL network be 1492. In fact, with auto MTU discovery, 1492 is discovered to be the maximum allowed MTU. However, having an MTU of 1452 is most optimal.

PS : passer en IPv6 c'est géré par le protocole :)

LeVieux

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #3 le: 30 juin 2023 à 14:04:42 »
Hello,

Je suis toujours en France, simplement changé de région.
Mon opérateur est Bouygues sur mes mobiles.
Ce qui signifie que je suis en ipv6 natif et il y a un tunnel ipv6 > ipv4 pour atteindre mes services hébergés.

Tout semble bien fonctionner jusqu’au routeur CCR 2116 mais jusqu’au serveur.

iMarco27

  • Abonné Orange Fibre
  • *
  • Messages: 1 421
Problème étrange MTU MSS ?
« Réponse #4 le: 30 juin 2023 à 14:23:40 »
Hello,

est-ce-que ICMP est filtré sur ton réseau ? C'est nécessaire pour PMTUd, mécanisme je pense important pour les liaisons non standard 1500. Après aucune idée de comment ça se transpose sur un téléphone mobile.

Personnellement sur les liaisons S2S itinérantes que je monte sur des 4G, je dois mettre une MSS calculée à partir de la MTU pour pouvoir faire passer le trafic TCP correctement, en UDP je dois régler la MTU de l'interface physique (avec la technique du ping comme tu expliques)

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #5 le: 30 juin 2023 à 15:11:59 »
Je vais regarder pour l’icmp.
Ce qui me dérange est que même le tunnel WireGuard en UDP fonctionne mal, enfin ce qui est encapsulé dedans.
Lorsque le tunnel est monté avec le routeur, pas de pb.
Lorsque le tunnel est monté avec le serveur (port forward), les paquets a l’intérieur deconnent aussi.
Comme si le port forward posait pb.

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #6 le: 30 juin 2023 à 17:00:12 »
Alors, fait très interessant, lorsque je passe par l’ipv6 de mon serveur (enfin l’ipv6 externe que je présente sur mon routeur Mikrotik), tout marche correctement.
Mon téléphone est en 5G chez Bouygues et donc en natif ipv6.
Donc quand je suis en ipv6 de bout en bout pas de problème.

Si c’est le PMTUd, que dois-je ouvrir comme flux (ICMP ?) et surtout jusqu’où ? Routeur ou serveur ?

ÉDIT : J’ai vérifié l’icmpv4 (tous types) est bien ouvert jusqu’au serveur (input et forward), sur le routeur Mikrotik et sur le serveur (nftables). Et bien sûr je n’ai pas de drop dans les logs sur ICMP.

Donc il y a problème lorsque le client (iPhone) a besoin d’encaps ipv4 dans ipv6.
« Modifié: 30 juin 2023 à 17:59:16 par cyayon »

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #7 le: 30 juin 2023 à 18:54:31 »
Bonjour

Je ne connais pas bien la mécanique de raoming (si tu es à l'étranger) et donc de la MTU max dont tu disposes.

Tu peux aussi avoir une liaison en PPP et donc perdre une partie de tes 1500 octets.

Préco :
- adresse de service "externe" : réduire la MTU
- adresse de service "interne" rester à 1500

It is generally recommended that the MTU for a WAN interface connected to a PPPoE DSL network be 1492. In fact, with auto MTU discovery, 1492 is discovered to be the maximum allowed MTU. However, having an MTU of 1452 is most optimal.

PS : passer en IPv6 c'est géré par le protocole :)

LeVieux

La MTU c’est sûr l’interface et pas l’adresse non ?

simon

  • Abonné Orange Fibre
  • *
  • Messages: 935
Problème étrange MTU MSS ?
« Réponse #8 le: 30 juin 2023 à 19:09:24 »
Donc il y a problème lorsque le client (iPhone) a besoin d’encaps ipv4 dans ipv6.

Sur le mobile, Bouygues fait de l'IPv6-only + NAT64. Le traffic IPv6 est direct, le traffic v4 doit passer par le NAT64.

J'ai déjà constaté des soucis transitoires avec ces NAT64 (sessions qui disparaissent, traceroutes qui ne passent pas, etc.), mais n'ai aucune idée de si cela dépend de la zone géographique ou non. Ce qui est sûr, c'est que Bouygues régionalise son coeur de réseau, donc les équipements et/ou leur configuration n'est pas forcément la même en fonction d'où tu es.

Utiliser IPv6 pour ton tunnel wireguard est clairement la bonne option, peu importe qu'il transporte v6 ou v4 ou les deux.

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #9 le: 30 juin 2023 à 19:11:56 »
Effectivement, du coup c’est plus clair. J’aurais bien aimé trouver une parade pour le cas où le client fasse de l’encaps.
J’ai lu pas mal de trucs notamment sur le mss clamp, mais je ne sais pas si cela a un rapport direct avec mon pb.

simon

  • Abonné Orange Fibre
  • *
  • Messages: 935
Problème étrange MTU MSS ?
« Réponse #10 le: 30 juin 2023 à 20:11:59 »
Le MSS clamp peut aider si tu le mets en place sur l'interface wireguard : il forcera TCP à utiliser un MSS (et donc un MTU) plus faible peu importe les conditions réseau.

Ceci dit:
- ca n'améliorera pas tes perfs lorsque ton tunnel est monté en v6 (en fait, ca va un peu les diminuer, car tes machines vont utiliser des paquets plus petits que nécessaires)
- on est pas vraiment sûr que le souci de perf constaté provienne d'un mauvais MTU... c'est peut-être le CLAT sur le mobile ou le NAT64 dans le réseau de l'opérateur qui diminue les perfs, ou encore autre chose.

Mon conseil : ne modifier les paquets sur le chemin réseau que lorsque c'est strictement nécessaire.

cyayon

  • Abonné Orange Fibre
  • *
  • Messages: 648
  • Cordon 74 - Orange Fibre Pro
Problème étrange MTU MSS ?
« Réponse #11 le: 30 juin 2023 à 21:16:47 »
Merci, mais dans le cas présent ça marche presque pas.
Donc on n’est pas dans l’optimisation.

Je pense que le problème vient du NAT64 régional de Bouygues.

D’ailleurs le problème est sur les paquets TCP et UDP, du moins j’en ai l’impression. Et uniquement ceux qui vont jusqu’au server. Ceux qui s’arrêtent au routeur pas de problème.

Ce que je ne comprends pas c’est comment font les sites ipv4 only pour que les clients avec une mauvaise implémentation NAT64 (si je peux dire ainsi), pour que cela fonctionne ?