Après moult essais,  il semblerait qu'il faille réunir ces 3 conditions pour avoir à coup sûr la TV chez ByTel:

- marquage p3 des paquets IGMP via la cos
- possibilité de forcer IGMPv2
- un proxy IGMP qui ne traîne pas de bugs impactant (notamment un bon support des VLAN) le bon fonctionnement du multicast

Bug connu:
en sortie de veille, sans redémarrage du proxy IGMP, la dernière chaîne regardée est accessible mais pas les autres pendant 2 minutes (erreur F3411) alors que le flux arrive sur le port ethernet de la Miami.

En ce moment, je teste ce setup avec openwrt sur ER-X et ça fonctionne bien (modulo les macro-blocs plus présents qu'avec la bbox à mon goût).
Sur pfsense, forcer IGMPv2 ne fonctionne pas correctement, d'où ma bidouille avec pimd.

Soit votre OS (pfsense, opnsense, GNU/Linux vous permet de marquer les paquets) soit il faut utiliser un switch qui permet cela.
Vite fait en s'inspirant du marquage p6 sur les requêtes DHCP chez Orange: https://lafibre.info/remplacer-livebox/switch-gs108tv2-pour-prendre-en-charge-la-cos-devant-les-routeurs/
où un seul VLAN est utilisé: 100

Avec le même branchement, on ne marque pas le DHCP p6 mais l'IGMP p3 selon les 2 images suivantes (vous êtes assez grands pour comprendre le principe, n'est-ce pas ?).

J'utilise omcproxy (igmpproxy fonctionne aussi):
config proxy
option scope global
option uplink wan
list downlink lan

config proxy
option scope global
option uplink wan6
list downlink lan

et une règle en input:
config rule
        option src 'wan'
        option name 'Multicast'
        list dest_ip '224.0.0.0/4'
        option target 'ACCEPT'
        list proto 'udp'
        list src_ip '89.86.96.0/24'
        list src_ip '89.86.97.0/24'
        list src_ip '193.251.97.0/24'
Par défaut, openwrt autorise le trafic IGMP.

avec le marquage p3 sur l'IGMP sinon le flux coupe au bout de 5 minutes.
et forcer IGMP v2:
net.ipv4.conf.all.force_igmp_version=2
Je ne sais pas encore si en bidouillant le ttl, on peut se passer du marquage cos.

Cela doit être possible mais avec un risque de perdre l'offload, j'utilise un switch pour le faire.

Tu feras le test.

Tu vas aussi pouvoir vérifier que les replays ne fonctionnent plus suite à cette mise à jour:
https://www.bbox-mag.fr/forum/viewtopic.php?f=149&t=2859

un reboot et ça repart.

Vite fait sur un coin de table avec le paquet ip-full.

Au démarrage via rc.local:
for i in 0 1 2 3 4 5 6 7; do
## on définit pour chaque file une priorité
    ip link set eth0.100 type vlan egress $i:$î > /dev/null
done
## On modifie la priorité de la file 1 à 0 c'est là qu'on renverra tous nos paquets, la file 0 qui est celle par défaut passe à 6
    ip link set eth0.100 type vlan egress 1:0 > /dev/null
    ip link set eth0.100 type vlan egress 0:6 > /dev/null
Puis des règles iptables perso:
##IPV4
## Tout les protocoles changent de file vers le skb 01 dont on a mis la prio à 0
iptables -t mangle -A POSTROUTING -o eth0.100 -j CLASSIFY --set-class 0000:0001
##On maintient les paquets réseaux dans une file à prio 3 (IGMP) ou 5 (ICMP)
iptables -t mangle -A POSTROUTING -o eth0.100 -p igmp -j CLASSIFY --set-class 0000:0003
iptables -t mangle -A POSTROUTING -o eth0.100 -p icmp -j CLASSIFY --set-class 0000:0005
##Les paquets VOIP(SIP) sont taggués EF ont les met en prio 5 (j'utilise un VLAN dédié pour la bbox)
#iptables -t mangle -A POSTROUTING -o eth0.100 -m dscp --dscp 0x2e -j CLASSIFY --set-class 0000:0005
##Si votre client DHCP n'utilise pas les raw socket il faut envoyer les paquet DHCP dans la file 6 (prio 6)
iptables -t mangle -A POSTROUTING -o eth0.100 -p udp --dport 67 -j CLASSIFY --set-class 0000:0006
##IPV6
## Tout les protocoles changent de file vers le skb 01 dont on a mis la prio à 0
ip6tables -t mangle -A POSTROUTING -o eth0.100 -j CLASSIFY --set-class 0000:0001
##On maintient les paquets réseaux dans une file à prio 6
ip6tables -t mangle -A POSTROUTING -o eth0.100 -p ipv6-icmp -j CLASSIFY --set-class 0000:0005
##Si votre client DHCPv6 n'utilise pas les raw socket il faut envoyer les paquet DHCPv6 dans la file 6 (prio 6) (c'est le cas de dibbler)
ip6tables -t mangle -A POSTROUTING -o eth0.100 -p udp --dport 547 -j CLASSIFY --set-class 0000:0006
Je me demande l'impact sur les performances.