Auteur Sujet: Serveur video Netflix = 200 Gbps - TLS - FreeBSD  (Lu 5353 fois)

0 Membres et 1 Invité sur ce sujet

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 078
  • Paris (75)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« le: 26 novembre 2019 à 22:24:01 »
Une vidéo tres intéressante (mais un peu technique vers le milieu) sur les serveurs video de Netflix:

Ils utilisent du FreeBSD et grace a des optis cherchent a atteindre 200 Gbps (avec TLS) en sortie par serveur. Une des raisons de maximiser le flux par serveur est la rareté des IPv4.

les slides: https://people.freebsd.org/~gallatin/talks/euro2019.pdf

la vidéo:







underground78

  • Expert
  • Abonné Free fibre
  • *
  • Messages: 7 434
  • Orsay (91)
    • FreePON : suivi géographique du déploiement fibre EPON chez Free
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #1 le: 27 novembre 2019 à 20:55:55 »
Le NUMA c'est un peu la hantise des gens qui font du calcul haute performance (ce qui est mon cas), même si ça se gère plutôt bien une fois qu'on a compris le principe.

Autant c'est hyper-connu dans ce domaine autant c'est la première fois que j'en entends parler dans un contexte plus serveurs/réseaux.

Ils ont clairement des serveurs dont les configurations matérielles commencent à devenir très proches des nœuds d'un super-calculateur.

doctorrock

  • Abonné Orange Fibre
  • *
  • Messages: 931
  • Draguignan 83
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #2 le: 29 novembre 2019 à 14:58:49 »
Dans le web aussi on optimise nos serveurs vis à vis de NUMA :-)

Enfin moi c'est ce que j'ai fais il fut un temps (numactl etc... , mais sous Linux par contre).
Si on veut qu'un serveur puisse servir un max de clients, à un moment donné , on est forcément confronté à de l'optim d'archi von Neumann ^^

DamienC

  • Abonné Sosh fibre
  • *
  • Messages: 2 217
  • FTTH ↓ 300Mbps ↑ 300 Mbps sur Brest (29)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #3 le: 29 novembre 2019 à 15:08:25 »
Désolé je suis un noob dans ce domaine, mais les noeuds NUMA c'est valable uniquement sur les archi Intel non?
Car les proco AMD threadripper ils ont bel et bien les 32 voir 64 core en direct et non pas via un noeud NUMA.

Pourquoi rester sur du Intel alors?

Cdt,
DamienC

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 078
  • Paris (75)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #4 le: 29 novembre 2019 à 15:32:29 »
Numa concernent les systèmes multiprocesseurs.

C'est-à-dire quand t'as plusieurs cpu sur la même carte mère   

Thornhill

  • Abonné SFR fibre FttH
  • *
  • Messages: 3 976
  • Saint-Médard-en-Jalles (33)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #5 le: 29 novembre 2019 à 15:37:13 »
AMD fait du NUMA depuis l'Opteron.

Il faut bien voir que l'archi NUMA qui existait bien avant son introduction dans les archis x86 apporte des avantages en terme de performances pour certains types de traitements, par rapport aux bon vieux bus partagés ou Crossbar, générateurs de contentions quand on multiplie les cores.

Ceci à condition que ce soit correctement géré par l'OS/l'appli.

Thornhill

  • Abonné SFR fibre FttH
  • *
  • Messages: 3 976
  • Saint-Médard-en-Jalles (33)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #6 le: 29 novembre 2019 à 16:03:30 »
Numa concernent les systèmes multiprocesseurs.

C'est-à-dire quand t'as plusieurs cpu sur la même carte mère

Pas seulement, AMD comme Intel fournissent maintenant des sockets avec plusieurs noeud NUMA par socket (Intel 2, AMD 4).

DamienC

  • Abonné Sosh fibre
  • *
  • Messages: 2 217
  • FTTH ↓ 300Mbps ↑ 300 Mbps sur Brest (29)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #7 le: 29 novembre 2019 à 19:40:58 »
Il me semblait pourtant avoir vu une vidéo de LinusTechTips sur Youtube avec deux proco AMD bien costaud, et il disait justement que le système voyait les deux CPU comme un seul et non pas via un noeud NUMA, bref je suis surement à la ramasse sur le sujet vous vous y connaissez bien mieux que moi, même si cela m'interesse énormement.

Cdt,
DamienC

underground78

  • Expert
  • Abonné Free fibre
  • *
  • Messages: 7 434
  • Orsay (91)
    • FreePON : suivi géographique du déploiement fibre EPON chez Free
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #8 le: 29 novembre 2019 à 20:01:44 »
Parfois tu as des paramètres du BIOS qui permettent de choisir si l'OS voit les nœuds NUMA "internes" à la puce.

En sachant que souvent l'effet NUMA est bien moins sensible à l'intérieur de la puce qu'à l'extérieur. Il faudrait que je refasse des tests avec notre machine actuelle pour voir comment elle se comporte (elle est bi-sockets avec en plus je pense un léger effet NUMA à l'intérieur de chaque socket).

Le pire qu'on ait vu c'était notre ancienne machine avec des nœuds de calcul quadri-sockets sans interconnexions directes croisées :
1 ---- 3
|      |
2 ---- 4
(pas de liens entre les sockets 1 et 4 et les sockets 2 et 3).

Thornhill

  • Abonné SFR fibre FttH
  • *
  • Messages: 3 976
  • Saint-Médard-en-Jalles (33)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #9 le: 29 novembre 2019 à 20:37:55 »
Les archis  NUMA, 2- (Threadripper) et 4- (Epyc) nodes :

kgersen

  • Modérateur
  • Abonné Bbox fibre
  • *
  • Messages: 9 078
  • Paris (75)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #10 le: 07 janvier 2020 à 14:59:03 »
hum a relire quelques trucs, certains prétendent que l'archi Zen2 n'est pas NUMA car le controller de mémoire est unique et partagé par les chiplets (CCX).

Thornhill

  • Abonné SFR fibre FttH
  • *
  • Messages: 3 976
  • Saint-Médard-en-Jalles (33)
Serveur video Netflix = 200 Gbps - TLS - FreeBSD
« Réponse #11 le: 07 janvier 2020 à 17:09:55 »
Effectivement il semble que contrairement à Naples, sur Rome il n'y a plus qu'un NUMA Domain par socket, tout passe par l'IO die