La Fibre

Hébergeurs et opérateurs pro / entreprises => Hébergeurs et opérateurs pro / entreprises => Scaleway Scaleway => Discussion démarrée par: Phach le 14 juillet 2016 à 18:36:40

Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 juillet 2016 à 18:36:40
Salut,
je pense que la plupart d'entre vous a vu le nouveau service de Online sorti il y a quelques jours. Pendant l'été, le service est gratuit.
Ca fait quelques jours que je teste pour archiver mes photos, pour l'instant, j'en suis extrêmement satisfait.

C14 est conçu pour stocker longtemps d’énormes volumes de données, tels que vos archives numériques légales, la préservation du patrimoine numérique, stockage de logs informatiques, photos, vidéos, sauvegardes, PRA… Et pourquoi pas sauvegarder totalement un cluster Hadoop pour quelques euros ?
C14 offre le TCO le plus bas du marché ! Vous ne payez qu’à l’usage, en fonction du volume de données, avec un minimum de facturation de 1Go seulement.
Pas de frais caché, une tarification prévisible. Le bande passante et le transfert sont gratuits.
source : https://www.online.net/fr/c14


Comme je l'ai dit, mon utilisation consiste à sauvegarder mes photos personnelles.
Il n'y a pas des centaines de Go de données, et donc je voulais une solution qui s'adapte à l'espace occupé et ne pas payer pour des fonctionnalités dont je me fiche (synchronisation, etc) je voulais du stockage froid.
C'est mon 3eme espace de sauvegarde après Amazon S3 et Hubic.

C'est très proche de l'utilisation de S3 mais le principe d'archive de Online impose de s'organiser un minimum.
En effet, une fois l'archive verrouillé (sauvegardé) elle n'est plus modifiable. Là, deux options : récupérer mon archive / supprimer mon archive
Par exemple, pour mes photos, j'ai créé autant d'archives que d'années à stocker. Mais si j'efface par mégarde une photo datant du 16 avril 2005, je suis obligé de récupérer toute l'archive 2005 pour récupérer ma photo.
C'est pas un inconvénient si vous utilisez C14 de la façon pour laquelle il a été pensé. A savoir, je perds toutes mes données, je les restaure en quelques clics. Bref, de l'archivage de données auxquelles vous accédez peu ou plus du tout mais que vous voulez conserver pour des raisons légales ou en sauvegarde ultime.

Clairement, c'est interessant en complèment de Amazon S3 par exemple. Parceque ma photo effacé, je peux la récupérer en 2 clic sur S3 et ca me coutera une fraction de centime.

Et enfin le prix, c'est clairement très intéressant. Moi, j'ai quelques dizaines de Go de photos, je devrais m'en sortir à quelques centimes par mois de frais de stockage !?  ;D


https://www.dailymotion.com/video/x58hwz8
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 14 juillet 2016 à 20:04:14
Je me posais aussi la question d'utiliser ça le jour où j'ai la fibre pour les sauvegardes longues durées, celles qui me serviraient uniquement en cas de problème. Je me dis que ça me motiverait peut-être plus à faire des sauvegardes sérieuses...
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 14 juillet 2016 à 20:36:42
Voilà qui milite pour un meilleur uplink pour pouvoir utiliser correctement ce genre de services.
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 14 juillet 2016 à 21:16:28
C'est clair que Online se positionne bien sur ce marché. L'offre est alléchante.

Par contre, l'offre est avant tout destinée aux entreprises. A part des bidouilleurs, je ne pense pas que beaucoup de particuliers achèteront du C14 directement à Online.
Il est fort probable que des revendeurs de C14 proposent des offres aux particuliers, avec une interface plus facile.

De mon côté, je fuis toutes ces offres "Cloud". Même si je pense qu'Online est un acteur stable et fiable, je ne fais pas confiance en une entreprise pour conserver mes données. Qui nous dit qu'Online existera toujours dans 10 ans? Qui nous dit que les conditions et le tarif d'accès aux données sera toujours le même?
Du coup, chez moi, les sauvegardes se font sur un disque dur externe, en moyenne 1 fois par mois. Le disque dur n'est pas stocké à mon domicile, pour plus de sécurité. Et ce disque dur est interdit de tout autre usage que la sauvegarde.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 juillet 2016 à 22:29:45
C'est clair que Online se positionne bien sur ce marché. L'offre est alléchante.

Par contre, l'offre est avant tout destinée aux entreprises. A part des bidouilleurs, je ne pense pas que beaucoup de particuliers achèteront du C14 directement à Online.
Il est fort probable que des revendeurs de C14 proposent des offres aux particuliers, avec une interface plus facile.

L'interface est ultra simple. Tu crée des archives dans la console Online, en quelques clics c'est prêt et tu peux uploader en FTP donc rien de plus simple (il y a aussi SSH, WEBDAV, etc)
Certes les entreprises sont visées en priorités, mais je pense que pour les professions libérale ou les gens qui veulent sauvegarder des données importantes à leurs yeux (les photos perso sont des données que je considère importantes) c'est une excellente solution accessible

De mon côté, je fuis toutes ces offres "Cloud". Même si je pense qu'Online est un acteur stable et fiable, je ne fais pas confiance en une entreprise pour conserver mes données. Qui nous dit qu'Online existera toujours dans 10 ans? Qui nous dit que les conditions et le tarif d'accès aux données sera toujours le même?
Du coup, chez moi, les sauvegardes se font sur un disque dur externe, en moyenne 1 fois par mois. Le disque dur n'est pas stocké à mon domicile, pour plus de sécurité. Et ce disque dur est interdit de tout autre usage que la sauvegarde.

Leon.

Je suis d'accord avec toi sur la pérénité des sociétéd qui proposent ce service. Et c'est pour ça que je choisi pas des boites qui sortent de nulle part.
Online, ils existent depuis un certains temps tout de même et le jour où ils feront faillite, je pense que beaucoup de sociétés qui ont leur toute infra chez eux devront s'inquiéter. Et je parle pas de la TPE du coin, je parle de boites du CAC40 ou des ETI.
OVH, Amazon, etc. C'est pas n'importe qui non plus. De ce coté là, je me fait pas de souci.

Les conditions tarifaires ne peuvent que baisser, le cout du stockage va en baissant. Et quand bien même ca serait multiplié par 10, ca serait toujours intéressant.

Le disque dur externe, je n'ai absolument pas confiance. Déjà parceque c'est mécanique et que ca peut casser sans prévenir. On s'est, je pense, tous, déjà retrouvé avec des disques dur qui font clac clac et qui sont inutilisables du jour au lendemain. Donc, c'est une solution qui était valable y a 10 ou 15 ans, mais plus maintenant à mon sens. A la limite, je préfère graver sur DVD tous les mois plutôt que d'utiliser un disque dur.

Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 15 juillet 2016 à 00:53:04
A la limite, je préfère graver sur DVD tous les mois plutôt que d'utiliser un disque dur.
Bof, un DVD ça s'abime quand même facilement. Je pense que ça se dégrade plus qu'un disque dur avec le temps.
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 15 juillet 2016 à 08:21:12
Bof, un DVD ça s'abime quand même facilement. Je pense que ça se dégrade plus qu'un disque dur avec le temps.
Pour les DVD-R, pareil qu'underground, ça n'est vraiment pas réputé pour être fiable, ça s'use dans le temps. Et puis sauvegarder régulièrement plus de 100Go sur des DVD-R. Il en faudrait un paquet! Et les supports type DVD-RW sont encore plus fragiles.

L'interface est ultra simple. Tu crée des archives dans la console Online, en quelques clics c'est prêt et tu peux uploader en FTP donc rien de plus simple (il y a aussi SSH, WEBDAV, etc)
Je ne pense pas que Mme Michu sache faire fonctionner FTP. Pourtant, elle a des besoins en sauvegarde. Pour mes parents (quasi aucune connaissance informatique), j'ai installé un logiciel de sauvegarde vers disque dur externe, et ils se débrouillent tous seuls, c'est archi simple.

Je suis d'accord avec toi sur la pérénité des sociétéd qui proposent ce service. Et c'est pour ça que je choisi pas des boites qui sortent de nulle part.
Online, ils existent depuis un certains temps tout de même et le jour où ils feront faillite, je pense que beaucoup de sociétés qui ont leur toute infra chez eux devront s'inquiéter. Et je parle pas de la TPE du coin, je parle de boites du CAC40 ou des ETI.
OVH, Amazon, etc. C'est pas n'importe qui non plus. De ce coté là, je me fait pas de souci.
Pour OVH, même si c'est une grosse entreprise, ils ont eu énormèment de problèmes au début sur HUBIC. Je ne parle pas de la béta, mais bien de la montée en cadence de la version stable. Des clients ont perdu des données, le service était d'une lenteur extrème, etc...

Le disque dur externe, je n'ai absolument pas confiance. Déjà parceque c'est mécanique et que ca peut casser sans prévenir. On s'est, je pense, tous, déjà retrouvé avec des disques dur qui font clac clac et qui sont inutilisables du jour au lendemain. Donc, c'est une solution qui était valable y a 10 ou 15 ans, mais plus maintenant à mon sens. A la limite, je préfère graver sur DVD tous les mois plutôt que d'utiliser un disque dur.
Euh, c'est plutôt l'inverse : les disque durs d'aujourd'hui sont beaucoup plus fiables que les disques durs d'il y a 15 ans, c'est certain! Il y a 15 ans, les protections contre les vibrations étaient encore rares, par exemple. Aujourd'hui, elles sont systématiques.

Et puis il faut bien voir qu'un disque dur s'use rapidement quand il est utilisé. Mon disque dur de sauvegarde ne fonctionne pas plus de 4 heures par mois!
De plus, je prévois de le changer au bout de 8 à 10 ans (il en a 5 actuellement).
Et pour finir, ce disque dur ne servirait qu'en cas de besoin. Pour être vraiment dans la merde, il faudrait que j'aie 2 pannes en même temps : un crash (ou virus) de mon PC principal, et un crash de mon disque de sauvegarde.
Ce qui me fait le plus peur, c'est la propagation d'un éventuel "ransomware" (ou équivalent) vers mon disque dur de sauvegarde sans que je m'en aperçoive. Je ne sais pas s'il y a des parades contre ça.

Un autre avantage du disque dur externe, c'est la bande passante : je sauvegarde à plus de 200Mb/s, alors que l'uplink de ma connexion Numericable-SFR est de 5Mb/s.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: eruditus le 15 juillet 2016 à 08:25:30
J'ai exactement la même stratégie que toi pour exactement les mêmes raisons ;)

Bon, je la réviserai peut être le jour où mon uplink dépassera le 1 Mbit/s.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 15 juillet 2016 à 08:30:42
J'ai testé C14 un peu avant la sortie, ça marchait vraiment bien niveau perf. Je vais étudier un peu le tarif et voir si j'ajoute un cran de sécurité à ma stratégie de sauvegarde (RAID 5 [qui n'est pas une sauvegarde] + save locale + save distante).
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 15 juillet 2016 à 09:21:16
Pour OVH, même si c'est une grosse entreprise, ils ont eu énormèment de problèmes au début sur HUBIC. Je ne parle pas de la béta, mais bien de la montée en cadence de la version stable. Des clients ont perdu des données, le service était d'une lenteur extrème, etc...

pourquoi parler au passé  ::) ca déconne toujours pas mal Hubic d'après le forum dédié. La synchro a fait perdre des données à certains. Si j'ai bien compris leur problème, le soft de synchro OVH suite à une authentification raté (ce qui arrive très souvent sur leur infra) pensait que les données était effacé. Donc synchro en effacant les données local. Cool.
Perso, j'ai rencontré y a quelques jours des soucis aussi d'authentification, de fichier qui ne s'uploadait pas, etc. Le service reste lent puisque volontairement bridé à 10 Mbps. De plus, leur infra doit être sous dimensionné car les soucis d'authentification sont courants.

C'est clairement un service qui a été mal dimensionné au niveau du prix. 10 To pour 50 euro l'année, c'est ridicule. Tous les pros ont souscrit et ont saturé l'infra qui n'était pas bridé en débit au début.
Ca reste de la beta même quand c'est en prod et facturé aux clients. C'est OVH, faut le savoir c'est tout. Ils auraient sorti le service avec 500 Go pour 50 euro par an, non bridé en débit, je pense que ca aurait tout autant intéressé.

Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 15 juillet 2016 à 09:36:05
Hubic ne garantit aucune redondance des données n'est-ce pas ? J'avais pas fait attention au prix, c'est vraiment très bon marché...
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 15 juillet 2016 à 09:39:03
c'est vraiment très bon marché...
Trop en fait...
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 15 juillet 2016 à 09:54:11
Trop en fait...

c'est tout à fait ça.
Ils ne détaillent pas énormèment ce qui est mis en oeuvre. Ca doit se limiter à de la redondance RAID. Ca reste une offre très grand public.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 15 juillet 2016 à 11:13:32
Tu penses à quoi au juste ?

Au backup multi-site automatique ?
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 15 juillet 2016 à 11:16:14
Dans le cas de C14 l'archive est toujours dupliquée sur plusieurs supports de sauvegarde.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 15 juillet 2016 à 13:28:35
Hubic ne garanti rien du tout, ou en tout cas, j'ai pas trouvé.

C14 garanti une durabilité des données à 99.999999999% (neuf 9)
Amazon S3 garanti au même niveau.
Hubic : j'ai pas trouvé

S3 et C14 dupliquent les données sur plusieurs supports et procèdent à des tests d'intégrité des données.

Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 15 juillet 2016 à 19:09:52
Voilà, 40 Go uploadés en ~2h chez Online.

On verra bien pour la suite.

Mine de rien les photos de famille c'est important.

M'enfin, les vieux cons diront que l'informatique nous baise, niveau longévité des supports de sauvegarde. (http://forum-images.hardware.fr/images/perso/2/s@ms.gif)
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 15 juillet 2016 à 19:12:34
Ah ben c'est clair, croire que l'informatique est la solution miracle pour faire du stockage de données pérenne c'est être à côté de la plaque.
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 15 juillet 2016 à 19:39:31
Hubic ne garanti rien du tout, ou en tout cas, j'ai pas trouvé.

https://hubic.com/fr/contracts/Contrat_hubiC_2014.pdf

C'est du Best Effort

Citer
C14 garanti une durabilité des données à 99.999999999% (neuf 9)
Amazon S3 garanti au même niveau.
Hubic : j'ai pas trouvé

S3 et C14 dupliquent les données sur plusieurs supports et procèdent à des tests d'intégrité des données.

Tu ne peux pas comparer S3 avec Hubic mais plutôt avec Object Storage : https://www.ovh.com/fr/cloud/storage/object-storage.xml
Conditions: https://www.ovh.com/fr/support/documents_legaux/contractPartOVHCloudFr.pdf
Citer
Taux de disponibilité mensuelle: 99,9%
Taux de durabilité mensuelle des données stockées dans l’Object Storage: 100%

Object Storage (géré sous Openstack SWIFT) pèse 75Po brut : https://www.youtube.com/watch?v=QjNFEzZQlWE (à 3:20)
Comme S3 c'est un stockage "chaud".

C14 est un stockage "froid" à comparer avec "Glacier" d'Amazon. Même là C14 est encore moins cher.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 15 juillet 2016 à 19:59:19
Sauf que Glacier ne conserve pas les arborescences....

Ou alors j'ai mal lu.

D'ailleurs, je sais pas si C14 fais la même chose...
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 15 juillet 2016 à 20:00:56
A priori C14 fait un tar de ce que tu as uploadé sur l'espace temporaire donc je pense que l'arborescence est conservée.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 15 juillet 2016 à 20:18:41
De ce que j'avais lu sur twitter je crois, C14 garde un maximum d'info sur les fichiers, dont les droits, le proprietaire, etc.Donc tu récupère l'archive et tu reprend ton activité ou tes données sans autre manipulation.

Y a pas de solution miracle car aucun support qu'il soit analogique ou numérique n'est infaillible. Tu peux avoir un album photos papier qui sera ravagé par un incendie ou une innondation.

Mais je trouve qu'on arrive à quelque chose de sécurisé avec ce type de solution de sauvegarde.
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 16 juillet 2016 à 08:45:38
C14 c'est aussi un stockage objet comme S3 ou SWIFT. Sauf qu'ils ont rajouté une sorte de passerelle te permettant de garder tes habitudes de manipulation des fichiers.

Avec S3 ou SWIFT, tu peux faire pareil: tu fais le tar chez toi et tu l'envoie.

Rappel: le stockage objet est la brique de base d'à peu près tous les services Web actuels comme Youtube, Facebook, Twitter, Dailymotion, etc.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 16 juillet 2016 à 11:46:46
Rappel: le stockage objet est la brique de base d'à peu près tous les services Web actuels comme Youtube, Facebook, Twitter, Dailymotion, etc.

D'où l'essor des métiers comme Data Scientist ou du Big Data en général, je suppose.
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 16 juillet 2016 à 13:14:38
Non rien à voir :)

Le stockage objet c'est l'évolution du stockage classique à base de système de fichiers à plat.

Le Big Data c'est de l'analyse de données, que ce soit des logs, des fichiers, une base SQL, etc.

Le seul point commun c'est de s'appuyer sur une architecture distribuée.
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 16 juillet 2016 à 13:56:40
Est-ce que vous savez physiquement comment se fait l'archivage?
* sur des bandes magnétiques de plusieurs dizaines de To, avec des robots?
* sur des disques dur de très grosse capacité, et éteints plus de 90% du temps?

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 juillet 2016 à 13:58:29
Tout ce qu'on sait pour l'instant c'est que ce ne sont pas des bandes (ça a été dit par Arnaud de Bermingham sur le canal IRC d'Online).
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 16 juillet 2016 à 14:13:52
Y en a qui parle aussi de stockage optique à l'image de ce que font facebook et Panasonic :

http://www.datacenterknowledge.com/archives/2016/01/11/panasonic-intros-cold-storage-tech-born-at-facebook-data-centers/
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 16 juillet 2016 à 14:33:03
J'ai du mal à voir des arguments pour utiliser autre chose que des disques dur (4TB par exemple).
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 16 juillet 2016 à 14:41:48
J'ai du mal à voir des arguments pour utiliser autre chose que des disques dur (4TB par exemple).
La consommation électrique? Je ne sais pas s'il existe des "serveurs de stockage" qui sont vraiment capable d'éteindre complètement un disque dur pour annuler totalement sa consommation, y compris de couper son alimentation électrique, y compris d'éteindre l'interface côté serveur, etc...

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 16 juillet 2016 à 14:42:00
Le fait que les gros disques ont recours à l'emploi de gaz pour augmenter la densité par plateau ? (maybe)
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 juillet 2016 à 15:03:10
La partie matérielle a été développée par Online donc on peut imaginer que ce qui existait ne correspondait pas à leurs besoins.
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 16 juillet 2016 à 15:07:23
OK, mais je vois mal une entreprise comme Online développer un support de stockage spécifique.
Je pense qu'ils se sont concentrés sur la conception des serveurs.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 juillet 2016 à 15:08:39
Je parlais des serveurs oui, pas des supports de stockage en eux-mêmes
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 16 juillet 2016 à 17:30:05
C'est sûr c'est du disque dur. Ca pourrait être des disques SMR (http://www.ldlc.com/fiche/PB00192356.html) qui sont peu couteux mais lents ce qui est parfait pour de l'archivage comme le propose C14. Peu savent les utiliser.

Le point le plus important dans l'archivage, outre les disques, c'est la capacité par serveur : il y a un ratio idéal à trouver entre le nombre de disques, la RAM et le CPU nécessaire. Ca joue sur les perfs, la consommation, la taille. Plus il y a de disques, plus il faut de RAM et de CPU, sans parler de la connectique SATA ou SAS. L'équation n'est pas évidente car si on met trop de disques, la défaillance d'un serveur entraine la perte de trop de données à reconstruire, ce qui impacte les performances globales.

Note: bien que Amazon Glacier existe depuis un petit moment, on n'a toujours aucune idée de comment ça marche.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 16 juillet 2016 à 17:52:17
Un article de 2014 qui essaie d'expliquer quel pourrait être la solution utilisé par Amazon pour Glacier : https://storagemojo.com/2014/04/25/amazons-glacier-secret-bdxl/

Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 16 juillet 2016 à 17:59:22
Mouais, c'est un avis réducteur, je trouve
Je rajoute : les calculs qu'il fait se basent sur l'idée que le glacier est un projet unique
Amazon fait d'autres choses, que je sache
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 16 juillet 2016 à 20:31:22
Profil de Phach : "Occitanie"

Damn, il faut que je m'y fasse....
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 16 juillet 2016 à 20:41:54
Mouais, c'est un avis réducteur, je trouve
Je rajoute : les calculs qu'il fait se basent sur l'idée que le glacier est un projet unique
Amazon fait d'autres choses, que je sache

Tout à fait et il n'est pas impossible qu'Amazon marge faiblement, voire à zéro ou pourquoi pas à perte sur son stockage.

Car une fois que les données sont chez eux, le client achète du Compute -> et là ça marge.

C'est comme Google avec Youtube : ça leur coûte beaucoup mais ça ramène du trafic essentiel pour ses autres activités.
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 16 juillet 2016 à 20:52:33
En effet

Et d'autre part, quel est la différence entre glacier et s3 ?
Si j'en crois https://aws.amazon.com/fr/s3/pricing/, glacier est vendu 7c/GB/mois, s3 est vendu 30c/GB/mois
La différence concrête entre les deux ? Aucune, à mon avis

Glacier est moins cher, avec une augmentation (logiquement artificielle) du temps d'accès, ce qui force la séparation des usages
En contre partie, glacier permet est onéreux (en IO), mais permet à amazon de d'utiliser de manière plus optimale son infrastructure de stockage s3 : mixer des données régulièrement utilisées mais peu couteuse (s3) avec des données plus cher, mais moins souvent accessible (glacier)

En conséquence, dire que le stockage coute 3c/GB/mois, et que donc, glacier n'est pas basé sur du disque dur, mais sur des cdrom (?!), c'est une explication acceptable uniquement dans le cas d'une activité 100% glacier, ce qui n'est pas la réalité

La stratégie d'amazon sur ça me parait relativement clair à comprendre
Vendre du CPU
Vendre du stockage, parce que le CPU, ça consomme des RU, et dans ces RU, on peut mettre un peu de disque, donc in fine, ça utilise l'infra existante, donc ça coute moins cher
Faire un service d'archive, pour dilluer les IO dans la masse

C'est comme certains FAI qui font du CDN : activité complèmentaire introduisant une mutualisation des coûts et donc une rentabilité plus intéressante
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 17 juillet 2016 à 11:25:14
Comme tout le monde ici, je ne connais pas les supports utilisés par C14 ou Amazon, mais la sauvegarde sur support optique ca existe. Pour info, on a fait des progrés depuis le "CDROM"  ;) on met plus de 1 To sur des cartouche optique à base de bluray BDXL.

A titre d'exemple : http://www.sony.fr/pro/product/archiving-storage-oda-petasite-scalable-library/ods-l30m/overview/#overview

Ca existe et c'est vendu sinon Sony arrêterait de construire ce genre de machine.
Je n'ai pas plus la réponse que vous sur la solution utilisée chez les acteurs du marché, je dis juste que ca existe.

Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 17 juillet 2016 à 11:41:02
C'est pas le support optique le problème.

Le problème c'est le robot qui le manipule. Ca ne scale pas (excepté la capacité mais c'est un trompe-l'oeil) et c'est peu fiable dans le temps aka le taux de disponibilité n'est pas terrible. J'en ai eu un avec des supports magnéto-optiques.

C'est un peu pareil pour la bande sauf que la bande est plus rapide en débit séquentiel.

Enfin dernier élèment: ça oblige à avoir un mécanisme d'agrégation des données pour que les supports soient toujours remplis à 100%. Ajoutez à cela la redondance, ça commence à devenir compliqué.

C'est pourquoi le disque dur est plus pratique dans la manipulation des données.
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 19 juillet 2016 à 13:37:04
Nous avons prévu 5 posts dans notre blog technique (https://blog.online.net/) qui va détailler tous les secrets de C14 jusqu'à la fin Septembre.
C'est un projet passionnant, que nous développons depuis près d'un an, avec des choix qui vont vous surprendre :-)
Pour répondre à la question plus haut, oui, c'est du matériel 100% maison. Notre densité est de 10Po par baie.
Arnaud
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 19 juillet 2016 à 14:07:35
C'est super de partager ça. J'attends les articles avec impatience.

A titre de comparaison, Blackblaze annonce entre 1.8 et 2.4 Po par baie (40u) avec des disque de 4 To (4.8 Po par baie avec disque de 8 To).  :o

Citer
What’s new is 60 drives in a 4U chassis. That’s a 33 percent increase to the storage density in the same rack space. Using 4TB drives in a 60-drive Storage Pod increases the amount of storage in a standard 40U rack from 1.8 to 2.4 Petabytes. Of course, by using 8TB drives you’d get a 480TB data storage server in 4U server and 4.8 Petabytes in a standard rack.
source : https://www.backblaze.com/blog/open-source-data-storage-server/

Donc 10 Po par baie  :o  c'est impressionant.
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 19 juillet 2016 à 14:32:27
Si je me souviens bien ce que disait Arnaud sur IRC, la densité se paie au niveau du poids absolument monstrueux de chaque baie. :)
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 19 juillet 2016 à 14:35:09
Citer
chassis 4U, 90 HDD par chassis, disque 10TB 3.5" = 9900 TB sur 44RU
C'est ça ?
Si c'est le cas, je trouve ça très audacieux (trop ?)
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 19 juillet 2016 à 14:54:26
jack, casse pas le teasing d'arnaud :)
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 19 juillet 2016 à 19:20:40
A titre de comparaison, Blackblaze annonce entre 1.8 et 2.4 Po par baie (40u) avec des disque de 4 To (4.8 Po par baie avec disque de 8 To).  :o
source : https://www.backblaze.com/blog/open-source-data-storage-server/
2 idées idée comme ça, que je parsage :
* les serveurs "Blackblaze" sont faits pour refroidir des disque dur, et avoir des disque dur qui fonctionnent 100% du temps. Avec un système de cold storage, les disques dur sont la grande majorité du temps éteints, donc beaucoup moins besoin de refroidissement, donc peut-être une densité plus forte.

* Arnaud nous présentait une baie avec une profondeur hors normes, c'est peut-être pour ça.
https://twitter.com/online_fr/status/702162197598887937

C'est pas le support optique le problème.

Le problème c'est le robot qui le manipule. Ca ne scale pas (excepté la capacité mais c'est un trompe-l'oeil) et c'est peu fiable dans le temps aka le taux de disponibilité n'est pas terrible. J'en ai eu un avec des supports magnéto-optiques.

C'est un peu pareil pour la bande sauf que la bande est plus rapide en débit séquentiel.
Je pense qu'il ne faut pas généraliser. Le robot est une très bonne solution dans certains cas. J'ai vu des robots modernes vraiment rapides, avec des magasins intermédiaires à proximité immédiate des lecteurs, pour switcher très rapidement de support, et optimiser le temps d'utilisation des lecteurs.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 19 juillet 2016 à 20:40:53

* Arnaud nous présentait une baie avec une profondeur hors normes, c'est peut-être pour ça.
https://twitter.com/online_fr/status/702162197598887937

si c'est ça, c'est pas du jeu  ;D
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 26 juillet 2016 à 22:47:06
C'est un projet passionnant, que nous développons depuis près d'un an, avec des choix qui vont vous surprendre :-)

J'adore les surprises.... genre comment expliquer seulement "99,99999999972%" de duration avec "Chaque coffre-fort est chiffré, répliqué et distribué sur un minimum de 10 à 44 périphériques indépendants. "



Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 27 juillet 2016 à 06:39:08
J'adore les surprises.... genre comment expliquer seulement "99,99999999972%" de duration avec "Chaque coffre-fort est chiffré, répliqué et distribué sur un minimum de 10 à 44 périphériques indépendants. "
Qu'est-ce qui te surprend là dedans? Sur le principe, c'est comme du RAID 6 à priori, même si c'est techniquement différent.
https://fr.wikipedia.org/wiki/RAID_(informatique)#RAID_6
Donc le coffre fort est réparti sur 10 à 44 supports différents, et tu as de la redondance d'information qui permet d'accepter la panne simultanée de 2 ou 3 supports de stockage sur les 10 (Online nous confirmera le chiffre).

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 27 juillet 2016 à 08:50:57
J'adore les surprises.... genre comment expliquer seulement "99,99999999972%" de duration avec "Chaque coffre-fort est chiffré, répliqué et distribué sur un minimum de 10 à 44 périphériques indépendants. "

Dans les CGV il est écrit :

Citer
ONLINE garantie à 100% la durabilité des données archivées dans son infrastructure « C14 », quelque soit la durabilité théorique du niveau de service sélectionné.

Citer
ONLINE s’engage à maintenir en parfait état de fonctionnement la plateforme C14 au minimum (cumulatif) :
- Au minimum 115 mois à compter du 1er Juin 2016,
- Au minimum 72 mois à compter de la date d’archivage des données de l’Usager

https://www.online.net/cgv-c14.pdf
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 29 juillet 2016 à 16:34:54
Qu'est-ce qui te surprend là dedans? Sur le principe, c'est comme du RAID 6 à priori, même si c'est techniquement différent.
https://fr.wikipedia.org/wiki/RAID_(informatique)#RAID_6
Donc le coffre fort est réparti sur 10 à 44 supports différents, et tu as de la redondance d'information qui permet d'accepter la panne simultanée de 2 ou 3 supports de stockage sur les 10 (Online nous confirmera le chiffre).

Leon.

Parler de support ici n'a aucun sens, on parle sur des pourcentages...

et pourquoi 10 et pas toujours 44 ?

bon... bref... qu'ils le decoupent comme ils veulent en nombre de pieces placés sur X disques ou même Y voire 2 si ca les echante je veux pouvoir comparer...
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 29 juillet 2016 à 17:14:36
Parler de support ici n'a aucun sens, on parle sur des pourcentages...
Je n'ai pas compris ta remarque, pourquoi parler de support n'aurait aucun sens? Un support de stockage, c'est un disque dur, une bande magnétique ou un disque optique.
Et je n'ai toujours pas compris ce qui te surprend dans l'offre d'Online.

Ici, on est dans une offre de stockage de très gros fichiers (les archives). Le minimum à stocker, c'est 1Go par archive, tu ne peux pas faire moins.
Donc je suppose que le système de stockage est basé sur des blocs de donnée de grande taille (100Mo?). Ca expliquerai que les petites archives ne soient réparties que sur un nombre réduit de supports (disques durs, bande, disque optique, on ne sait pas), et que les grosses archives soient réparties sur un plus grand nombre de supports.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 29 juillet 2016 à 18:18:05
pourquoi on couperait en 44 parties un pack de 40 To et en 10 un pack de 1Go ??? au nom de quoi cette discrimination ??? comment on peut garantir un "99,9999......97%" de durabilité fixe alors qu'on peut couper une archive en 10, 12, 15,19,24,28,34,37,40, ou 44 parties ??? pourquoi pas plus de 44 parties ???

la valeur de mon fichier de 1.1GB en a autant que les 39.9TB naméo !!!


Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 29 juillet 2016 à 18:24:46
comment on peut garantir un "99,9999......97%" de durabilité fixe alors qu'on peut couper une archive en 10, 12, 15,19,24,28,34,37,40, ou 44 parties ??? pourquoi pas plus de 44 parties ???
Personne n'a dit qu'une archive stockée sur 44 supports différents étaient plus fiable qu'une archive stockée sur 10... Le nombre de supports utilisés ne décrit absolument pas la redondance d'information, ni comment cette redondance est traitée, ni à quelle fréquence chaque support est vérifié, etc...

Bref, décris franchement ce que tu cherches à comprendre, parce que là, je ne vois pas où ça bloque.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 29 juillet 2016 à 18:29:50
Une garantie, c'est le seuil minimal, pas maximal
De plus, ce n'est que des chiffres vaguement probabilistiques ..
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 29 juillet 2016 à 19:31:32
On aurait donc des blocs de 100Mo avec une implèmentation d'Erasure Coding en 10+3, d'où le seuil mini de 1Go pour simplifier la configuration.

44 c'est le nombre de supports, probablement le nombre de noeuds du cluster, chaque noeud ayant son propre espace de stockage (sans forcèment du RAID afin d'éviter une dégradation des perfs en cas de reconstruction).



Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 29 juillet 2016 à 19:35:51
On aurait donc des blocs de 100Mo avec une implèmentation d'Erasure Coding en 10+3, d'où le seuil mini de 1Go pour simplifier la configuration.

44 c'est le nombre de supports, probablement le nombre de noeuds du cluster, chaque noeud ayant son propre espace de stockage (sans forcèment du RAID afin d'éviter une dégradation des perfs en cas de reconstruction).
Voilà, c'est ce genre de chose que j'imaginais. Après, ça n'est peut-être pas exactement ça, mais sur le principe, on doit s'approcher de la réalité.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 29 juillet 2016 à 21:03:55
On aurait donc des blocs de 100Mo avec une implèmentation d'Erasure Coding en 10+3, d'où le seuil mini de 1Go pour simplifier la configuration.

10 blocs de data et 3 de recup ? si c'est ca je vois pas les 44....
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 29 juillet 2016 à 21:10:18
J'vais t'expliquer plus simplement.
Quand c'est les données de willemijns, c'est 10, quand c'est les données des autres, c'est 44.

Tu vois, facile :)
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 29 juillet 2016 à 21:21:59
10 blocs de data et 3 de recup ? si c'est ca je vois pas les 44....
Imaginons que les archives sont découpées en blocs logiques de 1Go.
Imaginons que chaque blocs logique de 1Go est réparti en 10 blocs physiques d'un peu plus de 100Mo (il faut de la redondance).
Imaginons que tous les blocs physiques de toutes les archives soient répartis le plus uniformèment possibles sur un cluster de 44 supports physiques; avec bien évidemment comme règle d'utiliser impérativement des supports différents pour les 10 blocs physiques d'un même bloc logique.
Ca expliquerai parfaitement qu'une petite archive soit répartie sur 10 supports différents, et une plus grosse archive sur jusqu'à 44 supports différents.

Tu comprends mieux maintenant ce qu'on imagine, BadMax et moi? Après, bien évidemment, rien ne prouve que la solution que nous imaginons est exactement celle choisie par Online.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 29 juillet 2016 à 22:41:14
> Imaginons que les archives sont découpées en blocs logiques de 1Go.

ok

> Imaginons que chaque blocs logique de 1Go est réparti en 10 blocs physiques d'un peu plus de 100Mo (il faut de la redondance).

ok donc la redondance/CRC/parité se collerait à chaque début ou fin de blocs....

> Imaginons que tous les blocs physiques de toutes les archives soient répartis le plus uniformèment possibles sur un cluster de 44 supports

donc on etale sur ce cluster nos 10 paquets sur l'un des 44 supports...

> Tu comprends mieux maintenant ce qu'on imagine, BadMax et moi? Après, bien évidemment, rien ne prouve que la solution que nous imaginons est exactement celle choisie par Online.

hummm... ouep mais comme ils parlent de "entre 10 et 44" cela voudrait dir qu'il y a des clusters de 10 et des clusters de 44 voire quelques clusters
de 20 ou 22 par exemple en plus, bref que le matos n'est pas  homogene: c'est pas vraiment l'idée de XN et ONLINE ca des trucs tout différents...

Apres on voit sur le net du rackable 44 baies http://www.acmemicro.com/Product/14427/Acme-AS-444JB12-SAS3-4U-44-bays-hot-swap-12Gbps-JBOD-storage-subsystem-redundant-power?c_id=283 ....


Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 29 juillet 2016 à 22:53:32
J'abandonne, tu n'as rien compris à l'explication.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: vivien le 30 juillet 2016 à 10:30:50
Une hypothèse : Tous les cluster ont 44 supports physiques différents.

Un petit fichier (1 Go) sera éclaté sur 10 supports physiques différents avec possibilité de récupérer les données en cas de perte jusqu'à deux supports.


Un fichier de 3 Go sera éclaté jusqu'à 30 supports physiques différents avec possibilité de récupérer les données en cas de perte jusqu'à deux supports.

Un fichiers de 1 To sera éclaté sur 44 supports physiques différents (les 44 du cluster) avec possibilité de récupérer les données en cas de perte jusqu'à deux supports.

Bref la redondance est toujours la même et le nombre de support physiques différent est juste fonction de la taille.
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 30 juillet 2016 à 13:36:10
Ah ben y'en a au moins un qui suit :D
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 30 juillet 2016 à 14:39:24
grrrr..... suivre et comprendre c'est différent....

c'est le fait que gros 2 fichiers vont sauver eventuellement = etre en secours des 8,28 ou 42 autres en reprenant les chiffres d'exemple de vivien...
chaque donnée va rester triplée sur le cluster... ouais.... on étale sans plus ouais....

c'est du marketing alors... pour faire apparaitre le chiffre 44 pour que ca fasse "grand, volumineux, rassurant, sécurisant, sécuritaire, tranquillisant" ... bref du flan quand on prend du recul.



Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 30 juillet 2016 à 15:05:55
Une garantie, c'est le seuil minimal, pas maximal
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 30 juillet 2016 à 15:23:59
Quand on a un esprit "sauvegarde" on pense du coté du pire non ? bon... alors............. hein euh bon !
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 30 juillet 2016 à 15:29:19
Bah.. bon beuh huh bouarf

Je propose d'attendre les posts dont parle Arnaud.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 30 juillet 2016 à 15:35:19
(connaissant les loustics) il pourra très bien parler de tout sauf de cela ^^ on a le chiffre de 99.999Zesaipu% et c'est une base minimale de conaissance

donc wait and see....
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 06 août 2016 à 17:31:10
Un tweet de Arnaud qui dévoile sans doute la raison de cette énorme densité (10 Po par baie je rappelle).  : https://twitter.com/online_fr/status/761647778443436032
Il avait déjà parlé de baies de grande taille (voir message #47 de Leon_m) c'est maintenant confirmé que c'est pour C14 .
Donc c'est pas vraiment 10 Po par baie mais 10 Po par baie deux fois plus grande que la normale  ;D
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 06 août 2016 à 19:35:44
La vache, la taille de la baie est vraiment impressionnante.
On peut imaginer des montages fantaisistes, par exemple avec des serveurs de chaque côté de la baie, et des connexions en "face avant" uniquement, et un flux d'air cohérent, les serveurs d'une face soufflent, ceux de l'autre face aspirent. C'est tout à fait réalisable pour des machines qui ont des besoins en refroidissement faibles.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 06 août 2016 à 20:36:46
Ca génère tellement de problématiques (refroidissement, alimentation, cablage, débit du flux de données...) ca sera interessant de lire les articles du blog qui présenteront la solution.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 06 août 2016 à 21:22:24
Le stockage "classique" est prévu pour 4 ans... Il se passe quoi après ?
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 06 août 2016 à 22:10:22
Le stockage "classique" est prévu pour 4 ans... Il se passe quoi après ?

il faut comprendre cela par "sur une periode de 4 ans, tu as 99.9zesaipu% que tu recuperera tes données 4 ans et 1 jour plus tard"
Titre: C14 : système d'archivage dans le cloud
Posté par: Hugues le 23 août 2016 à 13:38:39
La partie 1 est en ligne : https://blog.online.net/2016/08/23/c14-story-part-1-meet-our-nuclear-fallout-shelter/
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 23 août 2016 à 13:49:54
La partie 1 est en ligne : https://blog.online.net/2016/08/23/c14-story-part-1-meet-our-nuclear-fallout-shelter/

Merci. on attendra la partie 3 voire 4 ;)
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 30 août 2016 à 22:33:01
Il y a une interface en ligne de commande qui est sortie pour ceux que ça peut intéresser : https://blog.online.net/2016/08/29/introducing-c14-cli-manage-your-cold-storage-archives-with-ease/
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 31 août 2016 à 07:24:54
Je pense que interface de commande en ligne permettra aussi aux revendeurs d'intégrer ça dans leurs solutions. Ca devrait augmenter le chiffre d'affaire de C14.
N'hésitez pas à nous signalez si vous détectez un revendeur qui utilise du C14!

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 03 septembre 2016 à 00:38:42
c'était la fin du test gratuit il a 24/48 heurest, bon alors nono tu vas diffuser la partie 3 et 4 car perso je trouverais marrant que des gens payent pour un service sans info technique....

a moins que...
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 03 septembre 2016 à 07:25:07
c'était la fin du test gratuit il a 24/48 heurest, bon alors nono tu vas diffuser la partie 3 et 4 car perso je trouverais marrant que des gens payent pour un service sans info technique....
C'est pourtant le cas de la majorité des grosses boites Internet, qui ne dévoilent que très peu de leurs "secrets". Vous savez dans le détail comment est fait le cloud d'Amazon par exemple? Et pourtant, énormèment de gens et d'entreprises achètent ces services.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 03 septembre 2016 à 11:57:58
ce que je veux comprendre c'est pourquoi la durabilité de 99,99999zesépu% sur 4 ans....

Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 05 septembre 2016 à 09:30:20
Parce qu'ils ont estimé que dans 4 ans la solution technique actuelle (CPU/MB/disques/soft, etc) ne sera plus maintenable et nécessitera un upgrade ? Ou alors c'est une limite volontaire au business model : si ça marche pas/mal, on coupe dans 4 ans ?

Pour info, la NASA renouvelle son système d'archivage/stockage tous les 3 ans car il faut 3 ans pour migrer d'un système à un autre. A chaque fois, ils perdent des données.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nh3xus le 05 septembre 2016 à 09:40:39
Le problème de l'informatique, c'est la pérennité des sauvegardes...

Un peu comme, le nucléaire et la gestion des déchets en fait...

Ya rien de maîtrisé. (http://forum-images.hardware.fr/images/perso/2/s@ms.gif)
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 05 septembre 2016 à 09:44:10
L'important c'est pas la sauvegarde. C'est quand tu veux restaurer les données :D
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 05 septembre 2016 à 10:27:20
si ça marche pas/mal, on coupe dans 4 ans ?

Je suis incisif certes mais pas dans cette direction là... ou alors ils sont devenus fous ?

Ca sent (à vue de nez) la complexité pour rien ou pas grand chose...

Le seul produit disruptif que je connaisse est actuellement SCALITY, si vous connaissez les fichiers PAR et PAR2 sur USENET vous avez compris le système.
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 05 septembre 2016 à 10:36:29
Pour Scality je dis +1000

Ca mériterait un topic pour expliquer.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 05 septembre 2016 à 10:53:36
Ca mériterait un topic pour expliquer.

page 12 à 15 http://scality.com/wp-content/uploads/2016/03/Scality-Technical-White-Paper.pdf

Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 05 septembre 2016 à 11:49:10
Dans le même gens, à vu de nez (je parle de scality): https://en.wikipedia.org/wiki/Ceph_(software)
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 05 septembre 2016 à 12:41:04
Le seul produit disruptif que je connaisse est actuellement SCALITY, si vous connaissez les fichiers PAR et PAR2 sur USENET vous avez compris le système.

Le POC de C14 utilisait PAR2.  :P Une grande partie de la logique de PAR2 à été conservé (C'est du reed-solomon en mode block)
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 05 septembre 2016 à 17:36:25
Le POC de C14 utilisait PAR2.  :P Une grande partie de la logique de PAR2 à été conservé (C'est du reed-solomon en mode block)

hum..... C14 semble être un demi-SCALITY maison.

Reste à nous expliquer les 4 ans de la durabilité...
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 05 septembre 2016 à 17:39:30
Non ça veut juste dire qu'ils ont implèmenté Erasure Code, il n'y a pas que Scality qui le propose et ça serait dommage de limiter Scality uniquement à cette feature.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 05 septembre 2016 à 21:06:15
Que vois-tu de plus a SCALITY ?
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 06 septembre 2016 à 07:38:54
Son double RING pour l'index basé sur CHORD ? Ses connecteurs S3, SWIFT, NFS, CIFS, FUSE ? Sa capacité à gérer des milliards de petits fichiers ?
Titre: C14 : système d'archivage dans le cloud
Posté par: Optrolight le 06 septembre 2016 à 08:18:27
mode HS
C14 ça fait un peu droid de DBZ (C17 C18 ) etc !!
mode off
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 06 septembre 2016 à 16:09:23
ca vient de carbone 14 surement.....
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 02 octobre 2016 à 14:06:24
Nous avons prévu 5 posts dans notre blog technique (https://blog.online.net/) qui va détailler tous les secrets de C14 jusqu'à la fin Septembre.

J'ai hâte de lire la suite !
Titre: C14 : système d'archivage dans le cloud
Posté par: e-TE le 03 octobre 2016 à 14:02:53
oui, la suite se fait désirer :D
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 03 octobre 2016 à 14:18:57
qui a dit des semainesssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssssss ???
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 04 octobre 2016 à 06:42:30
Nous avons prévu 5 posts dans notre blog technique (https://blog.online.net/) qui va détailler tous les secrets de C14 jusqu'à la fin Septembre.
Effectivement, Arnaud n'a pas précisé fin septembre de quelle année... 2017?  ;)

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 04 octobre 2016 à 14:24:23
Effectivement, Arnaud n'a pas précisé fin septembre de quelle année... 2017?  ;)

Je suis à la bourre :-)
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 13 octobre 2016 à 19:40:52
Hello !

Si vous passez au FrNOG demain, je fais une présentation de C14 et je vais révéler quelques secrets sur le hardware :-)

A+
Arnaud
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 13 octobre 2016 à 19:56:44
Tout le monde n'est pas parisien ou IdF pour rentrer jusqu'a pas d'heure de paris ^^ propose la en video ;)
Titre: C14 : système d'archivage dans le cloud
Posté par: corrector le 13 octobre 2016 à 21:23:14
À cause des géocroiseurs?
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 octobre 2016 à 09:43:35
Tout le monde n'est pas parisien ou IdF pour rentrer jusqu'a pas d'heure de paris ^^ propose la en video ;)

il devrait y avoir le live, comme chaque année.
Titre: C14 : système d'archivage dans le cloud
Posté par: dada44230 le 14 octobre 2016 à 14:58:43
Voila le lien du Live : http://www.iguanesolutions.com/live/frnog/

à 15h25 - 15h55   
Abri Lefebvre / C14
Arnaud de Bermingham - Online

et à  15h55 - 16h00   
Natasha
Julien Castets - Scaleway

http://www.frnog.org/?page=frnog27&lang=fr
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 octobre 2016 à 16:10:04
la solution retenu est interessante. Il devrait y avoir les slides en ligne dans un futur proche je suppose.

Pour ceux qui ne l'ont pas vu :
en gros :
- boitier conçu en interne.
- 56 HDD par boitier
- 1200 HDD par baie
- 1 tonne par baie
- moins de 800W de conso par baie !?
- architecture ARMV7 / SATA
- Espace disque total de DC4 : 900 Po

L'astuce réside dans le fait d'éteindre les disques et de n'avoir au maximum que deux disques dur par rack allumé à un instant t. De toute façon, il n'y a que 2 bus SATA par rack.
Ah et puis ce sont des disques dur spéciaux aussi (commander 100.000 unité doit aider)

Arnaud détaillera ça mieux que je ne pourrais le faire, en gros, ils ont ajouté des fonctionnalités à la norme SATA si j'ai bien compris.

Et les fichiers sont découpé en bloc de 1Go, chaque bloc est stocké sur un rack différent et deux sommes de controles sont calculés et sont stocké sur deux autres rack.
Le tout drivé par une base PostgreSQL.

Il y aura aussi un système de région avec DC2 - DC4 et d'autres DC sont prévu en Europe.


En tout cas, super présentation.
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 14 octobre 2016 à 16:17:58
Quelqu'un sait si un replay est possible ? J'espère qu'Arnaud va publier les articles suivants en tout cas.
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 octobre 2016 à 16:27:59
en général, le replay arrive quelques semaines après sur dailymotion.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 14 octobre 2016 à 16:55:37
j'ai pompé en vidéo, https://1fichier.com/?q3pic8ivhx

désolé pour le son c'est pris via mon casque audio et j'ai normalisé le son avant ;)

il a parlé de 12 blocs et 2 parités si je ne m'abuse... je serais curieux de la taille des blocs m'enfin on aura peut-etre l'explication en écrit sur le blog soeur-anne.com

Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 14 octobre 2016 à 16:57:46
- moins de 800W de conso par baie !?

ca c'est au début et ce qui est ecrit noir sur blanc sur son slide mais 10 minutes apres, il a dit qu'il l'avait joué un peu trop marseillais....
Titre: C14 : système d'archivage dans le cloud
Posté par: Hugues le 14 octobre 2016 à 17:06:23
Blocs de 1Go, il l'a dit :)
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 14 octobre 2016 à 17:12:13
Je confirme, j'étais là.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 14 octobre 2016 à 17:22:18
ah ok 12 blocs de 1 GB + 2 parités par bloc final de 10 GB....
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 octobre 2016 à 17:28:44
ca c'est au début et ce qui est ecrit noir sur blanc sur son slide mais 10 minutes apres, il a dit qu'il l'avait joué un peu trop marseillais....

Oui, il a ajouté que c'était en fait beaucoup moins.
Pour les 12 bloc c'etait sur son exemple de 10 Go donc découpé en 10 bloc + 2 parité = 12
 si j'ai bien suivi la démo.
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 14 octobre 2016 à 17:58:51
Les slides : http://www.slideshare.net/online_fr/dc4-c14
Titre: C14 : système d'archivage dans le cloud
Posté par: Hugues le 14 octobre 2016 à 18:00:30
Y'a pas les backup slides, j'suis déçu :p
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 14 octobre 2016 à 19:56:50
Pour les 12 bloc c'etait sur son exemple de 10 Go donc découpé en 10 bloc + 2 parité = 12
 si j'ai bien suivi la démo.

oui j'ai revu le slide, pour 10GB de data, c'est 2 GB en plus de parité...

mouep mouep.... on comprend mieux le prix...

enfait c'est du B2 low-cost koah !!!! https://www.backblaze.com/blog/b2-cloud-storage-frequent-questions/
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 14 octobre 2016 à 20:22:49
En tout cas on a appris que Amazon Glacier fonctionnait avec des bandes.
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 14 octobre 2016 à 21:09:11
Pour les 12 bloc c'etait sur son exemple de 10 Go donc découpé en 10 bloc + 2 parité = 12
 si j'ai bien suivi la démo.

Oui, ca dépends de la redondance choisie (Standard ou Entreprise).
Le standard c'est 20% de parité, chaque bloc de 10Go étant écrit sur 10+2 machines indépendantes. (si c'est moins, 5Go par exemple, on restera à deux parités)
Titre: C14 : système d'archivage dans le cloud
Posté par: Phach le 04 février 2017 à 16:52:17
https://www.dailymotion.com/video/x58hwz8_frnog-27-arnaud-de-bermingham-online-dc4-c14_tech
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 mars 2017 à 14:34:05
Ah et puis ce sont des disques dur spéciaux aussi (commander 100.000 unité doit aider)
Est-ce qu'on en sait plus à ce sujet ? J'ai assisté à une réunion avec des représentants d'un grand fabriquant de disques durs pour le boulot et visiblement ils n'en sont pas encore au point où ils peuvent éteindre des disques. Ils avaient l'air très dubitatif sur la possibilité d'arrêter complètement des disques sans casse au redémarrage.
Titre: C14 : système d'archivage dans le cloud
Posté par: Hugues le 16 mars 2017 à 14:35:46
Vu la conso, c'est certain que les disques de C14 sont arrêtés !
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 mars 2017 à 14:39:08
Je sais bien, du coup je serais curieux de savoir chez qui Online se fournit.
Titre: C14 : système d'archivage dans le cloud
Posté par: FloBaoti le 16 mars 2017 à 15:00:26
Est-ce qu'on en sait plus à ce sujet ? J'ai assisté à une réunion avec des représentants d'un grand fabriquant de disques durs pour le boulot et visiblement ils n'en sont pas encore au point où ils peuvent éteindre des disques. Ils avaient l'air très dubitatif sur la possibilité d'arrêter complètement des disques sans casse au redémarrage.
Pas sûr que les "représentants" (commerciaux) soient au courant de ce qu'il se passe en R&D. Là typiquement c'est de la R&D spécifique pour Online, ce n'est pas un produit catalogue.
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 mars 2017 à 15:20:54
Ce n'était pas seulement des commerciaux, il y avait des gens proches de la R&D.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 16 mars 2017 à 15:21:39
Ils avaient l'air très dubitatif sur la possibilité d'arrêter complètement des disques sans casse au redémarrage.

Quand on a ecris un paquet de bytes, on range la tête magnetique et on debranche le jus.... vous voyez une casse par le fait
de redémmarage incessants alias "meme pas le temps de s'arreter qu'on redemarre sur le champ " ?
Titre: C14 : système d'archivage dans le cloud
Posté par: underground78 le 16 mars 2017 à 15:25:11
A priori le problème c'est plutôt d'arrêter la rotation des plateaux.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 16 mars 2017 à 15:36:48
arreter ??? un plateau tournant dans le vide ca ne fait pas de degats...
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 16 mars 2017 à 19:02:14
arreter ??? un plateau tournant dans le vide ca ne fait pas de degats...

Oui mais ça consomme...
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 16 mars 2017 à 19:20:06
je parle dans un processus d'arret... la plateau devient une roue libre qui s'arretera au bout de xx voire xxx secondes...
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 16 mars 2017 à 20:53:00
Je précise qu'Online n'est pas le seul à pratiquer l'arrêt de disque dur, ou de serveurs complets, dans des datacenters.
A priori, toutes les solutions de "cold storage" à disque dur fonctionnent de la sorte.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: kgersen le 16 mars 2017 à 22:59:15
Je précise qu'Online n'est pas le seul à pratiquer l'arrêt de disque dur, ou de serveurs complets, dans des datacenters.
A priori, toutes les solutions de "cold storage" à disque dur fonctionnent de la sorte.

Leon.

Je sais pas mais a prix égal ou peu différent du C14, le GoogleCloud Coldline a un temps d'accès en dessous de la seconde ("time to first byte is typically tens of milliseconds")

pas sur qu'ils fonctionnent pareil.

https://cloud.google.com/storage/docs/storage-classes
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 17 mars 2017 à 08:30:26
Je précise qu'Online n'est pas le seul à pratiquer l'arrêt de disque dur, ou de serveurs complets, dans des datacenters.
A priori, toutes les solutions de "cold storage" à disque dur fonctionnent de la sorte.

Leon.

C'est marrant, j'aurais dit le contraire: Online doivent être les seuls à arrêter les disques.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 17 mars 2017 à 09:19:02
Le nom de "cold storage" signifie quand meme une prépondérance de FROID donc de repos...
Titre: C14 : système d'archivage dans le cloud
Posté par: BadMax le 17 mars 2017 à 09:45:44
Cold=faible fréquence d'accès par le client

"Cold Storage" est une appellation marketing, pas technique.

C'est comme C14 : ils n'ont pas utilisé de Carbone 14 :D
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 17 mars 2017 à 10:28:57
L'idée reste quand meme pour ILIAD d'économiser de l'energie en plus ^^
Titre: C14 : système d'archivage dans le cloud
Posté par: Optix le 19 mars 2017 à 10:33:54
De toutes façons, ce sera toujours pareil : tu économiseras toujours plus de courant si tu es capable de savoir à l'avance quelles données les gens vont vouloir.

D'habitude les gens veulent tout, tout de suite, donc il faut développer une offre qui cible un usage particulier ou, plus difficile, qui responsabilise le client en changeant son comportement pour le caler sur l'offre qui mettra plus d'efforts à attendre le temps de rapatrier ses données. C'est là qu'est toute l'astuce : soit tu stockes "bêtement" ta donnée et tu la ressors dès qu'on te sonne, ou bien tu es capable de prédire où ils vont taper pour gagner de précieuses secondes, minutes voire heures.

C'est sûr que monter une grosse salle machine qui s'allume juste qq heures/mois parce que tout le reste du mois on a constitué une liste sur un p'tit serveur de tout ce que les gens veulent récupérer, ça explosera des records d'économies de conso.  ;D

Par contre, je trouve personnellement que ce genre d'offre n'est pas encore très maîtrisée côté fournisseur, car il oblige le client à s'adapter à l'infra du fournisseur et non l'inverse. Ce n'est pas une opération transparente, ce qui pourrait être la clé d'une démocratisation de malade.

Dans mon infrastructure, j'avais mis sur pied un modèle mathématique qui permet d'arrêter d'investir au-délà d'une certaine durée de rétention (mes clients voulaient du contenu frais de qq jours à peine, avant tout, et très rapidement) car le coût marginal excédait celui de la vente marginale (autrement dit, rajouter un serveur supplèmentaire coutait plus cher que les ventes supplèmentaires que ça allait générer). Donc j'avais un chiffre qui me disait : "ne dépasse jamais les X jours de rétention".

QUID des jours supplèmentaires pour égaler les gros géants du secteur ? Ma solution était de passer sur du cold-storage pour les vieux articles car j'avais trouvé le moyen de savoir très précisèment que mon client voulait chercher, il était près à attendre, mais aucun n'était pas près à attendre plus de 5 minutes pour commencer le transfert. Donc j'ai réussi à gagner 5 minutes auprès de mon public pour rallumer des données en sommeil.

Et là c'était le drame sur le marché du cold-storage : il n'y en a aucun qui est capable de se fondre dans une infra existante (genre un montage NFS m'aurait vachement simplifié la vie), il fallait que je me coltine des jours/semaines de dev pour revoir mon SI pour savoir où je stocke, comment je rapatrie mes données (j'ai juste le filePath à la base hein) pour gérer l'API du dit-fournisseur (du coup ça me forçait aussi à rester enfermé chez un fournisseur).

Donc voilà, c'est vraiment un truc qui pourrait aider pas mal de structure selon moi. Si ça peut donner des idées à Online... :)
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 30 avril 2017 à 18:24:35
Voici 2 photos d'un tiroir C14
https://twitter.com/online_fr/status/858421662152261632

On compte 56 disque dur par tiroir. Donc 1 tiroir, c'est sans doute plus de 30kg.
Notez que les disques dur sont seulement tenus par leur connecteur, il n'y a pas de guide.
A priori, il y a au moins 2 tiroirs côte à côte par baie, dans le sens de la profondeur.
On reconnait des tiroirs qui ressemblent beaucoup à ceux de Scaleways C2 (https://lafibre.info/online/offres-a-2-5-gbs/36/).

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: e-TE le 30 avril 2017 à 22:14:20
ca fait un peu joueur de laisser ca tenir juste par le connecteur
Titre: C14 : système d'archivage dans le cloud
Posté par: online_fr le 02 mai 2017 à 12:15:50
Il y a une grille au dessus (qui n'est pas installée sur les photos)
Titre: C14 : système d'archivage dans le cloud
Posté par: e-TE le 02 mai 2017 à 15:22:33
ok :)
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 03 mai 2017 à 19:45:47
La photo avec la grille de maintien sur le dessus.
Ca ne me rassure pas pour autant. Le risque de péter un connecteur pendant un remplacement de disque dur, me semble réel. Un faux mouvement c'est vite fait, et faire basculer un disque déjà branché sur la carte, et péter la carte ou le connecteur, ça doit être faisable assez facilement.
Mais Online a du faire des tests.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 03 mai 2017 à 20:10:18
Le risque de péter un connecteur pendant un remplacement de disque dur, me semble réel.

Aux dernières nouvelles, il n'est pas prévu de changer les disques durs
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 03 mai 2017 à 20:18:52
Aux dernières nouvelles, il n'est pas prévu de changer les disques durs
Je n'ai pas compris...
Tu veux dire que sur les milliers (dizaines de milliers?) de disque dur, aucun ne sera défaillant dans les 10 ou 15 ans?
Ou alors que Online laissera les disque dur morts sur place sans les changer? Ca serait étonnant.

Leon.
Titre: C14 : système d'archivage dans le cloud
Posté par: jack le 03 mai 2017 à 20:29:00
Ou alors que Online laissera les disque dur morts sur place sans les changer? Ca serait étonnant.
C'est cela

Avec un coût de fonctionnement faible (et nul pour les disques en panne, évidement) et un coût de remplacement plus élevé (difficulté d'accès), sans oublier le fait que l'espace ne manque pas, ce ne me parait pas absurde comme choix

Et il est toujours possible de revenir très facilement sur la décision
Titre: C14 : système d'archivage dans le cloud
Posté par: Nico le 04 mai 2017 à 08:47:49
Ou alors que Online laissera les disque dur morts sur place sans les changer? Ca serait étonnant.
C'est bien ce que j'avais compris. Vu le peu de temps que sont censés tourner les disques, ça n'est pas forcement si étonnant.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 04 mai 2017 à 11:31:38
on en vient aux temps de maintenance qui couteraient plus cher que le produit (baie) en lui-même ?!
Titre: C14 : système d'archivage dans le cloud
Posté par: Optrolight le 04 mai 2017 à 12:12:05
On peut facilement imaginer que lorsque (arbitraiement) 2/3 des disques sont mort ils peuvent changer la baie entière.
Titre: C14 : système d'archivage dans le cloud
Posté par: willemijns le 04 mai 2017 à 13:10:58
exactement....
Titre: C14 : système d'archivage dans le cloud
Posté par: corrector le 04 mai 2017 à 18:02:29
On rappellera utilement que le recyclage organisé par les collectivités est souvent une gabegie de ressources (énergie, matériaux) puisqu'on recycle des objets toujours moins valorisables dont la collecte consomme beaucoup plus de ressources que ce qui est récupéré.
Titre: C14 : système d'archivage dans le cloud
Posté par: Leon le 04 mai 2017 à 19:50:08
On rappellera utilement que le recyclage organisé par les collectivités est souvent une gabegie de ressources (énergie, matériaux) puisqu'on recycle des objets toujours moins valorisables dont la collecte consomme beaucoup plus de ressources que ce qui est récupéré.
+1.
Le recyclage, dans beaucoup de cas, est une aberration, et c'est loin d'être "écolo" (à part pour le green washing).
Personnellement, je ne comprends pas que l'on soit passé de la consignation des bouteilles en verre (pratiqué il y a 20 ans), à leur recyclage qui pollue infiniment plus (consommation d'énergie fossile notamment).
Pareil, recycler du papier c'est peut-être mieux que de détruire des forêts, mais ça consomme énormèment d'eau et de produits chimiques et d'énergie. C'est loin d'être écolo comme on veut nous faire croire.

OK, le recyclage est utile dans certains cas, mais c'est loin d'être une généralité, et ça ne doit pas servir de prétexte pour nous autoriser à consommer plus sans regarder, en considérant que cette consommation de trucs recyclés/recyclables n'a aucun impact sur l'environnement. C'est totalement faux.

Désolé pour le hors sujet.

Leon.