Une idee : sauvegarde pair-à-pair

Geraud
    Une idee : sauvegarde pair-à-pair
Avatar de l’utilisateur
Vieux briscard
Messages : 3542
Depuis le 21 avr 2005
742 Evergreen Terrace, Springfield
Bonjour,

Apres avoir lu les mesaventures d'un photographe n'avant pas effectue de sauvegardes "hors-site" ici, j'ai pense a un truc... une sauvegarde pair-a-pair.

L'idee c'est de creer une communaute d'utilisateurs, ou chacun va stocker les images qu'il veut, de facon distribuee, avec de la redondance.

Ainsi en cas de pepin on peut retrouver ses images.

Quelques elements auxquels j'ai pense:

- fichiers cryptes de facon a ce que seul le photographe a qui elles appartiennent puisse les lire
- chaque utilisateur va definir quel espace disque il va reserver aux images "des autres"
- idealement un moyen d'eviter qu'un utilisateur ne vampirise toutes les ressources.

Si vous avez des idees pour rendre ce projet attractif, n'hesitez pas a les soumettre ici. L'idee c'est de pouvoir stocker des centaines de gigas sans payer un abonnement annuel redhibitoire pour les amateurs. (certes ca signifie que vous partagiez aussi un disque dur, mais au prix du Tera-octet actuel...)

En plus je connais les specialistes Francais (en recherche) du pair a pair, et je pense que ce genre d'applications les interesserait a fond...
Stephan_W
Avatar de l’utilisateur
Vieux briscard
Messages : 3447
Depuis le 31 mars 2008
Mulhouse
L'idée est bonne, mais si je vous le volume à saufgarder, je pense que même avec une connection haute débit celà prendrai des mois à télécharger ces fichiers.

Ce qui me plairat beaucoup mieux, ce serait un "plug-in" pour Light room, qui permettrait de saufgarder une sélection de photos y compris leur post-production sur n'importe-quel lieu (disque dur, carte, web, etc.)
Laurent A
Avatar de l’utilisateur
Spécialiste
Messages : 1751
Depuis le 19 mars 2004
Val d'Oise
Evidemment, le P2P doit permettre de partager des espaces disques entre utilisateurs.
Si chacun partage autant d’espace qu’il n’en utilise, cela fait une redondance, si chacun partage le double de ce qu’il utilise, cela fait deux redondances, etc… Les logiciels actuels de P2P ne savent pas (à ma connaissance) gérer facilement la mise à jour de fichiers, il faudrait les adapter.

Plus simple, il suffirait de former un groupe, chacun possédant un NAS chez lui dont qu’il réserve une partie à chacun des autres membres du groupe. Chacun s’occupant alors de sauvegarder ses propres fichiers par ftp sur les espaces des autres. Il existe des logiciels qui savent faire la synchronisation de répertoires par ftp, et même le cryptage.

Une autre solution, consiste à laisser un disque à demeure chez quelqu’un de confiance. Imaginons que vous ayez l’habitude de déjeuner tous les dimanches chez « belle-maman ». Il suffit d’avoir deux disques de sauvegarde : un chez vous, un chez elle. Chaque dimanche, vous lui laissez celui qui était chez vous et vous ramenez l’autre chez vous : il sera mis à jour en prévision du dimanche suivant.

Mais, je suis toujours circonspect quand il s’agit de bricoler des solutions qui existent déjà

Il y a des spécialistes de la sauvegarde qui exploitent des datacenters sécurisés avec alimentation protégée, raid 5, cryptage, etc pour de prix raisonnables. Chez Carbonite ou Mozy, pour environ 50 euros par an, on a un espace disque distant théoriquement illimité. La principale limite concerne la capacité d’upload de l’ADSL. Il existe aussi des solutions moins grand public, encore plus sécurisés, mais autrement plus chers.

Je suis abonné depuis 3 ans chez Carbonite, j’y stocke 150 Go de données et le transfert s’est toujours passé de manière transparente.
Geraud
Avatar de l’utilisateur
Vieux briscard
Messages : 3542
Depuis le 21 avr 2005
742 Evergreen Terrace, Springfield
Laurent l'idee c'est de faire en sorte que ce soit plus transparent et plus distribue :-)
En fait c'est tres proche du ftp que tu decris, mais en automatique. Pas besoin de reflechir "ah mais j'ai mis quoi et ou deja, et quelle version?"

Stephan: Concernant les debits actuels, ca devrait le faire si les sauvegardes sont incrementales. Certes il y a un demarrage sans doute un peu couteux en temps, mais ensuite pour quelques centaines de megas par fichier (un TIFF max def du M9 par exemple) ca ne devrait pas etre la mer a boire.
Quant a Lightroom il y a des fonctions qui te permettent de publier directement sur un site web, y compris via ftp etc

J'ai regarde sur le net et apparemment il existe un systeme de fichier distribue qui permet ca, y compris avec les contraintes d'encryption, mais c'est en python, faut que les utilisateurs compilent ca... autrement dit une machine a gaz pour la plupart d'entre eux... je verrais plutot ca comme une interface java pour la portabilite et la transparence (cachez cette machine a gaz que je ne saurais voir)
rederon
Avatar de l’utilisateur
Habitué
Messages : 808
Depuis le 13 juin 2003
Saint-Cloud
Bonjour,
Quand tu as des fichiers de plusieurs dizaine de Mo, il faut tout de même une sacré connexion pour décharger une carte contenant ne serait-ce qu'une centaine de photos. Ce qui, tu en conviendras, n'est déjà pas beaucoup même pour un photographe amateur.
Moi, j'ai choisi le stockage sur un petit serveur pas cher, branché à domicile sur la freebox.
Quant à la sauvegarde, c'est pour l'instant sur un disque dur sur un autre ordinateur, et j'envisage très prochainement de mettre en place un autre petit serveur de backup au domicile d'un parent ou d'un ami, toujours connecté sur une freebox.
Avantages :
* Les données sont localisées dans des endroits que je connais (et par sur des serveurs à l'autre bout du monde).
* La connexion du serveur local m'assure la vitesse maximale et (très important) un accès indépendant de la connexion au réseau Internet.
* Le serveur distant m'assurera contre la perte des données du serveur local (panne du serveur, inondation, incendie, vol, etc.) ; le fait qu'il s'agisse d'un backup pouvant se satisfaire d'une connexion moins rapide.
* Pas d'abonnement.
* Idéalement, tu peux même proposer à un ami de faire pareil et d'héberger ses photos chez toi ; tu peux ainsi mutualiser les coûts.

Laurent A a écrit :
[...] Plus simple, il suffirait de former un groupe, chacun possédant un NAS chez lui dont qu’il réserve une partie à chacun des autres membres du groupe. Chacun s’occupant alors de sauvegarder ses propres fichiers par ftp sur les espaces des autres. Il existe des logiciels qui savent faire la synchronisation de répertoires par ftp, et même le cryptage.

Laurent A m'a devancé.
Effectivement c'est la solution que je m'apprête à mettre en oeuvre (j'ai déjà fait la moitié du chemin).
Stéphane
Geraud
Avatar de l’utilisateur
Vieux briscard
Messages : 3542
Depuis le 21 avr 2005
742 Evergreen Terrace, Springfield
Question vis a vis du stockage chez soi, pourquoi passer par la Freebox? Ou alors par Freebox vous voulez dire le routeur de la Freebox, autrement dit un stockage de type NAS (Network attached storage)

Le probleme que j'essaie de resoudre c'est en fait le cote technique... si on commence a dire "c'est facile tu fais du ftp et tu faits des mises a jour manuelles"... pas mal de monde aura peur, meme si dans un systeme p2p c'est ce qui va se passer de facon transparente.

Merci en tout cas de vos idees/critiques. Encore une fois, j'essaie de penser aux utilisateurs qui n'aiment pas se plonger dans tout ce qui est protocoles de communication et compagnie ;-) Une approche tres "Mac" quoi (je sais je sais :cool: )
rederon
Avatar de l’utilisateur
Habitué
Messages : 808
Depuis le 13 juin 2003
Saint-Cloud
Oui, je connecte le serveur (qui fait serveur NAS, FTP, HTTP, SAMBA, etc.) au modem routeur Freebox.
L'intérêt c'est donc de pouvoir accéder à cet espace de stockage local, depuis n'importe quel ordinateur connecté au réseau local de la Freebox, en créant un point de montage.
Donc il ne s'agit pas de faire du FTP (ce qui soit dit en passant est toujours possible), mais simplement du copier-coller, glisser-déposer ou tout ce que tu veux entre la carte SD que tu as connecté dans ton ordinateur, et l'espace de stockage local.
Bien entendu, tu peux ensuite accéder au serveur avec un navigateur s'il fait aussi serveur Web (d'où l'intérêt de bien choisir le NAS).
L'intérêt de cette dernière méthode est justement de pouvoir accéder à un serveur de stockage distant cette fois, et de transférer des photos, sans faire du FTP (ce qui reste là encore possible).
Cerise sur la gâteau : Le serveur local étant connecté à la Freebox et lui aussi accessible depuis l'extérieur, tu peux héberger ton propre site Web, et accéder à tes photos depuis n'importe où.
Stéphane
Geraud
Avatar de l’utilisateur
Vieux briscard
Messages : 3542
Depuis le 21 avr 2005
742 Evergreen Terrace, Springfield
Merci de la precision rederon. Je vois en fait cela comme une version "lente" de ce que j'ai (RAID5 LaCie en connection directe car je me dis que quant a l'avoir a la maison autant l'avoir en eSata)

Certaines solutions payantes (WUALA de LaCie par exemple) proposent aussi le montage, et tout est transparent pour l'utilisateur (copier/coller comme sur un disque local). Mais payer a l'annee... c'est ce que je voudrais eviter, tout en ajoutant la dimension automatisee propre a un systeme de sauvegarde incremental. Autrement dit pas besoin de se demander ou est passe tel ou tel fichier.

Je vois l'interet surtout pour ce qui est de l'automatisation. Je pensais a quelque chose permettant de dire "prends ces fichiers et place les sur telle IP" la-dite IP etant celle d'un ami. Et hop tout se passe entre les deux machines sans que les utilisateurs aient autre chose a faire que de dire "je veux sauvegarder ce qui est dans ce repertoire, chaque nuit, s'il y a eu des changements".

Encore une fois, certes il y a des solutions qui existent deja, mais mon but c'est de faire quelque chose de moins technique aux yeux de la plupart des utilisateurs.
rederon
Avatar de l’utilisateur
Habitué
Messages : 808
Depuis le 13 juin 2003
Saint-Cloud
La connexion de l'espace de stockage en eSata suppose donc que tu l'a connecté à un seul ordinateur.
la connexion au modem routeur permet l'accès depuis plusieurs poste, y compris avec des portables en Wifi.

L'autre intérêt de connecter le serveur à la Freebox est aussi pour moi de ne pas entendre continuellement son ronronnement : J'ai tout mis dans un local frais et sec où je vais très rarement.

En ce qui concerne la lenteur, la connexion Wifi de la Freebox est en théorie de 300 Mbps. Mais même si dans la pratique tu as quelques dizaines de Mbps, c'est largement suffisant pour décharger une carte de 4Go en un temps ultra court.

Pour ce qui est de la synchronisation automatique avec le serveur distant, je suppose que cela existe mais je n'ai pas encore mis en oeuvre.

J'avais un Lacie dans le temps, mais je l'ai ramené en boutique car je crois me souvenir qu'il ne faisait pas serveur HTTP.
Ca s'est peut-être amélioré depuis.
Stéphane
Laurent A
Avatar de l’utilisateur
Spécialiste
Messages : 1751
Depuis le 19 mars 2004
Val d'Oise
Avec un logiciel qui va bien, genre « SyncBackSE » (sur PC) ou « Superflexible » (sur PC et sur Mac), le paramétrage d’une sauvegarde ftp se fait très facilement :
- choix de la source et de la destination (local, réseau ou ftp)
- modes de copie (sauvegarde simple, synchronisation, miroir, résolution de conflits, etc)
- mode de compression et cryptage de la cible.
- Planification des sauvegardes automatiques.

Ensuite, le logiciel se débrouille tout seul. :content:

On peut même produire un rapport de sauvegarde à chaque exécution et se le faire transférer par mail, pour se rassurer sur ce qui s’est réellement passé. :wink:

En version "pro" Syncback sait même sauvegarder vers un serveur mail. Du genre, tu crée une adresse mail gratuite dont l'espace de stockage n'est pas limité (sur yahoo par exemple) et le logiciel utilise cet espace pour sauvegarder les fichiers (1 mail par fichier). La restauration des fichiers se fait de même par un accès "pop". Pas sûr que Yahoo apprécierait que tous ses utilisateurs fassent ça :twisted:
jo
Messages : 58
Depuis le 14 jan 2005
J'ai déjà pensé à ça.
Empiriquement, un des points clé me semble d'avoir un nombre suffisant "d'amis" pour pouvoir retrouver ses données. (ou disponibilité des machines 24/24 ce qui n'est pas mon cas)

Il faut aussi faire confiance, même si les données sont chiffrées.

Néanmoins, c'est une très bonne idée il me semble. (de plus ça montre que le P2P "légal" existe)
rederon
Avatar de l’utilisateur
Habitué
Messages : 808
Depuis le 13 juin 2003
Saint-Cloud
Il suffit d'un seul ami.
Ou même si tu a suffisamment d'argent, d'un membre de ta famille chez qui tu déposes ton second serveur.

La disponibilité 24h/24 ?
Pour le serveur local au moins, tu la maitrises : Il suffit de le laisser allumer, voir même de le mettre sur onduleur.
La consommation ? Ils font maintenant des bidules qui consomment moins de 20wh : 10€ par an d'électricité.

Quant à la question de la confiance des données stockées chez un tiers : Je suis d'accord avec toi.
Mais si un jour tu veux changer de fournisseur, il faudra tout retransférer.
Finalement, tu finis par être très très lié à ton fournisseur.
Stéphane
jo
Messages : 58
Depuis le 14 jan 2005
rederon a écrit :
Il suffit d'un seul ami.

Non l'idée c'est de pouvoir recuperer tes données si tu perds ton serveur. Un seul ami ce n'est pas suffisant (ex : il est en vacances pour quelques jours, synchro impossible pendant son absence (sauf si bien sûr le serveur reste dispo))

rederon a écrit :
Ou même si tu a suffisamment d'argent, d'un membre de ta famille chez qui tu déposes ton second serveur.

Effectivement mais ce n'est pas le but.


rederon a écrit :
Mais si un jour tu veux changer de fournisseur, il faudra tout retransférer.
Finalement, tu finis par être très très lié à ton fournisseur.

Les données sont sur tes disques (et chez les "amis"), pas chez le fournisseur.
Tchavo
Avatar de l’utilisateur
Messages : 30
Depuis le 22 sep 2009
Puteaux (92)
Géraud :
LaCie a racheté récement Wuala : http://www.wuala.com/
Qui fait ce genre de truc sur 1To, 500go en stockage local, 500Go partagés pour les autres utilisateurs.

LaCie a (ou va très bientôt) sortir un NAS + Wuala qui gère ça de manière transparente. Malheureusement lorsque je bossais la bas, les débits étaient affreux (1semaine pour synchroniser un film de 750Mo). C'était encore en prototypage, mais surement dû au fait que tout soit écrit en java.

Je pense qu'il y'a vraiment une utilité à ce genre de stockage distribué, incrémental (à la time machine), et transparent.

Retourner vers Labo numérique

Qui est en ligne

Utilisateurs parcourant cette section : Aucun utilisateur enregistré et 3 invités