Die Deduplikations Technologie hat in den letzten Jahren enorme Fortschritte gemacht und wird heute sogar auf High-End Online Speicher Systemen eingesetzt. Die Technologie sollte jedoch nicht für alle Speicheranforderungen eingesetzt werden. Durch eine intelligente Nutzung der Technologie, können Sie jedoch heute Ihre Infrastruktur um Faktoren optimieren und dies bei einem niedrigeren Preis in der Anschaffung und im Betrieb!

Was ist Deduplikation?

Deduplizierung (engl. Deduplication) oft auch als SIS (Single Instance Storage) bekannt, ist in der IT ein Prozess, der redundante Daten identifiziert und eliminiert. Systeme mit Deduplizierung arbeiten anders als klassische Kompressionsverfahren, die nur wenige Vergleichsmuster benutzen. Allgemein kann Deduplizierung auf unterschiedlichen Ebenen wie z.B. Datei, Segement oder Block eingesetzt werden. Um die Duplikate zu finden, wird die Information mit einem Hash Algorithmus versehen. Oft wird dabei mit MD5 oder SHA-1 Algorithmen gearbeitet. Ob Block oder Segment, jeder Datenteil erhält einen eigenen Hash Wert, welcher in einer Art Index abgelegt wird. Haben Informationen den selben Hash-Wert, können sie als einheitlich betrachtet werden und müssen lediglich ein einziges mal gespeichert werden (Single Instance). Wird bei einer Blockdeduplizierung lediglich ein Teil einer Datei verändert, müssen nur die geänderten Blöcke mit einem neuen Hash-Wert versehen werden und mit der Index Datenbank verglichen werden.

Die ersten Systeme mit Deduplizierungstechnik wurden im Backupsegment eingesetzt. Backup profitiert traditionell stark von der Deduplizierung, da diverse «Full-Backups» aus Sicherheitsgründen aufbewahrt werden. Hat ein produktives System 20GB Daten, braucht man mit traditionellen Backupmethoden bei Weekly-Full Backups mit einer Aufbewahrungszeit von 3 Monaten mindestens 10x mehr Platz auf der Backupinfrastruktur. Dies obwohl vermutlich 90% der Daten stets identisch waren! Dank der Deduplizierung benötigt man nun nur noch marginal mehr Speicher, was wie folgt illustriert wird:

Backup Volumen = Fullbackup + veränderte und eindeutige Daten über den Zeitraum der Aufbewahrungsfrist

Was für Methoden der Deduplizierung gibt es?

Es gibt mehrere Methoden zur Deduplizierung. Je nach Anforderung, hat jede Methode seine Stärken und Schwächen. Am Markt wird meist in zwei Gruppen unterschieden, wobei von jeder Gruppe ein Merkmal in einer Deduplizierungslösung vorhanden ist.

1. Inline vs Nearline Deduplizierung
2. Segment vs Blocklevel Deduplizierung

Merkmal 1: Inline vs Nearline Deduplizierung

Die Deduplizierungstechnik hat auch seine Herausforderungen. Will man Daten die noch nicht geschrieben wurden bereits beim Transfer deduplizieren, so erhöht das die Latenz, da zusätzliche CPU und IO Zyklen dafür nötig sind. Diese Technik wird Inline Deduplizierung genannt. Der Vorteil dieser Technik liegt auf der Hand. Daten die bereits existieren belasten das meist schwächste Glied in der Speicherkeite, die Harddisk, nicht ein weiteres mal. Grosse und sequentielle Datenströme werden effizient abgearbeitet. Der Nachteil durch die erhöhte Latenz kann, gerade auf kleine aber mengenmässig viele IOs, einen starken Einfluss haben. Durch die physikalischen Gegebenheiten der Inline Deduplizierung, wird sie heute noch selten bei Online Speichersystemen eingesetzt. Dank dem jedoch schnell verändernden CPU Markt, wird diese Schwäche mit der Zeit immer geringer, da diese Methode 100% von der Leistung der CPU abhängt.

Das Nearlineverfahren ist ein guter Kompromiss. Daten werden auf Basis von Schedules dedupliziert, wobei beim ersten Durchgang sämtliche auf dem Volume basierten Daten dedupliziert werden.  Anschliessend werden lediglich die Daten analysiert, welche seit der letzten Deduplizierung neu dazugekommen sind. Der Vorteil dabei ist, dass zwischen den Deduplizierungsvorgängen das System beim Schreiben von Daten sich wie ein traditionelles Speichersystem verhält. Beim Lesen der Daten profitiert man weiterhin von der Deduplikation! Der Nachteil dieses Verfahrens liegt im Prinzip das Daten zweimal verarbeitet werden müssen. Beim ersten mal werden die Daten traditionell gespeichert um anschliessend beim nächsten Deduplizierungsdurchgang erneut gelesen und verarbeitet zu werden. Bei Systemen die zu 100% 7x24h ausgelastet sind, kann dies zu einer Einschränkung der Leistung während der Deduplikation führen, was jedoch selten bei Kunden anzutreffen ist!

Merkmal 2: Segment vs Blocklevel Deduplizierung

Die Blocklevel Deduplizierung ist eine simple Methode der Deduplizierung. Jeder Datenblock wird mit einem eigenen Hash-Wert versehen. Rein theoretisch zählt diese Methode zu den effizientesten Methoden der Deduplizierung, resultiert jedoch in einer sehr grossen und strukturell komplexen Index Datenbank. Die meisten Hersteller limitieren darum auch die maximale Grösse eines solchen Volumes auf wenige TB.

Die Segment Deduplizierung wird immer in Kombination mit der Inline-Deduplizierung verwendet. Dabei wird ein Datenstrom analysiert und in variable Segmente z.B. 16k – 4k aufgeteilt und analysiert. Ist ein Hash-Wert eines Segments bereits vorhanden, muss das vollständige Segment nicht erneut abgelegt werden. Gerade bei Backuplösungen ist dies eine sehr effiziente Methode, welche die Deduplizierungsdatenbank auch volumenmässig in Grenzen hält.

Wo macht Deduplikation Sinn?

Aktuell sind wir in der IT fleissig am Zentralisieren. Der «IT as a Service» Ansatz führt zu einer starken Konsolidierung. Gerade in virtualisierten Umgebungen wo ganze Desktops virtuell betrieben werden, würde der traditionelle Ansatz zu einer enormen Speicherineffizienz führen. Warum soll das virtuelle C: Drive von 1000 Desktops welche zu 99% identisch ist mehrfach auf dem zentralen Speicher abgelegt werden? Dank der Deduplizierungstechnologie können gerade bei virtualisierten Infrastrukturen Platzeinsparnisse von > 80% erzielt werden. Sprich, statt 1TB werden nur noch weniger als 0.2TB benötigt. Die intelligenten Systeme von NetApp profitieren zudem von der Deduplikation im Cache Bereich. Daten werden dedupliziert sowohl im RAM als auch auf FLASH abgelegt. Gerade bei diesem kostspieligen und mengenmässig kleinem Speicher profitiert man stark von der Deduplizierung.

Der Vorteil der Deduplizierungstechnologie im Backupumfeld ist erheblich. Wo früher diskbasierte Backuplösungen nicht bezahlbar waren, sind genau diese heute dank dieser Technologie immer öfters kosteneffizienter als traditionelle Tape Methoden.

Die folgende Liste zeigt grob auf wo Deduplizierung eingesetzt werden sollte. Die Liste erhebt dabei nicht den Anspruch abschliessend zu sein:

• Backup
• Virtuelle Infrastrukturen, im speziellen VDI
• Datenarchive
• Home Verzeichnisse
• PST Dateien
• Exchange 2010 (hat kein SIS mehr)

Wo sollte auf Deduplikation verzichtet werden?

Sie mögen nun wohl denken «Super, dann deduplizieren wir doch gleich ALLES!» Dieser Ansatz kann wegen den existierenden Schwächen der Deduplizierung jedoch einen verheerenden Einfluss auf die Leistungsfähigkeit Ihrer Infrastruktur haben. Klassische Bilddaten lassen sich z.B. sehr schlecht deduplizieren, warum also dies Leistung des Systems minimieren wenn es schon im Vorhinein klar das es kein Vorteil bringt. Transaktionsbasierte Anwendungen die möglichst viele Transaktionen in sehr kurzer Zeit verarbeiten müssen würden unter einer Deduplikation massiv leiden. Oft sind dabei auch die Datenmengen eher marginal. Daten die bereits komprimiert wurden, sind meist nicht für eine Deduplikation geeignet, dazu gehören Video, Bild, Audio und ZIP Daten wie z.B. JPEG, MPEG, MP4, MP3, ZIP.

Die folgende Liste zeigt grob auf wo Deduplizierung NICHT eingesetzt werden sollte. Die Liste erhebt dabei nicht den Anspruch abschliessend zu sein:

• Bilddaten
• Videodaten
• Audiodaten
• komprimierte Daten
• OLTP Datenbanken
• Exchange 2003 & 2007 (verwendet bereits SIS)

Lösungen auf Basis der Deduplikations Technologie

BSR & Partner baut Lösungen mit integrierter Deduplikation für Online-, Nearline- sowie Backup-Speicher. Dabei kommen Produkte von NetApp, Pure Storage und EMC zum Einsatz. Während NetApp ganz klar die Führung im Online- und Nearline-Speicher hat, führt Pure Storage den Bereich All-Flash Arrays an. Im Backup Umfeld heist der Pionier DataDomain, der seit einiger Zeit zu EMC dazugehört. Wir empfehlen jedem Kunden speziell bei virtualisierten Umgebungen und traditionellen Backup Ansätzen, Lösungen mit Deduplikation zu berücksichtigen. Die finanziellen Einsparungen und die erhöhte Leistungsfähigkeit gerade bei virtualisierten Infrastrukturen bieten klare Vorteile.

Während die ganz grossen Hersteller mit flashbasierten Caches und Automated-Tiering um sich werfen, vergessen einige sich dabei die essentielle Frage zu stellen: «Was macht technisch und wirtschaftlich gesehen Sinn und was nicht?» Dieser Frage gehen wir in diesem Artikel, im speziellen aus der Sicht eines Write-Caches, auf den Grund.

Potential von Flash

Ich denke wir stimmen alle mit der Aussage überein, dass die flashbasierte SSD Technologie ein enormes Potential hat. In der Frage, wie man diese SSD Technologie effizient und wirtschaftlich einsetzt, scheinen sich die Hersteller jedoch nicht ganz einig zu sein. Während die einen die Technologie in ein AST (Automated Storage Tiering) Konzept einbauen, setzt  z.B. NetApp auf VST (Virtual Storage Tiering) und andere auf All-Flash Architekturen.

Automated Storage Tiering (AST)

Automated Storage Tiering verschiebt wie bereits im Namen ersichtlich, automatisch Daten zwischen unterschiedlichen Storage Tiers anhand definierter Regeln, wie z.B. Last Access Time. Das Problem bei AST liegt in der Granularität der verschiebbaren Daten. Um eine Granularität auf Blockebene zu ermöglichen, sind sehr grosse und komplexe Zuweisungs- tabellen nötig. Diese Tabellen können ein System oder Kontroller sehr schnell in die Knie zwingen. Bei den heutigen zu verwaltenden Datenmengen, ein vermutlich unmögliches Unterfangen. Aus diesem Grund verwenden die Hersteller bei der AST Technologie eine Segmentierung der Daten. Dabei werden mehrere Blöcke zu einem Segment zusammengefasst, meist mehrere hundert Kilobytes oder gar Megabytes. Der Vorteil liegt auf der Hand, durch die Segmentierung der Daten müssen weniger Metadaten verwaltet werden. Werden jedoch nur wenige Blöcke in einem Segment sehr oft genutzt, wird das ganze Segment auf dem leistungsfähigen Tier, z.B. SSD vorgehalten. Durch die Metadaten wird unter anderem Komplexität hinzugefügt, sowie die einzelnen Tiers zusätzlich mit Backgroundoperationen belastet. Defekte Metadaten oder Tabellen könnten ein System sogar total unbrauchbar machen, egal auf welchem Speicher-Level (Tier).

Virtual Storage Tiering (VST)

Virtual Storage Tiering ist im Prinzip nichts anderes als ein Caching auf mehreren Ebenen. Jeder leistungsfähige Kontroller verwendet heute bereits einen L1 Cache, was dem Arbeitsspeicher (RAM) des Kontrollers entspricht. Darin werden Operationen und Informationen zwischengelagert. Das Caching von Daten baut auf der Blockebene auf und ist somit äusserst effizient. Die Grösse eines L1 Caches ist jedoch meist auf wenige bis einige hundert Gigabytes beschränkt. Dank der Flash Technologie, kann nun zusätzlich ein sehr grosser und verglichen zur traditionellen Harddisk sehr leistungsfähiger L2 Cache hinzugefügt werden. Enterprise Speicherkontroller können heute bereits mehrere Terabytes L2 Cache verwalten. Der klare Vorteil beim Caching ist, dass keine Daten verschoben werden, sowie die sehr feine Granularität.

All-Flash Architekturen

Bereits heute gibt es Hersteller die nicht mehr auf Tiering setzten, sondern das ganze Speichersystem mit 100% Flash bestücken. Die komplexität ist dabei sicherlich am geringsten, doch ist diese Lösung meist auch die kostspieligste, es sei denn, das System verwendet intelligente und platzsparende Funktionen wie Deduplication, Compression, Thin-Provisioning und Cloning.

Wieviele Tiers brauche ich?

Der Speichermarkt ist heute in einem äusserst starken Umbruch, wie er seit der Erfindung der Harddisk nicht war. Die Flashtechnologie wird vermutlich mittelfristig bis langfristig die traditionelle Disk ablösen. Während heute Flash kurze Latenzzeiten bei noch niedriger Datenmenge bietet, ermöglicht die Disktechnologie das Abspeichern von mehreren Terabytes auf einer einzelnen Harddisk. Diese Situation schreit förmlich nach einer Kombination der beiden Technologien, und genau hier gehen die Hersteller zur Zeit getrennte Wege. Eine weitere Leistungsunterscheidung, auf der Ebene der traditionellen Harddisk, ergibt heute, bei den vergleichsweise minimalen Leistungsunterschieden, kaum noch Sinn.

AST oder VST?

Wegen der Komplexität des noch jungen AST, sowie dem ständigen Verschieben der Daten von einem Tier zum anderen, was zusätzliche Risiken birgt, ist aus unserer Sicht ein Virtual Storage Tiering, sprich Caching, vorzuziehen. Bei lediglich zwei Speicherebenen (Flash und Harddisk) ist ein komplexes und riskantes Tiering nicht angebracht. Das VST, sprich Caching, bietet hier wesentliche Vorteile.

Flashbasierter Write Cache, Ja oder Nein?

Diese Frage ist stark von der Architektur eines Speichersystems abhängig. Wie bei der Autoindustrie, gibt es mehrere Wege um ein System leistungsfähiger zu machen. Als Cache ist das RAM auch heute noch das leistungsfähigste Medium. Nun könnte man auch für Schreiboperationen zusätzlich einen L2 Cache integrieren, dies käme jedoch der simplen Leistungssteigerung von einem Automotor (Turbolader) ähnlich. Die Alternative um die Leistungsfähigkeit eines Fahrzeuges zu optimieren, wäre z.B. Gewicht einzusparen. Ähnliche Ansätze werden bereits heute von den Speicherherstellern gemacht. Die Hauptfrage die sich bei Schreiboperationen stellt ist: „Wie bringe ich die zu schreibenden Daten schnellstmöglich auf das finale Medium?“ In fast allen Fällen ist das finale Medium die traditionelle Harddisk. Diese Frage ist stark von der Architektur eines Speichersystemes abhängig. Dabei kommt es stark auf die Arbeitsweise des Kontrollers an. Zum Beispiel baut NetApp viel Intelligenz in den Speicherkontroller, welche ein optimiertes Speichern der Daten ermöglicht.

So werden von den Servern meist Daten random an den zentralen Kontroller gesendet, dieser wandelt diese jedoch dank des NVRAM Caches in sequentielle Schreiboperationen um. Sequentielle Schreiboperationen sind optimal für traditionelle Harddisks. Ein zusätzliches Zwischenlagern auf teurem Flash Cache wäre eine Ressourcen-Verschwendung. Warum? Ganz einfach, der Flash Cache ist auf geringe Latenz bei kleinen Datenblöcken optimiert. Je grösser die Datenblöcke sind, desto kleiner wird der Durchsatz. Bei traditionellen Harddisks trifft genau das Gegenteil zu. Je grösser die Blöcke, desto besser der Durchsatz. Eine SSD erreicht heute maximale Schreibwerte von ca. 100-200MB/s und ca. 18 – 50k Operationen. Eine traditionelle Harddisk erreicht ca. 70MB/s und 250 Operationen. Der Preisunterschied der beiden Technologien entspricht ca. einem Faktor 10, ohne dabei die massiv höhere Datendichte der Harddisk zu berücksichtigen.

Die einfache Faustregel für die beiden Technologien ist:

Optimaler Einsatz von Flash

Unter Berücksichtigung der Faustregel, sollten demnach beide Technologien Ihren Stärken entsprechend eingesetzt werden. NetApp hat die Stärken der beiden Technologien optimal in die FAS Speicherprodukte integriert und bietet zusätzlich auch noch eine optimale Integration in der Applikationswelt. Auch Nimble Storage setzt auf ein ähnliches hybrides Speicherkonzept. Profitieren Sie von der langjährigen Erfahrung von BSR & Partner AG. Gerne beraten und unterstützen wir Sie bei Ihren Speicheranforderungen.