Uchovávání dat v SSD



Podobné dokumenty
Solid State Drive SSD polovodičový disk. J. Vrzal, verze 0.8

Číslo projektu: CZ.1.07/1.5.00/ III/2 Inovace a zkvalitnění výuky prostřednictvím ICT. Zdeněk Dostál Ročník: 1. Hardware.

Základní pojmy informačních technologií

Když konvenční disky nestačí tempu vašich aplikací

Počítačová sestava pevný disk (HDD, SSD, USB flash disk)

Mezipaměti počítače. L2 cache. L3 cache

Storage... co je nového (SSD!)... a co se zatím nepovedlo rozbít:-)

Polovodičové paměti. Polovodičové paměti. - Paměti Flash ROM - použití v počítačích k uchování informací o konfiguraci, Princip zápisu a čtení

Cílem kapitoly je seznámit studenta s pamětmi. Jejich minulostí, současností a hlavnímu parametry.

Přednáška. Systémy souborů. FAT, NTFS, UFS, ZFS. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

DataDomain pod drobnohledem

Operační systémy 1. Přednáška číslo Souborové systémy

Operační systémy 1. Přednáška číslo Struktura odkládacích zařízení

Operační systémy 2. Struktura odkládacích zařízení Přednáška číslo 10

Gymnázium Vysoké Mýto nám. Vaňorného 163, Vysoké Mýto

Příloha č.2 - Technická specifikace předmětu veřejné zakázky

Paměti. Paměť je zařízení, které slouží k ukládání programů a dat, s nimiž počítač pracuje

Operační systémy. Přednáška 7: Správa paměti I

SSD vs. HDD / WAL, indexy a fsync

Operační systémy. Správa paměti (SP) Požadavky na SP. Spojování a zavedení programu. Spojování programu (linking) Zavádění programu (loading)

Paměťový podsystém počítače

Paměti Flash. Paměti Flash. Základní charakteristiky

Specifikace předmětu veřejné zakázky

Datová úložiště v roce 2017 aneb jak si vybrat to správné?

Cílem kapitoly je seznámit studenta s pamětmi. Jejich minulostí, současností, budoucností a hlavními parametry.

2.9 Vnitřní paměti. Střední průmyslová škola strojnická Vsetín. Ing. Martin Baričák. Název šablony Název DUMu. Předmět Druh učebního materiálu

Přednáška. Správa paměti I. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

Paměťové prvky. ITP Technika personálních počítačů. Zdeněk Kotásek Marcela Šimková Pavel Bartoš

Dělení pamětí Volatilní paměti Nevolatilní paměti. Miroslav Flídr Počítačové systémy LS /11- Západočeská univerzita v Plzni

Počítačová sestava paměti, operační paměť RAM

Paměťová média. Motto dne: Z Berkeley vzešly dvě důležité věci LSD a BSD. Nevěříme, že je to náhoda.

Miroslav Flídr Počítačové systémy LS /21- Západočeská univerzita v Plzni

Souborový systém NTFS (New Technology File System) Jan Šváb

SSD v serveru. Pavel Šnajdr InstallFest 2015

Porovnání SSDNow a HDD, příklady a scénáře jejich použití

Struktura a architektura počítačů (BI-SAP) 10

Softwarově definované úložiště pod taktovkou EMC Lukáš Bělovský, konzultant Gapp System

Migrace CIDUG. Ing. Pavel Krutina

Principy počítačů a operačních systémů

Gymnázium a Střední odborná škola, Rokycany, Mládežníků 1115

KAPITOLA 1 - ZÁKLADNÍ POJMY INFORMAČNÍCH A KOMUNIKAČNÍCH TECHNOLOGIÍ

Přechod na virtuální infrastrukturu

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY

Principy operačních systémů. Lekce 2: Správa paměti

Operační systémy. Přednáška 8: Správa paměti II

Technická specifikace

Integrace formou virtualizace

Část 1. Technická specifikace. Posílení ochrany demokratické společnosti proti terorismu a extremismu

Operační systémy. Jednoduché stránkování. Virtuální paměť. Příklad: jednoduché stránkování. Virtuální paměť se stránkování. Memory Management Unit

Lukáš Valenta Acronis Presentation 1

Středoškolská technika Encryption Protection System

Přednáška. Úložiště dat: HDD, SDD, RAID, DAS, NAS, SAN. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

Datová úložiště. Zdroj: IBM

Šifrování. Tancuj tak, jako když se nikdo nedívá. Šifruj tak, jako když se dívají všichni! Martin Kotyk IT Security Consultnant

Technická specifikace HW pro rok 2012

Technická specifikace

Porovnání rychlosti mapového serveru GeoServer při přístupu k různým datovým skladům

Hardware. Příklad převodu čísla: =1*32+0*16+0*8+1*4+0*2+1*1= Převod z dvojkové na desítkovou Sčítání ve dvojkové soustavě

Pohled do nitra mikroprocesoru Josef Horálek

Gymnázium Vysoké Mýto nám. Vaňorného 163, Vysoké Mýto

FLASH NOVÉ HRANICE DOSAŽITELNÉHO

Forenzní analytická jednotka - technická specifikace (9 ks)

III/2 Inovace a zkvalitnění výuky prostřednictvím ICT VY_32_INOVACE_04_ICT_ZIT57PL_Hardware

Gymnázium a Střední odborná škola, Rokycany, Mládežníků 1115

nutné smazat zároveň i všechna ostatní zainteresovaná paměťová místa přepisovaném

Paměti EEPROM (1) Paměti EEPROM (2) Paměti Flash (1) Paměti EEPROM (3) Paměti Flash (2) Paměti Flash (3)

Informatika pro 8. ročník. Hardware

Paměti a jejich organizace

Výpočetní technika pro město Moravská Třebová

B4B35OSY: Operační systémy

Struktura a architektura počítačů (BI-SAP) 11

2.10 Vnější paměti. Střední průmyslová škola strojnická Vsetín. Ing. Martin Baričák. Název šablony Název DUMu. Předmět Druh učebního materiálu

prostředí IDS 11.5 na Martin Mikuškovic, ICZ a. s

Využití ICT pro rozvoj klíčových kompetencí CZ.1.07/1.5.00/

BM100. Kompaktní bezventilátorový IPC z rodiny Intel Apollo Lake. REM-Technik je výhradním partnerem společnosti ASEM na českém a slovenském trhu.

Přednášky o výpočetní technice. Hardware teoreticky. Adam Dominec 2010

Základní principy konstrukce systémové sběrnice - shrnutí. Shrnout základní principy konstrukce a fungování systémových sběrnic.

INFORMAČNÍ SYSTÉMY. RNDr. Karel Hrach, Ph.D. (prac.17) Prezentace viz Studium / Studijní materiály (v menu nalevo)

RHEV for Desktops & SPICE příklad nasazení v akademickém prostředí. Milan Zelenka, RHCE Enlogit s.r.o.

Paměti Josef Horálek

Informatika teorie. Vladimír Hradecký

Přednáška. Správa paměti II. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

OZD. 2. ledna Logický (Objekty, atributy,...) objekty stejného typu.

Komunikační protokol

Metodický materiál. Cvičné příklady a témata pro soutěž OFFICE - ZŠ. Ing. Zdeněk Matúš, Mgr. Čestmír Glogar, 2015,

Univerzita Pardubice Fakulta ekonomicko-správní. SSD disky Jan Kotek

Logická struktura pevného disku

Příloha č. 1 k Č.j.: OOP/10039/ Specifikace zařízení

Hardware 1. Které zařízení není umístěno na základní desce? A) Zpracovává obraz pro zobrazení na monitoru. C)

Způsoby realizace paměťových prvků

Zálohovací a archivační systémy

ODBORNÝ VÝCVIK VE 3. TISÍCILETÍ. MEIII Paměti konstant

PRŮMYSLOVÉ FLASH DISKY

Architektura počítače

BigData. Marek Sušický

Výměna Databázového serveru MS SQL

BIOS (BASIC INPUT-OUTPUT SYSTEM)

Inovace a zkvalitnění výuky prostřednictvím ICT Technické vybavení Paměťová média Ing. Jakab Barnabáš

Stavba operačního systému

Příloha č. 1 k čj.: 1/120/ Technická specifikace Zajištění HW a dlouhodobé podpory infrastruktury Intel pro VoZP ČR

Transkript:

Uchovávání dat v SSD Co se děje s mými daty? Aleš Padrta Karel Nykles 1

Obsah Úvodní slovo Technické pozadí Technologie flash Servisní procedury Kontroler Experimenty Testovací prostředí Výsledky Shrnutí 2

Úvodní slovo SSD = Solid State Drive Rozšířen Rychlost Hardwarová velikost Žádné pohyblivé části Jiná technologie (než klasický HDD) Dopad na uložení Dopad na zacházení Ovlivní získávání el. důkazů Analýza chování SSD 3

První pohled do útrob SSD Naivní = stejné jako HDD Adresa ve FS = umístění na médiu 4

Druhý pohled do útrob SSD Realita = mnohem složitější 5

Technické pozadí 6

Paměťová buňka Základní jednotka Nabíjení Tranzistor s plovoucím hradlem Schopnost udržet náboj Emitor uzemněn Báze nízké napětí Vybíjení Báze Kolektor Plovoucí hradlo s elektrony Emitor Opačná polarita Vysoké napětí Část náboje nelze vybít (kumuluje se) _ degradace v čase 7

Paměťová buňka Vodivost kolektor " emitor Báze? Ovlivněno nábojem C Kolektor Napětí U >= Ur(C) " vede proud Plovoucí hradlo s elektrony Emitor 8

Paměťová buňka SLC (single-layer cell) 1 bit = 2 úrovně (vede/nevede proud při daném U) 100 000 vybíjecích cyklů MLC (multi-layer cell), TLC (triple-layer cell) N bitů = 2N úrovní (více testovaných Ui, i=1,..., N) Více úrovní = vyšší citlivost na zbytkový náboj _ pouze 10 000 vybíjecích cyklů 9

Paměťové buňky ve struktuře NAND uspořádání Hierarchie Méně drátů Buňka Stránka Blok Blok Buňka Stránka Typické velikosti 1 stránka = 8kB 1 blok = 256 stránek tj. blok = 2MB 10

Základní operace Čtení celá stránka (rychlé) Pm uzemněno, ostatní Ur Vodivost Bn - Pm " 1 or 0 Blok Buňka Stránka Zápis celá stránka (rychlé) Pm nízké napětí Uw Bn uzemněna " náboj je akumulován Zápis může pouze zvýšit náboj Reset (vybití) celý blok (pomalé) Opačná polarita, vysoké napětí _ může ovlivnit sousední buňky 11

Technické pozadí Pokročilé operace 12

Vyrovnávání opotřebení Úroveň opotřebení = počet vybíjecích cyklů Nerovnoměrné (MFT vs. AV soubory,...) _ různá životnost bloků (nejnižší = životnost SSD) Flash Translation Layer (FTL) Indexová tabulka _ změna fyzického umístění Vyrovnávací procedura Stejné opotřebení Výběr při zápisu Optimalizace (prohození bloků) 13

Over provisioning FTL Ukazatele na data FS = FTL HW >= FTL Over-provisioning Vyšší interní kapacita Typicky cca 15% (80GB SSD = 96 GB) Přínosy Delší životnost ( HW / FTL ) Odkládací prostor pro vyrovnávání a recyklaci 14

Recyklace paměťových buněk Tři stavy Přechody Připravená/Plná/Volná Reset volných bloků Zápis do stránek Nastavení jako volné (smazáno) Smazání dat Na úrovni OS/FS MFT SSD nemůže zachytit " TRIM (protokol OS posílá info SSD) Přeuložení na jiné místo Vlastní analýza MFT 15

Recyklace paměťových buněk Problém částečně volných Zápis, uvolnění = stránka Reset = blok Čekat na celý blok? Deadlock! Přesun stránek jinam = více zápisů Koeficient zesílení zápisu (Write Amplification Factor) WAF = VSSD / VFS Měl by být co nejmenší Přesun stránek kvůli resetování " WAF > 1, ne nutně (viz později) 16

Recyklace paměťových buněk Garbage kolektor nezávislá rutina 17

Technické pozadí Ještě pokročilejší operace 18

Deduplikace FTL = zprostředkovaný (!) přístup k datům Uvnitř SSD = může se stát cokoli Předzpracování dat Deduplikace Úroveň stránek Ukazatele N:1 Nižší WAF Delší životnost Rychlejší zápis 19

Deduplikace Prováděna uvnitř SSD Hash (malá pravděpodobnost kolize) Omezená SSD RAM " částečná deduplikace 20

Komprese dat Komprese = menší objem dat Zápis po celých stránkách 8kB data = 8kB stránka 1kB data = 8kB stránka (žádná úspora!) " Komprese N stránek na M stránek (!) Cache = vstupní proud Omezené N, M Výstup Metadata Komprimovaná data 21

Komprese dat Modifikovaná FTL 22

Šifrování Šifrování/dešifrování dat na úrovni stránky 23

Technické pozadí Kontroler (UI) 24

Kontroler SSD obsahuje Kontroler RAM, CPU, I/O, úložiště " vypadá jako počítač Firmware / Mozek SSD umělá inteligence Zajišťuje Maximální rychlost čtení/zápisu Minimální WAF Stejnou úroveň opotřebení... " Využívá (více) pokročilé operace 25

Kontroler Protichůdné požadavky Úroveň opotřebení vs. rychlost zápisu Úroveň opotřebení vs. WAF Rozhodnutí Konfigurace kontroleru Aktuální stav (!) Celkové kritérium Minimalizace 26

Technické pozadí Shrnutí 27

Kde jsou moje data? Data ve flash paměti Fragmentována na stránky Stránky umístěny náhodně (FTL) Sdílení některých stránek (Deduplikace) Vybrané množiny stránek = více stránek (Komprese) Stránky mohou být šifrovány (Šifrování) Kritická metadata FTL, Deduplikační a kompresní tabulky Heslo/klíč k dešifrování 28

Jak moje data cestují? SSD provádí operace na pozadí Smazaná data mizí (viditelné uživatel/interface) TRIM Garbage kolektor Problematické pro forenzní obrazy Přesuny dat (na fyzické vrstvě) Když uzná za vhodné, zapnutý Garbage kolektor Vyrovnávání opotřebení Deduplikační optimalizátor Kompresní optimalizátor Závisí na rozhodování kontroleru 29

Experimenty 30

Cíle Chování SSD ke smazaným/formátovaným datům Identifikace vnitřních rutin SSD TRIM, Garbage Kolektor, Komprese,... Zjištění vnitřních parametrů SSD Obnova smazaných/formátovaných dat Velikost stránky, rychlost zápisu, Over-provisioning Nezničit hardware Prozatím :-) 31

Jak zkoumat 32

Slepé uličky Použití Windows exploreru pro výkonové testy Nereálná rychlost zápisu, ~600MB/sec = vliv cache I/O peklo (paralelní zápis na FS) Neúspěšný pokus zahltit SSD Kontroler Identifikována velikost systémové cache v RAM Cyklické přepisování (náhodně, nulami) Pokus o zjištění velikosti over-provisioningu Konstantní rychlost 33

Popis experimentů TRIM Jak SSD zachází s daty? TRIM zapnuto, vypnuto? Windows/Linux (Knoppix)? Rychlost zápisu Závislost rychlosti zápisu na velikost stránky Deduplikace a komprese Ověřit (ne)přítomnost těchto rutin 34

TRIM 35

Velikost stránky 36

Výsledky TRIM ničí data RYCHLE! 10 min smazaná, 59 sec rychlý formát TRIM, Linux, Windows různé chování Rychlost zápisu závisí na velikosti zapisovaného bloku Min. alokační jednotka = 4kB = ½ stránky Zvýšení rychlosti pro bloky >=4kB Nejrychlejší zápis pro násobky 4kB SSD provádí deduplikaci nebo kompresi Velikost deduplikační/kompresní jednotky ~4-8kb Potřeba dalších experimentů 37

Shrnutí 38

Shrnutí experimentů Typicky: smazáno = ztraceno Windows (7+) TRIM defaultně zapnutý Smazání + 10 min = 0b (přes SATA) Velká výzva pro obnovu dat a forenzní analýzu Rychlejší analýza (netřeba hledat smazaná data) FTL, deduplikace, komprese Na fyzické úrovni = max 4kB fragmenty... pravděpodobně komprimovaných dat 39

Budoucí experimenty Rozlišit od sebe deduplikaci a kompresi Vyšší rychlost pro uniformní data, proč? Příprava testovacího prostředí generátor dat TRIM vs šifrování (TrueCrypt) Může TRIM fungovat přes šifrovací vrstvu? Jak? FDE vs výkon Jak FDE ovlivní rychlost zápisu a čtení? 40

Shrnutí Co se děje s mými daty? Fragmentována Deduplikována Komprimována (Šifrována) A co smazaná data? ^^Hyperkrychle^^ Zničená reference v FTL Opravdu rychle (max 10 min na celý disk) Obnova nemožná (přes SATA) fsutil behavior query disabledeletenotify 41

Dotazy??? 42