Bir sürücüyü klonlama komutum uygun mu?


16

Sabit sürücümü klonlamaya hazırlanmak için yarım saat okudum. Windows bölümü de dahil olmak üzere birden çok bölüm içerir. Yedekleme için çok büyük bir harici sabit disk satın alacağım. Bir şeylerin yanlış gitmesi durumunda tüm sürücüyü geri yüklemek için bu klonu kullanabilmek istiyorum (bazı OS yeniden karıştırma yapmak üzereyim). Hiçbir şey yüklemeyi gerektirmeyen düşük seviyeli araçları sevdiğim için bunu dd kullanarak nasıl yapacağımı öğrenmek istiyorum.

Ubuntu forumlarından aşağıdaki yararlı kodu buldum (canlı bir CD kullanarak bir kök kabuktan girildi):

dd if=/dev/hda of=/dev/hdb & pid=$!
while kill -USR1 $pid; do sleep 1; done

(Giriş ve çıkış konumlarını düzenlemek zorunda kalacağımı biliyorum.) Ancak iki sorum var. Birincisi çok noobie: bu komut iki satıra ayrılmıştır. Şüphesiz ünlem işaretinden sonra enter tuşuna bastığımda işlem başlayacak mı?

İki, diğer sitelerde blok boyutu girilmesini tavsiye etti. Bunun gibi:

# dd if=/dev/hda conv=sync,noerror bs=64K of=/mnt/sda1/hda.img

Blok boyutları hakkında hiçbir şey bilmiyorum. 64K doğru mu? Benim blok boyutu aşağıdakilerden 512 bayt gibi görünüyor, sudo fdisk -ul çıktı:

Disk /dev/sda: 750.2 GB, 750156374016 bytes
255 heads, 63 sectors/track, 91201 cylinders, total 1465149168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0xc3ffc3ff

   Device Boot      Start         End      Blocks   Id  System
/dev/sda1   *          63   143364059    71681998+   7  HPFS/NTFS/exFAT
Partition 1 does not start on physical sector boundary.
/dev/sda2       976867328  1465147391   244140032    7  HPFS/NTFS/exFAT
/dev/sda3       143364094   976867327   416751617    5  Extended
Partition 3 does not start on physical sector boundary.
/dev/sda5       143364096   162895871     9765888   82  Linux swap / Solaris
/dev/sda6       162897920   205864959    21483520   83  Linux
/dev/sda7       205867008   976867327   385500160   83  Linux

Partition table entries are not in disk order

Disk /dev/mapper/cryptswap1: 10.0 GB, 10000269312 bytes
255 heads, 63 sectors/track, 1215 cylinders, total 19531776 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x433bb3a7

Disk /dev/mapper/cryptswap1 doesn't contain a valid partition table

Teşekkür ederim.


Basit denediniz dd if=/dev/hda of=hdbmi? 160 GB için çalışma zamanı da dahil olmak üzere bazı ayrıntıları gösteren bir yanıt: askubuntu.com/questions/435694/…
SDsolar

Ubuntu'nun son sürümleri, buradadd bahsedildiği gibi bir ilerleme anahtarını içeren coreutils v.8.24 veya daha sonrasını kullanır
Elder Geek

Yanıtlar:


22

İlerleme

Listelediğiniz komut

dd if=/dev/hda of=/dev/hdb & pid=$!
while kill -USR1 $pid; do sleep 1; done

dddüzenli olarak ilerleme almak için güzel bir iki-astar . Ben de çok benzer bir tane kullanıyorum. İyi görünüyor. O Found burada belki?

Şunlarla blok boyutları dd: hizalama ve performans

İşlemlerin gerçekleşeceği bir blok boyutu ekleyebilirsiniz. Altta yatan blok cihazının blok boyutunun, işlemi eşit derecede iyi yapmak önemli değildir, ancak performans nedenleriyle ihtiyaçlarınıza uygun olanı seçmek isteyebilirsiniz.

Her şeyden önce, hizalama şey var . Blok cihazınızın 512KiB (flash sürücüler gibi) olarak çalışması durumunda dd, bs=512(bayt) ile çalışmak çok talihsiz olacaktır, çünkü bu, cihaz perspektifinden her blok için 1024 yazmaya (!) Neden olacaktır. Yazıyor tamponlu ve tek seferde alınır, ancak senkronizasyon işlemleri sırasında yine olabilir gibi Pratikte bu kötü olmayacak yükseltmek yazma miktarını çok.

Daha sonra, çok sayıda küçük işlemle uğraşırken basit CPU kullanımı yükünü de düşünün. Büyük miktarlarda veriyi kopyalarken bir kerede megabayt almak daha verimlidir.

Benim en iyi uygulama RAID şerit boyutları, LVM kapsam boyutları, vb dahil olmak üzere çoğu kurulum güzel bir katı olduğu 1MB ile başlamaktır. SSD ile dizüstü bilgisayarımda blok boyutu olarak 10MB kullanarak hafif bir gelişme görmeye eğilimliyim, oysa ben fiziksel sabit diskimde artık görmüyorum.

Son blok

Sürücü / birim boyutunun blok boyutunun katı olmadığı konusunda endişelenmeyin. ddKopyalanacak son blok , üzerindeki son veri bitiyle eşleşecek şekilde ayarlanır. Çıktıya bakarak son bloğun farklı bir boyutu olup olmadığını görebilirsiniz.

18335302+0 records out

+0Tam bir eşleşme oldu vasıta, bir +1o değildi demekse. Önemli değil.

Ayrıca bakınız


1
Vay, ne kadar kapsamlı bir cevap. Bunu yapmak için zaman ayırdığınız için çok teşekkür ederim. Orijinal soruyu kaynağımın bağlantısıyla güncelleyeceğim. O zaman 1 MB ile gideceğim. Yani komutum böyle olacak, değil mi? # dd if=/dev/hda conv=sync,noerror bs=1MB of=/mnt/sda1/hda.img & pid=$! while kill -USR1 $pid; do sleep 1; done
Kit Johnson

2
@oldmankit 10 bs=1Mgibi bir güç olmaktan ziyade 2'nin gücü gibi yapardım bs=1MB.
gertvdijk

4
Burada coreutils> = 8.24'ün (Ubuntu Xenial 16.04'te varsayılan olarak) piyasaya sürülmesinden bu yana bahsedildiği gibi kill -USR1 $pid, status=progressanahtarın eklenerek artık bir ilerleme raporuna sahip olmanın artık gerekli olmadığını unutmayın
Elder Geek

10

Diğerlerinin söylediği gibi, evrensel olarak doğru blok boyutu yoktur; bir durum veya bir donanım için en uygun olanı diğeri için çok verimsiz olabilir. Ayrıca, disklerin sağlığına bağlı olarak, "optimal" olandan farklı bir blok boyutu kullanılması tercih edilebilir.

Modern donanımda oldukça güvenilir olan bir şey, 512 baytlık varsayılan blok boyutunun neredeyse daha uygun bir alternatiften daha yavaş bir büyüklük sırası olma eğiliminde olmasıdır. Şüphe duyduğunuzda, 64K'nın oldukça sağlam bir modern varsayılan olduğunu gördüm. 64K genellikle en uygun blok boyutu olmasa da, tecrübelerime göre varsayılandan çok daha verimli olma eğilimindedir. 64K ayrıca güvenilir bir performans sergileme konusunda oldukça sağlam bir geçmişe sahiptir: Eug-Lug posta listesinden , 2002 dolaylarında 64K'lık bir blok boyutu öneren bir mesaj bulabilirsiniz .

En uygun çıkış bloğu boyutunu belirlemek için, varsayılan 512 bayttan maksimum 64M'ye kadar farklı blok boyutlarında bir aralıkta dd ile 128M test dosyası yazmayı test eden aşağıdaki komut dosyasını yazdım. Dikkatli olun, bu komut dosyası dd'yi dahili olarak kullanır, bu yüzden dikkatli kullanın.

dd_obs_test.sh:

#!/bin/bash

# Since we're dealing with dd, abort if any errors occur
set -e

TEST_FILE=${1:-dd_obs_testfile}
TEST_FILE_EXISTS=0
if [ -e "$TEST_FILE" ]; then TEST_FILE_EXISTS=1; fi
TEST_FILE_SIZE=134217728

if [ $EUID -ne 0 ]; then
  echo "NOTE: Kernel cache will not be cleared between tests without sudo. This will likely cause inaccurate results." 1>&2
fi

# Header
PRINTF_FORMAT="%8s : %s\n"
printf "$PRINTF_FORMAT" 'block size' 'transfer rate'

# Block sizes of 512b 1K 2K 4K 8K 16K 32K 64K 128K 256K 512K 1M 2M 4M 8M 16M 32M 64M
for BLOCK_SIZE in 512 1024 2048 4096 8192 16384 32768 65536 131072 262144 524288 1048576 2097152 4194304 8388608 16777216 33554432 67108864
do
  # Calculate number of segments required to copy
  COUNT=$(($TEST_FILE_SIZE / $BLOCK_SIZE))

  if [ $COUNT -le 0 ]; then
    echo "Block size of $BLOCK_SIZE estimated to require $COUNT blocks, aborting further tests."
    break
  fi

  # Clear kernel cache to ensure more accurate test
  [ $EUID -eq 0 ] && [ -e /proc/sys/vm/drop_caches ] && echo 3 > /proc/sys/vm/drop_caches

  # Create a test file with the specified block size
  DD_RESULT=$(dd if=/dev/zero of=$TEST_FILE bs=$BLOCK_SIZE count=$COUNT conv=fsync 2>&1 1>/dev/null)

  # Extract the transfer rate from dd's STDERR output
  TRANSFER_RATE=$(echo $DD_RESULT | \grep --only-matching -E '[0-9.]+ ([MGk]?B|bytes)/s(ec)?')

  # Clean up the test file if we created one
  if [ $TEST_FILE_EXISTS -ne 0 ]; then rm $TEST_FILE; fi

  # Output the result
  printf "$PRINTF_FORMAT" "$BLOCK_SIZE" "$TRANSFER_RATE"
done

GitHub'da görüntüle

Bu betiği sadece bir Debian (Ubuntu) sisteminde ve OSX Yosemite üzerinde test ettim, bu yüzden muhtemelen diğer Unix lezzetleri üzerinde çalışmak için bazı tweaking alacak.

Varsayılan olarak komut dd_obs_testfile, geçerli dizinde adlı bir test dosyası oluşturur . Alternatif olarak, komut dosyası adından sonra bir yol sağlayarak özel bir test dosyasına yol sağlayabilirsiniz:

$ ./dd_obs_test.sh /path/to/disk/test_file

Komut dosyasının çıktısı, test edilen blok boyutlarının ve ilgili aktarım hızlarının bir listesidir:

$ ./dd_obs_test.sh
block size : transfer rate
       512 : 11.3 MB/s
      1024 : 22.1 MB/s
      2048 : 42.3 MB/s
      4096 : 75.2 MB/s
      8192 : 90.7 MB/s
     16384 : 101 MB/s
     32768 : 104 MB/s
     65536 : 108 MB/s
    131072 : 113 MB/s
    262144 : 112 MB/s
    524288 : 133 MB/s
   1048576 : 125 MB/s
   2097152 : 113 MB/s
   4194304 : 106 MB/s
   8388608 : 107 MB/s
  16777216 : 110 MB/s
  33554432 : 119 MB/s
  67108864 : 134 MB/s

(Not: Aktarım hızlarının birimi işletim sistemine göre değişir)

En uygun okuma bloğu boyutunu test etmek için, aynı işlemi az çok kullanabilirsiniz, ancak /dev/zerodiske okumak ve diske yazmak yerine diskten okur ve yazabilirsiniz /dev/null. Bunu yapmak için bir komut dosyası şöyle görünebilir:

dd_ibs_test.sh:

#!/bin/bash

# Since we're dealing with dd, abort if any errors occur
set -e

TEST_FILE=${1:-dd_ibs_testfile}
if [ -e "$TEST_FILE" ]; then TEST_FILE_EXISTS=$?; fi
TEST_FILE_SIZE=134217728

# Exit if file exists
if [ -e $TEST_FILE ]; then
  echo "Test file $TEST_FILE exists, aborting."
  exit 1
fi
TEST_FILE_EXISTS=1

if [ $EUID -ne 0 ]; then
  echo "NOTE: Kernel cache will not be cleared between tests without sudo. This will likely cause inaccurate results." 1>&2
fi

# Create test file
echo 'Generating test file...'
BLOCK_SIZE=65536
COUNT=$(($TEST_FILE_SIZE / $BLOCK_SIZE))
dd if=/dev/urandom of=$TEST_FILE bs=$BLOCK_SIZE count=$COUNT conv=fsync > /dev/null 2>&1

# Header
PRINTF_FORMAT="%8s : %s\n"
printf "$PRINTF_FORMAT" 'block size' 'transfer rate'

# Block sizes of 512b 1K 2K 4K 8K 16K 32K 64K 128K 256K 512K 1M 2M 4M 8M 16M 32M 64M
for BLOCK_SIZE in 512 1024 2048 4096 8192 16384 32768 65536 131072 262144 524288 1048576 2097152 4194304 8388608 16777216 33554432 67108864
do
  # Clear kernel cache to ensure more accurate test
  [ $EUID -eq 0 ] && [ -e /proc/sys/vm/drop_caches ] && echo 3 > /proc/sys/vm/drop_caches

  # Read test file out to /dev/null with specified block size
  DD_RESULT=$(dd if=$TEST_FILE of=/dev/null bs=$BLOCK_SIZE 2>&1 1>/dev/null)

  # Extract transfer rate
  TRANSFER_RATE=$(echo $DD_RESULT | \grep --only-matching -E '[0-9.]+ ([MGk]?B|bytes)/s(ec)?')

  printf "$PRINTF_FORMAT" "$BLOCK_SIZE" "$TRANSFER_RATE"
done

# Clean up the test file if we created one
if [ $TEST_FILE_EXISTS -ne 0 ]; then rm $TEST_FILE; fi

GitHub'da görüntüle

Bu durumda önemli bir fark, test dosyasının kod tarafından yazılan bir dosya olmasıdır. Bu komutu varolan bir dosyaya yöneltmeyin, yoksa varolan dosyanın üzerine rastgele veriler yazılacaktır!

Özel donanımım için 128K'nin bir HDD'deki en uygun giriş bloğu boyutu ve 32K'nın bir SSD'de en uygun olduğunu buldum.

Bu cevap bulgularımın çoğunu kapsamasına rağmen, bu konuda bir blog yazısı yazdığım kadar yeterli bir dd blok boyutu belirlemem gerekiyordu. Orada yaptığım testlerle ilgili daha fazla ayrıntı bulabilirsiniz.

Bu StackOverflow gönderisi de yararlı olabilir: dd: En uygun blok boyutu nasıl hesaplanır?


Bir adama balık
tutmayı

@ tdg5 Bu harika bir komut dosyasıdır, ancak Windows 7 ortamında Cygwin içinden yürütüldüğünde önemli hatalarla karşılaşır. Cygwin üzerinde çalışacak bir sürümü var mı?
Hashim
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.