Sadece seçili sütunları oku


134

Örneğin, aşağıdaki verilerin her bir yılı için yalnızca ilk 6 ayı (7 sütun) nasıl okuyacağımı söyler misiniz read.table()?

Year   Jan  Feb  Mar  Apr  May  Jun  Jul  Aug  Sep  Oct  Nov  Dec   
2009   -41  -27  -25  -31  -31  -39  -25  -15  -30  -27  -21  -25
2010   -41  -27  -25  -31  -31  -39  -25  -15  -30  -27  -21  -25 
2011   -21  -27   -2   -6  -10  -32  -13  -12  -27  -30  -38  -29

5
Bir dosyadan yalnızca seçilen sütunları R'ye okumak için Yolların kopyası ? Dirk cevabındaNULL sütun sınıfı olarak bahsediyor .
Marek


2
@CiroSantilli 包子 露 宪 六四 事件 法轮功 eminim ama ... önce sordum?
StarCub

Daha iyi / daha kötü bir ilişkiyi ima etmiyordum. Dahası, siteler arası kopyalar yoktur, tutarsız yığın değişim ağı bunlara izin verir, kendiniz çapraz göndermediğiniz sürece :-)
Ciro Santilli 郝海东 冠状 病 六四 事件 法轮功

Yanıtlar:


157

Verilerin dosyada olduğunu varsayalım, sütunları atlamak data.txtiçin colClassesargümanını kullanabilirsiniz read.table(). Burada ilk 7 sütundaki veriler "integer"ve kalan 6 sütunu "NULL"atlanması gerektiğini belirtecek şekilde ayarladık.

> read.table("data.txt", colClasses = c(rep("integer", 7), rep("NULL", 6)), 
+            header = TRUE)
  Year Jan Feb Mar Apr May Jun
1 2009 -41 -27 -25 -31 -31 -39
2 2010 -41 -27 -25 -31 -31 -39
3 2011 -21 -27  -2  -6 -10 -32

Değişim "integer"ayrıntılı olarak kabul edilen türlerinden birine ?read.tableverilerin gerçek türüne göre değişir.

data.txt buna benzer:

$ cat data.txt 
"Year" "Jan" "Feb" "Mar" "Apr" "May" "Jun" "Jul" "Aug" "Sep" "Oct" "Nov" "Dec"
2009 -41 -27 -25 -31 -31 -39 -25 -15 -30 -27 -21 -25
2010 -41 -27 -25 -31 -31 -39 -25 -15 -30 -27 -21 -25
2011 -21 -27 -2 -6 -10 -32 -13 -12 -27 -30 -38 -29

ve kullanılarak oluşturuldu

write.table(dat, file = "data.txt", row.names = FALSE)

nerede datolduğunu

dat <- structure(list(Year = 2009:2011, Jan = c(-41L, -41L, -21L), Feb = c(-27L, 
-27L, -27L), Mar = c(-25L, -25L, -2L), Apr = c(-31L, -31L, -6L
), May = c(-31L, -31L, -10L), Jun = c(-39L, -39L, -32L), Jul = c(-25L, 
-25L, -13L), Aug = c(-15L, -15L, -12L), Sep = c(-30L, -30L, -27L
), Oct = c(-27L, -27L, -30L), Nov = c(-21L, -21L, -38L), Dec = c(-25L, 
-25L, -29L)), .Names = c("Year", "Jan", "Feb", "Mar", "Apr", 
"May", "Jun", "Jul", "Aug", "Sep", "Oct", "Nov", "Dec"), class = "data.frame",
row.names = c(NA, -3L))

Sütun sayısı önceden bilinmiyorsa, yardımcı program işlevi count.fieldsdosyayı okur ve her satırdaki alan sayısını sayar.

## returns a vector equal to the number of lines in the file
count.fields("data.txt", sep = "\t")
## returns the maximum to set colClasses
max(count.fields("data.txt", sep = "\t"))

1
@Benjamin Argüman kullanarak dosyadan ilk birkaç satırı okuyun nrows. Daha sonra kaç tane sütun kullandığınızı hesaplayın ncol()veya başka türlü okunacak / yok sayılacak sütunların sayısını hesaplamak isteyebilirsiniz. Ardından bu bilgileri kullanarak dosyanın tamamını okuyun.
Gavin Simpson

1
?? Sütunların sayısını bilmiyorsanız, kaç tane olduğunu anlamak için biraz okumadan başka nasıl belirleyeceksiniz?
Gavin Simpson

1
@BlueMagister count.fields()Yorumlarda önerdiğim işlemi otomatikleştiren düzenleme ve bahsettiğiniz için teşekkürler .
Gavin Simpson

1
@ LéoLéopoldHertz 준영 Hayır ve bir veri çerçevesinde olduğu gibi satır sınıfları için böyle bir şeyin nasıl çalışacağından emin değilim , ancak her sütun farklı bir tipte olabilir, her satır tanımı gereği ve sonuç olarak sınırsızdır. İçe aktarma sırasında boş satırları vb. Filtrelemeniz gerekecektir.
Gavin Simpson

1
@rmf count.fields()bir metin bağlantısı iletebilirsiniz , bu nedenle kullanarak satırların bazı alt kümelerini okuyun txt <- readLines(....), ardından okunan satırlara bir bağlantı oluşturun con <- textConnection(txt), sonra yapın count.fields(txt). Varsa başlık satırını atlamak için skipin kullandığınızdan emin olun count.fields(); kullanarak dosyadaki satırları atlayamazsınız readLines().
Gavin Simpson

82

Bir veri kümesinden belirli bir sütun kümesini okumak için birkaç başka seçenek vardır:

1) ile freadgelen data.table-package:

Sen istenen sütunları belirtebilirsiniz selectgelen parametre freadgelen data.tablepaketin. Sütunları, sütun adları veya sütun numaralarından oluşan bir vektörle belirtebilirsiniz.

Örnek veri kümesi için:

library(data.table)
dat <- fread("data.txt", select = c("Year","Jan","Feb","Mar","Apr","May","Jun"))
dat <- fread("data.txt", select = c(1:7))

Alternatif olarak, drophangi sütunların okunmaması gerektiğini belirtmek için parametreyi kullanabilirsiniz :

dat <- fread("data.txt", drop = c("Jul","Aug","Sep","Oct","Nov","Dec"))
dat <- fread("data.txt", drop = c(8:13))

Tüm sonuç:

> data
  Year Jan Feb Mar Apr May Jun
1 2009 -41 -27 -25 -31 -31 -39
2 2010 -41 -27 -25 -31 -31 -39
3 2011 -21 -27  -2  -6 -10 -32

GÜNCELLEME: Bir data.tablefread dönmek istemediğinizde -parametreyi kullanın data.table = FALSE, örneğin:fread("data.txt", select = c(1:7), data.table = FALSE)

2) ile read.csv.sqlgelen sqldf-package:

Diğer bir alternatif, paketin read.csv.sqlişlevidir sqldf:

library(sqldf)
dat <- read.csv.sql("data.txt",
                    sql = "select Year,Jan,Feb,Mar,Apr,May,Jun from file",
                    sep = "\t")

3) read_*Paketten readr-fonksiyonlar ile:

library(readr)
dat <- read_table("data.txt",
                  col_types = cols_only(Year = 'i', Jan = 'i', Feb = 'i', Mar = 'i',
                                        Apr = 'i', May = 'i', Jun = 'i'))
dat <- read_table("data.txt",
                  col_types = list(Jul = col_skip(), Aug = col_skip(), Sep = col_skip(),
                                   Oct = col_skip(), Nov = col_skip(), Dec = col_skip()))
dat <- read_table("data.txt", col_types = 'iiiiiii______')

Dokümantasyondan kullanılan karakterler için bir açıklama ile col_types:

her karakter bir sütunu temsil eder: c = karakter, i = tam sayı, n = sayı, d = çift, l = mantıksal, D = tarih, T = tarih saat, t = saat,? = tahmin veya _ / - sütunu atlamak için


freadancak sıkıştırılmış dosyaları desteklemez. Büyük dosyalar genellikle sıkıştırılır.
CoderGuy123

Bunu etkinleştirmek için bir özellik isteği varfread . Dikkat edilmesi gereken nokta fread, büyük olasılıkla sıkıştırılmamış dosyayı sıkıştırılmış dosyayı okuyacağından çok daha hızlı read.tableokuyacaktır. Örnek için buraya bakın .
Jaap

Bazı sıkıştırılmamış dosyalar çok büyük. Örneğin 1000 Genom dosyasıyla çalışıyorum. Sıkıştırılmamış 60 GB olabilirler.
CoderGuy123

1
Muhtemelen bildiğiniz gibi, R hafızadaki verileri okur. Sıkıştırılmış dosyayı veya sıkıştırılmış dosyayı okumanız, bellekte sonuçta ortaya çıkan verilerin boyutu üzerinde bir fark yaratmaz. Dosyalarda 60 GB varsa, sizi read.tablekurtarmaz. Bu durumda, ffpakete bakmak isteyebilirsiniz .
Jaap

2
@Deleet Şunları kullanabilirsiniz freadBöyle büyük sıkıştırılmış dosyaları okumak için: fread("gunzip -c data.txt.gz", drop = c(8:13)).
arekolek

8

Bunu başarmak için JDBC'yi de kullanabilirsiniz. Örnek bir csv dosyası oluşturalım.

write.table(x=mtcars, file="mtcars.csv", sep=",", row.names=F, col.names=T) # create example csv file

CSV JDBC sürücüsünü bu bağlantıdan indirin ve kaydedin: http://sourceforge.net/projects/csvjdbc/files/latest/download

> library(RJDBC)

> path.to.jdbc.driver <- "jdbc//csvjdbc-1.0-18.jar"
> drv <- JDBC("org.relique.jdbc.csv.CsvDriver", path.to.jdbc.driver)
> conn <- dbConnect(drv, sprintf("jdbc:relique:csv:%s", getwd()))

> head(dbGetQuery(conn, "select * from mtcars"), 3)
   mpg cyl disp  hp drat    wt  qsec vs am gear carb
1   21   6  160 110  3.9  2.62 16.46  0  1    4    4
2   21   6  160 110  3.9 2.875 17.02  0  1    4    4
3 22.8   4  108  93 3.85  2.32 18.61  1  1    4    1

> head(dbGetQuery(conn, "select mpg, gear from mtcars"), 3)
   MPG GEAR
1   21    4
2   21    4
3 22.8    4

0

Bunu böyle yaparsın:

df = read.table("file.txt", nrows=1, header=TRUE, sep="\t", stringsAsFactors=FALSE)
colClasses = as.list(apply(df, 2, class))
needCols = c("Year", "Jan", "Feb", "Mar", "Apr", "May", "Jun")
colClasses[!names(colClasses) %in% needCols] = list(NULL)
df = read.table("file.txt", header=TRUE, colClasses=colClasses, sep="\t", stringsAsFactors=FALSE)
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.