2017-12-21 9 views
1

levenshtein distance(adist function in R)を介して、複数の列にわたってテキスト文字列を複数回比較したいとします。私がしたいことはsource1$namesource2$nameを比較することです。一致するものがない場合(すなわち、match.s1.s2$s2.iに対してNAが返された場合、2つのデータフレームにリストされているアドレス(source1$addressおよびsource2$address)を使用して同じ機能を実行します。所望の結果は、source2の行7にsource1マッチのsource1source2の列8と一致し、行4と行3以下。複数の列にわたるlevenshtein距離のRテキスト・マイニング

name <- c("holiday inn", "geico", "zgf", "morton phillips") 
address <- c("400 lafayette pl tupelo ms", "227 geico plaza chevy chase md", 
     "811 quincy st washington dc", "1911 1st st rockville md") 

source1 <- data.frame(name, address) 

name <- c("williams sonoma", "mamas bbq", "davis polk", "hop a long diner", 
     "joes crag shack", "mike lowry place", "holiday inn", "zummer") 

name2 <- c(NA, NA, NA, NA, NA, NA, "hi express", "zummer gunsul frasca") 
address <- c("2 reads way new castle de", "248 w 4th st newark de", 
     "1100 21st st nw washington dc", "1804 w 5th st wilmington de", 
     "1208 kenwood parkway holdridge nb", "4203 ocean drive miami fl", 
     "400 lafayette pl tupelo ms", "811 quincy st washington dc") 
source2 <- data.frame(name, name2, address) 

removeSPE <- function(x) gsub("[[:punct:]]", " ", x) 

cleanup <- function(x){ 
x <- as.character(x) # convert to character 
x <- tolower(x) # make all lowercase 
x <- sapply(x, removeSPE) # remove special characters 
x <- trimws(x) # remove extra white space 
#x <- sapply(x, removeStopWords) # remove stopwords, defined above 
#x <- trimws(x) # since stopwords have been removed, there is extra white space left, this removes it 
x <- gsub("^. .$", "", x) 
return(x) 
} 

source1$name <- cleanup(source1$name) 
source2$name <- cleanup(source2$name) 
source2$name2 <- cleanup(source2$name2) 

source1$address <- cleanup(source1$address) 
source2$address <- cleanup(source2$address) 

source1$name <- cleanup(source1$name) 
source2$name <- cleanup(source2$name) 
source2$name2 <- cleanup(source2$name2) 

dist.name<- adist(source1$name,source2$name, partial = TRUE, ignore.case = TRUE) 
dist.name2 <- adist(source1$name, source2$name2, partial = TRUE, ignore.case = TRUE) 
dist.address <- adist(source1$address, source2$address, partial = TRUE, ignore.case = TRUE) 

min.name<-apply(dist.name, 2, min) 
min.name2 <- apply(dist.name2, 2, min) 


match.s1.s2<-NULL 
for(i in 1:nrow(dist.address)) 
{ 
s2.i<-match(min.name[i],dist.name[i,]) 
s1.i<-i 
match.s1.s2<- 
rbind(data.frame(s2.i=s2.i,s1.i=s1.i,s2name=source2[s2.i,]$name, s1name=source1[s1.i,]$name, 
          adist=min.name[i], s1.i.address = source1[s1.i,]$address, 
          s2.i.address = source2[s2.i,]$address),match.s1.s2) 
} 

match.s1.s2 

ある。dist.name2と​​(上記で定義した)を組み込むことが方法であります上記のfor-loop?多分while文ですか?私が使用する実際のデータフレームには50 0と24,000の行が表示されます。

答えて

1

コサイン距離はかなり良い仕事をするために表示されます。

out_df <- c() 
for(x in source1$name) { 
    for(y in source2$full2) { 
    if (is.na(source2[source2$full2 == y, "name2"])) { 
     x2 <- source1[source1$name == x, "address"] 
     y2 <- source2[source2$full2 == y, "address"] 
     row <- data.frame(x, y2, stringdist(x, y, method="cosine", q = 1)) 
     names(row) <- c("name1", "full2", "distance") 
     out_df <- rbind(out_df, row) 
    } else { 
     row <- data.frame(x, y, stringdist(x, y, method="cosine", q = 1)) 
     names(row) <- c("name1", "full2", "distance") 
     out_df <- rbind(out_df, row) 
    } 
    } 
} 

names(out_df) <- c("name1", "full2", "distance") 

grab <- aggregate(distance ~ name1, data = out_df, FUN = min) 

merge(out_df, grab) 

あなたはまだあなたが望んでいない結果を除外する方法を把握する必要があります。

+0

住所についてはどうですか? – jvalenti

+1

@jvalenti更新をご覧ください。 – AidanGawronski

+0

名前の一致にNAがあった場合、一致基準としてアドレス間の距離を使用することを意味しました。したがって、名前の一致が一致を返さない場合は、そのアドレスに最も近い一致を検索します。これはちょうどデータフレームにアドレスを追加するように見えます。 – jvalenti

関連する問題