RMeCabFunctions のバックアップ(No.13)
- バックアップ一覧
- 差分 を表示
- 現在との差分 を表示
- ソース を表示
- RMeCabFunctions へ行く。
- 1 (2009-03-05 (木) 18:07:30)
- 2 (2009-03-05 (木) 18:47:04)
- 3 (2009-03-06 (金) 11:47:02)
- 4 (2009-03-06 (金) 13:56:30)
- 5 (2009-03-07 (土) 11:21:25)
- 6 (2009-03-07 (土) 18:07:35)
- 7 (2009-03-11 (水) 09:22:13)
- 8 (2009-03-11 (水) 18:19:57)
- 9 (2009-03-19 (木) 11:06:15)
- 10 (2009-03-19 (木) 21:28:40)
- 11 (2009-03-23 (月) 09:42:21)
- 12 (2009-03-28 (土) 08:17:23)
- 13 (2009-03-28 (土) 13:01:58)
- 14 (2009-03-28 (土) 18:03:27)
- 15 (2009-03-29 (日) 08:38:44)
- 16 (2009-04-15 (水) 12:08:48)
- 17 (2010-05-10 (月) 14:13:01)
- 18 (2010-11-10 (水) 17:58:28)
- 19 (2010-11-10 (水) 18:00:12)
- 20 (2012-08-09 (木) 09:59:48)
- 21 (2012-08-09 (木) 10:01:07)
- 22 (2014-03-23 (日) 17:51:56)
- 23 (2014-03-23 (日) 18:29:41)
- 24 (2014-03-24 (月) 08:21:15)
- 25 (2019-06-17 (月) 18:31:53)
- RMeCabC()関数 : 短文の処理
- RMeCabText()関数 : ファイルの解析結果をそのまま表示
- RMeCabDF()関数 : データフレームの指定列を解析
- RMeCabFreq()関数 : ファイルから頻度表を作成
- docMatrix()関数, docMatrix2()関数 : 通常はdocMatrix()を使ってください．文書ターム行列(および重み付け)，あるいはターム共起頻度行列(2009年3月追加)を作成
- Ngram()関数 : N-gram のカウント
- docNgram()関数, docNgram2()関数 : 指定されたディレクトリ内のすべてのファイル(あるいは単一のファイル)を対象に Ngramを抽出．
- NgramDF() 関数, NgramDF2() 関数 : 基本的にNgram() 関数と同じであるが，N-gram を構成する各要素ごとに列に取ったデータフレームを出力．
- collocate()関数 : コロケーションのカウント
- collScores() 関数 : collocate() 関数の出力から T値, MI値 を返す
- rmSign() 関数 : MeCabの出力から 「記号」を取り除く
- docMatrixDF() 関数 : データフレームの指定列を対象にターム文書行列，あるいはターム共起頻度行列(2009年3月追加)を作成する．
- docDF()関数 2009年3月5日追加
詳細は 
manual081108.pdfを参照してください．
_ RMeCabC()関数 : 短文の処理
> library(RMeCab)
> kekka <- RMeCabC("すもももももももものうち")
> unlist(kekka)
# 第二引数 1 を加えると形態素原型を返します．
> kekka <- RMeCabC("ご飯を食べた", 1)
> unlist(kekka)
# 名詞 助詞 動詞 助動詞
# "ご飯" "を" "食べる" "た"
# 第二引数なしだと
> kekka <- RMeCabC("ご飯を食べた")
> unlist(kekka)
# 名詞 助詞 動詞 助動詞
# "ご飯" "を" "食べ" "た"
# 名詞だけ取り出したければ
unlist(kekka) [names(unlist(kekka)) == "名詞"]
# ご飯
# R-2.8.0 をMacOSXやLinuxでご利用の場合は
# 以下の3行を実行しないと動作しないかもしれません
kekka <- unlist(kekka)
Encoding(kekka) <- "UTF-8"
Encoding(names(kekka)) <- "UTF-8"
_ RMeCabText?()関数 : ファイルの解析結果をそのまま表示
# その他，和布蕪の出力をそのままリスト形式で出力する関数
> RMeCabText("data/sakura.txt")
# こんな結果
#[[1]]
# [1] "昨日" "名詞" "副詞可能" "*" "*" "*"
# [7] "*" "昨日" "キノウ" "キノー"
#
#[[2]]
# [1] "も" "助詞" "係助詞" "*" "*" "*" "*" "も"
# [9] "モ" "モ"
_ RMeCabDF()関数 : データフレームの指定列を解析
ID,Sex,Reply 1,F,写真とってくれよ 2,M,写真とってください 3,F,写真とってね 4,F,写真とってください 5,M,写真とってっす
と言うファイルが c:/data/photo.csv にあったとして
dat <- read.csv("c:/data/photo.csv", head = T)
#と読み込んで
RMeCabDF(dat, 3) RMeCabDF(dat, "Reply") # 列名でも良い # datという読み込んだデータの 3 列目に日本語がある
とすると，3 列目のデータをすべて形態素解析にかけます．
[[1]] 名詞 動詞 助詞 動詞 助詞 "写真" "撮っ" "て" "くれ" "よ"
[[2]]
名詞 動詞 助詞 動詞
"写真" "とっ" "て" "ください"
# また
RMeCabDF(dat, 3, 1) # とすると，形態素原型を返します．
_ RMeCabFreq?()関数 : ファイルから頻度表を作成
> (kekka <- RMeCabFreq("c:/data/sakura.txt") )
# こんな結果
# length = 13
# Term Info1 Info2 Freq
#1 。 記号 句点 2
#2 、 記号 読点 1
#3 を 助詞 格助詞 1
...
# 10 桜餅 名詞 一般 3
# 11 今日 名詞 副詞可能 1
# 芥川龍之介 『蜘蛛の糸』(青空文庫より借用)
# ただし主人公の名前の「かん陀多」の
# 「かん」にあたる漢字は特殊文字なので削っている
# 実行時間を計る
> pt1 <- proc.time()
> kekka <- RMeCabFreq("c:/data/kumo.txt")
pt2 <- proc.time()
> kekka # 結果を見る
Term Info1 Info2 Freq
1 あの フィラー * 1
2 いくら 副詞 一般 2
3 いつの間にか 副詞 一般 1
4 うようよ 副詞 一般 1
5 きっと 副詞 一般 1
# 実行時間を見る
> pt2 - pt1
# 頻度表をグラフにしてみる
# 『蜘蛛の糸』から、一般名詞かつ頻度が ７ 以上の語を選ぶ
kekka <- kekka [kekka[, 2] == "名詞" & kekka[, 3] == "一般"
& kekka[,4] > 6, ]
k.col <- rainbow(nrow(kekka))
matplot(1:nrow(kekka), kekka[,4], type = "n")
for(i in 1:nrow(kekka)){
matlines(i, kekka[i,4], type = "h", col = k.col[i], lwd =5)
}
legend(1, max(kekka$Freq), legend = kekka$Term, col = k.col,
lwd = 5)
_ docMatrix()関数, docMatrix2()関数 : 通常はdocMatrix()を使ってください．文書ターム行列(および重み付け)，あるいはターム共起頻度行列(2009年3月追加)を作成
# デフォルトでは名詞と動詞，形容詞のみを抽出するが，pos 引数で変更可能．
# 対象ファイルのみが収まっているディレクトリ data を用意して
> targetDir <- "c:/data/file"
> test <- docMatrix(targetDir)
> test
# 名詞と動詞のみを抽出する場合
> test <- docMatrix(targetDir, pos = c("名詞","動詞") )
> test
# こんな結果
# docs
# terms dat1.txt dat2.txt dat3.txt
# 季節 2 0 0
# 今 1 0 0
# 春 2 0 0
# 人 1 0 1
# 大好き 1 0 0
# 日本 2 2 2
# 各テキストで頻度数が 2 以上のタームのみで構成する場合
# 通常は以下のようにします．
# これはあるタームがすべてのテキストで出現した総数を指定することになります．
> test <- docMatrix(targetDir)
## 総頻度が 2 以上のタームを残す
> test <- test[rowSums(test) > 2, ]
# 各テキスト別に，最低頻度を満たすタームだけを残す
# 指定頻度以下のタームが何種類あったかは表示される
> test <- docMatrix(targetDir, minFreq = 2 ) > test # こんな結果 # docs #terms dat1.txt dat2.txt dat3.txt # 季節 2 0 0 # 春 2 0 0 # 日本 2 2 2 # 犬 0 2 2 # 柴犬 0 2 0 # 特産 0 2 0
# TF と IDF を組み合わせた重みをつける場合
> test <- docMatrix(targetDir, weight = "tf*idf" ) > test # こんな結果 # docs #terms dat1.txt dat2.txt dat3.txt # あり 2.584963 0.000000 0.000000 # い 1.584963 1.584963 0.000000 # し 1.584963 1.584963 0.000000 # 季節 5.169925 0.000000 0.000000 # 迎えよ 2.584963 0.000000 0.000000
res <- docMatrix("doc", pos = c("名詞","形容詞","助詞") )
> res
docsterms doc1.txt doc2.txt doc3.txt
[[LESS-THAN-1]] 0 0 0 [[TOTAL-TOKENS]] 4 6 8 は 1 1 1 学生 1 1 0 私 1 0 0 の 0 1 0 数学 0 1 1 彼女 0 1 1 で 0 0 1 を 0 0 1
> ## co 引数はタームの共起行列を作成する．
> ## ############### 共起行列を返す
> ## 行名のタームと列名のタームが共起した回数
> ## 対称行列である
> res <- docMatrix("doc", pos = c("名詞","形容詞","助詞"), co = 1)
> res
は 学生 私 の 数学 彼女 で を
は 1 2 1 1 2 2 1 1
学生 2 1 1 1 1 1 0 0
私 1 1 1 0 0 0 0 0
の 1 1 0 1 1 1 0 0
数学 2 1 0 1 1 2 1 1
彼女 2 1 0 1 2 1 1 1
で 1 0 0 0 1 1 1 1
を 1 0 0 0 1 1 1 1
>
> ### 行名のタームと列名のタームが共起したか否か
> ## 対称行列である
> res <- docMatrix("doc", pos = c("名詞","形容詞","助詞"), co = 2)
> res
は 学生 私 の 数学 彼女 で を
は 1 1 1 1 1 1 1 1
学生 1 1 1 1 1 1 0 0
私 1 1 1 0 0 0 0 0
の 1 1 0 1 1 1 0 0
数学 1 1 0 1 1 1 1 1
彼女 1 1 0 1 1 1 1 1
で 1 0 0 0 1 1 1 1
を 1 0 0 0 1 1 1 1
_ Ngram()関数 : N-gram のカウント
引数で指定されたファイルについて，N-gram を計る．引数 type が 0 なら文字単位で，1 なら形態素原形を単位として，また 2 なら品詞情報を単位に N-gram をカウントする．なお N は引数 N で指定． また pos 引数を指定すれば(pos = "名詞"など)，品詞の指定もできる．
target <- "data/file/dat1.txt" (kekka <- Ngram( target, type = 0, N = 2)) # file = РNgram = 2 # length = 54 # Ngram Freq # 1 [J-a] 1 # 2 [a-n] 1 # 3 [a-p] 1 # 4 [n-は] 1 # 5 [p-a] 1 # 6 [、-春] 1 # 7 [。-か] 1 # 8 [。-日] 1 (kekka <- Ngram( target, type = 1, N = 3)) # Ngram Freq # 1 [Japan-は-今] 1 # 2 [、-春-の] 1 # 3 [。-かく-言う] 1 (kekka <- Ngram( target, type = 2, N = 3)) # Ngram Freq # 1 [副詞-動詞-名詞] 1 # 2 [助動詞-助動詞-記号] 1 # 3 [助動詞-助詞-動詞] 2
出力から特定の N-gram を取り出すには %in% 演算子を利用する．詳細は manual081108.pdfを参照してください．
_ docNgram()関数, docNgram2()関数 : 指定されたディレクトリ内のすべてのファイル(あるいは単一のファイル)を対象に Ngramを抽出．
Ngram()関数を適用し，その結果を行にテキスト名，列に Ngramセットとしたデータフレームで返す． Ngram()関数の引数はすべて指定可能
_ NgramDF() 関数, NgramDF2() 関数 : 基本的にNgram() 関数と同じであるが，N-gram を構成する各要素ごとに列に取ったデータフレームを出力．
> kekkaDF <- NgramDF("kumo.txt", type = 1, N = 3)
file =kumo.txt Ngram = 3
> kekkaDF[1:5,]
Ngram1 Ngram2 Ngram3 Freq
1 、 「 いや 1
2 、 「 こら 1
3 、 「 しめる 1
4 、 ある 時 1
5 、 いくら 何 1
# ... 以下略
_ collocate()関数 : コロケーションのカウント
指定されたファイルについて，node で指定された語(ただし形態素原形)の前後に出てくる単語頻度を計算する．なおスパンは引数 span で指定する．
(kekka <- collocate(file = target, node = "春", span =3)) # length = 12 # Term Span Total # 1 、 1 5 # 2 が 2 3 # 3 で 1 11
_ collScores() 関数 : collocate() 関数の出力から T値, MI値 を返す
# 芥川「蜘蛛の糸」 > target <- "c:/data/kumo.txt" # 「極楽」と前後3語の共起語を探す > kekka <- collocate(file = target, node = "極楽", span = 3)
# 上記の結果にノード語である「極楽」を指定して，Tスコア，MIスコアを求める
> collScores(kekka,"極楽")
# こんな結果 (一部)
Term Span Total Tscore Mutual G2 26 様 2 7 1.38668 11.2976 5.618497 27 蓮池 4 4 1.98887 11.4902 27.464578 28 蜘蛛 2 14 1.35915 12.2976 2.972814 29 行く 1 4 0.97775 9.4902 2.518165 30 釈迦 2 7 1.38668 11.2976 5.618497 31 間 1 3 0.98331 9.0752 3.130900 # R-2.8.0 をMacOSXやLinuxでご利用の場合は # 以下の3行を実行しないと動作しないかもしれません Encoding(kekka$Term) <- "UTF-8"
_ rmSign() 関数 : MeCab?の出力から 「記号」を取り除く
_ docMatrixDF() 関数 : データフレームの指定列を対象にターム文書行列，あるいはターム共起頻度行列(2009年3月追加)を作成する．
なお引数 minFreq は各被験者（テキスト）全体を通じての，タームの総頻度の閾値を指定する
targetText <- "photo.csv" dat <- read.csv(targetText, head = T) # 男性の被験者だけを見る dat[dat$Sex == "M",] res <- docMatrixDF(dat[,"Reply"]) res ## OBS.1 OBS.2 OBS.3 OBS.4 OBS.5 ## くださる 0 1 0 1 0 ## くれる 1 0 0 0 0 ## とる 1 1 1 1 1 ## 写真 1 1 1 1 1 ### テキスト（被験者）全体を通じて，総頻度が ２ 以上のタームを ## 抽出 ## ここで総頻度とは、各タームごとに、各文書での出現した頻度 ## を合計した頻度をいう res <- docMatrixDF(dat[,"Reply"], minFreq = 2) res ## OBS.1 OBS.2 OBS.3 OBS.4 OBS.5 ## くださる 0 1 0 1 0 ## とる 1 1 1 1 1 ## 写真 1 1 1 1 1 ## co 引数はタームの共起行列を作成する． ## 下記の例を参照．2009 年 ３月実装 ## テキストに記載はありません． ## ############### 共起行列を返す # 行名のタームに対して，列名のタームが出現した回数 ## 行名のタームと列名のタームが共起した回数 ## 対称行列 res <- docMatrixDF(dat[,"Reply"], co = 1) res ### 行名のタームと列名のタームが共起したか否か ## 対称行列 res <- docMatrixDF(dat[,"Reply"], co = 2) res
_ docDF()関数 2009年3月5日追加
2009 年 3月 5日 新規追加 『Rによるテキストマイニング入門』森北書店には記載がありません． 第 1 引数で指定されたファイル (フォルダが指定された場合は，その中の全ファイル)，あるいは第1引数でデータフレームを，また第 2 引数で列（番号あるいは名前）を指定して，Ngram行列，あるいはターム・文書行列を作成する．指定可能な引数は
- target : 引数はファイル名ないしフォルダ名,あるいはデータフレーム
- column : はデータフレームを指定する場合，列（番号あるいは名前）を指定する
- type : 0 は文字のGramを １はタームのGramを作成．デフォルトは0
- pos : 引数は pos = c("名詞", "形容詞","記号") のように指定する．指定されない場合は記号を含め，すべてを抽出．
- minFreq : 引数には全ファイルを通じての合計頻度の閾値を指定する．デフォルトは１．つまり，どれか一つのファイルに一度でも出現していれば，データフレームに登録する．対象文書の分量が多い場合は 3 などを指定することを検討ください．
- N: は Ngram の場合の N の数.デフォルトは１
- Genkei:活用語を原型 (0) にするか，表層形(1) にするか．デフォルトは 0．
- weight = "tf*idf*norm" などの重みを指定可能．デフォルトは重み無し．
- nDF : N個のタームそれぞれを独立した列に取る．デフォルトは 0： nDF = 1 とするとNgramDF() 関数, NgramDF2() 関数に似た出力になります．
- co ：共起行列の作成
> setwd("C:/data")
> (res <- docDF("doc")) # docフォルダの全ファイルを対象に
file = doc1.txt
file = doc2.txt
file = doc3.txt
file_name = doc/doc1.txt opened
file_name = doc/doc2.txt opened
file_name = doc/doc3.txt opened
number of extracted terms = 15
now making a data frame. wait a while!
Ngram doc1.txt doc2.txt doc3.txt
1 。 1 1 1
2 い 0 0 1
3 す 1 1 1
4 で 1 1 1
5 の 0 1 0
6 は 1 1 1
7 ま 0 0 1
8 を 0 0 1
9 ん 0 0 1
10 女 0 1 1
11 学 1 2 2
12 彼 0 1 1
13 数 0 1 1
14 生 1 1 0
15 私 1 0 0
ターム・文章行列
> (res <- docDF("doc", type = 1, N=1))
file = doc1.txt
file = doc2.txt
file = doc3.txt
file_name = doc/doc1.txt opened
file_name = doc/doc2.txt opened
file_name = doc/doc3.txt opened
number of extracted terms = 13
now making a data frame. wait a while!
TERM POS1 POS2 doc1.txt doc2.txt doc3.txt
1 。 記号 句点 1 1 1
2 いる 動詞 非自立 0 0 1
3 で 助詞 接続助詞 0 0 1
4 です 助動詞 * 1 1 0
5 の 助詞 連体化 0 1 0
6 は 助詞 係助詞 1 1 1
7 ます 助動詞 * 0 0 1
8 を 助詞 格助詞 0 0 1
9 学ぶ 動詞 自立 0 0 1
10 学生 名詞 一般 1 1 0
11 彼女 名詞 代名詞 0 1 1
12 数学 名詞 一般 0 1 1
13 私 名詞 代名詞 1 0 0
名詞と形容詞を対象にトライグラムで行列
> (res <- docDF("doc", pos = c("名詞","形容詞"), type = 1, N=3))
number of extracted terms = 1
TERM POS1 POS2
1 彼女-数学-学生 名詞-名詞-名詞 代名詞-一般-一般
doc1.txt doc2.txt doc3.txt
0 1 0
データフレームを解析する
> (target <- read.csv("photo.csv"))
ID Sex Reply
1 1 M 写真とってくれよ
2 2 F 写真とってください
3 3 M 写真とってね
4 4 F 写真とってください
5 5 M 写真とってっす
データフレームの3列目からバイグラム行列
> (res <- docDF(target, col = 3, N = 2))
# col はデータフレーム列あるいは名前
number of extracted terms = 13
Ngram Row1 Row2 Row3 Row4 Row5
1 く-だ 0 1 0 1 0
2 く-れ 1 0 0 0 0
3 さ-い 0 1 0 1 0
4 だ-さ 0 1 0 1 0
5 っ-す 0 0 0 0 1
6 っ-て 1 1 1 1 1
7 て-く 1 1 0 1 0
8 て-っ 0 0 0 0 1
9 て-ね 0 0 1 0 0
10 と-っ 1 1 1 1 1
11 れ-よ 1 0 0 0 0
12 写-真 1 1 1 1 1
13 真-と 1 1 1 1 1
タームのバイグラム
> (res <- docDF(target, col = 3, type = 1, N = 2))
number of extracted terms = 7
now making a data frame. wait a while!
TERM POS1 POS2 Row1 Row2 Row3 Row4 Row5
1 くれる-よ 動詞-助詞 非自立-終助詞 1 0 0 0 0
2 て-くださる 助詞-動詞 接続助詞-非自立 0 1 0 1 0
3 て-くれる 助詞-動詞 接続助詞-非自立 1 0 0 0 0
4 て-っす 助詞-助動詞 接続助詞-* 0 0 0 0 1
5 て-ね 助詞-助詞 接続助詞-終助詞 0 0 1 0 0
6 とる-て 動詞-助詞 自立-接続助詞 1 1 1 1 1
7 写真-とる 名詞-動詞 一般-自立 1 1 1 1 1
タームのバイグラム.活用語は表層型で
> (res <- docDF(target, col = 3, type = 1, N = 2, Genkei = 1))
number of extracted terms = 7
now making a data frame. wait a while!
TERM POS1 POS2 Row1 Row2 Row3 Row4 Row5
1 くれ-よ 動詞-助詞 非自立-終助詞 1 0 0 0 0
2 て-ください 助詞-動詞 接続助詞-非自立 0 1 0 1 0
3 て-くれ 助詞-動詞 接続助詞-非自立 1 0 0 0 0
4 て-っす 助詞-助動詞 接続助詞-* 0 0 0 0 1
5 て-ね 助詞-助詞 接続助詞-終助詞 0 0 1 0 0
6 とっ-て 動詞-助詞 自立-接続助詞 1 1 1 1 1
7 写真-とっ 名詞-動詞 一般-自立 1 1 1 1 1
タームごとに列を分けて作成
> (res <- docDF("doc", type=1, N=2,pos = c("名詞","動詞"),
Genkei = 1, nDF = 1))
number of extracted terms = 5
now making a data frame. wait a while!
N1 N2 POS1 POS2 doc1.txt doc2.txt doc3.txt
1 学ん い 動詞-動詞 自立-非自立 0 0 1
2 彼女 数学 名詞-名詞 代名詞-一般 0 1 1
3 数学 学ん 名詞-動詞 一般-自立 0 0 1
4 数学 学生 名詞-名詞 一般-一般 0 1 0
5 私 学生 名詞-名詞 代名詞-一般 1 0 0
## 鴎外と漱石あわせて ８ テキスト．解析に数分かかります
> res <- docDF("writers", type = 1, N=1)
> head(res)
TERM POS1 POS2 ogai_gan.txt ...
1 ' 名詞 サ変接続 0 ...
2 , 名詞 サ変接続 0 ...
3 あい 名詞 一般 0 ...
4 あか 名詞 一般 0 ...
5 あかるい 形容詞 自立 0 ...
6 あざやか 名詞 一般 0 ...
...
