述语项构造基统计

述語項構造に基づいた統計

翻訳における語句の並べ替え2006年11月18日(日)奈良先端大松本研(M2)小町守2述語項構造を用いた並べ替えpleasewritedownyouraddresshere住所をここに書い下さいて住所をここに書い下さいて並べ替えによって翻訳モデルの改善を狙う3概要述語項構造解析を用いた統計翻訳のための並べ替えを行った日本語の語順を英語の語順に近く並べ替えることによって翻訳モデルの単語アライメントが改善IWSLT2006日英翻訳タスクにてBLEU0.1431・NIST5.2105(ベースラインからBLEUで22%・NISTで11%向上)4研究目的言語の「構造」や「意味」を用いた翻訳モデルはまだ成功していない述語項構造解析器を使って語順の異なる言語間での歪みモデルの改善述語項構造解析を用いた統計翻訳の改善語順の並べ替えによる語句の対応の向上5述語項構造解析器SynChaIidaetal.,2006と小町ら,2006に基づいた述語項構造解析器述語(動詞・形容詞・名詞+だ)と事態性名詞の項(ガ・ヲ・ニ格)を同定NAISTテキストコーパス

http://cl.naist.jp/nldata/corpus/

で学習係り受け関係にない格要素も出力ゼロ照応・省略も扱える文内の項だとだいたいF値で0.8くらい6住所をここに書い下さいて住所をここに書い下さいて住所をここに書い下さいてWO-ACCNI-LOCpredicate述語項構造解析の手順7並べ替えの手順住所をここに書い下さいて住所をここに書い下さいて述語(動詞・形容詞・事態性名詞)を探す英語の語順に近くなるようヒューリスティックに並べ替え形態素解析を利用(NiessenandNey,2001)構文解析を利用(Collinsetal.,2005)8コーパスの前処理日本語側形態素解析・分かち書き:茶筌係り受け:南瓜述語項構造:新茶(SynCha)英語側分かち書き:tokenizer.sed(LDC)形態素解析:MXPOST単語は全部小文字にしてトレーニング9会話文の対応付け訓練コーパス39,953会話対から45,909文対を人手でアライメントかしこまり

まし

た

。

この

用紙

に

記入

し

て

下さい

。sure.pleasefilloutthisform.かしこまり

まし

た

。この

用紙

に

記入

し

て

下さい

。sure.pleasefilloutthisform.10コーパスの並べ替え述語項構造解析結果による並べ替えこの

用紙

に

記入

し

て

下さい

。pleasefilloutthisform.記入

し

て

この

用紙

に

下さい

。いずれの文対も訓練事例に追加GIZA++で単語対応を学習文対数交差減少33,874交差増加7,959増減なし4,076総計45,909文対数並べ替えあり18,539交差あり39,979左・上:コーパスの統計11翻訳モデルと言語モデル翻訳モデルGIZA++(OchandNey,2003)言語モデルPalmkit(Ito,2002)により英語側のコーパスを用いてバックオフ単語trigramモデル作成デコーダWMT2006sharedtaskのベースラインシステム(Pharaohを元にしたもの)Pharaohのパラメータは誤り最小化学習で最適化12誤り最小化学習(MERT)Pharaohのパラメータの最適化句翻訳確率(日→英・英→日)単語翻訳確率(日→英・英→日)句ペナルティ句の歪み確率語順の並べ替えを行っていない500文を用いてトレーニング13ベースラインとの比較実験WMT2006のベースラインシステムをそのままデフォルトで使ったモデル(パラメータの最適化なし)並べ替えた文をコーパスに加えて単語対応を学習したモデル(パラメータの最適化なし)上記のモデルに対して誤り最小化学習を行いパラメータの最適化をしたモデル14比較実験結果テストセットシステムBLEUNIST音声認識1-BESTベースライン0.10814.3555提案手法(MERTなし)0.13664.8438提案手法(MERTあり)0.13114.8372書き起こしベースライン0.11704.7078提案手法(MERTなし)0.14595.3649提案手法(MERTあり)0.14315.210515考察ベースラインシステムよりは精度向上並べ替えによる翻訳モデル改善に成功内容語に重点を置いた評価尺度では比較的高精度・個々の単語選択に重点を置いた評価尺度では低精度用言の直前の格助詞のペアを切り離すことで句の対応が悪くなる16考察の続き誤り最小化学習で性能が下がるのは変原因が特定できない語順を並べ替えた文をコーパスに追加しているのにパラメータチューニングには元々の語順の文だけ使っているのが問題かもうまく項が当たっていないケースが邪魔している可能性新聞記事でトレーニングした述語項構造解析器を旅行会話に使ったため17まとめ述語項構造に基づく統計翻訳のための語句並べ替えモデルを提案IWSLT2006日英翻訳タスクにて、BLEUスコア0.1431・NISTスコア5.2105を達成ベースラインからはBLEUスコアで22%、NISTスコアで11