1 定義と基本概念

1.1 依存文法の基礎

依存文法は、文の構造を単語間の二項関係(依存関係)によって記述する理論である。各単語は、他の単語に依存(修飾)されるか、依存する側(支配)として機能する。文全体は、一つの根(root)単語(通常は主動詞)を中心とした有向木構造を形成する。この考え方は、句構造文法が句の階層を重視するのに対し、単語間の直接的な関係(主語-動詞、動詞-目的語など)を優先する点が特徴である。

1.2 依存関係の種類

1.2.1 項と付加詞

依存関係は、統語的・意味的に不可欠な「項(argument)」と、文の骨格には必須ではない「付加詞(adjunct)」に大別される。項は動詞や名詞の意味役割(主語、目的語など)を担い、付加詞は時や場所、様態などの修飾情報を提供する。この区別は、解析におけるラベル付けや意味解釈精度に直結する。

1.2.2 ラベルの意味

個々の依存関係には、その種類を示すラベルが付与される。Universal Dependencies(UD)では、「nsubj」(名詞的主語)、「obj」(直接目的語)、「amod」(形容詞修飾)、「advmod」(副詞修飾)など約40~50種類の標準ラベルが定義されている。ラベルは構文機能と意味役割を結びつける役割を果たす。

1.3 依存木とその表現

1.3.1 射影性と非射影性

依存木には、射影性(projective)と非射影性(non-projective)の区別がある。射影的解析では、依存関係が文中の単語順を跨がない(依存元と依存先の間の単語がすべて同一の部分木に属する)ことを要求する。非射影的関係は、語順自由度が高い言語(例:ドイツ語の移動現象)で見られ、解析アルゴリズムの複雑性を高める要因となる。

2 解析手法

2.1 遷移ベースの解析

2.1.1 スタックバッファ

遷移ベース解析では、スタック(解析中の部分木を保持)とバッファ(未処理の単語列)を用いた状態機械を利用する。初期状態ではスタックが空、バッファに入力文が格納され、アクションの連続適用によって最終的な依存木を得る。

2.1.2 基本アクション(SHIFT, REDUCE, LEFT-ARC, RIGHT-ARC)

主なアクションは、SHIFT(バッファ先頭の単語をスタックへ移動)、LEFT-ARC(スタック上の2要素間に左方向の依存関係を設定)、RIGHT-ARC(右方向の依存関係を設定)、REDUCE(スタックから処理済み要素を削除)の4種類である。これらを機械学習学習したポリシーに従って選択する。

2.2 グラフベースの解析

2.2.1 スコアリングと最大全域木(MST)

グラフベース解析では、文中の単語対すべてに辺を張った完全有向グラフを考え、各辺に依存関係の確からしさ(スコア)を割り当てる。解析は、全辺の中からスコア総和が最大となる全域有向木(MST: Maximum Spanning Tree)を探索する問題として定式化される。

2.2.2 Eisnerアルゴリズム

Eisnerアルゴリズムは、射影的依存木を効率的に求めるための動的計画法である。文中の連続区間(スパン)を単位とし、区間内での最適木を再帰的に計算する。計算量はO(n^3)であり、実用的な速度を実現する。

2.3 ニューラルネットワーク手法

2.3.1 BiLSTMベースのモデル

双方向長短期記憶ネットワーク(BiLSTM)は、文脈情報を前後双方向から獲得する。各単語の文脈ベクトルを生成し、それに基づいて依存関係のスコアを計算する学習手法が2010年代後半に標準化された。遷移ベース・グラフベースの両方に適用可能である。

2.3.2 Transformerベースのモデル

Transformerは自己注意機構(self-attention)を用いて、文全体のグローバルな依存関係を直接モデル化する。近年では、Encoder-Decoder構造を利用した解析モデルや、多層Transformerの内部表現を活用する手法が主流となっている。

2.3.3 事前学習モデルBERT, RoBERTa)の活用

BERTやRoBERTaなどの大規模事前学習言語モデルを特徴抽出器として利用することで、解析精度が飛躍的に向上した。微調整(fine-tuning)により、構文知識を継承したベクトルを各単語に割り当てることで、ラベル付き依存解析の状態水準が劇的に改善されている。

3 評価指標

3.1 UAS(未ラベル付き依存正解率)

UAS(Unlabeled Attachment Score)は、正解依存木と予測依存木の間で、ラベルの種類を考慮せずに、正しくヘッドが一致した単語の割合である。文全体の構文的な接続関係の正確さを測る基本的指標。

3.2 LAS(ラベル付き依存正解率)

LAS(Labeled Attachment Score)は、UASに加えて依存関係のラベル(種別)が正しいもののみを正解とカウントする。より厳しい評価であり、構文機能の正確な認識を要求する。

3.3 CM(完全一致率)

CM(Complete Match)は、文中のすべての依存関係(ヘッドとラベルの両方)が完全に正解と一致した割合を示す。ゼロショット評価やシステムの総合性能を測る尺度として用いられるが、文の長さが増すほど急激に低下する傾向がある。

4 主要なデータセットとベンチマーク

4.1 Universal Dependencies

4.1.1 言語横断的なアノテーション

Universal Dependencies(UD)は、100以上の言語にわたって統一的な依存文法アノテーションを提供する大規模プロジェクトである。ラベル体系と文法的特徴が共通化されており、多言語間の比較や転移学習の基盤として広く活用される。バージョン2.x以降では、評価用の標準分割とベンチマークが定期的に公開されている。

4.2 Penn Treebank(変換版)

英語のPenn Treebank(PTB)は、もともと句構造(構成素)解析用にアノテーションされたが、その後、依存木形式に変換されたデータセットが長らく標準ベンチマークとして用いられてきた。WD(Web Dependency)やSD(Stanford Dependencies)への変換ルールが公開され、初期のニューラル解析モデルの評価に貢献した。

4.3 中国語依存木データセット

中国語依存木データセットとしては、Chinese Treebank(CTB)の依存変換版や、Universal Dependencies中国語部分(UD_Chinese-GSDなど)が代表的である。形態素境界や品詞情報が異なるため、英語とは異なる解析困難性(例:語順が比較的固定、機能語の省略)が存在する。

5 応用

5.1 情報抽出

依存木は、イベント抽出や関係抽出において構文パターンの発見に利用される。例えば、動詞の周辺の主語や目的語を抽出することで、事実関係の自動獲得が可能となる。

5.2 機械翻訳

統計的・ニューラル機械翻訳では、ソース文の依存木を利用して、語順の並べ替えや長距離の再帰処理を改善する試みがある。構文情報をTransformerの注意機構に組み込む研究も行われている。

5.3 感情分析

感情分析では、否定語や強意語などの修飾関係(例:副詞-形容詞)を依存木から特定することで、フレーズレベルの極性判定を向上させる。依存関係に基づく感情表現の抽出が有効である。

5.4 質問応答

依存解析は、質問と回答候補文中の構文的対応関係を捉えるために使用される。特に、質問の依存木と回答文の依存木の構造的類似性を測る手法(木カーネルなど)がQAシステムの精度向上に寄与する。

6 課題と将来展望

6.1 低リソース言語への対応

UDには多くの言語が含まれるが、アノテーションデータが豊富な言語は少数であり、低リソース言語に対する解析精度は依然として低い。少数サンプル学習、転移学習、言語類型論に基づく事前知識の活用が今後の研究課題である。

6.2 複数言語間解析の統合

Universal Dependenciesの枠組みをベースに、複数言語で共通の解析器(マルチリンガル依存解析器)の開発が進められている。言語間の構文パターンの差異(例:語順の自由度、主語省略)にどう対処するかが鍵となる。

6.3 意味解析(セマンティックロールラベリングなど)との融合

依存解析は構文レベルの情報にとどまるが、意味解析(セマンティックロールラベリング、述語-項構造の特定)と結合することで、より深い言語理解が期待される。統合モデルは、Transformerの関心写像を用いた階層的学習が試みられている。

6.4 文脈を考慮した曖昧性解消

文中の局所的な語順や品詞だけでは解決できない構文的曖昧性(例:PP付加の曖昧性)は、文脈全体を考慮する必要がある。談話構造や世界知識を組み合わせた統合的解析手法の開発が将来の方向性として挙げられる。