1 背景
1.1 テキスト音声合成の課題
テキスト音声合成（Text-to-Speech, TTS）は、入力されたテキストから自然な音声を生成する技術である。従来のTTSシステムは、隠れマルコフモデルや波形接続方式に依存していたが、深層学習の登場により、エンドツーエンドのニューラルTTSモデルが主流となった。これらのモデルは高い音声品質を達成したものの、推論速度やロバスト性の面で課題を残していた。
1.2 自己回帰型モデルの限界
多くの最先端TTSモデル（Tacotron 2など）は、自己回帰（Autoregressive, AR）方式を採用していた。ARモデルは、前の時刻の出力を次の時刻の入力として逐次的に生成するため、並列処理ができず、推論に時間を要する。また、入力テキストと出力スペクトログラムの長さのミスマッチや、繰り返し・飛び越しなどのエラーが発生しやすいという問題があった。
2 技術的特徴
2.1 非自己回帰型アーキテクチャ
FastSpeechは、非自己回帰（Non-Autoregressive, NAR）方式を採用する。出力全体を並列に生成するため、推論速度が大幅に向上した。Transformerのエンコーダ・デコーダ構造をベースとし、自己回帰的な依存関係を排除することで、従来モデルの逐次生成のボトルネックを解消した。
2.2 長さ調整器（Length Regulator）
長さ調整器は、エンコーダの出力する隠れ状態系列を、デコーダが処理する適切な長さに拡張する機構である。これにより、テキストの各音素に対応する音声フレーム数を明示的に制御できる。
2.2.1 デュレーション予測
デュレーションプレディクタが各入力トークン（音素など）の持続時間（フレーム数）を予測する。この予測値に基づいて、長さ調整器が隠れ状態を繰り返し拡張し、デコーダへ渡す系列の長さを決定する。
2.2.2 アライメントの役割
教師データとして、外部の自動アライメントツール（例えば、事前学習済みの自己回帰TTSモデルから抽出したアライメント）を用いる。このアライメント情報により、テキストと音声の間の時間対応関係を学習し、デュレーション予測の精度を高める。
3 モデル構造
3.1 エンコーダ（Feed-Forward Transformerブロック）
エンコーダは、複数のFeed-Forward Transformer（FFT）ブロックを積み重ねた構造を持つ。各ブロックは、マルチヘッド自己注意機構と位置単位のフィードフォワードネットワークから構成される。入力テキストの埋め込みに対して、位置エンコーディングを付加し、系列内の相対的な位置情報をモデルに与える。
3.2 デコーダ（Feed-Forward Transformerブロック）
デコーダも同様にFFTブロックで構成される。エンコーダからの出力（長さ調整器で拡張されたもの）を入力として受け取り、マルチヘッドクロスアテンションを介してエンコーダ情報を参照しながら、メルスペクトログラムフレームを並列に生成する。最終的に線形変換と活性化関数を経て、出力スペクトログラムを得る。
3.3 デュレーションプレディクタ
デュレーションプレディクタは、エンコーダの各FFTブロックの出力を入力とし、各トークンの継続時間を予測する小さなニューラルネットワークである。具体的には、畳み込み層と線形層を組み合わせた構造を持ち、出力はスカラーの継続時間値（または正規化された値）となる。
3.3.1 学習方法
学習時には、教師データとして自動アライメントから得られた各トークンの継続時間ラベルを使用する。デュレーションプレディクタは、これらのラベルに近づくように学習される。推論時には、このプレディクタが予測した継続時間をそのまま使用する。
3.3.2 損失関数
全体の損失関数は、メルスペクトログラムの再構成誤差（L1損失やL2損失）と、デュレーション予測の損失（平均二乗誤差など）の重み付き和で構成される。これにより、音声品質と継続時間の正確性を同時に最適化する。
4 発展と応用
4.1 FastSpeech 2への改良
FastSpeechの後継モデルであるFastSpeech 2では、デュレーションプレディクタの教師信号に依存せず、Variational Autoencoderの枠組みを取り入れた。また、音声のピッチやエネルギーなどの韻律特徴を明示的にモデル化することで、より自然な音声を生成可能にした。
4.2 多言語・多話者への拡張
FastSpeechのアーキテクチャは、話者埋め込みや言語埋め込みを導入することで、多話者・多言語の音声合成に容易に拡張できる。これにより、少数の話者データで未知の話者の音声を生成する適応手法や、複数言語間での音声合成が実現された。
4.3 リアルタイム音声合成への応用
非自己回帰型の高速な推論特性により、FastSpeechはリアルタイム音声合成システムに適している。エッジデバイスやクラウドサービスにおいて、低レイテンシで自然な音声を提供する用途に広く利用されている。
5 評価
5.1 音声品質（MOS評価）
主観評価である平均オピニオン評点（MOS）において、FastSpeechは従来の自己回帰型モデル（Tacotron 2など）に匹敵する自然性を示した。ただし、ある条件下では若干の品質低下が報告されているものの、実用的な水準にある。
5.2 推論速度比較
推論速度は、自己回帰型モデルと比較して桁違いに向上した。例えば、Tacotron 2が1秒の音声生成に数秒かかるのに対し、FastSpeechは同じ長さの音声を0.1秒未満で生成できる。この並列生成の効率性が最大の利点である。
5.3 自然性とロバスト性
FastSpeechは、自己回帰型モデルにありがちな繰り返しや単語の飛ばしといったエラーが大幅に減少した。また、入力テキストの長さが変わっても安定した生成が可能であり、ロバスト性に優れる。ただし、複雑な韻律や感情表現の再現には限界があるため、改良が続けられている。