1.1 開発背景
Geminiは、Google DeepMindが従来の大規模言語モデル（LLM）の限界を超えるために開発した次世代AIモデルファミリーである。2020年代前半、GoogleはLaMDA、PaLM、PaLM 2などのモデルを発表してきたが、これらのモデルは主にテキスト処理に特化していた。マルチモーダル処理の需要の高まりと、OpenAIのGPT-4登場を受け、Googleはテキストだけでなく画像、音声、動画、コードを同時に理解し生成できる統合型モデルの開発を決定した。開発チームはDeepMindの強化学習とTransformerアーキテクチャの知見を融合させ、従来のLLMを超える汎用性と推論能力を追求した。
1.2 発表とリリース
Geminiは2023年12月6日にGoogle CEO Sundar Pichaiによって公式発表された。同日には、Gemini ProがBard（後のGeminiアプリ）に統合され、一般ユーザー向けに英語版が公開された。Gemini Ultraは2024年2月にBard Advanced（後のGemini Advanced）として有料サービスで提供を開始した。Gemini NanoはGoogle Pixel 8などの端末にプリインストールされ、オンデバイス推論を実現した。
1.3 バージョン履歴
Geminiは発表以来、複数のバージョンアップを経ている。2024年2月、Gemini 1.0が正式リリース。同年5月にはGemini 1.5 Proが登場し、コンテキストウィンドウが100万トークンに拡張された。2024年末にはGemini 2.0 Flashが公開され、マルチモーダルリアルタイム処理とエージェント機能が強化された。各バージョンは後方互換性を保ちながら、推論速度と精度を段階的に改善している。
2.1 マルチモーダル処理の仕組み
Geminiは従来のテキスト専用モデルとは異なり、Transformerデコーダーをベースに、画像、音声、動画を直接入力として受け付けるマルチモーダルエンコーダを統合している。各モダリティは共通の潜在空間にマッピングされ、アテンション機構によって相互に関連付けられる。これにより、テキスト、画像、音声が混在した入力から一貫した文脈を抽出し、出力の生成に利用する。特に、画像や音声に対しては専用の視覚エンコーダ（ViTなど）と音声エンコーダ（USMなど）を併用し、高次元特徴を結合している。
2.2 モデルサイズ
Geminiは用途に応じて3つのサイズで提供される。
2.2.1 Gemini Ultra
Gemini Ultraは最大スケールのモデルであり、主にデータセンターで運用される。パラメータ数は非公開だが、GPT-4と同等またはそれを上回る規模とされる。高度な推論、マルチモーダルタスク、複雑なコード生成に特化しており、Google Cloudの最上位インスタンスで動作する。Gemini Advanced（旧Bard Advanced）を通じて有料ユーザーに提供される。
2.2.2 Gemini Pro
Gemini Proはバランスの取れたモデルであり、Geminiアプリの標準エンジンとして利用される。速度と性能のトレードオフが最適化されており、多くのコンシューマ製品（Google Workspace、Google CloudのVertex AIなど）のバックエンドとして動作する。無料版のBardで使用されるほか、API経由で開発者にも提供される。
2.2.3 Gemini Nano
Gemini Nanoは最も軽量なモデルであり、Android端末などのエッジデバイス上で動作するように量子化と蒸留技術が適用されている。オンデバイス推論により、レイテンシを最小限に抑えつつ、スマートリプライ、要約、写真の説明生成などの機能を実現する。Pixel 8 Pro以降の端末にプリインストールされている。
2.3 トレーニングデータと手法
2.3.1 データソース
Geminiのトレーニングには、Googleが収集した膨大なマルチモーダルデータが使用されている。テキストデータは一般ウェブページ、書籍、学術論文、コードリポジトリから構成される。画像データはGoogle画像検索やYouTubeフレーム、写真共有サービスから取得され、音声データはYouTube動画のオーディオトラック、音声検索クエリ、ポッドキャストが含まれる。動画データはYouTubeの公開動画を主なソースとし、テキストと画像が混在したマルチモーダル文書も含まれる。すべてのデータはプライバシーポリシーに従って匿名化・フィルタリングされている。
2.3.2 分散学習
GeminiのトレーニングはGoogleのTPU v5pクラスタを用いて行われた。Ultraモデルでは数万基のTPUが使用され、分散学習フレームワーク（JAX、Pathways）によって効率的な並列化が実現されている。モデル並列性とデータ並列性を組み合わせ、パラメータ更新にはAdamWオプティマイザが採用された。トレーニングには数週間から数ヶ月を要し、その過程では安定性と収束を確保するため、勾配クリッピングや混合精度訓練が適用されている。
3.1 テキスト生成と推論
Geminiは自然言語理解と生成において高い性能を発揮する。複数言語の処理、長文の要約、質問応答、創造的な文章作成、論理的な推論が可能である。特に、複雑な因果関係の分析や常識推論において従来モデルを凌駕する結果を示している。マルチモーダル入力を活用することで、画像や図表を含む問題にも正確に回答できる。
3.2 画像・動画理解
画像の内容記述、物体認識、光学文字認識（OCR）、シーンの意味理解を高い精度で行う。動画については、フレーム間の時系列変化を解析し、イベントの要約、アクションの認識、動画内の特定オブジェクトの追跡が可能。テキストと画像が混在した文書（スライド、チャート、図）の理解にも優れる。
3.3 音声処理
音声認識（自動音声認識、ASR）に加え、話者の識別、感情認識、音声中のキーワード抽出を実行できる。マルチモーダルな文脈（例えば音声と同時に表示される画像）を統合することで、より正確な音声理解を実現。英語および主要言語での発話生成も可能であり、Geminiアプリでは音声対話機能として実装されている。
3.4 コード生成と解析
Python、JavaScript、C++、Go、Javaなど主要なプログラミング言語に対応。コードの生成、デバッグ、最適化、コードレビュー、説明生成をサポートする。特に、自然言語からコードを生成する能力と、コード間の依存関係を考慮したリファクタリングに強みを持つ。マルチモーダル機能により、フローチャートやUIモックアップからコードを生成することも可能である。
3.5 マルチモーダル対話
Geminiの最大の特徴は、テキスト、画像、音声、動画を自由に組み合わせた対話を実現する点にある。ユーザーが画像を撮影し、その画像に関連する質問を音声で行うと、Geminiは画像を解釈しつつ音声を理解し、テキストと画像を交えた回答を生成する。また、対話の流れを記憶し、複数ターンにわたる複合的なタスク（旅行計画、料理レシピの作成、学習サポートなど）を実行できる。
4.1 ベンチマーク成績
4.1.1 MMLU
MMLU（Massive Multitask Language Understanding）は、57分野にわたる多肢選択問題でモデルの知識と推論力を評価するベンチマークである。Gemini UltraはMMLUにおいて90.0%以上のスコアを達成し、GPT-4の86.4%を上回った。これは、特に科学、法律、倫理などの専門分野での高いパフォーマンスによるものである。
4.1.2 GSM8K
GSM8Kは小学校レベルの算数文章題を評価するベンチマークで、段階的な推論能力を測定する。Gemini Ultraは94.4%の正解率を記録し、GPT-4の92.0%を上回った。マルチモーダル版のGS8Kでは、問題文に図表が含まれる場合でも同程度の精度を維持した。
4.1.3 その他の評価指標
その他のベンチマークでは、BIG-Bench Hard（推論）、HumanEval（コード生成）、Natural Questions（質問応答）、VideoQA（動画質問応答）などで競合モデルを上回る結果を示した。特にコード生成ではHumanEvalで85%以上のpass@1を達成し、GPT-4と同等以上の性能を確認した。
4.2 競合モデルとの比較
4.2.1 GPT-4（OpenAI）
GPT-4は2023年3月にリリースされたマルチモーダルモデルであり、Geminiの直接的な競合である。Gemini UltraはMMLUやGSM8KでGPT-4を上回る一方、クリエイティブな文章生成や細かいニュアンスの理解ではGPT-4に劣る場合がある。レイテンシとコストの面では、Gemini ProがGPT-4 Turboと競合する。
4.2.2 Claude（Anthropic）
Claude（特にClaude 3 Opus）は安全性と誠実性に重点を置いたモデルである。Geminiはマルチモーダル機能とコード生成で優れる一方、長文コンテキスト処理（200Kトークン超）ではClaude 3の方が強みを持つ。両者は異なるユースケースで優位性がある。
4.2.3 Llama（Meta）
Llama 3はオープンウェイトモデルであり、コミュニティによるファインチューニングが盛んに行われている。GeminiはクローズドなAPIベースモデルであるのに対し、Llamaはローカル展開が可能な点で差別化される。性能面ではGemini ProがLlama 3 70Bを凌駕するが、コストと運用の柔軟性ではLlamaに軍配が上がる。
5.1 Google Cloud上の提供
GeminiはGoogle CloudのVertex AIを通じてAPIとして提供される。開発者はGemini Pro、Gemini 1.5 Pro、Gemini 2.0 Flashなどを利用でき、テキスト、画像、音声、動画を入力とした推論が可能。Cloud RunやGKE上でのスケーラブルなデプロイもサポートされ、自動スケーリングと負荷分散が適用される。価格はトークン単位と画像入力単位で課金される。
5.2 コンシューマ製品への統合
5.2.1 Google Bard/Geminiアプリ
2024年2月にBardの名称は「Gemini」アプリに変更された。iOSとAndroidで提供され、テキスト、画像、音声による対話が可能。無料版はGemini Pro、有料版（Gemini Advanced）はGemini Ultraを使用する。また、拡張機能としてGoogle Drive、YouTube、Google Mapsとの連携が行われている。
5.2.2 Google Workspace
Google Workspace（Gmail、Docs、Sheets、Slides、Meet）には「Gemini for Workspace」として統合されている。ユーザーはメールの下書き作成、ドキュメントの要約、スプレッドシートの分析、スライドの生成、会議の議事録作成などの機能を利用できる。すべての操作はWorkspace内で完結し、データはGoogleのプライバシー基準に従って処理される。
5.2.3 Android端末
Gemini NanoはPixel 8、Pixel 9シリーズを含むAndroid端末に組み込まれている。オンデバイスで動作するため、インターネット接続がなくてもスマートリプライ、要約、翻訳、写真の説明生成が可能。また、Android System Intelligenceの一部として、通知の要約や時計アプリの自動提案などにも利用されている。
5.3 APIと開発者向けツール
Google AI Studio（旧MakerSuite）は、Gemini APIを試用しプロトタイプを作成するためのブラウザベースのツールである。開発者はプロンプトエンジニアリング、ファインチューニング、関数呼び出し、エンベディングを利用できる。また、Python、JavaScript、Kotlin、Swift向けのSDKが提供されており、Vertex AI SDKとの連携も可能。モデルガーデン（Model Garden）ではGeminiを含むさまざまなモデルが利用できる。
6.1 バイアスと安全性
Geminiはトレーニングデータに含まれる社会的バイアス（性別、人種、文化的ステレオタイプ）を学習する可能性がある。GoogleはRed Teamによるテストや安全性フィルター（セーフティフィルター、毒舌検出、有害コンテンツ防止）を導入しているが、完全な除去は困難である。また、生成内容が事実と異なるハルシネーションが発生する場合がある。
6.2 計算コスト
Gemini Ultraの推論には大量の計算リソースが必要であり、1回の推論あたりのコストはGPT-4と同等またはそれ以上とされる。Gemini Proは比較的低コストだが、大規模な商用利用には依然として高いGPU/TPUコストが課題となる。Googleは独自のTPUを用いてコスト削減を図っているが、競合と比較して明確な優位性は確立されていない。
6.3 プライバシーとデータ管理
GeminiはGoogleのサービスと密接に統合されているため、ユーザーデータがGoogleのプライバシーポリシーに従って収集・利用される点が懸念される。特に、Geminiアプリでの会話履歴や、Workspace内でのドキュメント処理がトレーニングに利用される可能性について、ユーザーの不安が存在する。Googleはデータを顧客のテナント内で処理する「データ常駐」オプションを提供しているが、完全な透明性は確保されていない。
7.1 次世代モデル
Google DeepMindはGeminiの後継として、より大規模なモデルや専門ドメインに特化したモデル（医療、科学、法律など）の開発を進めている。また、マルチモーダル能力の拡張として、3D空間や触覚フィードバックの処理、リアルタイムビデオストリームとの対話などが検討されている。コンテキストウィンドウの更なる拡大（数百万トークン）も目標の一つである。
7.2 産業応用の拡大
Geminiはヘルスケア（医療画像解析、診断支援）、教育（個別指導、教材生成）、金融（リスク分析、レポート生成）、エンターテインメント（コンピュータゲームのNPC、動画編集支援）などへの応用が期待されている。また、ロボティクスとの連携により、Geminiを搭載したロボットが視覚と音声を活用して環境を理解し行動する研究も進行中である。
7.3 オープン性とエコシステム
現在、Geminiのモデルウェイトは非公開であるが、Googleは一部の研究機関向けに限定公開やファインチューニングAPIを提供している。将来、コミュニティによるモデル評価や改善を促進するため、オープンウェイト戦略への転換も議論されている。また、Geminiを基盤としたサードパーティ製ツールや拡張機能のエコシステムが拡大しており、APIを通じた多様なアプリケーションが登場している。