Microsoft GraphRAG: Token使用量とコストの簡易分析

Microsoft GraphRAG: Token使用量とコストの簡易分析

• • 背景
  • 前提条件
  • サンプルテキスト
  • • Chunk分割方法
    • 抽出するエンティティ・タイプ
    • 使用するLLMとコスト設定
  • 分析結果
  • • 1. Create Base Text Units
    • 2. Extract Graph
    • 3. Create Final Community Reports
    • 4. Generate Text Embeddings
    • 5. Global Search
    • 6. Local Search
  • まとめ

背景

Microsoft GraphRAGは、LLM（Large Language Model）を利用する際のToken消費量が重要であることはよく知られていますが、実際にどれくらいのTokenが使用されるのかは明確ではありません。

本記事では、サンプルテキストを基にMicrosoft GraphRAGの処理におけるToken使用量とコストを分析し、その結果を共有します。

前提条件

Microsoft GraphRAGでは、以下の要素がToken使用量に影響を与えます。

• テキストのChunk分割方法
• 抽出するエンティティ・タイプの定義
• Promptの設定
  • Entity Extraction Prompt
  • Summarize Descriptions Prompt
  • Community Report Prompt

本記事の結果は、標準的な設定を反映したものではなく、一例としてご参照ください。

また、分析には Langfuse を利用し、Token使用量やコストを可視化しています。

サンプルテキスト

以下の文章を用いて分析を行いました。

元宇宙科学開発機構の研究員で、ロケットの打ち上げ失敗の責任をとって辞職し、現在は父親が遺した下町の工場「佃製作所」で経営者として第二の人生を送っている 佃航平（阿部寛）。一度はあきらめかけた佃の夢であったロケット製造を、自社が開発したバルブシステムを使用し、日本を代表する大企業・帝国重工の純国産ロケット開発計画「スターダスト計画」により実現するなど、順調な佃製作所だったが…。
ある日、帝国重工の社長交代により、スターダスト計画は次回で終わるかもしれない――と帝国重工宇宙航空開発部部長の 財前（吉川晃司） から告げられ、佃はショックを受ける。ロケット製造に関わることは佃の夢であるとともに、今や「ロケット品質」を掲げる佃製作所社員たちの精神的支柱にもなっていたのだ。
そこへ追いうちをかけるように、大口取引先の農機具メーカーから小型エンジンの取引削減を告げられる。性能よりもコスト重視という考えに、技術力が売りの佃製作所は存在意義が揺らぎ始め、佃は強い危機感を抱く。
そんな中、佃製作所の経理部長・殿村（立川談春）の父親が倒れる。殿村の実家は三百年続く農家。父親の看病と畑仕事の手伝いに、週末ごとに帰省する殿村を見舞う佃と 山崎（安田顕）。トラクターを運転する殿村をじっと見て、佃はあることに気づく。それは、佃の中に新たな夢が生まれた、瞬間だった──。

Chunk分割方法

chunks:
  size: 384
  overlap: 0

抽出するエンティティ・タイプ

- person
- technology
- mission
- organization
- location

使用するLLMとコスト設定

• OSS LLMを使用
• 単価は gpt-4 および text-embedding-3-large のPricingに基づいて算出

分析結果

1. Create Base Text Units

• 分割されたChunk数：2
• 合計Token数：577

2. Extract Graph

• 抽出されたEntity数：12
• 抽出されたRelationship数：16
• 使用したToken数: 16.43K
• コスト: $0.57987

3. Create Final Community Reports

• 作成されたReport数：2
• 使用したToken数: 7.83K
• コスト: $0.28281

4. Generate Text Embeddings

• 使用したToken数: 3K
• コスト: $0.00039

5. Global Search

• 使用したToken数: 3.74K
• コスト: $0.12837

6. Local Search

• 使用したToken数: 5.26K+12
• コスト: $(0.17133+0.000002)

まとめ

本記事では、Microsoft GraphRAGを用いたIndexおよびSearch処理におけるToken使用量とコストを可視化しました。結果はあくまで一例であり、設定やデータにより誤差が生じる可能性があります。

これからGraphRAGの導入を検討されている方の参考になれば幸いです。