RAGブロックアナライザ

ドキュメントとブロックのパラメータを入力して、カウント、文字分布、オーバーラップの無駄を表示します。ブロックのサイズを推測せずにRAGインデックスを変更します。

Read the full guide: RAG 最適化ガイド : チャンキング、埋め込み次元、コンテキスト予算のバランス →

プライバシー:アップロードしないローカルで処理します。

↓ 下の入力領域に貼り付けて、結果をすぐに表示します。★QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB

分析文档分块统计:块数、平均/最小/最大字符、重叠浪费率。配合文档分块工具调参。

块大小
重叠

文档内容

块数

1

平均字符

138

最小

138

最大

138

重叠浪费

0%

空块

0

備考

如何解读

重叠浪费率 = 因重叠导致的冗余字符占比。块数过多或平均过小可能不利于检索质量。

ドキュメントとブロックのパラメータを入力して、カウント、文字分布、オーバーラップの無駄を表示します。ブロックのサイズを推測せずにRAGインデックスを変更します。

クイックスタート

  1. パラメータの設定

    チャンクスプリッターと同じチャンクサイズとオーバーラップ。

  2. インデックスの読み取り

    平均ブロック長とオーバーラップ浪費を観察する。

ブロック分割器

これは統計データのみを出力します。ブロック分割器はブロックテキストを表示します。分析してから分割します。

機能とユースケース

RAGブロックのサイズとオーバーラップを文字または推定マーカーでプレビューして、取得ポリシーを変更します。

Knowledge Baseを構築する前に使用して、chunk _ sizeがリコール率に与える影響を比較し、ベクトルパイピング構成を調整します。

典型的なワークフロー

RAGブロックアナライザを使用する場合は、まずドキュメントテキストを貼り付けるかファイルをアップロードし、次にブロックサイズとオーバーラップを設定します。ツールはブロックの数をすぐに計算し、文字分布をヒストグラムで表示します。スライダを調整することで、異なるパラメータの下で浪費された重複文字を観察して、検索精度とストレージ効率をバランスさせる最適なブロック化戦略を見つけることができます。

実際には、テクニカルドキュメントのブロック(200~500文字)から始まり、記事のブロック(800~1500文字)。浪費率が15%を超えると、オーバーラップが減少する。結果をエクスポートしたら、これらのパラメータをベクトルデータベースインデックスパイプラインに適用して、試行錯誤を繰り返さないようにします。

Input

500 chars, 50 overlap

Output

6 stat metrics

FAQ

廃棄物はどのように計算されますか。

(ブロック文字総数-元の長さ)/ブロック文字総数、重複冗長性を反映しています。

なぜ私の重複浪費率が急に上昇したのか。

ブロックサイズとオーバーラップが整数倍の場合(たとえば、1000文字+500オーバーラップ)、テキストは冗長計算されます。これは、素数(例えば997文字)を使用するか、オーバーラップをブロックサイズの10〜20%に微調整することによって防止される。