クイックスタート
-
パラメータの設定
チャンクスプリッターと同じチャンクサイズとオーバーラップ。
-
インデックスの読み取り
平均ブロック長とオーバーラップ浪費を観察する。
ドキュメントとブロックのパラメータを入力して、カウント、文字分布、オーバーラップの無駄を表示します。ブロックのサイズを推測せずにRAGインデックスを変更します。
Read the full guide: RAG 最適化ガイド : チャンキング、埋め込み次元、コンテキスト予算のバランス →
プライバシー:アップロードしないローカルで処理します。
↓ 下の入力領域に貼り付けて、結果をすぐに表示します。★QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB 610☆QADB
分析文档分块统计:块数、平均/最小/最大字符、重叠浪费率。配合文档分块工具调参。
块数
1
平均字符
138
最小
138
最大
138
重叠浪费
0%
空块
0
重叠浪费率 = 因重叠导致的冗余字符占比。块数过多或平均过小可能不利于检索质量。
ドキュメントとブロックのパラメータを入力して、カウント、文字分布、オーバーラップの無駄を表示します。ブロックのサイズを推測せずにRAGインデックスを変更します。
パラメータの設定
チャンクスプリッターと同じチャンクサイズとオーバーラップ。
インデックスの読み取り
平均ブロック長とオーバーラップ浪費を観察する。
これは統計データのみを出力します。ブロック分割器はブロックテキストを表示します。分析してから分割します。
RAGブロックのサイズとオーバーラップを文字または推定マーカーでプレビューして、取得ポリシーを変更します。
Knowledge Baseを構築する前に使用して、chunk _ sizeがリコール率に与える影響を比較し、ベクトルパイピング構成を調整します。
RAGブロックアナライザを使用する場合は、まずドキュメントテキストを貼り付けるかファイルをアップロードし、次にブロックサイズとオーバーラップを設定します。ツールはブロックの数をすぐに計算し、文字分布をヒストグラムで表示します。スライダを調整することで、異なるパラメータの下で浪費された重複文字を観察して、検索精度とストレージ効率をバランスさせる最適なブロック化戦略を見つけることができます。
実際には、テクニカルドキュメントのブロック(200~500文字)から始まり、記事のブロック(800~1500文字)。浪費率が15%を超えると、オーバーラップが減少する。結果をエクスポートしたら、これらのパラメータをベクトルデータベースインデックスパイプラインに適用して、試行錯誤を繰り返さないようにします。
Input
500 chars, 50 overlap
Output
6 stat metrics
(ブロック文字総数-元の長さ)/ブロック文字総数、重複冗長性を反映しています。
ブロックサイズとオーバーラップが整数倍の場合(たとえば、1000文字+500オーバーラップ)、テキストは冗長計算されます。これは、素数(例えば997文字)を使用するか、オーバーラップをブロックサイズの10〜20%に微調整することによって防止される。