無料Qdrantクレジットの価値はどれくらいか？
Qdrantは、オープンソースのベクトルデータベースのマネージドバージョンであるQdrant Cloudに適用される2,000ドルの無料クレジットをスタートアップ向けに提供しています。
この金額は、このカテゴリの他の6桁の助成金と比較すると控えめですが、正しく理解する価値があり、却下すべきではありません。QdrantはApache 2.0ライセンスであり、セルフホスト可能であるため、有料製品はエンジンではなくマネージドホスティングです。クレジットはホスティング予算であり、アクセスキーではありません。
資格はステージと資金調達によって異なり、インフラストラクチャプログラムの条件はモデルプログラムの条件よりも変動します。AI Perksは、194社に770万ドルのクレジットとともに、現在のバージョンを追跡しています。
Qdrantが実際に行うこと
Qdrantは、構造化されたメタデータとともに埋め込みを保存し、クエリベクトルへの最も近い一致をミリ秒単位で返します。Rustで書かれており、単一のバイナリとして配布され、ラップトップでも本番環境でも同じように動作します。
プライベートドキュメントに関する質問に答えたり、キーワードではなく意味で検索したり、類似アイテムをおすすめしたり、レコードの重複排除を行ったり、エージェントに長期記憶を提供したりするあらゆる製品には、このレイヤーが必要です。あなたはそれを実行するか、借りるかのどちらかです。
3つの特性がQdrantをこのカテゴリの他の製品と区別しています。
ペイロードはファーストクラスの市民です。 メタデータはベクトルとともに存在し、インデックス可能であるため、フィルタは結果の2番目のパスではなく、クエリの一部となります。なぜそれが重要なのかについては、後述します。
それは単一のバイナリです。 ローカル開発の整合性は、実際の運用上の利点です。マシン上のDockerコンテナとマネージドクラスターで同じエンジンを実行できるため、「ローカルで動作する」というカテゴリの驚きがなくなります。
ライセンスは許容的です。 Apache 2.0は、セルフホスティングが永久に利用可能であることを意味します。それは交渉力であり、計画ではありません。移動できることを知っていると、マネージドの請求書が正直になります。
検索結果のフィルタリングは、検索製品が破損する場所です
本番環境でのクエリは、「類似ものを検索」であることはほとんどありません。「類似ものを検索、ただしこの顧客のドキュメントから、過去90日間のもので、このタイプのもの」といった具合です。この組み合わせ、つまり生の類似性ではなく、ここでほとんどのベクトル検索は静かに失敗します。
失敗には特定の形状があります。ナイーブな実装は事後フィルタリングを行います。上位100個の最も近いベクトルを取得し、フィルタに一致しないものを破棄します。フィルタが選択的である場合、3つの結果またはゼロの結果が返され、インデックスは正常でも製品は壊れているように見えます。
代替案である、一致するサブセット全体での総当たりによる事前フィルタリングは正しいですが、サブセットが大きいと遅くなります。Qdrantの回答は、グラフをトラバースする際にフィルタ条件を適用し、フィルタリング下で検索グラフを接続したままにし、フィルタリングするフィールドのペイロードインデックスでバックアップすることです。エンジニアリングの詳細は、結果よりも重要ではありません。フィルタリングされたクエリは、高速かつ完全なままです。
これは、B2Bソフトウェアを販売する人にとって最も重要な特性です。なぜなら、マルチテナント製品でのすべてのクエリはテナントによってフィルタリングされるからです。検索がフィルタリングによって劣化すると、すべての顧客に対して同時に劣化します。
ベクトルデータベースのコストはスケールするとどのように挙動するか
ベクトル検索のコストは、クエリの実行回数ではなく、保存するベクトルの数にその次元数を掛けたもので決まります。大規模なコーパスに対するアイドル状態のインデックスは高価です。小規模なコーパスに対するビジーなインデックスは安価です。
これはモデルAPIの請求方法とは逆であり、創業者がこの品目を一貫して誤って予測する理由です。インデックスのオーバーヘッドなしで、100万ベクトルに対する計算式を以下に示します。
| ストレージモード | 次元あたりのビット数 | 768次元の100万ベクトル | 1,536次元の100万ベクトル |
|---|---|---|---|
| float32メモリ内 | 32 | 約3.1 GB | 約6.1 GB |
| スカラー量子化（int8） | 8 | 約0.8 GB | 約1.5 GB |
| バイナリ量子化 | 1 | 約0.1 GB | 約0.2 GB |
| ディスク上のメモリマッピング | 32、ページング | RAMがインデックスを保持 | RAMがインデックスを保持 |
これらを下限と見なしてください。グラフのオーバーヘッドとペイロードは上に配置されます。
2つのレバーが、コードで行うことよりも状況を大きく変えます。量子化は保存されたベクトルを圧縮し、Qdrantはショートリストをフルプレシジョンのベクトルに対して再スコアリングして失われたリコールの大部分を回復できるため、音が聞こえるほどダウングレードではありません。次元の選択がもう1つです。多くの埋め込みモデルは現在、短縮された出力をサポートしており、次元を半分にするとテーブル全体が半分になります。
実用的な教訓は、チャンキング戦略は単なる品質決定ではなく、コスト決定であるということです。ドキュメントを小さな部分に分割すると、ベクトル数とメモリ請求額がそれに比例して増加します。AI Perksは、請求書が教えてくれる前に、このレイヤー全体でクレジットを追跡しているため、実際のスケールでテストできます。
2,000ドルのクレジットは実際には何のためにあるのか
2,000ドルの助成金は、1年間のランウェイではありません。それは、本番環境のコストを学習するのに十分な期間、実際のコーパスを実際のスケールで実行するのに十分であり、それは金額以上の価値があります。
10,000行のサンプルからベクトル請求額をサイジングするチームは、通常、桁違いに間違っています。リコール、フィルタパフォーマンス、量子化による品質の低下はすべてコーパスサイズとともに変化し、それらのどれもトイインデックスからきれいに外挿されません。
したがって、クレジットは割引ではなく、測定として使用してください。
サンプルではなく、すべてをロードします。 小規模では見えない動作を確認するのが目的です。
フィルタをオンにしてクエリします。 製品が実際に発行するクエリ形状、テナントフィルタを含めてテストします。
量子化設定でのリコールを測定します。 好みではなく、数値でメモリのトレードオフを決定します。
次に、セルフホスティングをマネージドと比較して価格設定します。 実際のインデックスサイズがあれば、それは議論ではなく算術になります。
タイミングは量と同じくらい重要です。クレジットには時間制限があるため、チャンクサイズをまだ選択しているときに付与をアクティブ化すると、空のインデックスでほとんどが消費されます。クロックを、コーパスとトラフィックの両方がある瞬間に合わせます。現在のプログラムとその条件は、AI Perksにあります。
Qdrantクレジットはどのクレジットとスタックできるか
検索の請求は3つの場所で行われます。埋め込みの作成、それらの保存と検索、および回答の生成です。ベクトルデータベースの助成金は、そのうちの1つをカバーします。
| レイヤー | 請求方法 | クレジットの場所 |
|---|---|---|
| 埋め込み | ドキュメントごとに1回、モデル変更ごとに再度 | OpenAI、Cohere、Voyage、Mistral |
| ベクトルストレージと検索 | 継続的に、メモリによって駆動 | Qdrant、Pinecone、Weaviate |
| 生成 | 回答ごとに、ユーザーごとに | Anthropic、OpenAI、Google、xAI |
| コンピューティングとホスティング | 継続的に、稼働時間によって駆動 | AWS、Google Cloud、Azure、Modal |
埋め込み行が人々を捕らえるものです。インデックスを作成するためにコーパスを一度埋め込み、次にモデルを変更するたびにすべてを再埋め込みます。埋め込みのアップグレードは完全な再インデックスであり、大規模なコーパスではバックグラウンドジョブではなく実際の請求書となります。
複数の行にわたるクレジットを保持することで、チームは予算会議なしで考えを変えることができます。それがスタッキングの実際の議論です。
創業者がベクトルデータベースについて間違っていること
最も一般的な2つの間違いは、製品が必要とする前に採用すること、および検索品質をモデルの問題として扱うことですが、通常はフィルタリングまたはチャンキングの問題です。
避けるべき5つの失敗:
早期すぎる開始。 pgvectorを備えたPostgresは、数十万のベクトルと単純なクエリを処理し、スタックからサービスを削除します。専用のベクトルデータベースは、スケール、持続的なクエリボリューム、またはフィルタリングされた検索が少なすぎる結果を返し始めたときに、その場所を稼ぎます。
マルチテナンシーが登場するまでフィルタを無視すること。 その時点ではクエリパターンが組み込まれており、修正は移行です。
量子化をダウングレードと見なすこと。 6 GBのインデックスと1.5 GBのインデックスの違いであり、再スコアリングでリコールのコストはしばしば無視できます。仮定するのではなく、測定してください。
オープンソースを無料と混同すること。 セルフホスティングはライセンス料を削除しますが、メモリ請求やオンコールローテーションは削除しません。
埋め込み側を忘れること。 ストレージクレジットは検索請求の半分をカバーします。両方を同時に検索する創業者は、1年を資金調達します。残りは4分の1を資金調達します。AI Perksで両方の側面がカタログ化されています。
よくある質問
Qdrantクレジットはいくらの価値がありますか？
Qdrantは、スタートアップ向けに2,000ドルの無料クレジットを提供しており、これはオープンソースエンジン（いずれにしても無料）ではなく、Qdrant Cloudに適用されます。どれだけ役立つかは、クエリボリュームではなく、コーパスサイズとベクトル次元によって異なります。コストはメモリ駆動であるためです。現在の条件と資格はgetaiperks.comで追跡されています。
Qdrantは無料で使用できますか？
はい、意味のある意味で無料です。QdrantはApache 2.0ライセンスであり、ライセンス料なしで独自のハードウェアで実行できます。費用がかかるのは、マネージドサービスであるQdrant Cloud、およびインデックスがどこにあっても消費するメモリです。セルフホスティングは、運用作業と引き換えにお金を交換します。
ベクトルデータベースは必要ですか、それともpgvectorで十分ですか？
数十万のベクトルと単純なクエリの場合、pgvectorを備えたPostgresで十分であり、スタックからサービスを削除します。専用のベクトルデータベースは、数千万のベクトル、持続的なクエリ負荷、またはナイーブな実装が急激に劣化する集中的なフィルタリングおよびマルチテナント検索でその場所を稼ぎます。
QdrantにはどのくらいのRAMが必要ですか？
ほとんどのチームが予算を組むよりも多く必要です。非圧縮32ビットベクトルは、ベクトルあたり次元あたり約4バイトを必要とするため、1,536次元のベクトル100万個は、インデックスオーバーヘッドを除いて約6 GBです。スカラー量子化はそれを約4分の1にカットし、バイナリ量子化はさらにカットします。これは、量子化を最適化ではなく計画決定にします。
QdrantクレジットとOpenAIまたはAnthropicクレジットを組み合わせることはできますか？
はい、そしてそれらは異なる請求をカバーします。Qdrantはベクトルの保存と検索をカバーし、埋め込みプロバイダーはそれらの作成をカバーし、モデルプロバイダーは回答の生成をカバーします。すべてにわたるクレジットを保持するチームは、検索製品の現実的な最初の年をカバーします。どの組み合わせが存在するかは、getaiperks.comで確認できます。
Qdrantの主な代替品は何ですか？
Pinecone、Weaviate、Milvus、Chroma、およびpgvectorを備えたPostgresです。Qdrantの差別化要因は、Rustエンジン、フィルタリングモデル、およびセルフホスティングを本当の出口として維持する許容的なライセンスです。AI Perksは、getaiperks.comでカテゴリ全体のクレジットプログラムを追跡しています。
ベクトルを保存します。メモリの支払いは他人に任せましょう。