ارزش اعتبار رایگان Qdrant چقدر است؟
Qdrant برای استارتاپها 2,000 دلار اعتبار رایگان ارائه میدهد که برای Qdrant Cloud، نسخه مدیریت شده پایگاه داده وکتور متن باز آن اعمال میشود.
این عدد در مقایسه با کمکهای مالی شش رقمی در سایر دستههای این دسته، ناچیز است و ارزش خواندن صحیح آن بیش از رد کردن آن است. Qdrant تحت مجوز Apache 2.0 است و قابلیت خودمیزبانی دارد، بنابراین محصول پولی، میزبانی مدیریت شده است، نه موتور. این اعتبار یک بودجه میزبانی است، نه یک کلید دسترسی.
شرایط واجد شرایط بودن به مرحله و تأمین مالی بستگی دارد، و شرایط برنامه زیرساخت بیش از شرایط برنامه مدل تغییر میکند. AI Perks نسخه فعلی را در کنار 7.7 میلیون دلار اعتبار در 194 شرکت پیگیری میکند.
Qdrant واقعاً چه کاری انجام میدهد
Qdrant امبدینگها را در کنار متادیتای ساختاریافته ذخیره میکند و نزدیکترین تطابقها را با بردار پرسوجو در چند میلیثانیه برمیگرداند. این برنامه به زبان Rust نوشته شده است، به عنوان یک باینری واحد توزیع میشود و در لپتاپ و در محیط تولید به یکسان عمل میکند.
هر محصولی که به سؤالات مربوط به اسناد خصوصی پاسخ میدهد، بر اساس معنی به جای کلمه کلیدی جستجو میکند، موارد مشابه را توصیه میکند، سوابق را تکراری زدایی میکند، یا به یک عامل حافظه بلند مدت نیاز دارد، به این لایه نیاز دارد. شما یا آن را اجرا میکنید یا آن را اجاره میکنید.
سه ویژگی Qdrant را از بقیه دستهبندی جدا میکند:
Payload یک شهروند درجه یک است. متادیتا با وکتور زندگی میکند و قابل ایندکس گذاری است، بنابراین فیلترها بخشی از پرسوجو هستند نه یک مرحله دوم بر روی نتایج. در زیر در مورد اینکه چرا این مهم است بیشتر صحبت خواهیم کرد.
این یک باینری است. همگنی توسعه محلی یک مزیت عملی واقعی است. شما میتوانید موتور یکسانی را در یک کانتینر Docker روی دستگاه خود و در یک خوشه مدیریت شده اجرا کنید، که دستهای از شگفتیهای "کار میکند اما در محلی" را حذف میکند.
مجوز انعطافپذیر است. Apache 2.0 به این معنی است که خودمیزبانی به طور دائم در دسترس خواهد بود. این یک اهرم مذاکره است نه یک برنامه: دانستن اینکه میتوانید مهاجرت کنید، صورتحساب مدیریت شده را صادق نگه میدارد.
جستجوی فیلتر شده جایی است که محصولات بازیابی شکست میخورند
تقریباً هیچ پرسوجوی تولیدی "یافتن مشابه" نیست. این "یافتن مشابه، در اسناد این مشتری، از 90 روز گذشته، از این نوع" است. این ترکیب، نه شباهت خام، جایی است که بیشتر جستجوهای برداری به آرامی شکست میخورند.
شکست شکل خاصی دارد. پیادهسازیهای ساده پس از فیلتر کردن: 100 بردار نزدیکتر را بازیابی کنید، سپس آنهایی را که با فیلتر مطابقت ندارند دور بریزید. اگر فیلتر انتخابی باشد، سه نتیجه یا صفر دریافت میکنید و محصول حتی با وجود درست بودن ایندکس، شکسته به نظر میرسد.
جایگزین، پیشفیلتر کردن با نیروی brute force بر روی زیرمجموعه منطبق، صحیح اما کند است هنگامی که زیرمجموعه بزرگ است. پاسخ Qdrant این است که شرایط فیلتر را در حین پیمایش گراف اعمال کند و گراف جستجو را تحت فیلترینگ متصل نگه دارد، که توسط ایندکسهای payload بر روی فیلدهایی که بر روی آنها فیلتر میکنید پشتیبانی میشود. جزئیات مهندسی کمتر از پیامد آن مهم است: پرسوجوهای فیلتر شده هم سریع و هم کامل باقی میمانند.
این مهمترین ویژگی برای هر کسی است که نرمافزار B2B میفروشد، زیرا هر پرسوجو در یک محصول چند مستأجره توسط مستأجر فیلتر میشود. اگر بازیابی شما تحت فیلترها تخریب شود، برای همه مشتریان به طور همزمان تخریب میشود.
هزینه پایگاه داده برداری در مقیاس چگونه رفتار میکند
هزینه جستجوی برداری توسط تعداد وکتورهایی که ذخیره میکنید ضربدر ابعاد آنها تعیین میشود، نه توسط تعداد پرسوجوهایی که اجرا میکنید. یک ایندکس بیکار بر روی یک مجموعه بزرگ گران است. یک ایندکس پرکار بر روی یک مجموعه کوچک ارزان است.
این برعکس صورتحساب APIهای مدل است، به همین دلیل است که بنیانگذاران این قلم را به طور مداوم اشتباه پیشبینی میکنند. در اینجا محاسبات برای یک میلیون بردار، قبل از سربار ایندکس آمده است:
| حالت ذخیرهسازی | بیت در هر بعد | 1 میلیون بردار با 768 بعد | 1 میلیون بردار با 1,536 بعد |
|---|---|---|---|
| float32 در حافظه | 32 | ~3.1 گیگابایت | ~6.1 گیگابایت |
| کوانتیزاسیون اسکالر (int8) | 8 | ~0.8 گیگابایت | ~1.5 گیگابایت |
| کوانتیزاسیون باینری | 1 | ~0.1 گیگابایت | ~0.2 گیگابایت |
| حافظه نگاشت شده بر روی دیسک | 32، صفحه بندی شده | RAM ایندکس را نگه میدارد | RAM ایندکس را نگه میدارد |
آنها را به عنوان یک کف در نظر بگیرید. سربار گراف و payload در بالای آن قرار میگیرند.
دو اهرم تصویر را بیش از هر کاری که روی کد خود انجام میدهید تغییر میدهند. کوانتیزاسیون بردارهای ذخیره شده را فشرده میکند، و Qdrant میتواند لیست کوتاه را در برابر بردارهای با دقت کامل مجدداً امتیازدهی کند تا بیشتر حافظه از دست رفته را بازیابی کند، که باعث میشود این یک کاهش درجه پایینتر از آنچه به نظر میرسد باشد. انتخاب بعد مورد دیگر است: بسیاری از مدلهای امبدینگ اکنون از خروجیهای کوتاهتر پشتیبانی میکنند، و نصف کردن ابعاد، کل جدول را نصف میکند.
نکته عملی این است که استراتژی قطعهبندی یک تصمیم هزینه است، نه فقط یک تصمیم کیفیت. تقسیم اسناد به قطعات کوچکتر تعداد بردار و صورتحساب حافظه شما را با آن ضرب میکند. AI Perks اعتبارنامهها را در این لایه پیگیری میکند تا بتوانید قبل از اینکه فاکتور شما را آموزش دهد، در مقیاس واقعی آزمایش کنید.
اعتبار 2,000 دلاری واقعاً برای چیست
یک کمک مالی 2,000 دلاری یک سال فرصت نیست. این کافی است تا مجموعه واقعی شما را در مقیاس واقعی به اندازه کافی اجرا کنید تا یاد بگیرید هزینه تولید چقدر خواهد بود، که ارزشش بیش از پول است.
تیمهایی که صورتحساب برداری را از نمونه 10,000 ردیفی اندازه میگیرند، معمولاً با یک مرتبه بزرگی اشتباه میکنند. بازیابی، عملکرد فیلتر، و افت کیفیت ناشی از کوانتیزاسیون همگی با اندازه مجموعه تغییر میکنند، و هیچکدام از آنها به طور تمیز از یک ایندکس اسباببازی برونیابی نمیشوند.
بنابراین اعتبار را به عنوان یک اندازهگیری، نه یک تخفیف خرج کنید:
همه چیز را بارگذاری کنید، نه یک نمونه. هدف این است که رفتاری را ببینید که در مقیاس کوچک نمیتوانید ببینید.
با فیلترها پرسوجو کنید. شکل پرسوجو را که محصول شما در واقع صادر خواهد کرد، از جمله فیلتر مستأجر، آزمایش کنید.
بازیابی را در تنظیم کوانتیزاسیون خود اندازهگیری کنید. مبادله حافظه را با یک عدد به جای یک اولویت تصمیم بگیرید.
سپس خودمیزبانی را در مقابل مدیریت شده قیمتگذاری کنید. با یک اندازه واقعی ایندکس، این به جای یک استدلال، به محاسبات تبدیل میشود.
زمانبندی به اندازه مبلغ مهم است. اعتبارها محدود به زمان هستند، بنابراین فعال کردن یک کمک مالی در حالی که هنوز اندازه قطعه را انتخاب میکنید، بیشتر آن را روی یک ایندکس خالی میسوزاند. ساعت را با لحظهای که هم مجموعه و هم ترافیک دارید، تنظیم کنید. برنامههای فعلی و شرایط آنها در AI Perks قرار دارند.
اعتبارات Qdrant با چه چیزی ترکیب میشود
صورتحساب بازیابی در سه مکان انجام میشود: ایجاد امبدینگها، ذخیره و جستجوی آنها، و تولید پاسخ. کمک هزینه پایگاه داده برداری یکی از این سه را پوشش میدهد.
| لایه | چگونه صورتحساب میگیرد | اعتبارها کجا وجود دارند |
|---|---|---|
| امبدینگها | یک بار برای هر سند، دوباره با هر تغییر مدل | OpenAI، Cohere، Voyage، Mistral |
| ذخیرهسازی و جستجوی برداری | به طور مداوم، با هدایت حافظه | Qdrant، Pinecone، Weaviate |
| تولید | برای هر پاسخ، برای هر کاربر | Anthropic، OpenAI، Google، xAI |
| محاسبات و میزبانی | به طور مداوم، با هدایت زمان کارکرد | AWS، Google Cloud، Azure، Modal |
ردیف امبدینگ آن چیزی است که مردم را گیر میاندازد. شما مجموعه را یک بار برای ایندکس کردن امبد میکنید، سپس هر بار که مدل را تغییر میدهید، کل آن را دوباره امبد میکنید. ارتقاء امبدینگ یک ایندکس مجدد کامل است، و بر روی یک مجموعه بزرگ، این یک فاکتور واقعی به جای یک کار پسزمینه است.
نگه داشتن اعتبار در چندین ردیف به یک تیم اجازه میدهد تا بدون جلسه بودجه نظر خود را تغییر دهد. این استدلال واقعی برای ترکیب کردن است.
بنیانگذاران در مورد پایگاههای داده برداری چه چیزی را اشتباه میگیرند
دو اشتباه رایج عبارتند از اتخاذ یکی قبل از اینکه محصول به آن نیاز داشته باشد، و رفتار با کیفیت بازیابی به عنوان یک مشکل مدل در حالی که معمولاً یک مشکل فیلترینگ یا قطعهبندی است.
پنج شکست که ارزش اجتناب از آنها را دارد:
شروع خیلی زود. Postgres با pgvector چند صد هزار بردار و پرسوجوهای ساده را مدیریت میکند، و یک سرویس را از پشته شما حذف میکند. یک پایگاه داده برداری اختصاصی جایگاه خود را در مقیاس، با حجم پرسوجوی پایدار، یا زمانی که جستجوی فیلتر شده شروع به بازگرداندن خیلی کم میکند، به دست میآورد.
نادیده گرفتن فیلترها تا زمان رسیدن چند مستأجری. تا آن زمان الگوهای پرسوجو پخته شدهاند و رفع آن یک مهاجرت است.
رفتار با کوانتیزاسیون به عنوان یک نزول. این تفاوت بین یک ایندکس 6 گیگابایتی و یک ایندکس 1.5 گیگابایتی است، و با امتیازدهی مجدد، هزینه بازیابی اغلب ناچیز است. آن را اندازهگیری کنید نه اینکه فرض کنید.
اشتباه گرفتن متن باز با رایگان. خودمیزبانی هزینه مجوز را حذف میکند، نه صورتحساب حافظه یا چرخه فراخوانی.
فراموش کردن سمت امبدینگ. اعتبارات ذخیرهسازی نیمی از صورتحساب بازیابی را پوشش میدهند. بنیانگذارانی که هر دو را همزمان جستجو میکنند، یک سال را تأمین مالی میکنند. بقیه یک چهارم را تأمین مالی میکنند. هر دو طرف در AI Perks فهرست شدهاند.
سوالات متداول
اعتبار Qdrant چقدر ارزش دارد؟
Qdrant برای استارتاپها 2,000 دلار اعتبار رایگان ارائه میدهد که به جای موتور متن باز Qdrant، به Qdrant Cloud اعمال میشود که در هر صورت رایگان است. میزان پیشرفت آن به اندازه مجموعه و ابعاد بردار بستگی دارد تا حجم پرسوجو، از آنجایی که هزینه مبتنی بر حافظه است. شرایط و واجد شرایط بودن فعلی در getaiperks.com پیگیری میشود.
آیا استفاده از Qdrant رایگان است؟
بله، به معنای مورد اهمیت: Qdrant تحت مجوز Apache 2.0 است و شما میتوانید آن را بدون هزینه مجوز بر روی سختافزار خود اجرا کنید. آنچه هزینه دارد Qdrant Cloud، سرویس مدیریت شده، به علاوه حافظهای است که ایندکس شما در هر کجا که باشد مصرف میکند. خودمیزبانی پول را با کار عملیاتی مبادله میکند.
آیا به پایگاه داده برداری نیاز دارم، یا pgvector کافی است؟
برای چند صد هزار بردار و پرسوجوهای ساده، Postgres با pgvector معمولاً کافی است و یک سرویس را از پشته شما حذف میکند. یک پایگاه داده برداری اختصاصی جایگاه خود را در دهها میلیون بردار، بار پرسوجوی پایدار، یا جستجوی سنگین فیلتر شده و چند مستأجری، که در آن پیادهسازیهای ساده به شدت تخریب میشوند، به دست میآورد.
Qdrant به چه مقدار RAM نیاز دارد؟
بیشتر از آنچه بیشتر تیمها بودجهبندی میکنند. بردارهای فشرده نشده 32 بیتی به حدود 4 بایت در هر بعد در هر بردار نیاز دارند، بنابراین یک میلیون بردار 1,536 بعدی حدود 6 گیگابایت قبل از سربار ایندکس است. کوانتیزاسیون اسکالر آن را به حدود چهار برابر و کوانتیزاسیون باینری بسیار بیشتر کاهش میدهد، که کوانتیزاسیون را به یک تصمیم برنامهریزی تبدیل میکند تا یک بهینهسازی.
آیا میتوانم اعتبارات Qdrant را با اعتبارات OpenAI یا Anthropic ترکیب کنم؟
بله، و آنها صورتحسابهای متفاوتی را پوشش میدهند. Qdrant ذخیرهسازی و جستجوی بردارهای شما را پوشش میدهد، ارائهدهندگان امبدینگ ایجاد آنها را پوشش میدهند، و ارائهدهندگان مدل تولید پاسخ را پوشش میدهند. تیمهایی که اعتبار را در هر سه پوشش میدهند، یک سال واقعبینانه از یک محصول بازیابی را پوشش میدهند. ببینید چه ترکیباتی در getaiperks.com وجود دارد.
جایگزینهای اصلی Qdrant چیست؟
Pinecone، Weaviate، Milvus، Chroma، و Postgres با pgvector. نقاط متمایز Qdrant عبارتند از موتور Rust آن، مدل فیلترینگ آن، و یک مجوز انعطافپذیر که خودمیزبانی را به عنوان یک خروج واقعی به جای بلوف در دسترس نگه میدارد. AI Perks برنامههای اعتباری را در کل دسته در getaiperks.com پیگیری میکند.
در getaiperks.com مشترک شوید →
بردارها را ذخیره کنید. اجازه دهید شخص دیگری برای حافظه پرداخت کند.