Το AI Perks παρέχει πρόσβαση σε αποκλειστικές εκπτώσεις, πιστώσεις και προσφορές σε εργαλεία AI, υπηρεσίες cloud και API για να βοηθήσει startups και προγραμματιστές να εξοικονομήσουν χρήματα.
Πόση Αξία Έχουν οι Δωρεάν Πιστώσεις Qdrant;
Η Qdrant προσφέρει 2.000 $ σε δωρεάν πιστώσεις για startups, οι οποίες εφαρμόζονται στην Qdrant Cloud, την διαχειριζόμενη έκδοση της open source βάσης δεδομένων διανυσμάτων της.
Αυτός ο αριθμός είναι μέτριος σε σχέση με τις επιχορηγήσεις έξι ψηφίων σε άλλες κατηγορίες, και αξίζει να διαβαστεί σωστά παρά να απορριφθεί. Η Qdrant έχει άδεια Apache 2.0 και μπορεί να φιλοξενηθεί από τον χρήστη, οπότε το επί πληρωμή προϊόν είναι διαχειριζόμενη φιλοξενία, όχι ο μηχανισμός. Η πίστωση είναι προϋπολογισμός φιλοξενίας, όχι κλειδί πρόσβασης.
Η επιλεξιμότητα εξαρτάται από το στάδιο και την χρηματοδότηση, και οι όροι των προγραμμάτων υποδομής κινούνται περισσότερο από τους όρους των προγραμμάτων μοντέλων. Το AI Perks παρακολουθεί την τρέχουσα έκδοση μαζί με 7,7 εκατομμύρια δολάρια σε πιστώσεις σε 194 εταιρείες.
Κορυφαίες πιστώσεις AI για startups
Υποβάλετε αίτηση απευθείας μέσω αυτών των επαληθευμένων προγραμμάτων.
Qdrant 20% off Qdrant Cloud for 12 months
Επιλέξιμο για startups αρχικών σταδίων
Claude (via program) $100,000
Επιλέξιμο για startups αρχικών σταδίων
OpenAI (via program) $2,500
Επιλέξιμο για startups αρχικών σταδίων
Anthropic $20,000
Επιλέξιμο για startups αρχικών σταδίων
AWS $300,000
Επιλέξιμο για startups αρχικών σταδίων
Google Cloud $350,000
Επιλέξιμο για startups αρχικών σταδίων
Τι Κάνει Πραγματικά η Qdrant
Η Qdrant αποθηκεύει embeddings μαζί με δομημένα μεταδεδομένα και επιστρέφει τα πλησιέστερα αποτελέσματα σε ένα διανυσματικό ερώτημα σε χιλιοστά του δευτερολέπτου. Είναι γραμμένη σε Rust, διανέμεται ως ένα ενιαίο εκτελέσιμο αρχείο και συμπεριφέρεται το ίδιο σε ένα laptop όπως και στην παραγωγή.
Κάθε προϊόν που απαντά σε ερωτήσεις για ιδιωτικά έγγραφα, αναζητά με βάση το νόημα αντί για λέξη-κλειδί, προτείνει παρόμοια αντικείμενα, αφαιρεί διπλότυπες εγγραφές, ή δίνει σε έναν πράκτορα μακροπρόθεσμη μνήμη, χρειάζεται αυτό το επίπεδο. Είτε την εκτελείτε είτε την νοικιάζετε.
Τρεις ιδιότητες διαχωρίζουν την Qdrant από την υπόλοιπη κατηγορία:
Το Payload είναι πολίτης πρώτης κατηγορίας. Τα μεταδεδομένα συνυπάρχουν με το διάνυσμα και ευρετηριάζονται, οπότε τα φίλτρα αποτελούν μέρος του ερωτήματος αντί για δεύτερη διέλευση των αποτελεσμάτων. Περισσότερα για το γιατί αυτό έχει σημασία παρακάτω.
Είναι ένα ενιαίο εκτελέσιμο αρχείο. Η ισοτιμία στην τοπική ανάπτυξη είναι ένα πραγματικό επιχειρησιακό πλεονέκτημα. Μπορείτε να εκτελέσετε τον ίδιο μηχανισμό σε ένα container Docker στο μηχάνημά σας και σε ένα διαχειριζόμενο cluster, κάτι που εξαλείφει μια κατηγορία εκπλήξεων "λειτουργεί τοπικά".
Η άδεια χρήσης είναι επιτρεπτική. Η Apache 2.0 σημαίνει ότι η αυτο-φιλοξενία παραμένει διαθέσιμη μόνιμα. Αυτό είναι διαπραγματευτική δύναμη παρά ένα σχέδιο: το να γνωρίζετε ότι θα μπορούσατε να μετακινηθείτε διατηρεί τον λογαριασμό του διαχειριζόμενου προϊόντος ειλικρινή.
Η Φιλτραρισμένη Αναζήτηση Είναι Εκεί που τα Προϊόντα Ανάκτησης Χαλάνε
Σχεδόν κανένα ερώτημα παραγωγής δεν είναι "βρες παρόμοια". Είναι "βρες παρόμοια, μέσα στα έγγραφα αυτού του πελάτη, από τις τελευταίες 90 ημέρες, αυτού του τύπου". Αυτός ο συνδυασμός, όχι η ωμή ομοιότητα, είναι εκεί που οι περισσότερες αναζητήσεις διανυσμάτων αποτυγχάνουν σιωπηλά.
Η αποτυχία έχει συγκεκριμένο σχήμα. Οι αφελείς υλοποιήσεις μετα-φιλτράρουν: ανακτούν τα 100 πλησιέστερα διανύσματα, και μετά απορρίπτουν αυτά που δεν ταιριάζουν στο φίλτρο. Αν το φίλτρο είναι επιλεκτικό, παίρνετε τρία αποτελέσματα, ή κανένα, και το προϊόν φαίνεται χαλασμένο ακόμα κι αν ο δείκτης είναι εντάξει.
Η εναλλακτική, προ-φιλτράρισμα με ωμή δύναμη πάνω στο υποσύνολο που ταιριάζει, είναι σωστή αλλά αργή μόλις το υποσύνολο γίνει μεγάλο. Η απάντηση της Qdrant είναι να εφαρμόζει συνθήκες φίλτρου κατά την διάσχιση του γραφήματος και να διατηρεί το γράφημα αναζήτησης συνδεδεμένο υπό φιλτράρισμα, υποστηριζόμενο από ευρετήρια payload στα πεδία στα οποία φιλτράρετε. Η λεπτομέρεια της μηχανικής έχει λιγότερη σημασία από την συνέπεια: τα φιλτραρισμένα ερωτήματα παραμένουν και γρήγορα και πλήρη.
Αυτή είναι η πιο σημαντική ιδιότητα για όποιον πουλάει B2B λογισμικό, επειδή κάθε ερώτημα σε ένα multi-tenant προϊόν φιλτράρεται ανά tenant. Αν η ανάκτησή σας υποβαθμίζεται υπό φίλτρα, υποβαθμίζεται για κάθε πελάτη ταυτόχρονα.
Κορυφαίες πιστώσεις AI για startups
Υποβάλετε αίτηση απευθείας μέσω αυτών των επαληθευμένων προγραμμάτων.
Qdrant 20% off Qdrant Cloud for 12 months
Επιλέξιμο για startups αρχικών σταδίων
Claude (via program) $100,000
Επιλέξιμο για startups αρχικών σταδίων
OpenAI (via program) $2,500
Επιλέξιμο για startups αρχικών σταδίων
Anthropic $20,000
Επιλέξιμο για startups αρχικών σταδίων
AWS $300,000
Επιλέξιμο για startups αρχικών σταδίων
Google Cloud $350,000
Επιλέξιμο για startups αρχικών σταδίων
Πώς Συμπεριφέρεται το Κόστος Βάσης Δεδομένων Διανυσμάτων στην Κλίμακα
Το κόστος αναζήτησης διανυσμάτων καθορίζεται από το πόσα διανύσματα αποθηκεύετε πολλαπλασιαζόμενα με τις διαστάσεις τους, όχι από το πόσα ερωτήματα εκτελείτε. Ένας αδρανής δείκτης σε ένα μεγάλο σώμα κειμένων είναι δαπανηρός. Ένας πολυάσχολος δείκτης σε ένα μικρό σώμα κειμένων είναι φθηνός.
Αυτό είναι το αντίστροφο του τρόπου χρέωσης των API μοντέλων, γι' αυτό οι ιδρυτές υπολογίζουν λανθασμένα αυτή τη γραμμή τόσο σταθερά. Εδώ είναι η αριθμητική για ένα εκατομμύριο διανύσματα, πριν την υπερφόρτωση του δείκτη:
| Λειτουργία αποθήκευσης | Bits ανά διάσταση | 1 εκατ. διανύσματα σε 768 διαστ. | 1 εκατ. διανύσματα σε 1.536 διαστ. |
|---|---|---|---|
| float32 στη μνήμη | 32 | ~3,1 GB | ~6,1 GB |
| Κβαντοποίηση κλιμάκωσης (int8) | 8 | ~0,8 GB | ~1,5 GB |
| Δυαδική κβαντοποίηση | 1 | ~0,1 GB | ~0,2 GB |
| Με χαρτογράφηση μνήμης στον δίσκο | 32, σε σελίδες | Η RAM κρατά τον δείκτη | Η RAM κρατά τον δείκτη |
Αντιμετωπίστε τα ως πάτο. Η υπερφόρτωση γραφήματος και το payload βρίσκονται από πάνω.
Δύο μοχλοί αλλάζουν την εικόνα περισσότερο από οτιδήποτε άλλο θα κάνετε στον κώδικά σας. Η κβαντοποίηση συμπιέζει τα αποθηκευμένα διανύσματα, και η Qdrant μπορεί να επανα-βαθμολογήσει τη λίστα των υποψηφίων με διανύσματα πλήρους ακρίβειας για να ανακτήσει το μεγαλύτερο μέρος της χαμένης ανάκλησης, καθιστώντας την πολύ λιγότερο υποβάθμιση απ' ό,τι ακούγεται. Η επιλογή διάστασης είναι η άλλη: πολλά μοντέλα embedding υποστηρίζουν πλέον συντομευμένες εξόδους, και η μείωση των διαστάσεων στο μισό μειώνει ολόκληρο τον πίνακα στο μισό.
Το πρακτικό συμπέρασμα είναι ότι η στρατηγική τμηματοποίησης είναι μια απόφαση κόστους, όχι μόνο μια απόφαση ποιότητας. Η διαίρεση εγγράφων σε μικρότερα κομμάτια πολλαπλασιάζει τον αριθμό των διανυσμάτων σας και τον λογαριασμό μνήμης σας αντίστοιχα. Το AI Perks παρακολουθεί πιστώσεις σε αυτό το επίπεδο, ώστε να μπορείτε να δοκιμάζετε σε πραγματική κλίμακα πριν ο λογαριασμός σας διδάξει.
Για Τι Είναι Πραγματικά οι Πιστώσεις Qdrant των 2.000 $
Μια επιχορήγηση 2.000 $ δεν είναι ένα έτος λειτουργίας. Είναι αρκετή για να εκτελέσετε το πραγματικό σας σώμα κειμένων σε πραγματική κλίμακα, αρκετά για να μάθετε πόσο θα κοστίσει η παραγωγή, κάτι που αξίζει περισσότερο από τα χρήματα.
Οι ομάδες που υπολογίζουν έναν λογαριασμό διανυσμάτων από ένα δείγμα 10.000 γραμμών είναι συνήθως λάθος κατά μια τάξη μεγέθους. Η ανάκληση, η απόδοση φίλτρου και η ποιότητα από την κβαντοποίηση αλλάζουν όλες με το μέγεθος του σώματος κειμένων, και καμία από αυτές δεν προεκτείνεται καθαρά από ένα δείγμα παιχνιδιού.
Οπότε, ξοδέψτε την πίστωση ως μέτρηση, όχι ως έκπτωση:
Φορτώστε τα πάντα, όχι ένα δείγμα. Το όλο νόημα είναι να δείτε συμπεριφορές που δεν μπορείτε να δείτε σε μικρή κλίμακα.
Εκτελέστε ερωτήματα με φίλτρα. Δοκιμάστε το σχήμα ερωτήματος που θα εκδώσει πραγματικά το προϊόν σας, συμπεριλαμβανομένου του φίλτρου tenant.
Μετρήστε την ανάκληση στη ρύθμιση κβαντοποίησής σας. Αποφασίστε την ανταλλαγή μνήμης με έναν αριθμό αντί για μια προτίμηση.
Στη συνέχεια, τιμολογήστε την αυτο-φιλοξενία σε σύγκριση με την διαχειριζόμενη. Με ένα πραγματικό μέγεθος δείκτη, αυτό γίνεται αριθμητική παρά επιχείρημα.
Ο συγχρονισμός έχει τόση σημασία όσο και το ποσό. Οι πιστώσεις έχουν χρονικό όριο, οπότε η ενεργοποίηση μιας επιχορήγησης ενώ επιλέγετε ακόμα μέγεθος τμημάτων καταναλώνει το μεγαλύτερο μέρος της σε έναν κενό δείκτη. Ευθυγραμμίστε το ρολόι με τη στιγμή που έχετε και σώμα κειμένων και κίνηση. Τα τρέχοντα προγράμματα και οι όροι τους βρίσκονται στο AI Perks.
Κορυφαίες πιστώσεις AI για startups
Υποβάλετε αίτηση απευθείας μέσω αυτών των επαληθευμένων προγραμμάτων.
Qdrant 20% off Qdrant Cloud for 12 months
Επιλέξιμο για startups αρχικών σταδίων
Claude (via program) $100,000
Επιλέξιμο για startups αρχικών σταδίων
OpenAI (via program) $2,500
Επιλέξιμο για startups αρχικών σταδίων
Anthropic $20,000
Επιλέξιμο για startups αρχικών σταδίων
AWS $300,000
Επιλέξιμο για startups αρχικών σταδίων
Google Cloud $350,000
Επιλέξιμο για startups αρχικών σταδίων
Τι Συνδυάζονται οι Πιστώσεις Qdrant
Οι χρεώσεις ανάκτησης γίνονται σε τρία μέρη: τη δημιουργία των embeddings, την αποθήκευση και αναζήτησή τους, και τη δημιουργία της απάντησης. Μια επιχορήγηση βάσης δεδομένων διανυσμάτων καλύπτει ένα από τα τρία.
| Επίπεδο | Πώς χρεώνει | Πού υπάρχουν πιστώσεις |
|---|---|---|
| Embeddings | Μια φορά ανά έγγραφο, ξανά με κάθε αλλαγή μοντέλου | OpenAI, Cohere, Voyage, Mistral |
| Αποθήκευση και αναζήτηση διανυσμάτων | Συνεχώς, οδηγούμενη από τη μνήμη | Qdrant, Pinecone, Weaviate |
| Δημιουργία | Ανά απάντηση, ανά χρήστη | Anthropic, OpenAI, Google, xAI |
| Υπολογισμός και φιλοξενία | Συνεχώς, οδηγούμενη από την διαθεσιμότητα | AWS, Google Cloud, Azure, Modal |
Η γραμμή των embeddings είναι αυτή που μπερδεύει τους ανθρώπους. Δημιουργείτε embeddings στο σώμα κειμένων μία φορά για να το ευρετηριάσετε, και μετά επανα-δημιουργείτε embeddings σε όλο αυτό κάθε φορά που αλλάζετε μοντέλο. Μια αναβάθμιση embedding είναι μια πλήρης επανευρετηρίαση, και σε ένα μεγάλο σώμα κειμένων είναι ένας πραγματικός λογαριασμός παρά μια εργασία παρασκηνίου.
Η κατοχή πιστώσεων σε διάφορες γραμμές επιτρέπει σε μια ομάδα να αλλάξει γνώμη χωρίς συνάντηση προϋπολογισμού. Αυτό είναι το πραγματικό επιχείρημα για το stacking.
Τι Λάθος Κάνουν οι Ιδρυτές για τις Βάσεις Δεδομένων Διανυσμάτων
Τα δύο πιο συνηθισμένα λάθη είναι η υιοθέτηση μιας πριν το προϊόν την χρειαστεί, και η αντιμετώπιση της ποιότητας ανάκτησης ως πρόβλημα μοντέλου όταν είναι συνήθως πρόβλημα φιλτραρίσματος ή τμηματοποίησης.
Πέντε αποτυχίες που αξίζει να αποφύγετε:
Ξεκινώντας πολύ νωρίς. Το Postgres με pgvector διαχειρίζεται μερικές εκατοντάδες χιλιάδες διανύσματα και απλά ερωτήματα, και αφαιρεί μια υπηρεσία από τη στοίβα σας. Μια εξειδικευμένη βάση δεδομένων διανυσμάτων κερδίζει τη θέση της σε κλίμακα, σε σταθερό όγκο ερωτημάτων, ή όταν η φιλτραρισμένη αναζήτηση αρχίζει να επιστρέφει πολύ λίγα.
Παραβλέποντας τα φίλτρα μέχρι να φτάσει το multi-tenancy. Μέχρι τότε, τα πρότυπα ερωτήματος είναι εδραιωμένα και η λύση είναι μια μετανάστευση.
Αντιμετωπίζοντας την κβαντοποίηση ως υποβάθμιση. Είναι η διαφορά μεταξύ ενός δείκτη 6 GB και ενός 1,5 GB, και με την επανα-βαθμολόγηση το κόστος ανάκλησης είναι συχνά αμελητέο. Μετρήστε την αντί να την υποθέτετε.
Σύγχυση του open source με δωρεάν. Η αυτο-φιλοξενία αφαιρεί την αμοιβή άδειας, όχι τον λογαριασμό μνήμης ή την περιστροφή κλήσης.
Ξεχνώντας την πλευρά των embeddings. Οι πιστώσεις αποθήκευσης καλύπτουν το μισό του λογαριασμού ανάκτησης. Οι ιδρυτές που αναζητούν και τα δύο ταυτόχρονα χρηματοδοτούν έναν χρόνο. Το υπόλοιπο χρηματοδοτεί ένα τέταρτο. Και οι δύο πλευρές καταγράφονται στο AI Perks.
Κορυφαίες πιστώσεις AI για startups
Υποβάλετε αίτηση απευθείας μέσω αυτών των επαληθευμένων προγραμμάτων.
Qdrant 20% off Qdrant Cloud for 12 months
Επιλέξιμο για startups αρχικών σταδίων
Claude (via program) $100,000
Επιλέξιμο για startups αρχικών σταδίων
OpenAI (via program) $2,500
Επιλέξιμο για startups αρχικών σταδίων
Anthropic $20,000
Επιλέξιμο για startups αρχικών σταδίων
AWS $300,000
Επιλέξιμο για startups αρχικών σταδίων
Google Cloud $350,000
Επιλέξιμο για startups αρχικών σταδίων
Συχνές Ερωτήσεις
Πόση αξία έχουν οι πιστώσεις Qdrant;
Η Qdrant προσφέρει 2.000 $ σε δωρεάν πιστώσεις για startups, οι οποίες εφαρμόζονται στην Qdrant Cloud αντί για τον open source μηχανισμό, ο οποίος είναι δωρεάν ούτως ή άλλως. Το πόσο μακριά φτάνει εξαρτάται από το μέγεθος του σώματος κειμένων και τις διαστάσεις των διανυσμάτων αντί για τον όγκο των ερωτημάτων, καθώς το κόστος οδηγείται από τη μνήμη. Οι τρέχοντες όροι και η επιλεξιμότητα παρακολουθούνται στο getaiperks.com.
Είναι η Qdrant δωρεάν στη χρήση;
Ναι, με την έννοια που έχει σημασία: η Qdrant έχει άδεια Apache 2.0 και μπορείτε να την εκτελέσετε στο δικό σας υλικό χωρίς αμοιβή άδειας. Αυτό που κοστίζει είναι η Qdrant Cloud, η διαχειριζόμενη υπηρεσία, συν τη μνήμη που καταναλώνει ο δείκτης σας όπου κι αν βρίσκεται. Η αυτο-φιλοξενία ανταλλάσσει χρήματα με επιχειρησιακή εργασία.
Χρειάζομαι βάση δεδομένων διανυσμάτων, ή αρκεί το pgvector;
Για μερικές εκατοντάδες χιλιάδες διανύσματα και απλά ερωτήματα, το Postgres με pgvector είναι συνήθως αρκετό και αφαιρεί μια υπηρεσία από τη στοίβα σας. Μια εξειδικευμένη βάση δεδομένων διανυσμάτων κερδίζει τη θέση της σε δεκάδες εκατομμύρια διανύσματα, σταθερό φορτίο ερωτημάτων, ή έντονη φιλτραρισμένη και multi-tenant αναζήτηση, όπου οι αφελείς υλοποιήσεις υποβαθμίζονται απότομα.
Πόση RAM χρειάζεται η Qdrant;
Περισσότερη από ό,τι προϋπολογίζει οι περισσότερες ομάδες. Τα μη συμπιεσμένα διανύσματα 32-bit χρειάζονται περίπου 4 bytes ανά διάσταση ανά διάνυσμα, οπότε ένα εκατομμύριο διανύσματα 1.536 διαστάσεων είναι περίπου 6 GB πριν την υπερφόρτωση του δείκτη. Η κβαντοποίηση κλιμάκωσης τα μειώνει περίπου στο ένα τέταρτο και η δυαδική κβαντοποίηση πολύ περισσότερο, κάτι που καθιστά την κβαντοποίηση μια απόφαση σχεδιασμού αντί για βελτιστοποίηση.
Μπορώ να συνδυάσω τις πιστώσεις Qdrant με τις πιστώσεις OpenAI ή Anthropic;
Ναι, και καλύπτουν διαφορετικούς λογαριασμούς. Η Qdrant καλύπτει την αποθήκευση και αναζήτηση των διανυσμάτων σας, οι πάροχοι embedding καλύπτουν τη δημιουργία τους, και οι πάροχοι μοντέλων καλύπτουν τη δημιουργία της απάντησης. Οι ομάδες που κατέχουν πιστώσεις και στα τρία καλύπτουν ένα ρεαλιστικό πρώτο έτος ενός προϊόντος ανάκτησης. Δείτε ποιους συνδυασμούς υπάρχουν στο getaiperks.com.
Ποιες είναι οι κύριες εναλλακτικές της Qdrant;
Pinecone, Weaviate, Milvus, Chroma, και Postgres με pgvector. Τα διακριτικά σημεία της Qdrant είναι ο Rust μηχανισμός της, το μοντέλο φιλτραρίσματός της, και μια επιτρεπτική άδεια που διατηρεί την αυτο-φιλοξενία διαθέσιμη ως μια πραγματική έξοδος παρά ως μπλόφα. Το AI Perks παρακολουθεί προγράμματα πιστώσεων σε ολόκληρη την κατηγορία στο getaiperks.com.
Εγγραφείτε στο getaiperks.com →
Αποθηκεύστε τα διανύσματα. Αφήστε κάποιον άλλο να πληρώσει για τη μνήμη.
