RAG, εξηγείται για όσους λαμβάνουν αποφάσεις: όταν η ανάκτηση ξεπερνά τη βελτίωση της ρύθμισης

Η ανάκτηση επαυξημένης γενιάς, που συνήθως συντομεύεται σε RAG, είναι ένας τρόπος να δοθούν σε ένα μοντέλο γλώσσας τα σωστά δεδομένα τη στιγμή που απαντά. Αντί να βασίζεται μόνο σε αυτό που απορρόφησε το μοντέλο κατά τη διάρκεια της εκπαίδευσης, το σύστημα ανακτά πρώτα σχετικά αποσπάσματα από τα δικά σας έγγραφα και στη συνέχεια ζητά από το μοντέλο να απαντήσει χρησιμοποιώντας αυτό το υλικό. Το μοντέλο εξακολουθεί να γράφει την απόκριση, αλλά βασίζεται σε πηγές που ελέγχετε και μπορείτε να υποδείξετε. Για έναν λήπτη αποφάσεων, η αξία είναι απλή. Το RAG επιτρέπει σε ένα γενικό μοντέλο να απαντά σε ερωτήσεις σχετικά με τις συγκεκριμένες συμβάσεις, πολιτικές, προϊόντα ή αρχεία σας χωρίς να το εκπαιδεύει εκ νέου και μπορεί να αναφέρει από πού προήλθε κάθε απάντηση. Αυτό κάνει την έξοδο ελεγκτή, η οποία είναι η διαφορά μεταξύ ενός χρήσιμου εργαλείου και μιας σίγουρης εικασίας.

Τι είναι η επαυξημένη γενιά ανάκτησης, με απλούς όρους;

Φανταστείτε μια οξεία νέα πρόσληψη που γνωρίζει τον τομέα αλλά όχι την εταιρεία σας. Η τελειοποίηση είναι η αποστολή αυτού του ατόμου σε ένα μακρύ πρόγραμμα εκπαίδευσης, έτσι ώστε η γνώση να γίνει δεύτερη φύση. Ανάκτηση είναι να τους παραδίδεις το σχετικό αρχείο πριν από κάθε ερώτηση και να λέει, απάντηση από αυτό.

Το RAG ακολουθεί τη δεύτερη διαδρομή. Όταν έρχεται μια ερώτηση, το σύστημα πραγματοποιεί αναζήτηση σε μια βιβλιοθήκη των εγγράφων σας, τραβάει τα λίγα αποσπάσματα που είναι πιο πιθανό να περιέχουν την απάντηση και τα διαβιβάζει στο μοντέλο μαζί με την ερώτηση. Το μοντέλο διαβάζει αυτά τα αποσπάσματα και απαντά. Τίποτα στο ίδιο το μοντέλο δεν αλλάζει. Αλλάζετε αυτό που διαβάζει, όχι αυτό που γνωρίζει.

Αυτό έχει σημασία επειδή οι πληροφορίες σας μετακινούνται. Οι τιμές αλλάζουν, οι πολιτικές αναθεωρούνται, νέα συμβόλαια υπογράφονται. Ένα σύστημα ανάκτησης απαντά από οτιδήποτε υπάρχει στη βιβλιοθήκη σήμερα. Ενημερώστε το έγγραφο και η επόμενη απάντηση το αντικατοπτρίζει, χωρίς επανεκπαίδευση και χωρίς αναμονή.

Πότε η ανάκτηση ξεπερνά τη λεπτομέρεια;

Οι δύο προσεγγίσεις λύνουν διαφορετικά προβλήματα και το κοινό λάθος είναι να φθάσουμε πρώτα στην ακριβή. Η ανάκτηση χειρίζεται τη γνώση: τα γεγονότα που αλλάζουν και που πρέπει να εντοπίσετε. Η λεπτομερής ρύθμιση χειρίζεται τη συμπεριφορά: το στυλ, τη μορφή ή τη στενή εργασία που θέλετε να εκτελεί το μοντέλο με συνέπεια. Οι περισσότερες επιχειρηματικές ερωτήσεις είναι ερωτήσεις γνώσης, γι' αυτό η ανάκτηση είναι συνήθως το σωστό σημείο εκκίνησης.

Ερώτηση που πρέπει να κάνω	Ανάκτηση (RAG)	μικρορύθμιση
Οι πληροφορίες αλλάζουν συχνά	Δυνατή εφαρμογή. Ενημερώστε το έγγραφο, η απάντηση ακολουθεί	Αδύναμος. Κάθε αλλαγή χρειάζεται μια άλλη διαδρομή εκπαίδευσης
Πρέπει να δείξετε πηγές	Ενσωματωμένη. Κάθε απάντηση μπορεί να αναφέρει τα αποσπάσματα της	Σκληρά. Το μοντέλο δεν μπορεί να σας πει από πού προήλθε ένα γεγονός
Θέλετε σταθερό ήχο ή μορφή εξόδου	Πιθανό, αλλά έμμεσο	Δυνατή εφαρμογή. Για αυτό είναι
Ευαίσθητα δεδομένα που πρέπει να ελέγχετε αυστηρά	Ισχυρός. Τα δεδομένα παραμένουν στο κατάστημά σας, λαμβάνονται κατόπιν αιτήματος	Επικίνδυνος. Τα γεγονότα ψήνονται στα βάρη του μοντέλου
Εκ των προτέρων κόστος και προσπάθεια	Χαμηλότερος. Δεν υπάρχει κύκλος προπόνησης για τρέξιμο	Πιο ψηλά. Χρειάζεται δεδομένα με ετικέτα και υπολογισμός
Μια στενή, επαναλαμβανόμενη εργασία με σταθερούς κανόνες	Εργάσιμο	Συχνά η καθαρότερη απαντά

Στην πράξη η γραμμή είναι αυτή. Εάν η απάντηση εξαρτάται από ένα έγγραφο, ανακτήστε. Εάν η απάντηση εξαρτάται από μια συμπεριφορά, βελτιστοποιήστε. Πολλά ώριμα συστήματα κάνουν λίγο και από τα δύο, αλλά σχεδόν πάντα οδηγούν στην ανάκτηση επειδή είναι φθηνότερη η κατασκευή, ευκολότερη ενημέρωση και πολύ πιο εύκολη στην εμπιστοσύνη.

Γιατί η γείωση και οι αναφορές έχουν σημασία για την εμπιστοσύνη;

Ένα γλωσσικό μοντέλο από μόνο του θα απαντήσει άπταιστα αν ξέρει πραγματικά ή όχι. Αυτή η ευχέρεια είναι η παγίδα. Μια απάντηση που ακούγεται σίγουρη και αποδεικνύεται ότι επινοήθηκε είναι χειρότερη από τη μη απάντηση, επειδή κάποιος ενεργεί βάσει αυτής.

Η γείωση είναι η λύση. Αναγκάζοντας το μοντέλο να απαντήσει από ανακτημένα αποσπάσματα, συνδέετε κάθε απάντηση με πραγματικό υλικό πηγής. Οι παραπομπές κάνουν αυτή τη γραβάτα ορατή. Όταν το σύστημα εμφανίσει τις τρεις ρήτρες από τις οποίες άντλησε, ένας αναγνώστης μπορεί να τις ανοίξει και να ελέγξει σε δευτερόλεπτα. Το μοντέλο παύει να είναι χρησμός που πρέπει να αποκτήσεις πίστη και γίνεται βοηθός ερευνητής που δείχνει τη λειτουργία του.

Για οτιδήποτε έχει βάρος (μια οικονομική απάντηση, μια ερώτηση συμμόρφωσης, μια αξίωση που αντιμετωπίζει ο πελάτης) αυτό είναι όλο το παιχνίδι. Δεν ζητάτε από το προσωπικό να εμπιστευτεί ένα μαύρο κουτί. Τους δίνετε μια απάντηση συν τα στοιχεία πίσω από αυτήν, ώστε να μπορούν να επιβεβαιώσουν πριν δεσμευτούν. Κάνει επίσης την αποτυχία ειλικρινή. Όταν το σωστό απόσπασμα δεν βρίσκεται στη βιβλιοθήκη, ένα καλοφτιαγμένο σύστημα λέει ότι δεν μπορεί να βρει την απάντηση αντί να γεμίσει το κενό με κάτι εύλογο.

Πού ταιριάζει το RAG σε ένα πραγματικό έργο;

Η ανάκτηση είναι το πλεονέκτημα πίσω από τις πιο πρακτικές επιχειρήσεις AI, ειδικά ό,τι αφορά τα δικά σας αρχεία. Εάν διερευνάτε πώς ισχύει αυτό για συμβόλαια, τιμολόγια, αναφορές ή βάσεις γνώσεων, ο αναλυτικότερος οδηγός μας για το Έγγραφο AI για επιχειρήσεις περιγράφει τα μοτίβα και μπορείτε να δείτε το είδος της εργασίας που υποστηρίζει στο Document AI.

Μια λογική πρώτη κατασκευή είναι στενή επίτηδες. Διαλέξτε μια καλά καθορισμένη ερώτηση που κάνει συχνά η ομάδα σας, σημαδέψτε την ανάκτηση στα έγγραφα που την απαντούν και απαιτήστε αναφορές από την πρώτη μέρα. Μαθαίνετε γρήγορα εάν οι πηγές είναι αρκετά καλές και αν οι απαντήσεις αντέχουν, προτού διευρύνετε το πεδίο εφαρμογής.

Το πρακτικό takeaway

Προτού δεσμευτείτε για τελειοποίηση, ρωτήστε αν το πρόβλημα αφορά πραγματικά τη γνώση ή τη συμπεριφορά. Εάν πρόκειται για γνώση, και οι περισσότερες επιχειρηματικές ερωτήσεις είναι, η ανάκτηση είναι συνήθως πιο γρήγορη στην κατασκευή, φθηνότερη στη συντήρηση και πολύ πιο εύκολη στην εμπιστοσύνη, επειδή κάθε απάντηση μπορεί να δείχνει από πού προήλθε. Ξεκινήστε από μικρά, επιμείνετε σε παραπομπές και επεκτείνετε το αποτέλεσμα που μπορείτε ήδη να ελέγξετε.