Πώς να κρατήσετε τις ψευδαισθήσεις έξω από ένα έγγραφο: γείωση, παραπομπές, όρια εμπιστοσύνης

Όταν ένα έγγραφο AI δηλώνει με σιγουριά κάτι που δεν υπάρχει στην πηγή, αυτό είναι μια ψευδαίσθηση, και σε μια διοχέτευση εγγράφων είναι η κατάσταση αποτυχίας που έχει μεγαλύτερη σημασία. Η επιδιόρθωση δεν είναι καλύτερη προτροπή. Είναι δομικό. Διατηρήστε το μοντέλο γειωμένο σε ανακτημένο κείμενο πηγής, αναγκάστε το να αναφέρει από πού προήλθε κάθε απάντηση, επισυνάψτε ένα σήμα εμπιστοσύνης σε κάθε εξαγόμενο πεδίο και δρομολογήστε οτιδήποτε κάτω από το όριο σας σε ένα άτομο. Μαζί αυτά τα τέσσερα στοιχεία ελέγχου μετατρέπουν ένα μοντέλο που μπορεί να εφεύρει απαντήσεις σε ένα σύστημα που είτε αναφέρει αυτά που λέει το έγγραφο είτε παραδέχεται ότι δεν γνωρίζει. Κανένα από αυτά δεν είναι εξωτικό. Είναι η διαφορά μεταξύ μιας επίδειξης που διαβάζεται καλά και ενός αγωγού που μπορείτε να βάλετε μπροστά σε έναν ελεγκτή.

Τι προκαλεί παραισθήσεις σε ένα έγγραφο AI;

Ένα γλωσσικό μοντέλο προβλέπει εύλογο κείμενο. Αφήνοντας να απαντήσει από τη μνήμη, θα καλύψει τα κενά με κάτι που ακούγεται σωστό και όχι με κάτι που υπάρχει στο έγγραφό σας. Σε μια διοχέτευση, αυτό εμφανίζεται σε προβλέψιμα σημεία: ένα σύνολο του μοντέλου που συνάγεται αντί για ανάγνωση, μια ημερομηνία που ταιριάζει με το λάθος τιμολόγιο, ένα όνομα προμηθευτή που είναι κοντά αλλά λάθος, ένα πεδίο που αναφέρεται ως παρόν όταν η σελίδα ήταν κενή. Το μοντέλο δεν λέει ψέματα. Ποτέ δεν δείχθηκε ο περιορισμός ότι η απάντησή του πρέπει να προέρχεται από την πηγή που είχε μπροστά του. Οι περισσότερες τεχνικές παραγωγής υπάρχουν για να επιβάλλουν αυτόν ακριβώς τον περιορισμό.

Πώς η γείωση ανάκτησης μειώνει τις παραισθήσεις;

Γείωση σημαίνει ότι το μοντέλο απαντά μόνο από κείμενο που του έχετε δώσει στην πραγματικότητα, όχι από την εκπαίδευσή του. Αντί να ρωτήσετε το μοντέλο ποιο είναι το σύνολο σε ένα τιμολόγιο, ανακτάτε τα σχετικά αποσπάσματα από το αναλυμένο έγγραφο και του ζητάτε να απαντήσει χρησιμοποιώντας μόνο αυτά τα αποσπάσματα. Εάν η απάντηση δεν βρίσκεται στο παρεχόμενο κείμενο, το σωστό αποτέλεσμα είναι "δεν βρέθηκε", δεν είναι εικασία.

Στην πράξη αυτό σημαίνει μερικά πράγματα που συνεργάζονται:

Αναλύστε πριν σας ζητηθεί. Εξαγάγετε το έγγραφο σε καθαρό, δομημένο κείμενο με διατηρημένη διάταξη, έτσι ώστε το μοντέλο να διαβάζει πραγματικό περιεχόμενο αντί για θολή εικόνα.
Ανακτήστε το σχετικό διάστημα. Για ένα μεγάλο έγγραφο, τραβήξτε το τμήμα που πρέπει να περιέχει το πεδίο και περάστε το, αντί να απορρίψετε ολόκληρο το αρχείο και να ελπίζετε.
Περιορίστε την εντολή. Πείτε στο μοντέλο ξεκάθαρα ότι πρέπει να απαντήσει μόνο από το παρεχόμενο κείμενο και να επιστρέψει μια ρητή κενή τιμή όταν το πεδίο απουσιάζει.
Καρφίτσωμα στο σχήμα. Ζητήστε δομημένη έξοδο με επώνυμα πεδία, ώστε να μην υπάρχει πού να προσθέσετε σχόλια ή να επινοήσετε πρόσθετα.

Η γείωση από μόνη της αφαιρεί ένα μεγάλο μέρος των επινοημένων απαντήσεων. Το μοντέλο εξακολουθεί να μπορεί να κάνει λάθος ανάγνωση, γι' αυτό υπάρχουν τα επόμενα δύο στοιχεία ελέγχου. Βασιζόμαστε σε αυτήν την προσέγγιση σε μεγάλο βαθμό κατά τη δημιουργία του Pileform, του εργαλείου τήρησης βιβλίων AI, επειδή ένας κατασκευασμένος αριθμός στους λογαριασμούς κάποιου δεν αποτελεί αισθητικό σφάλμα.

Γιατί κάθε απάντηση πρέπει να φέρει μια αναφορά;

Μια παραπομπή συνδέει κάθε εξαγόμενη τιμή πίσω στην ακριβή θέση στην πηγή από την οποία προήλθε: μια σελίδα, μια γραμμή, ένα πλαίσιο οριοθέτησης, ένα εύρος χαρακτήρων. Αυτό κάνει δύο δουλειές ταυτόχρονα.

Πρώτον, κάνει την απάντηση ελέγξιμη. Ένας αναθεωρητής ή ένας αυτοματοποιημένος κανόνας, μπορεί να μεταβεί κατευθείαν στο σημείο της σελίδας και να επιβεβαιώσει την τιμή σε δευτερόλεπτα αντί να διαβάσει ολόκληρο το έγγραφο. Δεύτερον, αυξάνει το κόστος των παραισθήσεων για το ίδιο το μοντέλο. Όταν η μορφή εξόδου απαιτεί μια θέση για κάθε πεδίο, μια απάντηση χωρίς υποστηρικτικό εύρος είναι ένα ορατό ελάττωμα που μπορείτε να εντοπίσετε και να απορρίψετε αυτόματα. Μια τιμή που δεν μπορεί να δείξει τη θέση της στο έγγραφο αντιμετωπίζεται ως μη βρέθηκε.

Ο πρακτικός κανόνας είναι απλός. Εάν ένα πεδίο δεν έχει παραπομπή, δεν εγγράφεται στην εγγραφή. Αυτός ο μεμονωμένος περιορισμός πιάνει μια κατηγορία σίγουρων αλλά μη υποστηριζόμενων απαντήσεων προτού φτάσουν ποτέ στα βιβλία σας.

Πώς συνεργάζονται τα όρια εμπιστοσύνης και η ανθρώπινη κριτική;

Τα όρια εμπιστοσύνης αποφασίζουν ποιες απαντήσεις εμπιστεύεται το σύστημα από μόνο του και ποιες κλιμακώνεται. Κάθε εξαγόμενο πεδίο φέρει μια βαθμολογία. Εσείς βάλατε ένα όριο. Πάνω από αυτό, η τιμή ρέει κατευθείαν. Κάτω από αυτό, η τιμή διατηρείται και αποστέλλεται σε ένα άτομο, με το πρωτότυπο έγγραφο και την προτεινόμενη απάντηση δίπλα-δίπλα. Αυτό είναι το βήμα του ανθρώπου στον βρόχο και είναι αυτό που καθιστά ασφαλή την αυτοματοποίηση ολόκληρου του αγωγού.

Εμπιστοσύνη	Τι κάνει το σύστημα	Ποιος ενεργεί
Υψηλή	Αποδοχή και ανάρτηση της τιμής αυτόματα	Κανείς
Οριακή γραμμή	Σημαία για γρήγορη επιβεβαίωση	Ο αναθεωρητής κοιτάζει, εγκρίνει ή διορθώνει
Χαμηλή ή καθόλου αναφορά	Κρατήστε το αρχείο, μην δημοσιεύσετε	Ο κριτικός διαβάζει την πηγή και αποφασίζει

Το θέμα δεν είναι να απομακρύνεις ανθρώπους. Είναι να ξοδεύουν την προσοχή τους μόνο εκεί που αλλάζει το αποτέλεσμα. Ένας καλός αγωγός είναι σίγουρος για την καθαρή πλειονότητα των πεδίων και ειλικρινής για τα υπόλοιπα. Η μουντζουρωμένη σάρωση, η άγνωστη διάταξη, η φιγούρα που δεν συμβιβάζεται, αυτά είναι ακριβώς τα σημεία όπου ένα ανθρώπινο μάτι κερδίζει τη δέσμευσή του, και η εμφάνιση τους ξεκάθαρα χτυπάει προσποιούμενος ότι το μοντέλο έχει πάντα δίκιο. Με την πάροδο του χρόνου, οι διορθώσεις που κάνουν οι άνθρωποι γίνονται δοκιμαστικές περιπτώσεις, έτσι τα κατώφλια γίνονται πιο ευκρινή αντί να παρασύρονται. Αυτό είναι το ίδιο μοντέλο λειτουργίας πίσω από σοβαρές εργασίες Document AI και το ευρύτερο πλαίσιο καλύπτεται στον οδηγό μας για το Document AI για επιχειρήσεις.

Το πρακτικό takeaway

Αντιμετωπίστε την ψευδαίσθηση ως ιδιότητα του συστήματος, όχι ως προτροπή που μπορείτε να τελειοποιήσετε. Γειώστε το μοντέλο σε ανακτημένο κείμενο πηγής, απαιτήστε μια αναφορά για κάθε πεδίο, βαθμολογήστε την εμπιστοσύνη σε κάθε τιμή και δρομολογήστε τα χαμηλής εμπιστοσύνης σε ένα άτομο. Εάν μια τιμή δεν μπορεί να πει από πού προήλθε, δεν γράφεται. Φτιάξτε τον αγωγό έτσι ώστε η ειλικρινής απάντησή του να είναι "Δεν είμαι σίγουρος, ελέγξτε αυτόν" και θα έχετε έναν βοηθό που κερδίζει εμπιστοσύνη αντί για έναν που πρέπει να μαντέψετε.