10 τρόποι για να βελτιώσετε το μοντέλο εκμάθησης της μηχανής σας - τα Dummies

Τώρα που είστε αλγόριθμος μηχανοκίνητης εκμάθησης έχει τελειώσει να μαθαίνει από τα δεδομένα που λαμβάνονται χρησιμοποιώντας Python ή R, σκέφτεστε το τα αποτελέσματα από το σετ δοκιμών σας και αναρωτιέστε αν μπορείτε να τα βελτιώσετε ή έχετε φτάσει στο καλύτερο δυνατό αποτέλεσμα. Υπάρχουν διάφοροι έλεγχοι και ενέργειες που υποδηλώνουν τις μεθόδους που μπορείτε να χρησιμοποιήσετε για να βελτιώσετε την απόδοση της μηχανικής μάθησης και να επιτύχετε έναν γενικότερο προγνωστικό παράγοντα που μπορεί να λειτουργήσει εξίσου καλά με το σετ δοκιμών ή τα νέα δεδομένα. Αυτή η λίστα με δέκα τεχνικές σας προσφέρει ευκαιρίες για βελτίωση του αποτελέσματος που επιτυγχάνεται χρησιμοποιώντας αλγόριθμους μηχανικής μάθησης.

Εκμάθηση καμπυλών μάθησης

Ως πρώτο βήμα για τη βελτίωση των αποτελεσμάτων σας, πρέπει να προσδιορίσετε τα προβλήματα με το μοντέλο σας. Οι καμπύλες μάθησης απαιτούν την επαλήθευση σε σχέση με ένα σετ δοκιμών καθώς αλλάζετε τον αριθμό των περιπτώσεων εκπαίδευσης. Θα παρατηρήσετε αμέσως αν διαπιστώνετε μεγάλη διαφορά μεταξύ των σφαλμάτων σας σε δείγμα και εκτός δείγματος. Μια ευρεία αρχική διαφορά είναι ένα σημάδι διακύμανσης της εκτίμησης. αντίθετα, τα λάθη που είναι τόσο υψηλά όσο και παρόμοια είναι ένα σημάδι ότι εργάζεστε με ένα προκατειλημμένο μοντέλο.

Η Python σας βοηθά να αντλήσετε εύκολα καμπύλες μάθησης χρησιμοποιώντας τη λειτουργία Scikit-learn (). Μπορείτε επίσης να επιτύχετε εύκολα το ίδιο αποτέλεσμα χρησιμοποιώντας το R με προσαρμοσμένες λειτουργίες, όπως περιγράφεται από το ιστολόγιο αναλυτικών δεδομένων Revolution.

Χρησιμοποιώντας σωστά την εγκυρότητα

Η μεγάλη διαφορά μεταξύ των εκτιμήσεων διασταυρούμενης επικύρωσης (CV) και του αποτελέσματος είναι ένα κοινό πρόβλημα που εμφανίζεται με ένα σετ δοκιμών ή νέα δεδομένα. Έχοντας αυτό το πρόβλημα σημαίνει ότι κάτι πήγε στραβά με την εγκάρσια επικύρωση. Πέρα από το γεγονός ότι το βιογραφικό σημείωμα δεν αποτελεί καλό δείκτη απόδοσης, αυτό το πρόβλημα σημαίνει επίσης ότι ένας παραπλανητικός δείκτης σας ώθησε να μοντελοποιήσετε το πρόβλημα εσφαλμένα και να επιτύχετε μη ικανοποιητικά αποτελέσματα.

Η διασταυρούμενη επικύρωση σάς παρέχει συμβουλές όταν τα βήματα που κάνετε είναι σωστά. Είναι σημαντικό, αλλά όχι κρίσιμο, το βιογραφικό σημείωμα να υπολογίζει με ακρίβεια τις μετρήσεις σφαλμάτων εκτός δείγματος. Ωστόσο, είναι σημαντικό οι εκτιμήσεις βιογραφικού σημείου να αντικατοπτρίζουν σωστά τη βελτίωση ή την επιδείνωση της δοκιμαστικής φάσης λόγω των αποφάσεών σας για τη μοντελοποίηση. Γενικά, υπάρχουν δύο λόγοι για τους οποίους οι εκτιμήσεις εγκάρσιας επικύρωσης μπορεί να διαφέρουν από τα πραγματικά αποτελέσματα σφάλματος:

• Snooping
• Λανθασμένη δειγματοληψία

Η Python προσφέρει ένα δειγματολήπτης βιογραφικού σημειώματος stratified-k-folds. R μπορεί να διαστρωματώσει δείγματα χρησιμοποιώντας τη μέθοδο createFolds της βιβλιοθήκης caret όταν παρέχετε την παράμετρο y ως παράγοντα.

Επιλέγοντας το σωστό σφάλμα ή βαθμολογία

Η προσπάθεια βελτιστοποίησης μιας μέτρησης σφάλματος με βάση το διάμεσο σφάλμα χρησιμοποιώντας έναν αλγόριθμο μάθησης με βάση το μέσο λάθος δεν θα σας προσφέρει τα καλύτερα αποτελέσματα αν δεν διαχειριστείτε τη διαδικασία βελτιστοποίησης μια μόδα που λειτουργεί υπέρ της επιλεγμένης μετρικής σας.Κατά την επίλυση ενός προβλήματος με τη χρήση δεδομένων και εκμάθησης μηχανών, πρέπει να αναλύσετε το πρόβλημα και να καθορίσετε την ιδανική μέτρηση για βελτιστοποίηση.

Τα παραδείγματα μπορούν να βοηθήσουν πολύ. Μπορείτε να πάρετε πολλά από αυτά από ακαδημαϊκά έγγραφα και από διαγωνισμούς μάθησης δημόσιων μηχανών που καθορίζουν προσεκτικά συγκεκριμένα προβλήματα από άποψη δεδομένων και σφάλματος / βαθμολογίας μετρικής. Αναζητήστε έναν διαγωνισμό του οποίου ο στόχος και τα δεδομένα είναι παρόμοια με τη δική σας και, στη συνέχεια, ελέγξτε την απαιτούμενη μετρική.

Αναζήτηση για τις καλύτερες υπερ-παραμέτρους

Οι περισσότεροι αλγόριθμοι εκτελούν αρκετά καλά από το κουτί χρησιμοποιώντας τις προεπιλεγμένες ρυθμίσεις παραμέτρων. Ωστόσο, μπορείτε πάντα να επιτύχετε καλύτερα αποτελέσματα ελέγχοντας διαφορετικές υπερ-παραμέτρους. Το μόνο που έχετε να κάνετε είναι να δημιουργήσετε μια αναζήτηση στο δίκτυο μεταξύ των πιθανών τιμών που μπορούν να λάβουν οι παράμετροί σας και να αξιολογήσετε τα αποτελέσματα χρησιμοποιώντας τη σωστή τιμή σφάλματος ή βαθμολογίας. Η αναζήτηση απαιτεί χρόνο, αλλά μπορεί να βελτιώσει τα αποτελέσματά σας.

Όταν μια αναζήτηση διαρκεί πολύ καιρό για να ολοκληρωθεί, μπορείτε συχνά να επιτύχετε τα ίδια αποτελέσματα χρησιμοποιώντας ένα δείγμα των αρχικών σας δεδομένων. Λιγότερα παραδείγματα που επιλέγονται τυχαία απαιτούν λιγότερους υπολογισμούς, αλλά συνήθως υπονοούν την ίδια λύση. Ένα άλλο τέχνασμα που μπορεί να εξοικονομήσει χρόνο και προσπάθεια είναι να κάνει μια τυχαία αναζήτηση, περιορίζοντας έτσι τον αριθμό των συνδυασμών υπερ-παραμέτρων που θα δοκιμαστούν.

Δοκιμές πολλαπλών μοντέλων

Ως καλή πρακτική, δοκιμάστε πολλαπλά μοντέλα, ξεκινώντας με τα βασικά μοντέλα - τα μοντέλα που έχουν μεγαλύτερη απόκλιση από τη διακύμανση. Θα πρέπει πάντα να ευνοείτε τις απλές λύσεις έναντι των πολύπλοκων. Μπορεί να ανακαλύψετε ότι μια απλή λύση εκτελεί καλύτερα.

Αντιπροσωπεύοντας την απόδοση διαφορετικών μοντέλων χρησιμοποιώντας τον ίδιο χάρτη είναι χρήσιμη πριν επιλέξετε το καλύτερο για να λύσετε το πρόβλημά σας. Μπορείτε να τοποθετήσετε μοντέλα που χρησιμοποιούνται για την πρόβλεψη της συμπεριφοράς των καταναλωτών, όπως μια απάντηση σε μια εμπορική προσφορά, σε ειδικά γραφήματα κέρδους και γραφήματα ανύψωσης. Αυτά τα διαγράμματα δείχνουν πώς εκτελείται το μοντέλο σας χωρίζοντας τα αποτελέσματα σε δεκαδικά ή μικρότερα τμήματα.

Επειδή μπορεί να ενδιαφέρεστε μόνο για τους καταναλωτές που είναι πιο πιθανό να ανταποκριθούν στην προσφορά σας, η παραγγελία προβλέψεων από τις περισσότερες έως τις λιγότερο πιθανές θα υπογραμμίσει πόσο καλοί είναι τα μοντέλα σας στην πρόβλεψη των πιο ελπιδοφόρων πελατών. Αυτές οι απαντήσεις στην Quora σας βοηθούν να δείτε πώς λειτουργούν τα γραφήματα κέρδους και ανύψωσης: Ποια είναι η καμπύλη ROC; και η καμπύλη του τι είναι η ανύψωση;.

Δοκιμές πολλαπλών μοντέλων και introspecting μπορούν επίσης να παρέχουν προτάσεις σχετικά με τις λειτουργίες που θα μετασχηματιστούν για τη δημιουργία χαρακτηριστικών ή με τις δυνατότητες που πρέπει να εξαλειφθούν όταν κάνετε επιλογές λειτουργιών.

Μοντέλα μέσης απόδοσης

Η εκμάθηση μηχανών περιλαμβάνει την κατασκευή πολλών μοντέλων και τη δημιουργία πολλών διαφορετικών προβλέψεων, όλα με διαφορετικές αναμενόμενες επιδόσεις σφάλματος. Μπορεί να σας εκπλήξει να ξέρετε ότι μπορείτε να πάρετε ακόμη καλύτερα αποτελέσματα με τη μέση τιμή των μοντέλων μαζί. Η αρχή είναι πολύ απλή: η εκτίμηση της διακύμανσης είναι τυχαία, οπότε κατά μέσο όρο σε πολλά διαφορετικά μοντέλα, μπορείτε να ενισχύσετε το σήμα και να αποκλείσετε το θόρυβο που συχνά ακυρώνεται.

Μερικές φορές τα αποτελέσματα από έναν αλγόριθμο που εκτελεί καλά, αναμιγνύονται με τα αποτελέσματα από έναν απλούστερο αλγόριθμο που δεν λειτουργεί επίσης, μπορούν να δημιουργήσουν καλύτερες προβλέψεις απ 'ό, τι χρησιμοποιώντας έναν μόνο αλγόριθμο.Μην υποτιμάτε τις συνεισφορές που παρέχονται από απλούστερα μοντέλα, όπως τα γραμμικά μοντέλα, όταν μετράτε τα αποτελέσματά τους με την απόδοση από πιο εξελιγμένους αλγόριθμους, όπως η ενίσχυση της κλίσης.

Μοντέλα στοίβαξης

Για τους ίδιους λόγους που ο μέσος όρος λειτουργεί, η στοίβαξη μπορεί επίσης να σας προσφέρει καλύτερη απόδοση. Κατά τη στοίβαξη, δημιουργείτε τα μοντέλα εκμάθησης μηχανής σε δύο στάδια. Αρχικά αυτή η τεχνική προβλέπει πολλαπλά αποτελέσματα χρησιμοποιώντας διαφορετικούς αλγόριθμους, με όλους τους να μαθαίνουν από τα χαρακτηριστικά που υπάρχουν στα δεδομένα σας. Κατά τη διάρκεια της δεύτερης φάσης, αντί να προσφέρετε χαρακτηριστικά γνωρίσματα που θα μάθει ένα νέο μοντέλο, παρέχετε αυτό το μοντέλο με τις προβλέψεις των άλλων προηγουμένως εκπαιδευμένων μοντέλων.

Η χρήση μιας προσέγγισης δύο σταδίων δικαιολογείται όταν μαντεύετε πολύπλοκες λειτουργίες στόχου. Μπορείτε να τα προσεγγίσετε μόνο με τη χρήση πολλαπλών μοντέλων μαζί και στη συνέχεια συνδυάζοντας το αποτέλεσμα του πολλαπλασιασμού με έξυπνο τρόπο. Μπορείτε να χρησιμοποιήσετε μια απλή διοικητική παλινδρόμηση ή ένα σύνθετο σύνολο δέντρων ως μοντέλο δευτέρου σταδίου.

Ο διαγωνισμός Netflix παρέχει στοιχεία και λεπτομερή εικόνα για το πώς τα ετερογενή μοντέλα μπορούν να στοιβάζονται μαζί για να σχηματίσουν ισχυρότερα μοντέλα. Ωστόσο, η εφαρμογή αυτής της λύσης ως αίτησης εργασίας μπορεί να είναι αρκετά δυσκίνητη.

Εφαρμογή μηχανικής λειτουργίας

Αν πιστεύετε ότι η προκατάληψη εξακολουθεί να επηρεάζει το μοντέλο σας, έχετε λίγες επιλογές αλλά να δημιουργήσετε νέες λειτουργίες που βελτιώνουν την απόδοση του μοντέλου. Κάθε νέα λειτουργία μπορεί να κάνει πιο εύκολη την εικασία για την απόκριση στόχου.

Η αυτόματη δημιουργία δυνατοτήτων είναι δυνατή με τη χρήση πολυωνυμικής επέκτασης ή με την κλάση μηχανικών φορέων υποστήριξης αλγορίθμων μηχανικής μάθησης. Τα μηχανήματα φορέα υποστήριξης μπορούν αυτόματα να ψάξουν για καλύτερα χαρακτηριστικά σε χώρους υψηλότερων διαστάσεων με τρόπο που να είναι τόσο υπολογιστικά όσο και βέλτιστη για τη μνήμη.

Ωστόσο, τίποτα δεν μπορεί πραγματικά να υποκαταστήσει την εμπειρία σας και την κατανόηση της μεθόδου που απαιτείται για την επίλυση του προβλήματος των δεδομένων που ο αλγόριθμος προσπαθεί να μάθει. Μπορείτε να δημιουργήσετε λειτουργίες με βάση τις γνώσεις και τις ιδέες σας για το πώς λειτουργούν τα πράγματα στον κόσμο. Οι άνθρωποι είναι ακόμα ασυναγώνιστοι να το κάνουν και οι μηχανές δεν μπορούν εύκολα να τις αντικαταστήσουν.

Επιλογή λειτουργιών και παραδειγμάτων

Αν η διακύμανση της εκτίμησης είναι υψηλή και ο αλγόριθμος σας βασίζεται σε πολλές λειτουργίες, πρέπει να κλαδέψετε ορισμένες λειτουργίες για καλύτερα αποτελέσματα. Σε αυτό το πλαίσιο, συνιστάται η μείωση του αριθμού των χαρακτηριστικών στο μήτρα των δεδομένων σας επιλέγοντας εκείνες με την υψηλότερη προβλεπτική τιμή.

Όταν εργάζεστε με γραμμικά μοντέλα, γραμμικές μηχανές φορέα υποστήριξης ή νευρωνικά δίκτυα, η νομιμοποίηση είναι πάντα μια επιλογή. Τόσο το L1 όσο και το L2 μπορούν να μειώσουν την επίδραση των περιττών μεταβλητών ή ακόμη και να τα αφαιρέσουν από το μοντέλο. Η επιλογή σταθερότητας αξιοποιεί την ικανότητα L1 να αποκλείει λιγότερο χρήσιμες μεταβλητές. Η τεχνική αναπαριστά τα δεδομένα εκπαίδευσης για να επιβεβαιώσει την εξαίρεση.

Μπορείτε να μάθετε περισσότερα σχετικά με την επιλογή σταθερότητας βλέποντας το παράδειγμα στην ιστοσελίδα Scikit-learn. Επιπλέον, μπορείτε να εξασκηθείτε χρησιμοποιώντας τις λειτουργίες RandomizedLogisticRegression και RandomizedLasso Scikit-learn στη μονάδα linear_model.

Ψάχνετε για περισσότερα δεδομένα

Αφού δοκιμάσετε όλες τις προηγούμενες προτάσεις, μπορεί να έχετε ακόμα μια μεγάλη διακύμανση των προβλέψεων για την αντιμετώπιση. Σε αυτήν την περίπτωση, η μόνη επιλογή σας είναι να αυξήσετε το μέγεθος του εκπαιδευτικού σας σετ. Προσπαθήστε να αυξήσετε το δείγμα σας παρέχοντας νέα δεδομένα, τα οποία θα μπορούσαν να μεταφραστούν σε νέες περιπτώσεις ή σε νέες λειτουργίες.

Αν θέλετε να προσθέσετε περισσότερες περιπτώσεις, απλά κοιτάξτε για να δείτε αν έχετε παρόμοια δεδομένα στο χέρι. Εάν θέλετε να προσθέσετε νέες δυνατότητες, εντοπίστε μια πηγή δεδομένων ανοιχτού κώδικα, αν είναι δυνατόν, για να ταιριάζουν τα δεδομένα σας με τις καταχωρήσεις. Ένας άλλος πολύ καλός τρόπος για να αποκτήσετε τόσο νέες περιπτώσεις όσο και νέα χαρακτηριστικά είναι η απομάκρυνση των δεδομένων από τον ιστό. Συχνά, υπάρχουν διαθέσιμα δεδομένα μεταξύ διαφορετικών πηγών ή μέσω διεπαφής προγραμματισμού εφαρμογών (API). Για παράδειγμα, τα API Google προσφέρουν πολλές πηγές γεωγραφικών και επιχειρηματικών πληροφοριών.