Προσδιορισμός της παρουσίας πολυσυγγραμμικότητας. Ορισμός της πολυσυγγραμμικότητας Θεωρητικές επιπτώσεις της πολυσυγγραμμικότητας σε γενικούς όρους
Η αναγνώριση της σχέσης μεταξύ επιλεγμένων χαρακτηριστικών και η ποσοτική αξιολόγηση της εγγύτητας της σύνδεσης πραγματοποιούνται με τη χρήση μεθόδων ανάλυσης συσχέτισης. Για την επίλυση αυτών των προβλημάτων, αρχικά υπολογίζεται το , στη συνέχεια, στη βάση του, προσδιορίζονται μερικοί και πολλαπλοί συντελεστές συσχέτισης και προσδιορισμού και ελέγχεται η σημασία τους. Ο απώτερος στόχος της ανάλυσης συσχέτισης είναι η επιλογή των παραγόντων χαρακτηριστικών x 1, x 2,…, x m για περαιτέρω κατασκευή της εξίσωσης παλινδρόμησης.
Εάν οι μεταβλητές παραγόντων συνδέονται με μια αυστηρή λειτουργική εξάρτηση, τότε μιλάμε για πλήρη πολυσυγγραμμικότητα. Σε αυτή την περίπτωση, μεταξύ των στηλών του πίνακα των μεταβλητών παραγόντων Χυπάρχουν γραμμικά εξαρτώμενες στήλες και, από την ιδιότητα των οριζόντων πίνακα, det(X T X) = 0, δηλαδή ο πίνακας (X T X) είναι ενικός, πράγμα που σημαίνει ότι δεν υπάρχει αντίστροφος πίνακας. Ο πίνακας (X T X) -1 χρησιμοποιείται για την κατασκευή εκτιμήσεων OLS. Έτσι, η πλήρης πολυσυγγραμμικότητα δεν μας επιτρέπει να εκτιμήσουμε ξεκάθαρα τις παραμέτρους του αρχικού μοντέλου παλινδρόμησης.
Σε ποιες δυσκολίες οδηγεί η πολυσυγγραμμικότητα των παραγόντων που περιλαμβάνονται στο μοντέλο και πώς μπορούν να επιλυθούν;
Η πολυσυγγραμμικότητα μπορεί να οδηγήσει σε ανεπιθύμητες συνέπειες:
- Οι εκτιμήσεις παραμέτρων γίνονται αναξιόπιστες. Βρίσκουν μεγάλα τυπικά σφάλματα. Καθώς ο όγκος των παρατηρήσεων αλλάζει, οι εκτιμήσεις αλλάζουν (όχι μόνο σε μέγεθος, αλλά και σε πρόσημο), γεγονός που καθιστά το μοντέλο ακατάλληλο για ανάλυση και πρόβλεψη.
- Καθίσταται δύσκολη η ερμηνεία των παραμέτρων πολλαπλής παλινδρόμησης ως χαρακτηριστικά της δράσης των παραγόντων σε «καθαρή» μορφή, επειδή οι παράγοντες συσχετίζονται. Οι παράμετροι γραμμικής παλινδρόμησης χάνουν το οικονομικό νόημα.
- Είναι αδύνατο να προσδιοριστεί η μεμονωμένη επίδραση παραγόντων σε έναν δείκτη απόδοσης.
Ο τύπος πολυσυγγραμμικότητας στον οποίο οι μεταβλητές παραγόντων σχετίζονται με κάποια στοχαστική εξάρτηση ονομάζεται μερικός.Εάν υπάρχει υψηλός βαθμός συσχέτισης μεταξύ των μεταβλητών παραγόντων, τότε ο πίνακας (X T X) είναι σχεδόν εκφυλισμένος, δηλαδή det(X T X) ≈ 0.
Ο πίνακας (X T X) -1 θα είναι κακώς ρυθμισμένος, γεγονός που οδηγεί σε αστάθεια των εκτιμήσεων OLS. Η μερική πολυσυγγραμμικότητα οδηγεί στις ακόλουθες συνέπειες:
- μια αύξηση στις αποκλίσεις των εκτιμήσεων παραμέτρων επεκτείνει τις εκτιμήσεις διαστήματος και επιδεινώνει την ακρίβειά τους.
- μείωση t-οι στατιστικές των συντελεστών οδηγούν σε εσφαλμένα συμπεράσματα σχετικά με τη σημασία των παραγόντων.
- αστάθεια των εκτιμήσεων OLS και οι διακυμάνσεις τους.
Δεν υπάρχουν ακριβή ποσοτικά κριτήρια για την ανίχνευση μερικής πολυσυγγραμμικότητας. Η παρουσία πολυσυγγραμμικότητας μπορεί να υποδειχθεί από την εγγύτητα της ορίζουσας του πίνακα (X T X) στο μηδέν. Εξετάζονται επίσης οι τιμές των συντελεστών συσχέτισης κατά ζεύγη. Εάν ο προσδιοριστής του πίνακα συσχέτισης διαπαραγοντικών είναι κοντά στο ένα, τότε δεν υπάρχει πολυσυγγραμμικότητα.
Υπάρχουν διάφορες προσεγγίσεις για να ξεπεραστεί η ισχυρή συσχέτιση παραγόντων. Το απλούστερο από αυτά είναι η εξαίρεση από το μοντέλο του παράγοντα (ή των παραγόντων) που είναι πιο υπεύθυνοι για την πολυσυγγραμμικότητα, με την προϋπόθεση ότι η ποιότητα του μοντέλου θα υποφέρει ασήμαντα (δηλαδή, ο θεωρητικός συντελεστής προσδιορισμού -R 2 y(x1...xm ) θα μειωθεί ασήμαντα) .
Ποιο μέτρο δεν μπορεί να χρησιμοποιηθεί για την εξάλειψη της πολυσυγγραμμικότητας;
α) αύξηση του μεγέθους του δείγματος·
β) εξαιρώντας μεταβλητές που συσχετίζονται σε μεγάλο βαθμό με άλλες.
γ) αλλαγή στις προδιαγραφές του μοντέλου.
δ) μετασχηματισμός της τυχαίας συνιστώσας.
Ζευγαρωμένοι (γραμμικοί) και μερικοί συντελεστές συσχέτισης
Στενότητα σύνδεσης, για παράδειγμα, μεταξύ των μεταβλητών x και y για ένα δείγμα τιμών (x i, y i), i=1,n, (1)όπου x και y είναι οι μέσες τιμές, S x και S y είναι οι τυπικές αποκλίσεις των αντίστοιχων δειγμάτων.
Ο συντελεστής συσχέτισης κατά ζεύγη ποικίλλει από –1 έως +1. Όσο πιο κοντά είναι σε απόλυτη τιμή στη μονάδα, τόσο πιο κοντά είναι η στατιστική σχέση μεταξύ x και y σε μια γραμμική συναρτητική σχέση. Μια θετική τιμή του συντελεστή δείχνει ότι η σχέση μεταξύ των χαρακτηριστικών είναι άμεση (καθώς το x αυξάνεται, η τιμή του y αυξάνεται), μια αρνητική τιμή δείχνει ότι η σχέση είναι αντίστροφη (όσο αυξάνεται το x, η τιμή του y μειώνεται).
Μπορούμε να δώσουμε την ακόλουθη ποιοτική ερμηνεία των πιθανών τιμών του συντελεστή συσχέτισης: αν |r|<0.3 – связь практически отсутствует; 0.3≤ |r| < 0.7 - связь средняя; 0.7≤ |r| < 0.9 – связь сильная; 0.9≤ |r| < 0.99 – связь весьма сильная.
Για να αξιολογήσετε την πολυσυγγραμμικότητα των παραγόντων, χρησιμοποιήστε έναν πίνακα ζευγαρωμένων συντελεστών συσχέτισης του εξαρτημένου (αποτακτικού) χαρακτηριστικού y με χαρακτηριστικά παραγόντων x 1, x 2,…, x m, ο οποίος σας επιτρέπει να αξιολογήσετε τον βαθμό επιρροής κάθε δείκτη παράγοντα x j σε η εξαρτημένη μεταβλητή y, καθώς και η εγγύτητα των σχέσεων μεταξύ των παραγόντων . Ο πίνακας συσχέτισης στη γενική περίπτωση έχει τη μορφή
.
Η μήτρα είναι συμμετρική, υπάρχουν στη διαγώνιο της. Εάν ο πίνακας έχει συντελεστή συσχέτισης διαπαραγόντων r xjxi >0,7, τότε υπάρχει πολυσυγγραμμικότητα σε αυτό το μοντέλο πολλαπλής παλινδρόμησης.
Δεδομένου ότι τα αρχικά δεδομένα από τα οποία καθορίζεται η σχέση των χαρακτηριστικών είναι δείγμα από έναν ορισμένο γενικό πληθυσμό, οι συντελεστές συσχέτισης που υπολογίζονται από αυτά τα δεδομένα θα είναι επιλεκτικοί, δηλαδή υπολογίζουν μόνο τη σχέση. Απαιτείται μια δοκιμή σημαντικότητας, η οποία απαντά στην ερώτηση: είναι τυχαία ή όχι τα ληφθέντα αποτελέσματα υπολογισμού;
Σημασία συντελεστών συσχέτισης κατά ζεύγηέλεγχος από t-Τεστ μαθητή. Προβάλλεται η υπόθεση ότι ο γενικός συντελεστής συσχέτισης είναι ίσος με μηδέν: H 0: ρ = 0. Στη συνέχεια τίθενται οι παράμετροι: επίπεδο σημαντικότητας α και αριθμός βαθμών ελευθερίας v = n-2. Χρησιμοποιώντας αυτές τις παραμέτρους, το tcr βρίσκεται από τον πίνακα των κρίσιμων σημείων της κατανομής Student και από τα διαθέσιμα δεδομένα υπολογίζεται παρατηρούμενη τιμή κριτηρίου:
, (2)
όπου r είναι ο συντελεστής συσχέτισης που υπολογίζεται από τα δεδομένα που επιλέχθηκαν για τη μελέτη. Ο συντελεστής συσχέτισης ζευγών θεωρείται σημαντικός (απορρίπτεται η υπόθεση ότι ο συντελεστής είναι ίσος με μηδέν) με πιθανότητα εμπιστοσύνης γ = 1- α, εάν το modulo t Obs είναι μεγαλύτερο από το t crit.
Εάν οι μεταβλητές συσχετίζονται μεταξύ τους, τότε η τιμή του συντελεστή συσχέτισης επηρεάζεται εν μέρει από την επίδραση άλλων μεταβλητών.
Συντελεστής μερικής συσχέτισηςχαρακτηρίζει την εγγύτητα της γραμμικής σχέσης μεταξύ του αποτελέσματος και του αντίστοιχου παράγοντα κατά την εξάλειψη της επιρροής άλλων παραγόντων. Ο συντελεστής μερικής συσχέτισης αξιολογεί την εγγύτητα της σχέσης μεταξύ δύο μεταβλητών με μια σταθερή τιμή άλλων παραγόντων. Αν υπολογιστεί, για παράδειγμα, r yx 1| x2 (συντελεστής μερικής συσχέτισης μεταξύ y και x 1 με σταθερή επίδραση x 2), αυτό σημαίνει ότι προσδιορίζεται ένα ποσοτικό μέτρο της γραμμικής σχέσης μεταξύ y και x 1, το οποίο θα συμβεί εάν η επίδραση του x 2 σε αυτά τα χαρακτηριστικά είναι εξαλειφθεί. Εάν εξαιρεθεί η επιρροή μόνο ενός παράγοντα, παίρνουμε μερικός συντελεστής συσχέτισης πρώτης τάξης.
Η σύγκριση των τιμών των ζευγαρωμένων και μερικών συντελεστών συσχέτισης δείχνει την κατεύθυνση επιρροής του σταθερού παράγοντα. Αν ο συντελεστής μερικής συσχέτισης r yx 1| Το x2 θα είναι μικρότερο από τον αντίστοιχο συντελεστή ζεύγους r yx 1, πράγμα που σημαίνει ότι η σχέση μεταξύ των χαρακτηριστικών y και x 1 καθορίζεται σε κάποιο βαθμό από την επίδραση της σταθερής μεταβλητής x 2 σε αυτά. Αντίθετα, μια μεγαλύτερη τιμή του μερικού συντελεστή σε σύγκριση με τον συντελεστή ζεύγους δείχνει ότι η σταθερή μεταβλητή x 2 εξασθενεί τη σχέση μεταξύ y και x 1 με την επιρροή της.
Ο συντελεστής μερικής συσχέτισης μεταξύ δύο μεταβλητών (y και x 2) όταν εξαιρείται η επίδραση ενός παράγοντα (x 1) μπορεί να υπολογιστεί χρησιμοποιώντας τον ακόλουθο τύπο: 
. (3)
Για άλλες μεταβλητές, οι τύποι κατασκευάζονται με παρόμοιο τρόπο. Στα σταθερά x 2 
;
σε σταθερό x 3 
.
Η σημασία των συντελεστών μερικής συσχέτισης ελέγχεται παρόμοια με την περίπτωση των συντελεστών συσχέτισης ζεύγους. Η μόνη διαφορά είναι ο αριθμός των βαθμών ελευθερίας, ο οποίος πρέπει να ληφθεί ίσος με v = n – l -2, όπου l είναι ο αριθμός των σταθερών παραγόντων.
Σταδιακή παλινδρόμηση
Η επιλογή των παραγόντων x 1 , x 2 , …, x m που περιλαμβάνονται σε ένα μοντέλο πολλαπλής παλινδρόμησης είναι ένα από τα πιο σημαντικά στάδια της οικονομετρικής μοντελοποίησης. Η μέθοδος διαδοχικής (βήμα προς βήμα) συμπερίληψης (ή αποκλεισμού) παραγόντων στο μοντέλο σας επιτρέπει να επιλέξετε από ένα πιθανό σύνολο μεταβλητών ακριβώς εκείνες που θα βελτιώσουν την ποιότητα του μοντέλου.Κατά την εφαρμογή της μεθόδου, το πρώτο βήμα είναι ο υπολογισμός του πίνακα συσχέτισης. Με βάση τους συντελεστές συσχέτισης κατά ζεύγη, αποκαλύπτεται η παρουσία συγγραμμικών παραγόντων. Οι παράγοντες x i και x j θεωρούνται συγγραμμικοί εάν r xjxi >0,7. Μόνο ένας από τους αλληλένδετους παράγοντες περιλαμβάνεται στο μοντέλο. Εάν δεν υπάρχουν συγγραμμικοί παράγοντες μεταξύ των παραγόντων, τότε τυχόν παράγοντες που έχουν σημαντικό αντίκτυπο y.
Στο δεύτερο βήμα, κατασκευάζεται μια εξίσωση παλινδρόμησης με μια μεταβλητή που έχει τη μέγιστη απόλυτη τιμή του συντελεστή συσχέτισης κατά ζεύγη με το χαρακτηριστικό που προκύπτει.
Στο τρίτο βήμα, μια νέα μεταβλητή εισάγεται στο μοντέλο, η οποία έχει τη μεγαλύτερη απόλυτη τιμή του συντελεστή μερικής συσχέτισης με την εξαρτημένη μεταβλητή με σταθερή επίδραση της μεταβλητής που εισήχθη προηγουμένως.
Όταν ένας πρόσθετος παράγοντας εισάγεται στο μοντέλο, ο συντελεστής προσδιορισμού θα πρέπει να αυξάνεται και η υπολειπόμενη διακύμανση πρέπει να μειωθεί. Εάν αυτό δεν συμβεί, δηλαδή ο συντελεστής πολλαπλού προσδιορισμού αυξηθεί ελαφρώς, τότε η εισαγωγή ενός νέου παράγοντα θεωρείται ακατάλληλη.
Παράδειγμα Νο. 1. Για 20 επιχειρήσεις στην περιοχή, η εξάρτηση της παραγωγής ανά εργαζόμενο y (χιλιάδες ρούβλια) από το μερίδιο των εργαζομένων υψηλής εξειδίκευσης στο συνολικό αριθμό των εργαζομένων x1 (% της αξίας των περιουσιακών στοιχείων στο τέλος του έτους) και από την έναρξη λειτουργίας των νέων παγίων x2 (%) μελετάται.
| Υ | Χ1 | X2 |
| 6 | 10 | 3,5 |
| 6 | 12 | 3,6 |
| 7 | 15 | 3,9 |
| 7 | 17 | 4,1 |
| 7 | 18 | 4,2 |
| 8 | 19 | 4,5 |
| 8 | 19 | 5,3 |
| 9 | 20 | 5,3 |
| 9 | 20 | 5,6 |
| 10 | 21 | 6 |
| 10 | 21 | 6,3 |
| 11 | 22 | 6,4 |
| 11 | 23 | 7 |
| 12 | 25 | 7,5 |
| 12 | 28 | 7,9 |
| 13 | 30 | 8,2 |
| 13 | 31 | 8,4 |
| 14 | 31 | 8,6 |
| 14 | 35 | 9,5 |
| 15 | 36 | 10 |
Απαιτείται:
- Κατασκευάστε ένα πεδίο συσχέτισης μεταξύ της παραγωγής ανά εργαζόμενο και του μεριδίου των εργαζομένων υψηλής εξειδίκευσης. Υποβάλετε μια υπόθεση σχετικά με την εγγύτητα και το είδος της σχέσης μεταξύ των δεικτών X1 και Y.
- Αξιολογήστε την εγγύτητα της γραμμικής σχέσης μεταξύ της παραγωγής ανά εργαζόμενο και του ποσοστού των εργαζομένων υψηλής εξειδίκευσης με αξιοπιστία 0,9.
- Υπολογίστε τους συντελεστές της εξίσωσης γραμμικής παλινδρόμησης για την εξάρτηση της παραγωγής ανά εργαζόμενο από το μερίδιο των εργαζομένων υψηλής εξειδίκευσης.
- Ελέγξτε τη στατιστική σημασία των παραμέτρων της εξίσωσης παλινδρόμησης με αξιοπιστία 0,9 και κατασκευάστε διαστήματα εμπιστοσύνης για αυτές.
- Να υπολογίσετε τον συντελεστή προσδιορισμού. Χρησιμοποιώντας το Fisher's F test, αξιολογήστε τη στατιστική σημασία της εξίσωσης παλινδρόμησης με αξιοπιστία 0,9.
- Δώστε μια πρόβλεψη σημείου και διαστήματος με αξιοπιστία 0,9 απόδοσης ανά εργαζόμενο για μια επιχείρηση όπου το 24% των εργαζομένων είναι υψηλά προσόντα.
- Να υπολογίσετε τους συντελεστές της γραμμικής εξίσωσης πολλαπλής παλινδρόμησης και να εξηγήσετε την οικονομική σημασία των παραμέτρων της.
- Αναλύστε τη στατιστική σημασία συντελεστών πολλαπλών εξισώσεων με αξιοπιστία 0,9 και κατασκευάστε για αυτούς διαστήματα εμπιστοσύνης.
- Βρείτε τους συντελεστές ζεύγους και μερικής συσχέτισης. Ανάλυσέ τα.
- Βρείτε τον προσαρμοσμένο συντελεστή πολλαπλού προσδιορισμού. Συγκρίνετε τον με τον απροσάρμοστο (συνολικό) συντελεστή προσδιορισμού.
- Χρησιμοποιώντας το Fisher's F test, αξιολογήστε την επάρκεια της εξίσωσης παλινδρόμησης με αξιοπιστία 0,9.
- Δώστε μια πρόβλεψη σημείου και διαστήματος με αξιοπιστία 0,9 απόδοσης ανά εργαζόμενο για μια επιχείρηση στην οποία το 24% των εργαζομένων είναι υψηλά προσόντα και η θέση σε λειτουργία νέων παγίων στοιχείων ενεργητικού είναι 5%.
- Ελέγξτε την κατασκευασμένη εξίσωση για την παρουσία πολυσυγγραμμικότητας χρησιμοποιώντας: Τεστ μαθητή; τεστ χ2. Συγκρίνετε τα αποτελέσματα.
ΛύσηΤο κάνουμε χρησιμοποιώντας μια αριθμομηχανή. Ακολουθεί η πρόοδος της λύσης στην ενότητα 13.
Πίνακας συντελεστών συσχέτισης ζεύγους R:
| - | y | x 1 | x 2 |
| y | 1 | 0.97 | 0.991 |
| x 1 | 0.97 | 1 | 0.977 |
| x 2 | 0.991 | 0.977 | 1 |
Παρουσία πολυσυγγραμμικότητας, η ορίζουσα του πίνακα συσχέτισης είναι κοντά στο μηδέν. Για το παράδειγμά μας: det = 0,00081158, που δείχνει την παρουσία ισχυρής πολυσυγγραμμικότητας.
Για την επιλογή των πιο σημαντικών παραγόντων x i, λαμβάνονται υπόψη οι ακόλουθες συνθήκες:
- η σύνδεση μεταξύ του προκύπτοντος χαρακτηριστικού και του παράγοντα 1 πρέπει να είναι υψηλότερη από τη σύνδεση διασυντελεστών.
- η σχέση μεταξύ των παραγόντων δεν πρέπει να είναι μεγαλύτερη από 0,7. Εάν ο πίνακας έχει συντελεστή συσχέτισης διαπαραγόντων r xjxi > 0,7, τότε υπάρχει πολυσυγγραμμικότητα σε αυτό το μοντέλο πολλαπλής παλινδρόμησης.
- με υψηλή διασυνδετική σύνδεση ενός χαρακτηριστικού, επιλέγονται παράγοντες με χαμηλότερο συντελεστή συσχέτισης μεταξύ τους.
Στην περίπτωσή μας, το r x 1 x 2 έχει |r|>0,7, το οποίο υποδεικνύει την πολυσυγγραμμικότητα των παραγόντων και την ανάγκη αποκλεισμού ενός από αυτούς από περαιτέρω ανάλυση.
Η ανάλυση της πρώτης σειράς αυτού του πίνακα επιτρέπει την επιλογή των χαρακτηριστικών παραγόντων που μπορούν να συμπεριληφθούν στο μοντέλο πολλαπλής συσχέτισης. Χαρακτηριστικά παραγόντων για τους οποίους |r yxi | 0.3 - πρακτικά δεν υπάρχει σύνδεση. 0,3 ≤ |r| ≤ 0,7 - μέση σύνδεση. 0,7 ≤ |r| ≤ 0,9 – ισχυρή σύνδεση. |r| > 0,9 – η σύνδεση είναι πολύ δυνατή.
Ας ελέγξουμε τη σημασία των λαμβανόμενων συντελεστών συσχέτισης κατά ζεύγη χρησιμοποιώντας το Student's t-test. Οι συντελεστές για τους οποίους οι τιμές του συντελεστή t-statistics είναι μεγαλύτερες από την κρίσιμη τιμή που βρέθηκε θεωρούνται σημαντικοί.
Ας υπολογίσουμε τις παρατηρούμενες τιμές των στατιστικών t για το r yx 1 χρησιμοποιώντας τον τύπο:
όπου m = 1 είναι ο αριθμός των παραγόντων στην εξίσωση παλινδρόμησης.
Χρησιμοποιώντας τον πίνακα του Μαθητή βρίσκουμε τον Πίνακα
t crit (n-m-1;α/2) = (18;0.025) = 2.101
Εφόσον t obs > t crit, απορρίπτουμε την υπόθεση ότι ο συντελεστής συσχέτισης είναι ίσος με 0. Με άλλα λόγια, ο συντελεστής συσχέτισης είναι στατιστικά σημαντικός
Ας υπολογίσουμε τις παρατηρούμενες τιμές των στατιστικών t για το r yx 2 χρησιμοποιώντας τον τύπο:
Εφόσον t obs > t crit, απορρίπτουμε την υπόθεση ότι ο συντελεστής συσχέτισης είναι ίσος με 0. Με άλλα λόγια, ο συντελεστής συσχέτισης είναι στατιστικά σημαντικός
Έτσι, η σχέση μεταξύ (y και x x 1), (y και x x 2) είναι σημαντική.
Ο παράγοντας x2 (r = 0,99) έχει τη μεγαλύτερη επιρροή στο ενεργό χαρακτηριστικό, πράγμα που σημαίνει ότι κατά την κατασκευή του μοντέλου, θα είναι ο πρώτος που θα εισέλθει στην εξίσωση παλινδρόμησης.
Δοκιμή και εξάλειψη της πολυσυγγραμμικότητας.
Ο πιο ολοκληρωμένος αλγόριθμος για τη μελέτη της πολυσυγγραμμικότητας είναι ο αλγόριθμος Farrar-Glober. Δοκιμάζει τρεις τύπους πολυσυγγραμμικότητας:
1. Όλοι οι παράγοντες (χ 2 - χι-τετράγωνο).
2. Κάθε παράγοντας με τους άλλους (κριτήριο Fisher’s).
3. Κάθε ζεύγος παραγόντων (Student's t-test).
Ας ελέγξουμε τις μεταβλητές για πολυσυγγραμμικότητα χρησιμοποιώντας τη μέθοδο Farrar-Glouber χρησιμοποιώντας τον πρώτο τύπο στατιστικών κριτηρίων (τεστ χι-τετράγωνο).
Ο τύπος για τον υπολογισμό της τιμής της στατιστικής Farrar-Glouber είναι:
χ 2 = -ln(det[R])
όπου m = 2 είναι ο αριθμός των παραγόντων, n = 20 είναι ο αριθμός των παρατηρήσεων, det[R] είναι ο προσδιοριστής του πίνακα των ζευγαρωμένων συντελεστών συσχέτισης R.
Το συγκρίνουμε με την τιμή του πίνακα σε v = m/2(m-1) = 1 βαθμός ελευθερίας και επίπεδο σημασίας α. Αν χ 2 > χ πίνακας 2, τότε υπάρχει πολυσυγγραμμικότητα στο διάνυσμα των παραγόντων.
χ πίνακας 2 (1;0,05) = 3,84146
Ας ελέγξουμε τις μεταβλητές για πολυσυγγραμμικότητα χρησιμοποιώντας τον δεύτερο τύπο στατιστικών κριτηρίων (δοκιμή Fisher).
Ας ελέγξουμε τις μεταβλητές για πολυσυγγραμμικότητα χρησιμοποιώντας τον τρίτο τύπο στατιστικών κριτηρίων (Student's test). Για να γίνει αυτό, θα βρούμε συντελεστές μερικής συσχέτισης.
Συντελεστές μερικής συσχέτισης.
Ο συντελεστής μερικής συσχέτισης διαφέρει από τον απλό γραμμικό συντελεστή συσχέτισης ζεύγους στο ότι μετρά τη συσχέτιση κατά ζεύγη των αντίστοιχων χαρακτηριστικών (y και x i), υπό την προϋπόθεση ότι εξαλείφεται η επίδραση άλλων παραγόντων (x j) σε αυτά.
Με βάση τους επιμέρους συντελεστές, μπορούμε να συμπεράνουμε ότι η συμπερίληψη μεταβλητών στο μοντέλο παλινδρόμησης είναι δικαιολογημένη. Εάν η τιμή του συντελεστή είναι μικρή ή ασήμαντη, αυτό σημαίνει ότι η σχέση μεταξύ αυτού του παράγοντα και της μεταβλητής αποτελέσματος είναι είτε πολύ ασθενής είτε απουσιάζει εντελώς, επομένως ο παράγοντας μπορεί να εξαιρεθεί από το μοντέλο. 
Η πυκνότητα επικοινωνίας είναι χαμηλή.
Ας προσδιορίσουμε τη σημασία του συντελεστή συσχέτισης r yx 1 / x 2. Όπως μπορούμε να δούμε, η σύνδεση μεταξύ y και x 2, με την προϋπόθεση ότι το x 1 περιλαμβάνεται στο μοντέλο, έχει μειωθεί. Από αυτό μπορούμε να συμπεράνουμε ότι η εισαγωγή x 2 στην εξίσωση παλινδρόμησης παραμένει ακατάλληλη.
Μπορούμε να συμπεράνουμε ότι κατά την κατασκευή μιας εξίσωσης παλινδρόμησης θα πρέπει να επιλεγούν οι παράγοντες x 1, x 2.
Παράδειγμα Νο. 2. Για 30 παρατηρήσεις, ο πίνακας των ζευγαρωμένων συντελεστών συσχέτισης αποδείχθηκε ότι είναι ο ακόλουθος:
| y | x 1 | x 2 | x 3 | |
| y | 1,0 | |||
| x 1 | 0,30 | 1,0 | ||
| x 2 | 0,60 | 0,10 | 1,0 | |
| x 3 | 0,40 | 0,15 | 0,80 | 1,0 |
11. Το πρόβλημα της πολυσυγγραμμικότητας. Συνέπειες παρουσίας και διάγνωσης πολυσυγγραμμικότητας.
Εάν είναι διαθέσιμο γραμμική σχέση εξωγενών μεταβλητών , για παράδειγμα, τότε οι εκτιμήσεις OLS δεν θα υπάρχουν, γιατί δεν υπάρχει αντίστροφος πίνακας που θα είναι ενικός. Αυτή η κατάσταση στην οικονομετρία ονομάζεται πρόβλημα πολυσυγγραμμικότητα.
Λόγοι πολυσυγγραμμικότητας:
λανθασμένες προδιαγραφές μοντέλου
απρόσεκτη συλλογή στατιστικών στοιχείων (χρήση επαναλαμβανόμενων παρατηρήσεων).
Διακρίνω σαφής Και σιωπηρή πολυσυγγραμμικότητα.
Σαφής - γνωστό ακριβής γραμμική σχέσημεταξύ των μεταβλητών του μοντέλου.
Για παράδειγμα, εάν το μοντέλο της επενδυτικής διαδικασίας περιλαμβάνει ονομαστικά και πραγματικά επιτόκια, π.χ.
όπου είναι γνωστή η σχέση μεταξύ πραγματικών και ονομαστικών επιτοκίων και του ρυθμού πληθωρισμού
τότε υπάρχει εμφανής πολυσυγγραμμικότητα.
Σιωπηρή συμβαίνει όταν υπάρχει στοχαστική (αβέβαιη, τυχαία) γραμμική εξάρτηση μεταξύ εξωγενών μεταβλητών.
επικρατεί άρρητη, η παρουσία της χαρακτηρίζεται από6 σημάδια :
1. Εκτιμήσεις OLS των παραμέτρων του μοντέλου χάνουν τις αναξιοποίητες ιδιότητές τους .
2. Διακύμανση των εκτιμήσεων OLS αυξάνει:
Λόγω του ότι, ο συντελεστής συσχέτισης, λοιπόν, που συνεπάγεται
3. Υπάρχει μείωση t- στατιστικές που είναι δείκτες της σημασίας των παραμέτρων:
4. Ο συντελεστής προσδιορισμού δεν αποτελεί πλέον μέτρο της επάρκειας του μοντέλου, αφού χαμηλές τιμές t-οι στατιστικολόγοι οδηγούν σε δυσπιστία για το επιλεγμένο μοντέλο εξάρτησης.
5. Οι εκτιμήσεις παραμέτρων για μη συγγραμμικές εξωγενείς μεταβλητές γίνονται πολύ ευαίσθητες στις αλλαγές στα δεδομένα.
6. Οι εκτιμήσεις παραμέτρων για μη συγγραμμικές εξωγενείς μεταβλητές γίνονται ασήμαντες.
Μέθοδοι για τη διάγνωση της πολυσυγγραμμικότητας:
Βήμα 1.Στο (αρχικό) μοντέλο πολλαπλής γραμμικής παλινδρόμησης, θα περάσουμε από όλα τα υπομοντέλα στα οποία οποιαδήποτε εξωγενής μεταβλητή γίνεται ενδογενής, δηλ.
Βήμα 2.Υπολογίζουμε τους συντελεστές προσδιορισμού όλων των μοντέλων που προκύπτουν, βάσει των οποίων υπολογίζουμε τους λεγόμενους παράγοντες πληθωρισμού:
Αν , τότε καταλήγουν στο συμπέρασμα ότι υπάρχει πολυσυγγραμμικότητα.
α) δεν αλλάζουν καμία δομή στο μοντέλο, αλλά, χρησιμοποιώντας ελάχιστα τετράγωνα υπολογιστή, αναλύουν την παρουσία του προβλήματος της πολυσυγγραμμικότητας χρησιμοποιώντας οπτικές μεθόδους.
β) βελτιώστε τις προδιαγραφές του μοντέλου εξαλείφοντας συγγραμμικές εξωγενείς μεταβλητές από το αρχικό μοντέλο.
γ) αύξηση του όγκου των στατιστικών στοιχείων.
δ) συνδυάζουν συγγραμμικές μεταβλητές και περιλαμβάνουν μια κοινή εξωγενή μεταβλητή στο μοντέλο.
12. Μέθοδοι για την εξάλειψη της πολυσυγγραμμικότητας. Μέθοδος κύριου συστατικού. Παλινδρόμηση κορυφογραμμής.
Εάν το κύριο καθήκον του μοντέλου είναι να προβλέψει τις μελλοντικές τιμές της εξαρτημένης μεταβλητής, τότε με έναν αρκετά μεγάλο συντελεστή προσδιορισμού R2 (≥ 0,9), η παρουσία πολυσυγγραμμικότητας συχνά δεν επηρεάζει τις προγνωστικές ιδιότητες του μοντέλου.
Εάν ο σκοπός της μελέτης είναι να προσδιορίσει τον βαθμό επιρροής καθεμιάς από τις επεξηγηματικές μεταβλητές στην εξαρτημένη μεταβλητή, τότε η παρουσία πολυσυγγραμμικότητας θα παραμορφώσει τις πραγματικές σχέσεις μεταξύ των μεταβλητών. Σε αυτήν την κατάσταση, η πολυσυγγραμμικότητα φαίνεται να είναι ένα σοβαρό πρόβλημα.
Σημειώστε ότι δεν υπάρχει ενιαία μέθοδος για την εξάλειψη της πολυσυγγραμμικότητας που να είναι κατάλληλη σε κάθε περίπτωση. Αυτό οφείλεται στο γεγονός ότι οι αιτίες και οι συνέπειες της πολυσυγγραμμικότητας είναι διφορούμενες και εξαρτώνται σε μεγάλο βαθμό από τα αποτελέσματα του δείγματος.
ΜΕΘΟΔΟΙ:
Εξαίρεση μεταβλητών από το μοντέλο
Για παράδειγμα, κατά τη μελέτη της ζήτησης για ένα συγκεκριμένο αγαθό, η τιμή αυτού του αγαθού και οι τιμές των υποκατάστατων αυτού του αγαθού, που συχνά συσχετίζονται μεταξύ τους, μπορούν να χρησιμοποιηθούν ως επεξηγηματικές μεταβλητές. Εξαιρώντας τις τιμές των υποκατάστατων από το μοντέλο, είναι πιθανό να εισάγουμε ένα σφάλμα προδιαγραφών. Ως αποτέλεσμα, είναι δυνατόν να ληφθούν μεροληπτικές εκτιμήσεις και να εξαχθούν αβάσιμα συμπεράσματα. Στα εφαρμοσμένα οικονομετρικά μοντέλα, είναι επιθυμητό να μην αποκλείονται επεξηγηματικές μεταβλητές έως ότου η συγγραμμικότητα γίνει σοβαρό πρόβλημα.
Λήψη περισσότερων δεδομένων ή νέου δείγματος
Μερικές φορές αρκεί να αυξηθεί το μέγεθος του δείγματος. Για παράδειγμα, εάν χρησιμοποιείτε ετήσια δεδομένα, μπορείτε να μεταβείτε σε τριμηνιαία δεδομένα. Η αύξηση του όγκου των δεδομένων μειώνει τη διακύμανση των συντελεστών παλινδρόμησης και ως εκ τούτου αυξάνει τη στατιστική τους σημασία. Ωστόσο, η απόκτηση ενός νέου δείγματος ή η επέκταση ενός παλιού δεν είναι πάντα δυνατή ή συνδέεται με σοβαρό κόστος. Επιπλέον, αυτή η προσέγγιση μπορεί να ενισχύσει την αυτοσυσχέτιση. Αυτά τα προβλήματα περιορίζουν τη δυνατότητα χρήσης αυτή τη μέθοδο.
Αλλαγή προδιαγραφών μοντέλου
Σε ορισμένες περιπτώσεις, το πρόβλημα της πολυσυγγραμμικότητας μπορεί να λυθεί αλλάζοντας τις προδιαγραφές του μοντέλου: είτε αλλάζοντας τη μορφή του μοντέλου είτε προσθέτοντας επεξηγηματικές μεταβλητές που δεν λαμβάνονται υπόψη στο αρχικό μοντέλο, αλλά επηρεάζουν σημαντικά την εξαρτημένη μεταβλητή .
Χρήση εκ των προτέρων πληροφοριών σχετικά με ορισμένες παραμέτρους
Μερικές φορές, κατά τη δημιουργία ενός μοντέλου πολλαπλής παλινδρόμησης, μπορείτε να χρησιμοποιήσετε ορισμένες προκαταρκτικές πληροφορίες, ειδικότερα, τις γνωστές τιμές ορισμένων συντελεστών παλινδρόμησης. Είναι πιθανό ότι οι τιμές των συντελεστών που λήφθηκαν για ορισμένα προκαταρκτικά (συνήθως απλούστερα) μοντέλα ή για ένα παρόμοιο μοντέλο που βασίζεται σε ένα προηγουμένως ληφθέν δείγμα, μπορούν να χρησιμοποιηθούν για αυτό που αναπτύσσεται σε αυτή τη στιγμήμοντέλα.
Για να το καταλάβουμε, δίνουμε το ακόλουθο παράδειγμα. Η παλινδρόμηση χτίζεται. Ας υποθέσουμε ότι οι μεταβλητές X1 και X2 συσχετίζονται. Για το προηγουμένως κατασκευασμένο μοντέλο ζευγαρωμένης παλινδρόμησης Y = γ0 + γ1X1+υ, προσδιορίστηκε ένας στατιστικά σημαντικός συντελεστής γ1 (για βεβαιότητα, έστω γ1 = 0,8), συνδέοντας το Υ με το Χ1. Εάν υπάρχει λόγος να πιστεύουμε ότι η σχέση μεταξύ Y και X1 θα παραμείνει αμετάβλητη, τότε μπορούμε να ορίσουμε γ1 = β1 = 0,8. Επειτα:
Υ = β0 + 0,8Χ1 + β2Χ2 + ε. ⇒ Y – 0,8X1 = β0 + β2X2 + ε.
Η εξίσωση είναι στην πραγματικότητα μια εξίσωση παλινδρόμησης κατά ζεύγη για την οποία δεν υπάρχει το πρόβλημα της πολυσυγγραμμικότητας.
Οι περιορισμοί της χρήσης αυτής της μεθόδου οφείλονται:
Η απόκτηση προκαταρκτικών πληροφοριών είναι συχνά δύσκολη,
την πιθανότητα ότι ο επιμερισμένος συντελεστής παλινδρόμησης θα είναι ο ίδιος για διάφορα μοντέλα, όχι ψηλά.
Μετατροπή μεταβλητών
Σε ορισμένες περιπτώσεις, το πρόβλημα της πολυσυγγραμμικότητας μπορεί να ελαχιστοποιηθεί ή ακόμη και να εξαλειφθεί με μετασχηματισμό μεταβλητών.
Για παράδειγμα, έστω η εμπειρική εξίσωση παλινδρόμησης Y = b0 + b1X1 + b2X2
όπου οι X1 και X2 είναι συσχετισμένες μεταβλητές. Σε αυτήν την περίπτωση, μπορείτε να προσπαθήσετε να προσδιορίσετε εξαρτήσεις παλινδρόμησης σχετικών τιμών. Είναι πιθανό ότι σε παρόμοια μοντέλα, το πρόβλημα της πολυσυγγραμμικότητας δεν θα υπάρχει.
Μέθοδος κύριου συστατικού είναι μία από τις κύριες μεθόδους για την εξάλειψη μεταβλητών από ένα μοντέλο πολλαπλής παλινδρόμησης.
Αυτή η μέθοδος χρησιμοποιείται για την εξάλειψη ή τη μείωση της πολυσυγγραμμικότητας των μεταβλητών παραγόντων σε ένα μοντέλο παλινδρόμησης. Η ουσία της μεθόδου : μείωση του αριθμού των μεταβλητών παραγόντων στους παράγοντες που επηρεάζουν σημαντικά . Αυτό επιτυγχάνεται μετατρέποντας γραμμικά όλες τις παραγοντικές μεταβλητές xi (i=0,...,n) σε νέες μεταβλητές που ονομάζονται κύρια συστατικά, δηλ. γίνεται μια μετάβαση από τον πίνακα των μεταβλητών παραγόντων X στον πίνακα των κύριων συνιστωσών F. Στην περίπτωση αυτή, τίθεται η απαίτηση ότι η επιλογή της πρώτης κύριας συνιστώσας αντιστοιχεί στο μέγιστο της συνολικής διακύμανσης όλων των μεταβλητών παραγόντων xi (i=0,...,n), η δεύτερη συνιστώσα αντιστοιχεί στο μέγιστο η υπόλοιπη διακύμανση, αφού εξαλειφθεί η επίδραση της πρώτης κύριας συνιστώσας, κ.λπ.
Εάν καμία από τις μεταβλητές παραγόντων που περιλαμβάνονται στο μοντέλο πολλαπλής παλινδρόμησης δεν μπορεί να αποκλειστεί, τότε χρησιμοποιείται μία από τις κύριες προκατειλημμένες μεθόδους για την εκτίμηση των συντελεστών του μοντέλου παλινδρόμησης - παλινδρόμηση ή κορυφογραμμή. Όταν χρησιμοποιείται η μέθοδος παλινδρόμησης κορυφογραμμής ένας μικρός αριθμός προστίθεται σε όλα τα διαγώνια στοιχεία του πίνακα (XTX) τ: 10-6 ‹ τ ‹ 0.1. Η εκτίμηση άγνωστων παραμέτρων ενός μοντέλου πολλαπλής παλινδρόμησης πραγματοποιείται χρησιμοποιώντας τον τύπο:
όπου ln είναι ο πίνακας ταυτότητας.
Βασικές διατάξεις
Εάν οι παλινδρομητές στο μοντέλο συνδέονται με μια αυστηρή λειτουργική εξάρτηση, τότε πλήρης (τέλεια) πολυσυγγραμμικότητα. Αυτός ο τύποςΗ πολυσυγγραμμικότητα μπορεί να προκύψει, για παράδειγμα, σε ένα πρόβλημα γραμμικής παλινδρόμησης που λύνεται με τη μέθοδο των ελαχίστων τετραγώνων, εάν η ορίζουσα του πίνακα είναι ίση με μηδέν. Η πλήρης πολυσυγγραμμικότητα δεν μας επιτρέπει να εκτιμήσουμε ξεκάθαρα τις παραμέτρους του αρχικού μοντέλου και να διαχωρίσουμε τις συνεισφορές των παλινδρομητών στη μεταβλητή εξόδου με βάση τα αποτελέσματα των παρατηρήσεων.
Σε προβλήματα με πραγματικά δεδομένα, η περίπτωση πλήρους πολυσυγγραμμικότητας είναι εξαιρετικά σπάνια. Αντίθετα, στον τομέα εφαρμογών έχουμε συχνά να αντιμετωπίσουμε μερική πολυσυγγραμμικότητα, το οποίο χαρακτηρίζεται από συντελεστές συσχέτισης ανά ζεύγη μεταξύ των παλινδρομικών. Στην περίπτωση μερικής πολυσυγγραμμικότητας, ο πίνακας θα έχει πλήρη κατάταξη, αλλά ο προσδιοριστής του θα είναι κοντά στο μηδέν. Σε αυτήν την περίπτωση, είναι επίσημα δυνατό να ληφθούν εκτιμήσεις των παραμέτρων του μοντέλου και των δεικτών ακρίβειάς τους, αλλά όλες θα είναι ασταθείς.
Μεταξύ των συνεπειών της μερικής πολυσυγγραμμικότητας είναι οι ακόλουθες:
- αύξηση των αποκλίσεων των εκτιμήσεων παραμέτρων
- μείωση των τιμών t-statistic για παραμέτρους, γεγονός που οδηγεί σε εσφαλμένο συμπέρασμα σχετικά με τη στατιστική τους σημασία
- λήψη ασταθών εκτιμήσεων των παραμέτρων του μοντέλου και των αποκλίσεων τους
- τη δυνατότητα λήψης εσφαλμένου πρόσημου από θεωρητική άποψη της εκτίμησης παραμέτρων
Δεν υπάρχουν ακριβή ποσοτικά κριτήρια για την ανίχνευση μερικής πολυσυγγραμμικότητας. Τα ακόλουθα χρησιμοποιούνται συχνότερα ως σημάδια της παρουσίας του:
Μέθοδοι για την εξάλειψη της πολυσυγγραμμικότητας
Υπάρχουν δύο κύριες προσεγγίσεις για την επίλυση αυτού του προβλήματος.
Ανεξάρτητα από το πώς γίνεται η επιλογή των παραγόντων, η μείωση του αριθμού τους οδηγεί σε βελτίωση των συνθηκών του πίνακα και, κατά συνέπεια, σε αύξηση της ποιότητας των εκτιμήσεων των παραμέτρων του μοντέλου.
Εκτός από τις αναφερόμενες μεθόδους, υπάρχει μια άλλη, απλούστερη που δίνει αρκετά καλά αποτελέσματα - αυτό είναι μέθοδος προ-κέντρωσης. Η ουσία της μεθόδου είναι ότι πριν από την εύρεση των παραμέτρων μαθηματικό μοντέλοΤα δεδομένα προέλευσης είναι κεντραρισμένα: ο μέσος όρος της σειράς αφαιρείται από κάθε τιμή στη σειρά δεδομένων: . Αυτή η διαδικασία μας επιτρέπει να διαχωρίσουμε τα υπερεπίπεδα των συνθηκών LSM έτσι ώστε οι γωνίες μεταξύ τους να είναι κάθετες. Ως αποτέλεσμα, οι εκτιμήσεις του μοντέλου γίνονται σταθερές (Κατασκευή μοντέλων πολλαπλών παραγόντων υπό συνθήκες πολυσυγγραμμικότητας).
Ομοσπονδιακή Υπηρεσία Εκπαίδευσης και Επιστήμης της Ρωσικής Ομοσπονδίας
Κρατικό Τεχνολογικό Πανεπιστήμιο Kostroma.
Τμήμα Ανωτάτων Μαθηματικών
στην οικονομετρία με θέμα:
Πολυσυγγραμμικότητα
Εκτελέστηκε
φοιτητής 1ου έτους
σχολή αλληλογραφίας
ύπνος "Λογιστική"
ανάλυση και έλεγχος».
έλεγξα
Katerzhina S.F.
Kostroma 2008
Πολυσυγγραμμικότητα
Η πολυσυγγραμμικότητα αναφέρεται στην υψηλή αμοιβαία συσχέτιση των επεξηγηματικών μεταβλητών. Η πολυσυγγραμμικότητα μπορεί να εκδηλωθεί με λειτουργικές (ρητές) και στοχαστικές (κρυφές) μορφές.
Στη λειτουργική μορφή της πολυσυγγραμμικότητας σύμφωνα με τουλάχιστονμία από τις ζευγαρωμένες σχέσεις μεταξύ των επεξηγηματικών μεταβλητών είναι μια γραμμική συναρτησιακή σχέση. Στην περίπτωση αυτή, ο πίνακας X`X είναι ειδικός, αφού περιέχει γραμμικά εξαρτώμενα διανύσματα στηλών και η ορίζοντή του είναι ίση με μηδέν, δηλ. παραβιάζεται η προϋπόθεση της ανάλυσης παλινδρόμησης, αυτό οδηγεί στην αδυναμία επίλυσης του αντίστοιχου συστήματος κανονικών εξισώσεων και λήψης εκτιμήσεων των παραμέτρων του μοντέλου παλινδρόμησης.
Ωστόσο, στην οικονομική έρευνα, η πολυσυγγραμμικότητα εκδηλώνεται συχνότερα με στοχαστική μορφή, όταν υπάρχει στενή συσχέτιση μεταξύ τουλάχιστον δύο επεξηγηματικών μεταβλητών. Ο πίνακας X`X σε αυτήν την περίπτωση δεν είναι μοναδικός, αλλά ο προσδιοριστής του είναι πολύ μικρός.
Ταυτόχρονα, το διάνυσμα των εκτιμήσεων b και ο πίνακας συνδιακύμανσής του ∑ b είναι ανάλογα αντίστροφη μήτρα(X`X) -1 , που σημαίνει ότι τα στοιχεία τους είναι αντιστρόφως ανάλογα με την τιμή της ορίζουσας |X`X|. Ως αποτέλεσμα, λαμβάνονται σημαντικές τυπικές αποκλίσεις (τυπικά σφάλματα) των συντελεστών παλινδρόμησης b 0 , b 1 , ..., b p και η αξιολόγηση της σημασίας τους χρησιμοποιώντας το τεστ t δεν έχει νόημα, αν και γενικά το μοντέλο παλινδρόμησης μπορεί να μετατραπεί είναι σημαντικό χρησιμοποιώντας το F-test.
Οι εκτιμήσεις γίνονται πολύ ευαίσθητες σε μικρές αλλαγές στις παρατηρήσεις και στο μέγεθος του δείγματος. Οι εξισώσεις παλινδρόμησης σε αυτή την περίπτωση, κατά κανόνα, δεν έχουν πραγματικό νόημα, καθώς ορισμένοι από τους συντελεστές της μπορεί να έχουν λανθασμένα σημάδια από την άποψη της οικονομικής θεωρίας και αδικαιολόγητα μεγάλες τιμές.
Δεν υπάρχουν ακριβή ποσοτικά κριτήρια για τον προσδιορισμό της παρουσίας ή της απουσίας πολυσυγγραμμικότητας. Ωστόσο, υπάρχουν ορισμένες ευρετικές προσεγγίσεις για τον εντοπισμό του.
Μια τέτοια προσέγγιση είναι η ανάλυση του πίνακα συσχέτισης μεταξύ των επεξηγηματικών μεταβλητών X 1 , X 2 , ..., X p και ο εντοπισμός ζευγών μεταβλητών που έχουν υψηλές μεταβλητές συσχετίσεις (συνήθως μεγαλύτερες από 0,8). Εάν υπάρχουν τέτοιες μεταβλητές, λέγεται ότι έχουν πολυσυγγραμμικότητα. Είναι επίσης χρήσιμο να βρεθούν πολλαπλοί συντελεστές προσδιορισμού μεταξύ μιας από τις επεξηγηματικές μεταβλητές και κάποιας ομάδας από αυτές. Η παρουσία ενός υψηλού πολλαπλού συντελεστή προσδιορισμού (συνήθως μεγαλύτερος από 0,6) υποδηλώνει πολυσυγγραμμικότητα.
Μια άλλη προσέγγιση είναι η εξέταση του πίνακα X`X. Εάν η ορίζουσα του πίνακα X`X ή η ελάχιστη ιδιοτιμή του λ min είναι κοντά στο μηδέν (για παράδειγμα, ίδιας τάξης με συσσώρευση σφαλμάτων υπολογισμού), τότε αυτό δείχνει την παρουσία πολυσυγγραμμικότητας. Το ίδιο μπορεί να υποδεικνύεται από μια σημαντική απόκλιση της μέγιστης ιδιοτιμής λ max του πίνακα X`X από την ελάχιστη ιδιοτιμή του λ min .
Ένας αριθμός μεθόδων χρησιμοποιείται για την εξάλειψη ή τη μείωση της πολυσυγγραμμικότητας. Η απλούστερη από αυτές (αλλά όχι πάντα δυνατή) είναι αυτή από δύο επεξηγηματικές μεταβλητές που έχουν υψηλό συντελεστή συσχέτισης (πάνω από 0,8), μια μεταβλητή αποκλείεται από την εξέταση. Ταυτόχρονα, ποια μεταβλητή να αφήσει και ποια να αφαιρεθεί από την ανάλυση αποφασίζεται πρωτίστως με βάση οικονομικούς λόγους. Εάν, από οικονομική άποψη, δεν μπορεί να δοθεί προτίμηση σε καμία από τις μεταβλητές, τότε διατηρείται η μία από τις δύο μεταβλητές που έχει μεγαλύτερο συντελεστή συσχέτισης με την εξαρτημένη μεταβλητή.
Μια άλλη μέθοδος για την εξάλειψη ή τη μείωση της πολυσυγγραμμικότητας είναι η μετάβαση από τις αμερόληπτες εκτιμήσεις που καθορίζονται από τη μέθοδο των ελαχίστων τετραγώνων σε μεροληπτικές εκτιμήσεις, οι οποίες, ωστόσο, έχουν μικρότερη διασπορά σε σχέση με την εκτιμώμενη παράμετρο, δηλ. η μικρότερη μαθηματική προσδοκία της τετραγωνικής απόκλισης της εκτίμησης b j από την παράμετρο β j ή M (b j - β j) 2.
Οι εκτιμήσεις που καθορίζονται από ένα διάνυσμα έχουν, σύμφωνα με το θεώρημα Gauss-Markov, τις ελάχιστες διακυμάνσεις στην κατηγορία όλων των γραμμικών αμερόληπτων εκτιμητών, αλλά παρουσία πολυσυγγραμμικότητας, αυτές οι διακυμάνσεις μπορεί να είναι πολύ μεγάλες και στρέφοντας στους αντίστοιχους μεροληπτικούς εκτιμητές μπορεί βελτιώσει την ακρίβεια της εκτίμησης των παραμέτρων παλινδρόμησης. Το σχήμα δείχνει την περίπτωση όπου η μεροληπτική εκτίμηση β j ^, η δειγματοληπτική κατανομή της οποίας δίνεται από την πυκνότητα φ (β j ^).
Πράγματι, έστω το μέγιστο επιτρεπόμενο διάστημα εμπιστοσύνης για την εκτιμώμενη παράμετρο β j (β j -Δ, β j +Δ). Τότε η πιθανότητα εμπιστοσύνης ή η αξιοπιστία της εκτίμησης, που προσδιορίζεται από την περιοχή κάτω από την καμπύλη κατανομής στο διάστημα (β j -Δ, β j +Δ), όπως είναι εύκολο να φανεί από το σχήμα, θα είναι σε αυτή την περίπτωση μεγαλύτερη για την εκτίμηση β j σε σύγκριση με το b j (στο σχήμα οι περιοχές αυτές είναι σκιασμένες). Αντίστοιχα, η μέση τετραγωνική απόκλιση της εκτίμησης από την εκτιμώμενη παράμετρο θα είναι μικρότερη για μια μεροληπτική εκτίμηση, δηλ.:
M (β j ^ - β j) 2< M (b j - β j) 2
Όταν χρησιμοποιούμε "παλίνδρομο κορυφογραμμής" (ή "παλινδρόμηση κορυφογραμμής"), αντί για αμερόληπτες εκτιμήσεις, λαμβάνουμε υπόψη τις μεροληπτικές εκτιμήσεις που καθορίζονται από το διάνυσμα
β τ ^ =(X`X+τ E p +1) -1 X`Y,
Οπου τ – κάποιος θετικός αριθμός που ονομάζεται "ράχη" ή "ράχη"
E p +1 – μοναδιαία μήτρα (p+1) της –ης τάξης.
Πρόσθεση τ στα διαγώνια στοιχεία του πίνακα X`X κάνει τις εκτιμήσεις των παραμέτρων του μοντέλου μετατοπισμένες, αλλά ταυτόχρονα η ορίζουσα του πίνακα του συστήματος των κανονικών εξισώσεων αυξάνεται - αντί για (X`X) από θα είναι ίση με
|X`X+τ E p +1 |
Έτσι, καθίσταται δυνατός ο αποκλεισμός της πολυσυγγραμμικότητας στην περίπτωση που η ορίζουσα |X`X| κοντά στο μηδέν.
Για την εξάλειψη της πολυσυγγραμμικότητας, μπορεί να χρησιμοποιηθεί μια μετάβαση από τις αρχικές επεξηγηματικές μεταβλητές X 1 , X 2 ,…, X n , διασυνδεδεμένες με μια αρκετά στενή συσχέτιση, σε νέες μεταβλητές που αντιπροσωπεύουν γραμμικούς συνδυασμούς των αρχικών. Σε αυτήν την περίπτωση, οι νέες μεταβλητές πρέπει να είναι ασθενώς συσχετισμένες ή εντελώς ασυσχετισμένες. Ως τέτοιες μεταβλητές, παίρνουμε, για παράδειγμα, τις λεγόμενες κύριες συνιστώσες του διανύσματος των αρχικών επεξηγηματικών μεταβλητών, που μελετήθηκαν στην ανάλυση συνιστωσών, και εξετάζουμε την παλινδρόμηση στις κύριες συνιστώσες, στις οποίες οι τελευταίες λειτουργούν ως γενικευμένες επεξηγηματικές μεταβλητές, με την επιφύλαξη περαιτέρω ουσιαστική (οικονομική) ερμηνεία.
Η ορθογωνικότητα των κύριων στοιχείων αποτρέπει το φαινόμενο πολυσυγγραμμικότητας. Επιπλέον, η μέθοδος που χρησιμοποιήθηκε μας επιτρέπει να περιοριστούμε σε έναν μικρό αριθμό κύριων συνιστωσών με σχετικά μεγάλο αριθμό αρχικών επεξηγηματικών μεταβλητών.
Πολυσυγγραμμικότητα -είναι μια έννοια που χρησιμοποιείται για να περιγράψει το πρόβλημα όπου μια χαλαρή γραμμική σχέση μεταξύ επεξηγηματικών μεταβλητών οδηγεί σε αναξιόπιστες εκτιμήσεις παλινδρόμησης. Φυσικά, μια τέτοια εξάρτηση δεν οδηγεί απαραίτητα σε μη ικανοποιητικές εκτιμήσεις. Εάν όλες οι άλλες συνθήκες είναι ευνοϊκές, δηλαδή εάν ο αριθμός των παρατηρήσεων και οι διακυμάνσεις του δείγματος των επεξηγηματικών μεταβλητών είναι μεγάλος και η διακύμανση του τυχαίου όρου είναι μικρή, τότε στο τέλος μπορείτε να πάρετε πολύ καλές εκτιμήσεις.
Άρα, η πολυσυγγραμμικότητα πρέπει να προκαλείται από έναν συνδυασμό μιας αδύναμης σχέσης και μιας (ή περισσότερων) δυσμενών συνθηκών, και αυτό είναι το ερώτημα
ο βαθμός εκδήλωσης του φαινομένου και όχι ο τύπος του. Η εκτίμηση οποιασδήποτε παλινδρόμησης θα υποφέρει από αυτήν σε κάποιο βαθμό, εκτός εάν όλες οι ανεξάρτητες μεταβλητές αποδειχθούν εντελώς ασυσχετισμένες. Η εξέταση αυτού του προβλήματος ξεκινά μόνο όταν επηρεάζει σοβαρά τα αποτελέσματα της εκτίμησης παλινδρόμησης.
Αυτό το πρόβλημα είναι κοινό στις παλινδρομήσεις χρονοσειρών, δηλαδή όταν τα δεδομένα αποτελούνται από έναν αριθμό παρατηρήσεων για μια χρονική περίοδο. Εάν δύο ή περισσότερες ανεξάρτητες μεταβλητές έχουν ισχυρή χρονική τάση, θα συσχετίζονται σε μεγάλο βαθμό και αυτό μπορεί να οδηγήσει σε πολυσυγγραμμικότητα.
Τι μπορεί να γίνει σε αυτή την περίπτωση;
Οι διάφορες τεχνικές που μπορούν να χρησιμοποιηθούν για τον μετριασμό της πολυσυγγραμμικότητας χωρίζονται σε δύο κατηγορίες: η πρώτη κατηγορία περιλαμβάνει προσπάθειες βελτίωσης του βαθμού στον οποίο πληρούνται οι τέσσερις προϋποθέσεις για την αξιοπιστία των εκτιμήσεων παλινδρόμησης. η δεύτερη κατηγορία περιλαμβάνει τη χρήση εξωτερικές πληροφορίες. Εάν χρησιμοποιήσουμε πρώτα πιθανά δεδομένα που λαμβάνονται άμεσα, τότε προφανώς θα ήταν χρήσιμο να αυξήσουμε τον αριθμό των παρατηρήσεων.
Εάν χρησιμοποιείτε δεδομένα χρονοσειρών, αυτό μπορεί να γίνει συντομεύοντας τη διάρκεια κάθε χρονικής περιόδου. Για παράδειγμα, κατά την εκτίμηση των εξισώσεων της συνάρτησης ζήτησης στις Ασκήσεις 5.3 και 5.6, μπορείτε να μεταβείτε από τη χρήση ετήσιων δεδομένων σε τριμηνιαία.
Μετά από αυτό, αντί για 25 παρατηρήσεις, θα υπάρχουν 100. Αυτό είναι τόσο προφανές και τόσο εύκολο που οι περισσότεροι ερευνητές που χρησιμοποιούν χρονοσειρές χρησιμοποιούν σχεδόν αυτόματα τριμηνιαία δεδομένα, εάν είναι διαθέσιμα, αντί για ετήσια δεδομένα, ακόμα κι αν η πολυσυγγραμμικότητα δεν αποτελεί πρόβλημα. μόνο για λόγους επιχειρηματολογίας.ελάχιστες θεωρητικές διακυμάνσεις των συντελεστών παλινδρόμησης. Ωστόσο, υπάρχουν πιθανά προβλήματα με αυτήν την προσέγγιση. Η αυτοσυσχέτιση μπορεί να εισαχθεί ή να ενισχυθεί, αλλά μπορεί να εξουδετερωθεί. Επιπλέον, η μεροληψία λόγω σφαλμάτων μέτρησης μπορεί να εισαχθεί (ή να ενισχυθεί) εάν τα τριμηνιαία δεδομένα μετρώνται με μικρότερη ακρίβεια από τα αντίστοιχα ετήσια δεδομένα. Αυτό το πρόβλημα δεν είναι εύκολο να λυθεί, αλλά μπορεί να μην είναι σημαντικό.
Η πολυσυγγραμμικότητα είναι η συσχέτιση δύο ή περισσότερων επεξηγηματικών μεταβλητών σε μια εξίσωση παλινδρόμησης. Μπορεί να είναι λειτουργικό (ρητό) και στοχαστικό (κρυφό). Με τη λειτουργική πολυσυγγραμμικότητα, ο πίνακας XTX είναι εκφυλισμένος και το (XTX)-1 δεν υπάρχει, επομένως είναι αδύνατο να προσδιοριστεί. Συχνότερα, η πολυσυγγραμμικότητα εκδηλώνεται με στοχαστική μορφή, ενώ οι εκτιμήσεις OLS υπάρχουν επίσημα, αλλά έχουν μια σειρά από μειονεκτήματα:
- 1) μια μικρή αλλαγή στα αρχικά δεδομένα οδηγεί σε σημαντική αλλαγή στις εκτιμήσεις παλινδρόμησης.
- 2) οι εκτιμήσεις έχουν μεγάλα τυπικά σφάλματα και χαμηλή σημασία, ενώ το μοντέλο στο σύνολό του είναι σημαντικό (υψηλή τιμή R2).
- 3) οι εκτιμήσεις διαστήματος των συντελεστών επεκτείνονται, επιδεινώνοντας την ακρίβειά τους.
- 4) είναι δυνατόν να ληφθεί λάθος πρόσημο για τον συντελεστή παλινδρόμησης.
Ανίχνευση
Υπάρχουν πολλά σημάδια με τα οποία μπορεί να προσδιοριστεί η παρουσία πολυσυγγραμμικότητας.
Πρώτον, ανάλυση του πίνακα συσχέτισης των συντελεστών συσχέτισης κατά ζεύγη:
- - εάν υπάρχουν ζεύγη μεταβλητών που έχουν υψηλούς συντελεστές συσχέτισης (> 0,75 - 0,8), μιλούν για πολυσυγγραμμικότητα μεταξύ τους.
- - αν οι παράγοντες είναι ασυσχετισμένοι, τότε det Q = 1, εάν υπάρχει πλήρης συσχέτιση, τότε det Q = 0.
Μπορείτε να ελέγξετε το H0: det Q = 1; χρησιμοποιώντας στατιστική δοκιμή
όπου n είναι ο αριθμός των παρατηρήσεων, m = p+1.
Αν, τότε το H0 απορρίπτεται και αποδεικνύεται η πολυσυγγραμμικότητα.
Δεύτερον, προσδιορίζονται πολλαπλοί συντελεστές προσδιορισμού μιας από τις επεξηγηματικές μεταβλητές και κάποιας ομάδας άλλων. Η παρουσία ενός υψηλού R2 (> 0,6) υποδηλώνει πολυσυγγραμμικότητα.
Τρίτον, η εγγύτητα στο μηδέν της ελάχιστης ιδιοτιμής του πίνακα XTX (δηλαδή, η λύση της εξίσωσης) δείχνει ότι το det(XTX) είναι επίσης κοντά στο μηδέν και, επομένως, η πολυσυγγραμμικότητα.
Τέταρτον, υψηλοί συντελεστές μερικής συσχέτισης.
όπου είναι οι αλγεβρικές προσθήκες των στοιχείων του πίνακα δειγματοληπτικών συντελεστών συσχέτισης. Οι συντελεστές μερικής συσχέτισης υψηλότερων τάξεων μπορούν να προσδιοριστούν μέσω συντελεστών μερικής συσχέτισης χαμηλότερων τάξεων χρησιμοποιώντας τον επαναλαμβανόμενο τύπο:
Πέμπτον, κάποιοι μιλούν για την παρουσία πολυσυγγραμμικότητας εξωτερικά σημάδιακατασκευασμένο μοντέλο, που είναι οι συνέπειές του. Αυτά θα πρέπει να περιλαμβάνουν τα ακόλουθα:
- · ορισμένες από τις εκτιμήσεις έχουν εσφαλμένα σημάδια από την άποψη της οικονομικής θεωρίας ή αδικαιολόγητα μεγάλες απόλυτες τιμές.
- · μια μικρή αλλαγή στα αρχικά στατιστικά δεδομένα (προσθήκη ή αφαίρεση κάποιων παρατηρήσεων) οδηγεί σε σημαντική αλλαγή στις εκτιμήσεις των συντελεστών του μοντέλου, ακόμη και αλλαγή των πρόσημών τους.
- · Οι περισσότερες ή και όλες οι εκτιμήσεις των συντελεστών παλινδρόμησης αποδεικνύονται στατιστικά ασήμαντες σύμφωνα με το t-test, ενώ το μοντέλο στο σύνολό του είναι σημαντικό σύμφωνα με το F-test.
Υπάρχουν πολλές άλλες μέθοδοι για τον προσδιορισμό της πολυσυγγραμμικότητας.
Εάν το κύριο καθήκον του μοντέλου είναι να προβλέψει τις μελλοντικές τιμές της εξαρτημένης μεταβλητής, τότε με έναν αρκετά μεγάλο συντελεστή προσδιορισμού R2 (> 0,9), η παρουσία πολυσυγγραμμικότητας συνήθως δεν επηρεάζει τις προγνωστικές ιδιότητες του μοντέλου. Αυτή η δήλωση θα αιτιολογηθεί εάν οι ίδιες σχέσεις μεταξύ των συσχετισμένων μεταβλητών παραμείνουν στο μέλλον.
Εάν ο σκοπός της μελέτης είναι να προσδιορίσει τον βαθμό επιρροής καθεμιάς από τις επεξηγηματικές μεταβλητές στην εξαρτημένη μεταβλητή, τότε η παρουσία πολυσυγγραμμικότητας, που οδηγεί σε αύξηση τυπικά σφάλματα, πιθανότατα, θα διαστρεβλώσει τις αληθινές σχέσεις μεταξύ των μεταβλητών. Σε αυτήν την κατάσταση, η πολυσυγγραμμικότητα είναι ένα σοβαρό πρόβλημα.
