Reqressiya analizi

Təsvir edilmiş verilənlərin xətti reqressiyası

Maşın öyrənməsi və intellektual verilənlərin analizi
Tapşırıqlar Təsnifat tapşırığı Klasterləşdirmə Reqressiya Anomaliya aşkarlama Assosiasiya qaydaları Təsdiqetmə ilə öyrənmə Strukturlaşdırılmış proqnoz Layihələndirmə xüsusiyyətləri Öyrənmə xüsusiyyətləri Onlayn öyrənmə Yarısupervizorlu öyrənmə Supervizorsuz öyrənmə Qiymətləndirmə ilə öyrənmə Qrammatika induksiyası
Supervizorlu öyrənmə Qərarların qəbul olunması ağacı Ansambllar (Bagging, Boosting, Random forest) k-NN Xətti reqressiya Sadə Bayes Neyron şəbəkələr Loqistik reqressiya Perseptron Uyğun vektor üsulu Köməkçi vektor üsulu
Klasterləşdirmə BIRCH İyerarxik k-orta Gözləmə-maksimallaşma DBSCAN OPTICS Orta dəyişmə
Ölçü azaldılması Faktor analizi Kanonik korrelyasiya Müstəqil komponent analizi Xətti diskriminant analizi Qeyri-meqativ matris vuruqlarına ayırma Əsas komponent analizi t-SNE
Strukturlaşdırılmış proqnoz Qrafik ehtimal modelləri (Bayes şəbəkəsi, Şərti təsadüfi sahə, Gizli Markov modeli)
Anomaliya aşkarlama k-NN Lokal tullanış amili
Neyron şəbəkələr Avtokodirovka Dərin öyrənmə Çoxlaylı perseptron Rekkurent neyron şəbəkələr Məhdud Boltsman maşını Özü təşkil olunan xəritə Əyri neyron şəbəkə
Nəzəriyyə Kompromis sürüşmə-dispersiyası Hesablama öyrənmə nəzəriyyəsi Empirik riski minimallaşdırma Okkam öyrənmə PAC öyrənmə Statistik öyrənmə VC nəzəriyyəsi
Konfranslar və jurnallar NIPS ICML JMLR ArXiv:cs.LG

Reqressiya analizi — bir və ya bir neçə asılı olmayan dəyişənin digər asılı dəyişənə təsirinin statistik analiz üsulu. Məqsədi bir asılı olan, və bir və ya bir neçə asılı olmayan dəyişənlər arasındakı münasibəti araşdırmaqdır. Burada asılı dəyişənlərin sistematik təsiri nəticəsində asılı olmayan dəyişənlərin özlərini aparmasını izah etmək və onları təsadüfi təsirlərdən ayırd etmək əsas məsələlərdəndir.

Asılı olmayan dəyişənlərə reqressorlar və ya prediktorlar, asılı olan dəyişənlər isə kriterial dəyişənlər adlanır. Tədqiqatda yalnız riyazi asılılıq nəzərdə tutulur.

Araşdırılan prosesə misal kimi mexaniki emalda kəsmə qüvvəsinin dəyişməsi (asılı olan dəyişən) ilə prosesin gedişini müəyyənləşdirən kəsmə parametrləri (asılı olmayan dəyişən) arasındakı asılılığın təyinini göstərmək olar. Dəyişənlər arasındakı münasibət birölçülü halda

$y=f(x)+e\quad$, formada,

n-ölçülü halda isə

$y=f(x_{1},x_{2},\dotsc ,x_{n})+e\quad$

formada axtarılır. Burada y asılı olan dəyişən (parametr), x isə asılı olmayan dəyişənlərdir (parametrlər). f axtarılan və ya qəbul olunmuş funksiyadır. e ilə xətanı təsvir edirlər. Reqressiya analizi nəticəsində axtarılan funksiya e qiymətinin minimumunu verməlidir. Axtrılan funksiyanın seçilməsi üçün ilkin məlumat ölçmə nəticələrinin paylanma diaqramından almaq olur.

Funksiyaların tapılması iki yolla aparılır: xətti reqressiya, məntiqi reqressiya və robust reqresiya. Xətti reqressiya zamanı modell asılı olan dəyişən asılı olmayan dəyişənlərin xətti komninasiyası şəklində təşkil olunur. Məsələn, ən sadə xətti reqressiya bir x dəyişənindən asılılığı belə modelləşdirir:

$y=\beta _{0}+\beta _{1}x+e.$

burada β xətti düsturun əmsallarıdır.

Məntiqi reqressiya baş verən hadisənin məntiqi əyriyə uyğunlaşdırılması yolu ilə yaranma ehtimalının əvvəlcədən aşkar edilməsi üçün tətbiq olunan statistik üsuldur. Əvvəlcədən proqnoz etmək hadisənin bir neçə göstəricisinin qiymətləri əsasında aparılır. Bunun üçün məntiqi olaraq “0” və ya “1” qiymətlərin ala bilən asılı dəyişən (y) və göstəricilər çoxluğundan ibarət asılı olmayan dəyişənlər (x1,x2,...,xn,) daxil edilir. Bunların əsasında asılı olan dəyişənin bu və ya digər qiymət alması ehtimalı tapılır.

Reqressiya analizinin məqsədi

• Kriterial dəyişənlərin prediktorlar vasitəsi ilə variasiyalarının determinasiya dərəcəsinin müəyyən edilməsi
• Asılı olmayan dəyişənlərin köməyi ilə asılı dəyişənlərin qiymətlərinin əvvəlcədən müəyyən edilməsi
• Asılı dəyişənlərin variasiyalarında asılı olmayan dəyişənlərin töhfələrinin təyin edilməsi.

Ən kiçik kvadratlar üsulu

Ən kiçik kvadratlar üsulu ölçmənin nəticələrinin kəskin səpələnmələrinə qarşı həssasdır. Bu çatışmazlığı aradan qaldırmaq üçün robust (yəni kobud) reqressiya üsulu işlənmişdir. O, robustluğu artırmaq üçün əlavə olaraq M-qiymətləndiricisini daxil edir. Reqressiya analizi fizika, iqtisadiyyat, texnika və digər sahələrdə ölçmələrin nəticələrinin emalında geniş istifadə olunan üsullardan biridir. Maşınqayırmada istifadə olunan dispersiya analizi və eksperimentin planlanması reqresiya modellərinə əsaslanır.

Ədəbiyyat

• Opfer, Gerhard: Numerische Mathematik für Anfänger, 2. Auflage, 1994, Vieweg Verlag