ประเภทของ Regression (Types of Regression)
Regression เป็น supervised machine learning approach ทำนาย continuous-valued attribute ช่วยสำรวจความสัมพันธ์ target variable และ predictor variable เครื่องมือสำคัญสำหรับ financial forecasting และ time series modeling
1. Linear Regression (การทดแทนเชิงเส้น)
หา "best" line fit สอง attributes ให้ attribute หนึ่งทำนายอีกตัวได้ Multiple linear regression ขยายไปมากกว่าสอง attributes fit ข้อมูลใน multidimensional space สมการ: Y = a + b*X + e โดย a = intercept, b = slope, e = error X, Y = predictor และ target variables ตามลำดับ ถ้า X มีหลายตัวแปร เรียกว่า multiple linear equations
Best fit line ใช้ least squared method ลดผลรวม squares of deviations จากจุดข้อมูลไปยัง regression line ค่าบวกและลบไม่ตัดกันเพราะยกกำลังสอง
2. Polynomial Regression (การทดแทนพหุนาม)
ถ้ากำลังของ independent variable มากกว่า 1 ใน regression equation เรียกว่า polynomial equation ตัวอย่าง: Y = a + b * x² Best fit line ไม่ใช่เส้นตรง แตเป็น curve ที่ fit data points
3. Logistic Regression (การทดแทนลอจิสติก)
เมื่อ dependent variable เป็น binary (0/1, true/false, success/failure) logistic regression เข้ามาใช้ Target value Y อยู่ระหว่าง 0 ถึง 1 ใช้สำหรับ classification-based problems ไม่ต้องการ independent และ dependent variables มี linear relationship
4. Ridge Regression (การทดแทนริดจ์)
Ridge regression เป็นกระบวนการคำนวณ multiple regression data ที่มีปัญหา multicollinearity (มี linear correlation ระหว่างสอง independent variables)
5. Lasso Regression (การทดแทนลาสโซ)
LASSO = Least Absolute Shrinkage and Selection Operator Lasso regression เป็น linear regression ที่ใช้ shrinkage (การหดตัว) Data points บางส่วนถูก shrink ไปยัง central point (mean) เหมาะกับ simple และ sparse models ที่มีพารามิเตอร์เยอะกว่า regression อื่น เหมาะกับ models ที่มี multicollinearity
