การวิเคราะห์องค์ประกอบหลัก (PCA) เป็นอัลกอริทึมการเรียนรู้แบบไม่มีผู้ดูแล (Unsupervised Learning) ที่ใช้สำหรับการลดมิติ (Dimensionality Reduction) ในเครื่องเรียนรู้ (Machine Learning) เป็นกระบวนการทางสถิติที่แปลงการสังเกตของลักษณะที่สัมพันธ์กัน (Correlated Features) ให้กลายเป็นชุดของลักษณะที่ไม่สัมพันธ์เชิงเส้น (Linearly Uncorrelated Features) ด้วยการใช้ข้อมูลตั้งฉาก (Orthogonal Data) ลักษณะใหม่ที่แปลงแล้วเหล่านี้เรียกว่า Principal Components (องค์ประกอบหลัก)
คุณสมบัติและการประยุกต์ใช้
- เครื่องมือยอดนิยมสำหรับการวิเคราะห์ข้อมูลเชิงสำรวจ (Exploratory Data Analysis) และการสร้างแบบจำลองทำนาย (Predictive Modeling)
- วิธีการดึงรูปแบบที่แข็งแกร่งจากชุดข้อมูลโดยการลดความแปรปรวน (Variances)
- PCA ทำงานโดยพิจารณาความแปรปรวนของแต่ละแอตทริบิวต์ เนื่องจากแอตทริบิวต์ที่มีความแปรปรวนสูงแสดงถึงการแบ่งแยกระหว่างคลาส
- ประยุกต์ใช้จริง: การประมวลผลภาพ (Image Processing), ระบบแนะนำหนัง (Movie Recommendation), การจัดสรรพลังงานในช่องสัญญาณ
- เป็นวิธีการดึงลักษณะ (Feature Extraction) รวมตัวแปรสำคัญ และตัดตัวแปรที่สำคัญน้อยที่สุด
หลักการทำงาน
PCA ยังเรียกว่า วิธี Karhunen-Loeve (K-L Method) ค้นหาเวกเตอร์ตั้งฉาก (Orthogonal Vectors) k ตัวใน n มิติ ที่สามารถแสดงข้อมูลได้ดีที่สุด โดยที่ k ≤ n ข้อมูลต้นฉบับจะถูกฉาย (Projected) ลงบนพื้นที่เล็กกว่ามาก ทำให้เกิดการลดมิติ PCA รวมความเป็นหัวใจของแอตทริบิวต์โดยสร้างชุดตัวแปรเล็กกว่า
ขั้นตอนของ PCA
- ปรับปกติข้อมูล (Normalize): ทำให้แต่ละแอตทริบิวต์อยู่ในช่วงเดียวกัน ป้องกันแอตทริบิวต์ที่โดเมนใหญ่ครอบงำแอตทริบิวต์ที่โดเมนเล็ก
- คำนวณเวกเตอร์ออร์โธนอร์มอล (Orthonormal Vectors) k ตัว: เป็นเวกเตอร์หน่วยที่ตั้งฉากกัน จุดในทิศทางที่ต่างกัน เรียกว่า Principal Components ข้อมูลนำเข้าเป็นชุดเชิงเส้นของคอมโพเนนต์หลัก
- จัดลำดับคอมโพเนนต์ตามความสำคัญ: เรียงตามความแปรปรวนลดลง แกนแรกแสดงความแปรปรวนมากที่สุด แกนที่สองเป็นอันดับสอง ฯลฯ
- ลดขนาดข้อมูล: ตัดคอมโพเนนต์ที่อ่อน (Low Variance) ออก ใช้คอมโพเนนต์ที่แข็งแกร่งที่สุดเพื่อสร้างค่าประมาณข้อมูลต้นฉบับได้ดี
