Classification เป็น Data Mining Approach ใช้ทำนาย Team Membership (Class Membership) สำหรับ Data Instances เป็นกระบวนการ 2 ขั้นตอน (Two-step Process) ขั้นตอนแรก สร้าง Model กำหนดชุด Data Classes หรือ Approaches ล่วงหน้า Model พัฒนาจากการพิจารณา Database Tuples ที่กำหนดโดย Attributes
แต่ละ Tuple ถือว่าเป็นของ Predefined Class ตามที่กำหนดโดย Attribute หนึ่ง เรียกว่า Class Label Attribute ใน Framework ของ Classification Data Tuples เรียกอีกอย่างว่า Samples, Examples, หรือ Objects Data Tuples ที่วิเคราะห์เพื่อพัฒนา Model ร่วมกันสร้าง Training Data Set Tuples เดี่ยวที่สร้าง Training Set เรียกว่า Training Samples และเลือกแบบ Casual จาก Sample Population
เนื่องจาก Class Label ของแต่ละ Training Sample รู้จัก กระบวนการนี้เรียกอีกอย่างว่า Supervised Learning (การเรียนรู้แบบมีผู้ดูแล) ใน Unsupervised Learning (การเรียนรู้แบบไม่มีผู้ดูแล) Class Labels ของ Training Samples ไม่รู้จัก และ Multiple Classes ที่จะเรียนรู้อาจไม่รู้จักล่วงหน้า
Learned Model อธิบายในรูปแบบ: Classification Rules, Decision Trees, หรือ Numerical Formulae ตัวอย่าง: จาก Database ข้อมูลเครดิตผู้ใช้ Classification Rules 可用于 学到 识别 Users ที่มี Credit Rating ดี (Good) หรือ พอใช้ (Fair) Rules 可用于 Classify Future Data Samples และช่วยให้เข้าใจ Database Contents ได้ดี
Holdout Approach เป็น Technique เรียบง่าย ใช้ Test Set ของ Class-labeled Samples Samples เหล่านี้เลือกแบบ Random และ Independent ของ Training Samples Efficiency (ประสิทธิภาพ/Accuracy) ของ Model บน Test Set ที่กำหนด = Percentage ของ Test Set Samples ที่ Classified ถูกต้องโดย Model สำหรับแต่ละ Test Sample Famous Class Label เปรียบเทียบกับ Learned Model's Class Forecast สำหรับ Sample นั้น
หาก Efficiency ประเมินจาก Training Data Set Estimate อาจ Optimistic (มองดีเกินไป) เพราะ Learned Model มัก Overfit ข้อมูล (นำ Anomalies เฉพาะของ Training Data ที่ไม่อยู่ใน Population ทั่วไปเข้าไป) ดังนั้น Test Set จึงถูกใช้
- Learning (การเรียนรู้): Training Information วิเคราะห์โดย Classification Algorithm Class Label Attribute คือ Credit Rating Learned Model/Classifier อธิบายในรูป Classification Rule
- Classification (การจัดประเภท): Test Data ใช้วัด Efficiency ของ Classification Rules หาก Efficiency ยอมรับได้ Rules 可用于 Classification ของ New Data Tuples
