Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> การเขียนโปรแกรม >> การเขียนโปรแกรม

ลักษณะเฉพาะของตัวแบ่งประเภทเบย์แบบ Naive (Naive Bayes Classifiers) มีอะไรบ้าง

ตัวแบ่งประเภทเบย์ (Bayesian Classifiers) เป็นตัวแบ่งประเภททางสถิติ (Statistical Classifiers) สามารถทำนายความน่าจะเป็นของการเป็นสมาชิกคลาส (Class Membership Probabilities) เช่น ความน่าจะเป็นที่ตัวอย่างที่กำหนดจะใช้กับคลาสที่แน่นอน ตัวแบ่งประเภทเบย์ยังแสดงประสิทธิภาพและความเร็วที่สูงเมื่อมีฐานข้อมูลขนาดใหญ่

เนื่องจากคลาสถูกกำหนด ระบบต้องอนุมานกฎที่ควบคุมการจำแนกประเภท ดังนั้นระบบต้องสามารถค้นพบคำอธิบายของแต่ละคลาส คำอธิบายต้องกำหนดแอตทริบิวต์การทำนาย (Predicting Attributes) ของชุดฝึกอบรม เพื่อให้เฉพาะอินสแตนซ์บวก (Positive Instances) ต้องปฏิบัติตามคำอธิบาย ไม่ใช่อินสแตนซ์ลบ (Negative Instances) กฎถูกกล่าวว่าถูกต้อง หากคำอธิบายของมันครอบคลุมตัวอย่างบวกทั้งหมด และไม่มีตัวอย่างลบของคลาสถูกครอบคลุม

ด้วยการสมมติว่าส่วนร่วมจากแอตทริบิวต์ทั้งหมดเป็นอิสระ และแต่ละตัวมีส่วนร่วมเท่าเทียมต่อปัญหาการจำแนกประเภท แผนการจำแนกประเภทเรียบง่ายที่เรียกว่า Naive Bayes Classification

Naive Bayes Classification เรียกว่า Naive เพราะมันสมมติความเป็นอิสระแบบมีเงื่อนไขของคลาส (Class Conditional Independence) ผลของค่าแอตทริบิวต์ต่อคลาสที่กำหนด แยกจากค่าของแอตทริบิวต์อื่นๆ สมมติฐานนี้ทำเพื่อลดต้นทุนการคำนวณ และดังนั้นถือว่า Naive

อัลกอริทึมหลายตัวมีอยู่สำหรับการเรียนรู้โทโพโลยีเครือข่ายจากระเบียนฝึกอบรมที่กำหนดตัวแปรที่สังเกตได้ (Observable Variables) ปัญหาคือการเพิ่มประสิทธิภาพแบบไม่ต่อเนื่อง (Discrete Optimization) มนุษย์ผู้เชี่ยวชาญโดยทั่วไปมีความเข้าใจที่ดีเกี่ยวกับความพึ่งพาแบบมีเงื่อนไขโดยตรง (Direct Conditional Dependencies) ที่มีอิทธิพลต่อโดเมนภายใต้การวิเคราะห์ ซึ่งช่วยในการออกแบบเครือข่าย ผู้เชี่ยวชาญควรกำหนดความน่าจะเป็นแบบมีเงื่อนไขสำหรับโหนดที่ทำหน้าที่ในการพึ่งพาโดยตรง

ความน่าจะเป็นเหล่านี้สามารถใช้ประเมินค่าความน่าจะเป็นที่เหลือได้ หากโทโพโลยีเครือข่ายได้รับการยอมรับและตัวแปรเป็น observable ดังนั้นการฝึกอบรมเครือข่ายเป็นเรื่องง่าย รวมถึงการคำนวณรายการ CPT เหมือนกับที่ทำอย่างเดียวกันเมื่อประเมินความน่าจะเป็นที่รวมอยู่ใน naive Bayesian classification

ลักษณะเฉพาะของ Naive Bayes Classifiers

พวกเขาทนทาน (Robust) ต่อจุดสัญญาณรบกวนที่แยกตัว (Isolated Noise Points) เพราะจุดดังกล่าวถูกหาค่าเฉลี่ยออก (Averaged Out) เมื่อประมาณค่าความน่าจะเป็นแบบมีเงื่อนไขจากข้อมูล สามารถจัดการค่าขาดหาย (Missing Values) ได้โดยการลบอินสแตนซ์ระหว่างการสร้างโมเดลและการจำแนกประเภท

พวกเขาทนทานต่อแอตทริบิวต์ที่ไม่เกี่ยวข้อง (Irrelevant Attributes) หาก Xi เป็นแอตทริบิวต์ที่ไม่เหมาะสม ดังนั้น P(Xi|Y) จะกลายเป็นกระจายอย่างสม่ำเสมอ (Uniformly Distributed) ความน่าจะเป็นแบบมีเงื่อนไขของคลาสสำหรับ Xi ไม่มีผลกระทบต่อการคำนวณความน่าจะเป็นหลัง (Posterior Probability) ทั้งหมด

แอตทริบิวต์ที่มีความสัมพันธ์ (Correlated Attributes) สามารถ降低ประสิทธิภาพของ naive Bayes classifiers ได้ เพราะสมมติฐานความเป็นอิสระแบบมีเงื่อนไขไม่ได้เป็นจริงสำหรับแอตทริบิวต์เช่นนั้น ตัวอย่างพิจารณาความน่าจะเป็นต่อไปนี้:

P(A=0|Y=0) = 0.4, P(A=1|Y=0) = 0.6,

P(A=0|Y=1) = 0.6, P(A=1|Y=1) = 0.4,

ที่ A เป็นแอตทริบิวต์ไบนารี และ Y เป็นตัวแปรคลาสไบนารี สมมติว่ามีแอตทริบิวต์ไบนารีอีกตัว B ที่มีความสัมพันธ์สมบูรณ์กับ A เมื่อ Y = 0 แต่อิสระจาก A เมื่อ Y = 1 เพื่อความสมบูรณ์ พิจารณาว่าความน่าจะเป็นแบบมีเงื่อนไขของคลาสสำหรับ B เท่ากับของ A

Naive Bayes Classifiers: Class Conditional Independence, Robust to Noise/Irrelevant Attributes, Sensitivity to Correlated Attributes, ตัวอย่างความน่าจะเป็น

ทำความเข้าใจ Naive Bayes: Class Conditional Independence Assumption, Robust to Isolated Noise & Irrelevant Attributes, แต่อ่อนไหวต่อ Correlated Attributes, พร้อมตัวอย่างตัวเลข Probability Tables