วิธีการจัดประเภทที่ได้รับการตรวจสอบอย่างละเอียดคือ support vector machine (SVM) แนวทางนี้มีรากฐานมาจากทฤษฎีการเรียนรู้ทางสถิติและได้แสดงผลเชิงประจักษ์ที่มีแนวโน้มดีในการใช้งานจริงหลายอย่าง ตั้งแต่การระบุตัวเลขที่เขียนด้วยลายมือไปจนถึงการจำแนกข้อความ
SVM ยังทำงานกับข้อมูลมิติสูงและป้องกันการสาปแช่งของปัญหามิติ มีองค์ประกอบที่สองของแนวทางนี้คือ กำหนดขอบเขตการตัดสินใจโดยใช้ชุดย่อยของอินสแตนซ์การฝึกอบรม ที่เรียกว่าเวกเตอร์สนับสนุน
สามารถเตรียม SVM เพื่อดูไฮเปอร์เพลนประเภทนี้ได้อย่างชัดเจนในข้อมูลที่แยกเชิงเส้นได้ สามารถทำได้โดยแสดงให้เห็นว่าวิธีการ SVM สามารถดำเนินการต่อกับข้อมูลที่ไม่สามารถแยกเชิงเส้นได้ ชุดข้อมูลสามารถแยกเชิงเส้นได้ กล่าวคือ มันสามารถค้นพบไฮเปอร์เพลน รวมถึงสี่เหลี่ยมทั้งหมดที่อยู่ด้านหนึ่งของไฮเปอร์เพลนและวงกลมทั้งหมดที่อยู่ด้านต่างๆ กัน
ความจุของแบบจำลองเชิงเส้นสัมพันธ์ผกผันกับระยะขอบ โมเดลที่มีระยะขอบเล็กจะมีความจุมากกว่า เนื่องจากเป็นแบบไดนามิกและสามารถใส่ชุดการฝึกได้บางชุด ไม่เหมือนกับรุ่นที่มีระยะขอบสูง ตามหลักการ SRM เมื่อความจุเพิ่มขึ้น ขอบเขตข้อผิดพลาดทั่วไปจะเพิ่มขึ้น ดังนั้นจึงควรสร้างตัวแยกประเภทเชิงเส้นที่เพิ่มระยะขอบของขอบเขตการตัดสินใจให้สูงสุด เพื่อลดข้อผิดพลาดในการวางนัยทั่วไปในกรณีที่แย่ที่สุด
SVM เชิงเส้นคือตัวแยกประเภทที่ตรวจสอบไฮเปอร์เพลนที่มีระยะขอบสูงสุด ซึ่งเรียกว่าตัวแยกประเภทระยะขอบสูงสุด สามารถเรียนรู้วิธีที่ SVM เรียนรู้ขอบเขตดังกล่าว โดยสามารถเริ่มต้นด้วยการวิเคราะห์เบื้องต้นเกี่ยวกับขอบเขตการตัดสินใจและระยะขอบของตัวแยกประเภทเชิงเส้น
มีลักษณะต่าง ๆ ของ SVM ซึ่งมีดังนี้ -
ปัญหาการเรียนรู้ SVM สามารถจัดเป็นปัญหาการปรับให้เหมาะสมนูน ซึ่งอัลกอริทึมที่มีประสิทธิภาพสามารถเข้าถึงได้เพื่อค้นหาฟังก์ชันวัตถุประสงค์ขั้นต่ำทั่วโลก มีวิธีการจัดประเภทที่แตกต่างกัน รวมถึงตัวจำแนกประเภทตามกฎและโครงข่ายประสาทเทียมที่ใช้วิธีการแบบโลภเพื่อค้นหาพื้นที่สมมติฐาน วิธีการดังกล่าวมีอิทธิพลต่อการค้นหาเฉพาะวิธีแก้ปัญหาที่เหมาะสมในท้องถิ่นเท่านั้น
SVM ใช้การควบคุมความจุโดยขยายระยะขอบของขอบเขตการตัดสินใจ ผู้ใช้ควรระบุพารามิเตอร์หลายตัวรวมถึงประเภทของฟังก์ชันเคอร์เนลที่จะใช้และฟังก์ชันต้นทุน C สำหรับการเสนอตัวแปรหย่อนแต่ละตัว
สามารถใช้ SVM เพื่อบันทึกหมวดหมู่โดยการเรียนรู้ตัวแปรจำลองสำหรับค่าแอตทริบิวต์ตามหมวดหมู่แต่ละรายการที่แสดงในข้อมูล ตัวอย่างเช่น หากสถานภาพสมรสมีค่าสามค่า เช่น โสด แต่งงานแล้ว หย่าร้าง และสามารถเรียนรู้ตัวแปรไบนารีสำหรับค่าแอตทริบิวต์แต่ละค่าได้
