ความหมายของ Document Clustering
Document clustering (การจัดกลุ่มเอกสาร) เป็นเทคนิคสำคัญ (important technique) สำหรับจัดระเบียบไฟล์ (organizing files) แบบ unsupervised (ไม่มีผู้ดูแล) เมื่อเอกสารถูกแทนเป็น term vectors (เวกเตอร์คำ) วิธีการจัดกลุ่ม (clustering methods) สามารถนำไปใช้ได้ พื้นที่เอกสาร (document space) โดยตลอดเป็น high dimensionality (มิติสูง) ตั้งแต่หลายร้อยถึงพัน
เนื่องจาก curse of dimensionality (ภัยของมิติ) จึงสมเหตุสมผลที่จะโปรเจกต์ (project) เอกสารเข้าไปใน lower-dimensional subspace (พื้นที่ย่อยมิติต่ำ) ก่อน ซึ่งโครงสร้างเชิงความหมาย (semantic structure) ของ document space จะกลายเป็นชัดเจน ใน low-dimensional semantic spaces (พื้นที่เชิงความหมายมิติต่ำ) อัลกอริทึมการจัดกลุ่มแบบดั้งเดิม (traditional clustering algorithms) สามารถใช้ได้
วิธีการ Document Clustering Analysis
มีหลายวิธีของ document clustering analysis ดังนี้:
1. Spectral Clustering (การจัดกลุ่มแบบสเปกตรัล)
Spectral clustering method เริ่มทำ spectral embedding (dimensionality reduction - การลดมิติ) บนข้อมูลต้นฉบับ จากนั้นนำ traditional clustering algorithm (เช่น k-means) ไปใช้บน reduced document space (พื้นที่เอกสารที่ลดมิติแล้ว)
การทำงานของ spectral clustering แสดงความสามารถในการจัดการ highly nonlinear data (ข้อมูลที่ไม่เชิงเส้นสูง) (พื้นที่ข้อมูลมี curvature สูงที่ทุก local area) ความเชื่อมโยงที่แข็งแกร่งกับ differential geometry (เรขาคณิตเชิงอนุพันธ์) ทำให้มันสามารถค้นพบ manifold architecture (สถาปัตยกรรมมานิโฟลด์) ของ file space ได้
ข้อจำกัดของ spectral clustering algorithms เหล่านี้ คือ ใช้ nonlinear embedding (dimensionality reduction) ซึ่งแสดงได้เฉพาะบนข้อมูล "training" (การฝึก) พวกเขาต้องใช้ data points บางส่วนเพื่อเรียนรู้ embedding เมื่อ data set ใหญ่ การเรียนรู้ embedding แบบนี้มีค่าใช้จ่ายทางคอมพิวตะสูง (computationally costly) สิ่งนี้จำกัดการประยุกต์ใช้ (application) ของ spectral clustering บน large data sets
2. Mixture Model (โมเดลผสม)
Mixture model clustering method สร้างโมเดล text data ด้วย mixture model บ่อยครั้งเกี่ยวข้องกับ multinomial component models การจัดกลุ่มเกี่ยวข้องกับสองขั้นตอน:
ประเมินค่า model parameters (พารามิเตอร์โมเดล) ตาม text data และ prior knowledge (ความรู้ล่วงหน้า) เพิ่มเติมใดๆ
อนุมาน (infer) clusters ตาม estimated model parameters ที่ประมาณไว้ ขึ้นอยู่กับวิธีที่ mixture model ถูกกำหนด วิธีเหล่านี้สามารถจัดกลุ่ม words (คำ) และ documents (เอกสาร) พร้อมกันได้
Probabilistic Latent Semantic Analysis (PLSA) และ Latent Dirichlet Allocation (LDA) เป็นสองตัวอย่างของแนวทางเช่นนี้ ข้อได้เปรียบของ clustering methods คือ clusters สามารถออกแบบได้เพื่อสนับสนุน comparative analysis (การวิเคราะห์เชิงเปรียบเทียบ) ของไฟล์
Latent Semantic Indexing (LSI) และ Locality Preserving Indexing (LPI) methods เป็น linear dimensionality reduction methods (วิธีลดมิติเชิงเส้น) ใช้เพื่อหา transformation vectors (embedding function) ใน LSI และ LPI Embedding functions เหล่านี้ถูกแทนที่อยู่ทุกที่ (represented everywhere) ดังนั้น สามารถใช้ส่วนหนึ่งของข้อมูลเพื่อเรียนรู้ embedding function และ embed ข้อมูลบางส่วนไปยัง low-dimensional space
เป้าหมายของ LSI คือ หา best subspace approximation (การประมาณค่า subspace ที่ดีที่สุด) ของ original document space ในความหมายของการลด global reconstruction error (ข้อผิดพลาดการสร้างใหม่ระดับโลก) นี่คือ LSI พยายามค้นพบ most representative features (คุณลักษณะที่เป็นตัวแทนมากที่สุด) แทนที่จะเป็น most discriminative features (คุณลักษณะที่แบ่งแยกได้มากที่สุด) สำหรับ document representation ดังนั้น LSI อาจไม่ใช่ optimal (เหมาะสมที่สุด) ในการแยกแยะ (discriminating) เอกสารที่มี semantics (ความหมาย) ต่างกัน ซึ่งเป็น ultimate goal (เป้าหมายสูงสุด) ของการจัดกลุ่ม