Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> ระบบ >> Windows

26 เทคนิควิเคราะห์ Big Data ที่พิสูจน์แล้ว – ภาค 2: ข้อมูลเชิงลึกขั้นสูง

จนถึงตอนนี้ในบล็อกเกี่ยวกับ Big Data ผมได้ทำให้คุณคุ้นเคยกับด้านต่างๆ ของ Big Data ตั้งแต่ความหมายจริง จนถึงข้อเท็จจริงและ do's and don'ts ของมัน ในบล็อกก่อนหน้าเราเห็นเทคนิควิเคราะห์ Big Data บางอย่าง นำรายการต่อไปในบล็อกนี้

  1. Pattern Recognition (การจดจำรูปแบบ)

Pattern recognition เป็นสาขาของ machine learning ที่มุ่งเน้นการจดจำรูปแบบและความสม่ำเสมอในข้อมูล แม้ในบางกรณีถูกพิจารณาวเกือบ synonymous กับ machine learning ระบบ Pattern recognition ในหลายกรณีถูกฝึกจาก "training" data ที่มี label (supervised learning) แต่เมื่อไม่มี labeled data ให้ใช้ อัลกอริทึมอื่นๆ สามารถใช้เพื่อค้นพบรูปแบบที่ไม่รู้จักมาก่อน (unsupervised learning)

26 เทคนิควิเคราะห์ Big Data ที่พิสูจน์แล้ว – ภาค 2: ข้อมูลเชิงลึกขั้นสูง

  1. Predictive Modelling (การสร้างแบบจำลองเชิงพยากรณ์)

Predictive analytics ประกอบด้วยเทคนิคหลากหลายที่พยากรณ์ผลลัพธ์ในอนาคตโดยอิงจากข้อมูลทางประวัติศาสตร์และข้อมูลปัจจุบัน ในทางปฏิบัติ predictive analytics สามารถนำไปใช้ได้เกือบทุกสาขาวิชา – จากการพยากรณ์ความล้มเหลวของเครื่องยนต์噴射โดยอิงจากสตรีมข้อมูลจากเซ็นเซอร์หลายพันตัว ไปจนถึงการพยากรณ์การเคลื่อนไหวถัดไปของลูกค้าจากสิ่งที่พวกเขาซื้อ เมื่อพวกเขาซื้อ และแม้แต่ว่าที่พวกเขาพูดบนโซเชียลมีเดีย เทคนิค predictive analytics โดยหลักอิงจากวิธีสถิติ

  1. Regression Analysis (การวิเคราะห์การถดถอย)

นี่คือเทคนิคที่ใช้ตัวแปรอิสระและว่าแต่ละตัวส่งผลต่อตัวแปรตามอย่างไร นี่อาจเป็นเทคนิคที่มีประโยชน์มากในการกำหนด social media analytics เช่น ความน่าจะเป็นในการหาความรักบนแพลตฟอร์มอินเทอร์เน็ต

  1. Sentiment Analysis (การวิเคราะห์ความรู้สึก)

Sentiment Analysis ช่วยให้นักวิจัยกำหนดความรู้สึกของผู้พูดหรือผู้เขียนเกี่ยวกับหัวข้อใดๆ Sentiment analysis ถูกใช้เพื่อช่วย:

  • ปรับปรุงบริการที่โซ่โรงแรมโดยการวิเคราะห์ความคิดเห็นของแขก
  • ปรับแต่งเครื่องกระตุ้นและบริการเพื่อตอบสนองสิ่งที่ลูกค้าต้องการจริงๆ
  • กำหนดว่าผ费者 ใดคิดอย่างไรจริงๆ จากความคิดเห็นบนโซเชียลมีเดีย
  1. Signal Processing (การประมวลผลสัญญาณ)

Signal processing เป็นเทคโนโลยีที่ทำให้เป็นไปได้ ซึ่งครอบคลุมทฤษฎีพื้นฐาน การประยุกต์ใช้ อัลกอริทึม และการนำไปใช้ของการประมวลผลหรือการถ่ายโอนข้อมูลที่บรรจุอยู่ในรูปแบบทางกายภาพ สัญลักษณ์ หรือนามธรรมหลากหลาย ที่เรียกกว้างๆ ว่า signals มันใช้การแทนค่า ทฤษฎี และเทคนิคทางคณิตศาสตร์ สถิติ 計算 heuristic และภาษาศาสตร์ สำหรับการแทนค่า การสร้างแบบจำลอง การวิเคราะห์ การสังเคราะห์ การค้นพบ การกู้คืน การตรวจจับ การได้มาซึ่ง การแยกแยก การเรียนรู้ ความปลอดภัย หรือฟอเรนสิก ตัวอย่างการประยุกต์ใช้รวมถึงการสร้างแบบจำลองสำหรับการวิเคราะห์ time series หรือการนำ data fusion ไปใช้เพื่อกำหนดการอ่านที่แม่นยำมากขึ้นโดยการรวมข้อมูลจากชุดแหล่งข้อมูลที่แม่นยำน้อยกว่า (เช่น การแยกสัญญาณจาก noise)

  1. Spatial Analysis (การวิเคราะห์เชิงพื้นที่)

Spatial analysis เป็นกระบวนการที่เราเปลี่ยนข้อมูลดิบเป็นข้อมูลที่มีประโยชน์ มันเป็นกระบวนการตรวจสอบตำแหน่ง คุณลักษณะ และความสัมพันธ์ของคุณสมบัติในข้อมูลเชิงพื้นที่ผ่านการทับซ้อนและเทคนิควิเคราะห์อื่นๆ เพื่อตอบคำถามหรือได้ความรู้ที่มีประโยชน์ Spatial analysis แยกหรือสร้างข้อมูลใหม่จากข้อมูลเชิงพื้นที่

  1. Statistics (สถิติ)

ในสถิติ exploratory data analysis เป็นแนวทางในการวิเคราะห์ชุดข้อมูลเพื่อสรุปลักษณะหลักของมัน บ่อยครั้งด้วยวิธีการแสดงภาพ โมเดลสถิติอาจใช้หรือไม่ใช้ แต่โดยหลัก EDA เป็นการดูว่าข้อมูลสามารถบอกเราได้อะไรเกินกว่าการสร้างแบบจำลองอย่างเป็นทางการหรือการทดสอบสมมติฐาน เทคนิคสถิติยังถูกใช้เพื่อลดความน่าจะเป็นของ Type I errors ("false positives") และ Type II errors ("false negatives") ตัวอย่างการประยุกต์ใช้คือ A/B testing เพื่อกำหนดว่าวัสดุการตลาดประเภทไหนจะเพิ่มรายได้มากที่สุด

  1. Supervised learning (การเรียนรู้ภายใต้การดูแล)

Supervised learning เป็นงาน machine learning ของการอนุมานฟังก์ชันจาก training data ที่มี label Training data ประกอบด้วยชุดของ training examples ใน supervised learning แต่ละตัวอย่างคือ pair ที่ประกอบด้วย input object (โดยทั่วไปเป็น vector) และค่าที่ต้องการ (เรียกอีกอย่างว่า supervisory signal) อัลกอริทึม supervised learning วิเคราะห์ training data และสร้างฟังก์ชันที่อนุมานได้ ซึ่งสามารถใช้สำหรับ mapping ตัวอย่างใหม่

26 เทคนิควิเคราะห์ Big Data ที่พิสูจน์แล้ว – ภาค 2: ข้อมูลเชิงลึกขั้นสูง

  1. Social Network Analysis (การวิเคราะห์เครือข่ายสังคม)

Social network analysis เป็นเทคนิคที่ใช้แรกในอุตสาหกรรมโทรคมนาคม และจากนั้นได้รับการนำไปใช้โดยนักสังคมวิทยาเพื่อศึกษาความสัมพันธ์ระหว่างบุคคล ตอนนี้มันถูกนำไปใช้วิเคราะห์ความสัมพันธ์ระหว่างคนในหลายสาขาและกิจกรรมทางการค้า Nodes แทนบุคคลภายในเครือข่าย ในขณะที่ ties แทนความสัมพันธ์ระหว่างบุคคล

  1. Simulation (การจำลอง)

การสร้างแบบจำลองพฤติกรรมของระบบที่ซับซ้อน มักใช้สำหรับการพยากรณ์ การคาดการณ์ และการวางแผนสถานการณ์ Monte Carlo simulations ตัวอย่างเช่น เป็นคลาสของอัลกอริทึมที่พึ่งพาการสุ่มตัวอย่างซ้ำๆ คือ การรันการจำลองหลายพันครั้ง แต่ละครั้งอิงจากสมมติฐานที่แตกต่างกัน ผลลัพธ์คือ histogram ที่ให้การแจกแจงความน่าจะเป็นของผลลัพธ์ การประยุกต์ใช้หนึ่งคือการประเมินความน่าจะเป็นในการบรรลุเป้าหมายทางการเงินโดยมีความไม่แน่นอนเกี่ยวกับความสำเร็จของความรุ่งเรืองต่างๆ

  1. Time Series Analysis (การวิเคราะห์อนุกรมเวลา)

Time series analysis ประกอบด้วยวิธีการสำหรับวิเคราะห์ข้อมูล time series เพื่อแยกสถิติที่มีความหมายและคุณสมบัติอื่นๆ ของข้อมูล ข้อมูล time series มักเกิดขึ้นเมื่อตรวจสอบกระบวนการอุตสาหกรรมหรือติดตามเมตริกธุรกิจของบริษัท Time series analysis คำนึงถึงข้อเท็จจริงว่าจุดข้อมูลที่วัดตลอดเวลาอาจมีโครงสร้างภายใน (เช่น autocorrelation, trend หรือ seasonal variation) ที่ควรคำนึงถึง ตัวอย่างของ time series analysis รวมถึงค่ารายชั่วโมงของดัชนีตลาดหุ้น หรือจำนวนผู้ป่วยที่วินิจฉัยโรคที่กำหนดทุกวัน

  1. Unsupervised Learning (การเรียนรู้โดยไม่มีผู้ดูแล)

Unsupervised learning เป็นงาน machine learning ของการอนุมานฟังก์ชันเพื่ออธิบายโครงสร้างที่ซ่อนอยู่จากข้อมูลที่ไม่มี label เนื่องจากตัวอย่างที่ให้กับผู้เรียนไม่มี label จึงไม่มีสัญญาณ error หรือ reward เพื่อประเมินโซลูชันที่เป็นไปได้ – สิ่งนี้แยก unsupervised learning ออกจาก supervised learning และ reinforcement learning

26 เทคนิควิเคราะห์ Big Data ที่พิสูจน์แล้ว – ภาค 2: ข้อมูลเชิงลึกขั้นสูง

อย่างไรก็ตาม unsupervised learning ยังครอบคลุมเทคนิคอื่นๆ มากมายที่พยายามสรุปและอธิบายคุณสมบัติสำคัญของข้อมูล

  1. Visualization (การแสดงภาพ)

Data visualization คือการเตรียมข้อมูลในรูปแบบภาพหรือกราฟิก มันช่วยให้ผู้ตัดสินใจเห็น analytics ที่นำเสนอแบบภาพ เพื่อให้พวกเขาจับ概念ที่ยากได้ หรือระบุรูปแบบใหม่ ด้วย interactive visualization คุณสามารถนำแนวคิดไปขั้นตอนต่อไปโดยใช้เทคโนโลยีเพื่อเจาะลึก charts และ graphs เพื่อรายละเอียดมากขึ้น เปลี่ยนแปลงอย่างโต้ตอบว่าคุณเห็นข้อมูลอะไรและมันถูกประมวลผลอย่างไร

สรุป

26 เทคนิควิเคราะห์ Big Data ที่พิสูจน์แล้ว – ภาค 2: ข้อมูลเชิงลึกขั้นสูง

Big data analytics เป็นหนึ่งในความก้าวหน้าสำคัญที่สุดในอุตสาหกรรมเทคโนโลยีสารสนเทศ จริงๆ แล้ว Big Data ได้แสดงความสำคัญและความจำเป็นเกือบทุกภาคส่วน และทุกแผนกของอุตสาหกรรมเหล่านั้น ไม่มีด้านใดของชีวิตที่ไม่ได้รับผลกระทบจาก Big Data แม้แต่ชีวิตส่วนตัวของเรา ดังนั้นเราจึงต้องการ Big Data Analytics เพื่อจัดการปริมาณข้อมูลมหาศาลนี้อย่างมีประสิทธิภาพ

เช่นที่กล่าวไว้ก่อนหน้านี้ รายการนี้ไม่ได้ครอบคลุมหมด นักวิจัยยังคงทดลองหาวิธีใหม่ๆ ในการวิเคราะห์ปริมาณข้อมูลมหาศาลนี้ซึ่งมีอยู่ในรูปหลากหลายที่ความเร็วในการสร้างเพิ่มขึ้นตามเวลา เพื่อสร้างคุณค่าสำหรับการใช้งานเฉพาะของเรา