Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> ระบบ >> Windows

Big Data 'Vs': ลักษณะเฉพาะและการเอาชนะความท้าทาย

ทุกคนนิยาม Big Data ด้วยชุด 3, 4 หรือ 10 V's จริงๆ แล้ว V's เหล่านี้ให้นิยามแนวคิด Big Data จริงๆ หรือมันพยายามบอกอะไรอื่น? เหตุผลหลักของการใช้ลักษณะ V-based คือเพื่อเน้นย้ำความท้าทายที่มาพร้อมกับ Big Data ความท้าทายอย่าง – การจับภาพ (Capturing), ทำความสะอาด (Cleaning), การดูแล (Curation), การรวม (Integration), การจัดเก็บ (Storage), การประมวลผล (Processing) และอื่นๆ อีกมาก

V's เหล่านี้ให้ทิศทางสำหรับการเตรียมพร้อมสำหรับความท้าทายที่น่าจะเกิดขึ้น เมื่อคุณเริ่มจัดการ Big Data ของคุณซึ่ง:

Big Data  Vs : ลักษณะเฉพาะและการเอาชนะความท้าทาย

  1. เพิ่มขึ้นในปริมาณมาก (Big Volumes)
  2. เติบโตด้วยความเร็วมาก (Big Velocity)
  3. สร้างความหลากหลายมาก (Big Varieties)
  4. เปลี่ยนแปลงด้วยความหลากหลาย (Big Variability)
  5. ต้องการกระบวนการรักษาความถูกต้อง (Big Veracity)
  6. เมื่อแปลงรูปให้การแสดงผลมาก (Big Visualization)
  7. มีค่าที่ซ่อนอยู่มาก (Big Hidden Values)

V's เหล่านี้อธิบายแง่มุมสำคัญของ Big Data และกลยุทธ์ Big Data ที่องค์กรไม่สามารถเพิกเฉยได้ มาดู V's ทั้งหมดที่มีส่วนทำให้เกิดลักษณะต่างๆ ของ Big Data:

1. Volume (ปริมาณ):

ข้อมูล 100 Terabytes ถูกอัปโหลดไป Facebook ทุกวัน; Akamai วิเคราะห์ 75 ล้านเหตุการณ์ต่อวันเพื่อโฆษณาออนไลน์; Walmart จัดการธุรกรรมลูกค้า 1 ล้านรายการต่อชั่วโมง 90% ของข้อมูลทั้งหมดที่สร้างขึ้นตลอดกาล ถูกสร้างใน 2 ปีที่ผ่านมา

ตัวเลขข้างต้นบอกจริงๆ ว่า "ปริมาณข้อมูลใหญ่" หมายถึงอะไร นี่คือลักษณะแรกที่ทำให้ข้อมูลกลายเป็น Big Data ปริมาณข้อมูล龐大นี้กลับสร้างความท้าทายในการจัดเก็บข้อมูล

2. Velocity (ความเร็ว):

ในปี 1999 ทุกนาทีของทุกวัน เราอัปโหลดวิดีโอ 100 ชั่วโมงบน YouTube ส่งอีเมล 200 ล้านฉบับ และส่งทวีต 300,000 ทวีต

ใต้ตัวเลขปริมาณอยู่แนวโน้มที่ใหญ่กว่านั้น คือ 90% ของข้อมูลที่มีอยู่ สร้างขึ้นในเพียง 2 ปีที่ผ่านมา นี่แสดงถึง Velocity หรือความเร็วที่ข้อมูลถูกสร้าง จัดเก็บ วิเคราะห์ และแสดงผล

ความท้าทายขององค์กรคือการรับมือกับความเร็วมหาศาลที่ข้อมูลถูกสร้างและใช้ใน Real-time

3. Variety (ความหลากหลาย)

ในอดีต ข้อมูลที่สร้างขึ้นทั้งหมดเป็น Structured Data เข้ากับคอลัมน์และแถวได้พอดี แต่วันเหล่านั้นผ่านไปแล้ว 90% ของข้อมูลที่สร้างขึ้นวันนี้เป็น Unstructured Data เข้ามาในรูปทรงทุกอย่าง – จาก Geo-spatial data, ไปจนถึง Tweet ที่วิเคราะห์เนื้อหาและความรู้สึก ข้อมูลภาพเป็นรูปและวิดีโอ

Variety อธิบายหนึ่งในความท้าทายใหญ่ที่สุดของ Big Data มันอาจเป็น Unstructured และรวมประเภทข้อมูลหลากหลายจาก XML, Video, SMS การจัดระเบียบข้อมูลให้มีความหมาย ไม่ใช่งานง่าย โดยเฉพาะเมื่อข้อมูลเปลี่ยนแปลงอย่างรวดเร็ว

4. Variability (ความเปลี่ยนแปลง)

Variability บ่อยครั้งสับสนกับ Variety ตัวอย่างง่ายๆ เพื่อแยกแยะ: คิดถึง Starbucks – มีรสชาติ Cold Coffee เยอะมาก นี่คือ Variety แต่สมมติคุณซื้อ Cafe Mocha ทุกวัน และรสชาติและกลิ่นต่างออกไปนิดหน่อยจากทุกวันก่อนหน้า นี่คือ Variability

Variability ในบริบท Big Data หมายถึงหลายอย่าง หนึ่งคือจำนวนความไม่สอดคล้องในข้อมูล ต้องหาโดย Anomaly และ Outlier Detection เพื่อให้เกิด Analytics ที่มีความหมาย Big Data ยังมี Variability เพราะมิติข้อมูลมากมายจากชนิดและแหล่งข้อมูลที่แตกต่างกัน Variability อาจหมายถึงความเร็วที่ไม่สม่ำเสมอที่ Big Data ถูกโหลดเข้า Database

5. Veracity (ความถูกต้อง)

สิ่งสำคัญในการเข้าใจ Big Data คือลักษณะ Messy, Noisy ของมัน และปริมาณงานที่ต้องทำเพื่อผลิต Dataset ที่แม่นยำก่อนจะเริ่มวิเคราะห์ได้ มันไร้ประโยชน์ถ้าข้อมูลที่วิเคราะห์ไม่แม่นยำหรือไม่สมบูรณ์

สถานการณ์นี้เกิดเมื่อ Data Streams มาจากแหล่งหลากหลาย นำเสนอรูปแบบต่างๆ ด้วย Signal-to-noise ratios ที่แตกต่างกัน อาจเต็มไปด้วยข้อผิดพลาดสะสมเมื่อถึงขั้น Big Data Analytics

Veracity คือการทำให้แน่ใจว่าข้อมูลแม่นยำ ซึ่งต้องมีกระบวนการกันไม่ให้ Bad Data สะสมในระบบ ตัวอย่างง่ายคือ Contact ที่เข้าระบบ Marketing Automation ด้วยชื่อปลอมและข้อมูลติดต่อผิด คุณเคยเห็น Mickey Mouse ใน Database กี่ครั้ง? นี่คือความท้าทาย "Garbage in, Garbage out" แบบคลาสสิก

6. Visualization (การแสดงผล)

นี่คือส่วนยากของ Big Data การล้มเหลวในข้อนี้ทำให้ปริมาณข้อมูลมหาศาลนี้ไร้ประโยชน์ ภารกิจหลักของระบบประมวลผล Big Data คือการแปลงมาตราส่วนมหาศาลให้กลายเป็นสิ่งเข้าใจง่ายและปฏิบัติได้ สำหรับการบริโภคของมนุษย์ วิธีที่ดีที่สุดคือแปลงเป็นรูปแบบกราฟิก

เครื่องมือ Visualization Big Data ปัจจุบันเผชิญความท้าทายทางเทคนิคจากข้อจำกัดของ In-memory Technology และ Scalability, Functionality, Response Time ที่ไม่ดี กราฟแบบดั้งเดิมไม่สามารถตอบสนองการ Plot จุดข้อมูล 1 พันล้านจุด ได้ จึงต้องมีวิธีแทนที่อย่าง Data Clustering, Tree Maps, Sunbursts, Parallel Coordinates, Circular Network Diagrams หรือ Cone Trees

7. Value (คุณค่า)

Value คือเป้าหมายสุดท้าย คุณค่าทiềm năngของ Big Data ใหญ่โต หลังดูแล Volume, Velocity, Variety, Variability, Veracity และ Visualization – ซึ่งใช้เวลาและความพยายามมาก – สำคัญที่ต้องแน่ใจว่าองค์กรได้ Value จากข้อมูล

ข้อมูลตัวเองไม่มีค่าเลย คุณค่าอยู่ที่การวิเคราะห์ข้อมูล และการเปลี่ยนข้อมูลเป็น Information และสุดท้ายกลายเป็น Knowledge

7 V's ข้างต้นบอก 3 ด้านสำคัญของ Big Data คือ นิยาม, ลักษณะ และความท้าทาย แต่เมื่อผู้คนเริ่มวิจัย Big Data เพื่อหาวิธีเผชิญหน้ากับ 7 V's Challenges พวกเขาพบ V's อื่นๆ อีก แม้จะไม่เล่นบทบาทสำคัญเท่า แต่ครบถ้วนรายการลักษณะและความท้าทาย

8. Validity (ความถูกต้อง/ความสมบูรณ์)

คล้าย Veracity Validity หมายถึงว่าข้อมูลแม่นยำและถูกต้องสำหรับการใช้งานที่ตั้งใจไว้ Big Data Veracity เป็นเรื่องของ Validity หมายถึงข้อมูลถูกต้องและแม่นยำสำหรับการใช้งานที่ตั้งใจ ข้อมูลที่ Valid ชัดเจนเป็นกุญแจสำคัญสำหรับการตัดสินใจที่ถูกต้อง Data Validation คือการรับรองการส่งข้อมูลที่ไม่เสียหาย

9. Viability (ความเป็นไปได้)

ลองคิดถึงข้อความด้านล่าง:

  1. เวลาของวัน หรือ วันของสัปดาห์ มีผลต่อพฤติกรรมการซื้ออย่างไร?
  2. การเพิ่มขึ้นของการกล่าวถึง Twitter หรือ Facebook เป็นสัญญาณเตือนการเพิ่มหรือลดการซื้อ?
  3. Geo-location, ความพร้อมของผลิตภัณฑ์, เวลา, ประวัติการซื้อ, อายุ, ขนาดครอบครัว, Credit limit, และประเภทยานพาหนะ ทั้งหมดรวมกันเพื่อคาดการณ์แนวโน้มการซื้อของผู้บริโภคได้อย่างไร?

งานแรกคือประเมิน Viability ของข้อมูลนั้น เพราะด้วย Variety มากมายและ Variables มากที่ต้องพิจารณาในการสร้าง Predictive Model ที่มีประสิทธิภาพ เราอยากทดสอบและยืนยันความเกี่ยวข้องของ Variable เฉพาะอย่างรวดเร็วและคุ้มค่า ก่อนลงทุนสร้าง Fully Featured Model กล่าวคือ เราอยาก Validate Hypothesis ก่อนจะดำเนินการต่อ และในกระบวนการกำหนด Viability ของ Variable เราสามารถขยายมุมมองเพื่อดูว่า Variable อื่นๆ ที่ไม่อยู่ใน Hypothesis เริ่มต้น มีผลกระทบต่อผลลัพธ์ที่ต้องการหรือสังเกตได้หรือไม่

10. Volatility (ความผันผวน/อายุการเก็บรักษา)

ข้อมูลเก่าแค่ไหร่จึงถือว่า Irrelevant, Historic หรือไม่มีประโยชน์แล้ว? ต้องเก็บข้อมูลนานแค่ไหน?

เมื่อพูดถึง Volatility ของ Big Data เราจำได้ง่าย Retention Policy ของ Structured Data ที่เราทำทุกวันในธุรกิจ เมื่อหมดอายุ Retention เราทำลายได้ง่าย

แตด้วย Velocity และ Volume ของ Big Data Volatility ของมันต้องพิจารณาอย่างรอบคอบ คุณต้องสร้างกฎสำหรับ Data Currency และ Availability รวมถึงการเรียกข้อมูลคืนอย่างรวดเร็วเมื่อต้องการ

11. Vulnerability (ความเปราะบาง)

จำได้ไหม Ashley Madison Hack ปี 2015? หรือ พฤษภาคม 2016 CRN รายงานว่า "แฮกเกอร์ชื่อ Peace โพสต์ข้อมูลบน Dark Web ขาย ซึ่งรวมข้อมูล 167 ล้านบัญชี LinkedIn และ 360 ล้านอีเมลและรหัสผ่าน MySpace Users

Big Data นำความกังวลด้านความปลอดภัยใหม่ๆ มา โดยเฉพาะด้วยลักษณะเหล่านี้ กลายเป็นความท้าทายในการพัฒนา Security Program สำหรับ Big Data เหตุสุดท้าย Data Breach คือการละเมิดข้อมูลใหญ่

ทั้งหมดนี้บอกอะไรเกี่ยวกับลักษณะของ Big Data? มันใหญ่โตและขยายตัวรวดเร็ว แต่ก็ Noisy, Messy, เปลี่ยนแปลงตลอดเวลา ในรูปแบบหลายร้อยแบบ และไร้ค่าถ้าไม่มีการวิเคราะห์และ Visualization

Volume, Velocity และ Variety ไม่ใช่แค่พารามิเตอร์หลักของ Big Data แต่ยังเป็นเหตุผลที่ก่อให้เกิดแนวคิด Big Data และคุณลักษณะแยกแยะระหว่างข้อมูลทั่วไปและ Big Data แม้จะเป็นสมบัติของ Big Data เอง V's อื่นๆ Variability, Veracity, Visualization และ Value เป็นแอททริบิวต์สำคัญที่สะท้อนความซับซ้อนมหาศาลที่ Big Data นำเสนอให้ผู้ที่จะประมวลผล วิเคราะห์ และได้ประโยชน์จากมัน

ไม่ thểปฏิเสธว่า Big Data เป็น Key Trend ที่ Corporate IT ต้องปรับตัวด้วยโครงสร้างพื้นฐานคอมพิวติ้งที่เหมาะสม แต่ถ้าไม่มี High-performance Analytics และ Data Scientists ให้ความหมาย คุณเสี่ยงที่จะสร้าง Big Costs โดยไม่สร้าง Value ที่แปลเป็นเปรียบได้ทางธุรกิจ