Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> การเขียนโปรแกรม >> การเขียนโปรแกรม

บริการของการแปลงข้อมูล (Data Transformation Services) คืออะไร?


ใน data transformation ข้อมูลถูกแปลงหรือเชื่อมโยงเป็นรูปแบบที่เหมาะสมสำหรับการทำเหมือง Data transformation สามารถมีดังนี้:

  • Smoothing (การทำให้เรียบ) — สามารถทำงานเพื่อกำจัด noise จากข้อมูล เทคนิครวมถึง binning, regression, และ clustering

  • Aggregation (การรวม) — ใน aggregation ที่ summary หรือ aggregation operations ถูกนำไปใช้กับข้อมูล

  • Generalization (การทำให้เป็นทั่วไป) — ใน Generalization ที่ low-level หรือ "primitive" (raw) data ถูก restore ด้วย higher-level concepts ผ่าน concept hierarchies

มีบริการต่างๆ ของ data transformation ดังนี้:

  • Integration (การรวม) — Integration รวมถึงการสร้าง surrogate keys, mapping keys จาก scheme หนึ่งไปอีก scheme, และ mapping programs เข้า complete descriptions มี implicit authority ที่ support master key lookup table ข้างหลัง transformation นี้

  • Slowly changing dimension maintenance (การบำรุงรักษามิติที่เปลี่ยนแปลงช้า) — การระบุค่าที่เปลี่ยนแปลงและสร้าง surrogate keys เป็นกระบวนการที่ tricky แต่ไม่ใช่ space-warp mathematics หากคุณซื้อ data staging tool ควรจะมี algorithms สำหรับจัดการ slowly changing dimensions built-in

  • Denormalization และ renormalization (การทำให้ไม่ปกติและการทำให้ปกติใหม่) — Denormalizing hierarchy ของ separate tables เข้า dimension เป็น standard warehouse transformation process บาง data staging tools เสนอ star schema feature ที่ automatically performs ฟังก์ชันนี้ นอกจากนี้ บาง denormalization เกิดขึ้นใน fact table phase

    ตัวอย่าง financial schema อาจมี dimension ที่เป็น amount type ด้วยค่า Actual, Budget, หรือ Forecast ขึ้นอยู่กับระดับรายละเอียดที่บันทึกเหล่านี้มี อาจมีความหมายมากที่จะ pivot คอลัมน์นี้ออกเป็น single row พร้อมสามคอลัมน์ dollar amounts หนึ่งสำหรับแต่ละ amount type

  • Cleansing, deduping, merge/purge (การทำความสะอาด, กำจัดซ้ำ, รวม/ล้าง) — นี่เป็นปัญหาใหญ่สำหรับ data warehouses หลายแห่ง โดยเฉพาะที่เกี่ยวข้องกับ external entities เช่น customers, businesses, doctors, และ patients มันเป็นกระบวนการซับซ้อน แต่หลาย vendors เสนอ tools และ services เฉพาะสำหรับปัญหานี้

  • Data type conversion (การแปลงประเภทข้อมูล) — เกี่ยวข้องกับ lower-level transformations แปลงหนึ่ง data type หรือ format ไปอีกอันหนึ่ง ระหว่างจากการแปลง IBM's mainframe character set EBCDIC ไป ASCII ไปจนถึงการแปลง date, numeric, และ character representations จาก database หนึ่งไปอีก database

  • Calculation, derivation, allocation (การคำนวณ, การอนุมาน, การจัดสรร) — นี่คือ transformations ที่ใช้ business rules ที่รู้จักใน requirements phase ตรวจสอบว่า tool ที่เลือกมี complete set of functions available รวมถึง string manipulation, date และ time arithmetic, conditional statements, และ basic math

  • Aggregation (การรวม) — Aggregation สามารถจัดการได้ในบาง element ของ load process ขึ้นอยู่กับ resources ไหน accessible ใน stage ไหน หากคำนวณ aggregations เป็น element ของ extract หรือ transformation process สามารถใช้ tools เช่น Syncsort โดยตรงไปยัง flat records Utilities นี้พัฒนาสำหรับ sorting และ reporting และทำได้ดีมาก