Real-time Machine Learning (ML) Applications อยู่ทุกที่ — จากการ Approve Credit Card Transactions ขณะเกิดขึ้น จนถึงการ Generate Personalized Recommendations ทันทีสำหรับ Streaming Service ที่คุณชอบ Applications เหล่านี้ไม่สามารถรอ Delay ใดๆ ได้ พวกเขาต้องการ Live Access to Fresh Data เพื่อให้ Ultra-low-latency Inference (100 milliseconds หรือน้อยกว่า) เพื่อให้ Developers และ Organizations ได้ Cost-effective Real-time Capabilities สำหรับ High-scale ML Applications เราตื่นเต้น Jointly Announce First-class Integration ของ Tecton และ Redis Enterprise Cloud
Redis Enterprise Cloud เป็น Best Version ของ Redis Deliver Best-in-class Performance, Scalability และ Cost-effectiveness ข้าม Cloud Vendors Redis ถูกโหวต Most Loved Database โดย Developers 5 ปีติดต่อกันใน Stack Overflow Annual Developer Survey นิยมใน Financial Services, E-commerce และ Gaming Industries Redis มี Track Record ตอบสนอง Latency Requirements (Sub-millisecond) และ High-availability ที่ demanding ที่สุด ทำให้เหมาะอย่างยิ่งสำหรับ Serve Needs ของ Real-time ML Applications
Tecton เป็น Leading Feature Store สำหรับ Enterprises ที่มองเร่ง Time to Production สำหรับ ML Projects Foundations มาจาก Experience Building Uber Michelangelo Platform ที่ Power ทุก ML Application ที่ Uber Tecton เป็น System to Operate และ Manage Data Pipelines และ Features สำหรับ Production ML Applications Typical Use Cases รวมถึง Fraud Detection, Real-time Recommendations, Dynamic Pricing และ Personalization
ตอนนี้ Tecton's Feature Store Integrate กับ Redis Enterprise Cloud สำหรับ Online Serving มันง่ายและ Cost-effective กว่าเดิมมากที่จะ Productionize Low-latency, High-throughput ML Use Cases สำหรับ Tecton Users ที่รัน High Scale Benchmark Analysis แสดงว่า Redis Enterprise Achieves 3x Faster Latency พร้อมกับ 14x Less Expensive เทียบกับ Amazon DynamoDB (อ่านเพิ่มบน Tecton's Blog) ในบทความนี้ เราจะ Deep Look ว่า Redis Enterprise และ Tecton ทำงานร่วมกันอย่างไร
How Tecton Integrates with Redis
เพื่อเข้าใจว่า Tecton และ Redis Fit Together อย่างไรเพื่อ Enable Real-time ML มาดู Steps สำหรับ Productionizing ML Use Case เช่น Fraud Detection:
- ก่อนอื่น Raw Data จำเป็น (เช่น All of User's Historical Transactions + Current Transaction ใน Real-time) Data นี้อาจกระจายอยู่ใน Data Warehouses และ Data Streams ต่างๆ ข้าม Enterprise
- เพื่อ Generate Features สำหรับ Model คุณต้อง Connect ไป Data Sources เหล่านั้น และ Define และ Execute Data Transformations ที่จะ Yield Features ตัวอย่าง Feature หนึ่งอาจดู Average Transaction Amount สำหรับ User ระยะ 6 เดือนย้อนหลัง และ Compare กับ Current Transaction
- สุดท้าย คุณต้อง Serve Features ไปยัง ML Model ที่ทำ Real-time Predictions และทำที่ Sub-100ms Latencies เพื่อ Users ไม่รับรู้ Delay ใดๆ
Tecton's Feature Store ออกแบบมา Handle Steps เหล่านี้ Abstract Away All Work ของ Orchestrating Feature Transformations และ Data Pipelines ให้ Data Science และ Data Engineering Teams ของคุณ Focus Build Models แทน อย่างไรก็ตาม Tecton ไม่ใช่ Compute Engine หรือ Database แทนที่จะเป็นนั้น มัน Sit on Top of Infrastructure ที่ Customers Already Use ดังนั้นคุณ Free to Build ML Stack ที่ถูกต้องสำหรับคุณ
Redis Enterprise Cloud เป็นหนึ่งใน Infrastructure Components นี้ นำ Customers New High-performance Option สำหรับ Online Store ที่ใช้โดย Tecton's Feature Store
How Tecton Uses Online vs. Offline Stores
Tecton's Feature Store รองรับ Two Main Access Patterns สำหรับ ML: Retrieving Millions of Rows ของ Historical Data สำหรับ Model Training และ Retrieving Single Row ใน Milliseconds เพื่อ Serve Features ให้ Models Running in Production เนื่องจาก Use Cases เหล่านี้ Different มากในแง่ Performance และ Cost Tradeoffs เรา Support Different Types of Databases สำหรับ Offline vs. Online Feature Retrieval
สำหรับ Offline Feature Store Tecton รองรับ S3 เนื่องจากให้ Cost-effective Storage ที่ Scale ได้เพื่อ Offline Feature Serving Needs สำหรับ Model Training สำหรับ Online Feature Store Tecton ตอนนี้เสนอ Customers Flexible Choice ระหว่าง DynamoDB (On-demand Capacity Mode) และ Redis Enterprise Cloud
Eliminating Training-serving Skew
โดยไม่มี Dual Database Approach หลาย Organizations Implement Separate Data Pipelines สำหรับ Offline Training และ Online Serving Minor Differences ในการ Implement Pipelines สามารถ Derail Model Performance ได้หมด เพราะ Data ที่ Model เห็นใน Training ไม่ Match Data ที่มัน Encounter ใน Production Mismatch นี้เรียกว่า Training-serving Skew และ Incredibly Time-consuming to Debug
Tecton's Feature Store Automatically Resolves Training-serving Skew โดย Coordinate Data ข้าม Offline และ Online Environments ดังนั้นจึง Always Synchronized Users สามารถ Start Off ใช้ Offline Store Only ด้วย Batch Inference และเมื่อ Ready สำหรับ Online Inference Update Single Line of Code เพื่อ Start Materializing Data เข้า Online Store
Advantages of Redis Enterprise Cloud for Tecton Users
สำหรับ Tecton Users ที่ Operate High Scale หนึ่งใน Key Advantages ของการใช้ Redis Enterprise Cloud คือ Performance และ Cost Savings ตาม Benchmark Analysis ของ Serving Online Features High-throughput Redis 3x Faster และ 14x Cheaper เทียบกับ DynamoDB on Tecton
Redis Enterprise Cloud ยังเสนอ Excellent Operational Capabilities พร้อมตอบสนอง Current และ Future Low-latency Storage Needs ให้ High Availability ด้วย SLA 99.999% Uptime, Multiple Database Persistence, Backup และ Recovery Options Customers ที่มี Large Feature Datasets สามารถ Achieve Additional Cost Savings โดย Tiering Online Feature Store over DRAM และ SSD
How to Get Started
หากคุณยังไม่ใช้ Redis Enterprise Cloud คุณสามารถ Sign Up Account ได้ที่นี่ เราแนะนำว่า Tecton Users Deploy Redis Enterprise Cloud ใน AWS เพื่อ Minimize Latency เนื่องจาก Tecton Runs Natively ใน AWS และสามารถ Establish Peering Connectivity เข้า Redis Enterprise Cloud ในอนาคต Tecton วางแผนเพิ่ม Native Support สำหรับ Cloud Vendor Platforms อื่นๆ
หากคุณไม่ใช่ Tecton User และสนใจเรียนรู้เพิ่ม คุณสามารถ Register Free Trial ของ Tecton ได้ที่นี่
