สร้างแอปพลิเคชัน AI ขั้นสูงโดยใช้ Upstash และ Vercel AI SDK

ในบล็อกโพสต์นี้ เราจะเจาะลึกแอปพลิเคชัน AI ที่สามารถสร้างได้โดยใช้ Upstash Redis, Upstash Vector และ Vercel AI SDK เราจะสำรวจคุณสมบัติและความสามารถเฉพาะตัวของเครื่องมือแต่ละชิ้น โดยเน้นวิธีการบูรณาการเพื่อสร้างโซลูชัน AI ที่ทรงพลังและมีประสิทธิภาพ ขณะที่เราตรวจสอบฟังก์ชันการทำงานของเครื่องมือเหล่านี้ เราจะดูตัวอย่างแอปพลิเคชันโดยสังเขปด้วย

อัพสเตชเวกเตอร์

ก่อนอื่นมาทำความเข้าใจกับฐานข้อมูลเวกเตอร์และเวกเตอร์ก่อน

ฐานข้อมูลเวกเตอร์เป็นระบบจัดเก็บข้อมูลเฉพาะที่ออกแบบมาเพื่อจัดเก็บและเรียกค้นข้อมูลในรูปแบบอาเรย์ตัวเลขหรือที่เรียกว่าเวกเตอร์ ฐานข้อมูลเหล่านี้จัดการเวกเตอร์มิติสูงปริมาณมากได้อย่างมีประสิทธิภาพ ทำให้เหมาะสำหรับการจัดการโครงสร้างข้อมูลที่ซับซ้อน ประโยชน์หลักของการใช้ฐานข้อมูลเวกเตอร์:

ประสิทธิภาพ :ฐานข้อมูลเหล่านี้นำเสนอพื้นที่จัดเก็บและการเรียกค้นเวกเตอร์ที่มีมิติสูงอย่างมีประสิทธิภาพ ช่วยลดภาระในการคำนวณ และเร่งการตอบกลับแบบสอบถามในแอปพลิเคชัน AI

ความแม่นยำ :อัลกอริธึมการค้นหาที่ปรับให้เหมาะสมช่วยให้มั่นใจได้ว่าฐานข้อมูลเวกเตอร์ค้นหาจุดข้อมูลที่เกี่ยวข้องมากที่สุดได้อย่างแม่นยำ ช่วยเพิ่มประสิทธิภาพของระบบที่ต้องมีการจัดหมวดหมู่ข้อมูล เช่น เครื่องมือแนะนำและระบบตรวจจับการฉ้อโกง

การประมวลผลแบบเรียลไทม์ :ด้วยความสามารถในการประมวลผลข้อมูลแบบเรียลไทม์ ฐานข้อมูลเวกเตอร์จึงเหมาะอย่างยิ่งสำหรับแอปพลิเคชันที่ต้องการการตอบสนองในทันที เช่น แชทบอทและการวิเคราะห์แบบเรียลไทม์

เวกเตอร์ใน AI มักจะแสดงถึงโมเดลออบเจ็กต์ที่อิงตามการฝัง ซึ่งจับคุณลักษณะหรือคุณลักษณะที่สำคัญในบริบทของแอปพลิเคชัน ตัวอย่างเช่น ในแอปพลิเคชัน AI ที่ใช้การประมวลผลภาษาธรรมชาติ เวกเตอร์อาจแสดงความหมายของข้อความ คำพูด หรือเอกสารที่กำหนด ในแอปพลิเคชันที่ใช้การประมวลผลภาพ เวกเตอร์แสดงถึงคุณลักษณะของรูปภาพที่กำหนด

ตอนนี้ มาเจาะลึกลงไปใน Upstash Vector กันดีกว่า

Upstash Vector เป็นฐานข้อมูลเวกเตอร์แบบไร้เซิร์ฟเวอร์ที่ใช้ DiskANN เป็นอัลกอริธึมการค้นหาความคล้ายคลึงของเวกเตอร์ พร้อมด้วยฟังก์ชันความคล้ายคลึง 3 ประเภท:โคไซน์ ระยะทางแบบยูคลิเดียน และดอทโปรดัค เนื่องจาก Upstash Vector ไม่มีเซิร์ฟเวอร์ จึงมีราคาแบบจ่ายตามการใช้งานและระดับฟรีที่รองรับผู้ที่ต้องการสำรวจ

ดูรายละเอียดเพิ่มเติมเกี่ยวกับอัลกอริทึมและฟังก์ชันความคล้ายคลึงที่ใช้ใน Upstash Vector ได้ในเอกสาร Upstash

นอกเหนือจากความสามารถในการค้นหาประสิทธิภาพสูงที่มีต้นทุนต่ำแล้ว ยังมี Rest API และ SDK ใน Typescript และ Python เพื่อให้บูรณาการกับ Upstash Vector เข้ากับโค้ดเบสของเราได้อย่างง่ายดาย

หากต้องการรวมเข้ากับ Upstash Vector เราจำเป็นต้องเข้าสู่ระบบคอนโซลก่อน เมื่อเราเข้าสู่ระบบแล้ว เราสามารถสร้างดัชนีเวกเตอร์ได้โดยคลิกที่ 00 ปุ่ม ในโมดอลป๊อปอัป เราสามารถตั้งชื่อดัชนีของเรา เลือกภูมิภาคที่มีดัชนีอยู่ได้ หลังจากนั้นเราสามารถเลือกโมเดลการฝังที่จะใช้เพื่อแยกการฝังออกจากวัตถุที่กำหนดก่อนที่จะเขียนลงในดัชนี Upstash Vector มีโมเดลการฝังโอเพ่นซอร์สที่กำหนดไว้ล่วงหน้าบางส่วนใน Upstash ที่สามารถใช้ได้ มิฉะนั้น เราสามารถเลือก 14 ได้ เพื่อให้เราสามารถกำหนดขนาดของเวกเตอร์ตามโมเดลการฝังภายนอกที่เราใช้

สุดท้ายนี้ เราสามารถเลือกฟังก์ชันความคล้ายคลึงที่คำนวณระยะห่างระหว่างเวกเตอร์ได้ มีฟังก์ชันความคล้ายคลึงกัน 3 ฟังก์ชันที่กำหนดไว้ใน Upstash:โคไซน์ ระยะทางแบบยุคลิด และผลคูณดอท คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับฟังก์ชันความคล้ายคลึงได้ในเอกสาร Upstash

ในหน้าจอถัดไปเราสามารถเลือกแผนที่เหมาะสมกับเราได้

เมื่อเราสร้างดัชนีเสร็จแล้ว เราก็สามารถรวม Upstash Vector เข้ากับโค้ดเบสของเราได้ ฉันจะใช้ Typescript ในโพสต์บล็อกนี้ อย่างไรก็ตาม สามารถใช้ Python หรือ Go SDK ได้เช่นกัน เราสามารถปฏิบัติตามคำแนะนำในการบูรณาการที่ให้ไว้ใน 27 แท็บบนคอนโซล Upstash Vector ก่อนอื่นเราต้องติดตั้ง 30 การพึ่งพาอาศัยกัน

npm i @upstash/vector

ตอนนี้เราสามารถเชื่อมต่อ เขียน และสืบค้นด้วยวิธีต่อไปนี้ได้อย่างง่ายดาย

import { Index } from "@upstash/vector"
const index = new Index({
 url: <UPSTASH-VECTOR-ENDPOINT>,
 token: <UPSTASH-VECTOR-TOKEN>,
})
await index.upsert({
 id: "id1",
 vector: […],
 metadata: { metadata_field: "metadata_value" },
});
await index.query({
 vector: […],
 topK: 1,
 includeVectors: true,
 includeMetadata: true,
});

Vercel AI SDK

Vercel AI SDK เป็นชุดเครื่องมือ TypeScript ที่ออกแบบมาเพื่อปรับปรุงการบูรณาการความสามารถด้าน AI เข้ากับเว็บแอปพลิเคชัน รองรับเฟรมเวิร์กต่างๆ เช่น React, Next.js, Vue, Svelte และ Node.js ช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI ได้อย่างมีประสิทธิภาพ Vercel AI SDK ประกอบด้วย 3 แนวคิดหลัก:

แกน AI SDK

Vercel AI SDK Core เป็นองค์ประกอบสำคัญของ Vercel AI SDK ซึ่งได้รับการออกแบบมาเพื่อปรับปรุงการบูรณาการความสามารถด้านปัญญาประดิษฐ์เข้ากับเว็บแอปพลิเคชัน โมดูลหลักนี้มี API แบบรวมที่อำนวยความสะดวกในการใช้โมเดลภาษาขนาดใหญ่ (LLM) เพื่อสร้างข้อความ ออบเจ็กต์ที่มีโครงสร้าง และการเรียกใช้เครื่องมือ

ตัวอย่างการใช้งานที่พบบ่อยที่สุดคือการใช้ 46 หรือ 59 เอพีไอ มาใช้งานพวกมันอย่างรวดเร็วใน typescript

`npm i ai`

import { generateText } from "ai"
import { openai } from "@ai-sdk/openai"
const { text } = await generateText({
 model: openai("gpt-4-turbo"),
 prompt: "What is love?"
})

const { messages, input, handleInputChange, handleSubmit} =
 useChat({
 api: "api/chat",
 initialMessages: […],
 onResponse(response) {},
 streamMode: "text",
 });

const result = await streamUI({
 model: openai('gpt-4o'),
 prompt: 'Get the weather for San Francisco',
 text: ({ content }) => <div>{content}</div>,
 tools: {},
});

npm i @upstash/redis

import { Redis } from '@upstash/redis'
const redis = new Redis({
 url: <UPSTASH-REDIS-ENDPOINT>,
 token: <UPSTASH-REDIS-TOKEN>,
})
const data = await redis.set('foo', 'bar');

npm install @upstash/ratelimit

import { Ratelimit } from "@upstash/ratelimit";
import { Redis } from "@upstash/redis";
 
// Create a new ratelimiter, that allows 10 requests per 10 seconds
const ratelimit = new Ratelimit({
 redis: Redis.fromEnv(),
 limiter: Ratelimit.slidingWindow(10, "10 s"),
 analytics: true,
 /**
 * Optional prefix for the keys used in redis. This is useful if you want to share a redis
 * instance with other applications and want to avoid key collisions.5
 */
 prefix: "prefix",
});
 
// Use a constant string to limit all requests with a single ratelimit
// Or use a userID, apiKey or ip address for individual limits.
const identifier = "identifier";
const { success } = await ratelimit.limit(identifier);
if (!success) {
 return "Unable to process at this time";
}
// rest of the code

import { embed } from 'ai';
import { openai } from '@ai-sdk/openai';
// 'embedding' is a single embedding object (number[])
const { embedding } = await embed({
 model: openai.embedding('text-embedding-3-small'),
 value: 'sunny day at the beach',
});