การออกแบบระบบไฟล์ในหน่วยความจำที่รวดเร็วปานสายฟ้าสำหรับเอเจนต์ AI ที่ใช้ Redis

Grepping แตกต่างออกไปเล็กน้อย 74 ปกติ ต้องอ่านทุกไฟล์ในไดเร็กทอรีนั้น ในระบบไฟล์เสมือนซึ่งหมายถึงการดึงเอกสารทุกฉบับออกจาก Redis เพียงเพื่อตรวจสอบว่ามีคำนั้นอยู่หรือไม่ มันช้าและแพงมาก

แต่เราเพิ่งเปิดตัว Upstash Redis Search ซึ่งเป็นวิธีที่ใช้สนิม รวดเร็วและมีประสิทธิภาพในการค้นหาผ่านข้อมูล Redis ด้วย Redis Search เราสามารถสกัดกั้น 82 ได้ ก่อนที่จะทำงาน ให้แปลเป็นการสืบค้น และรับผลลัพธ์ที่รวดเร็วโดยไม่ต้องดึงไฟล์

คำค้นหามีลักษณะดังนี้:

import { Redis } from "@upstash/redis";
 
const redis = new Redis.fromEnv();
const index = redis.search.index({ name: "vfs" });
 
const matches = await index.query({
 filter: {
 $must: [
 { workspaceId: "demo" },
 { kind: "file" },
 { content: { $phrase: "oauth" } },
 ],
 },
 select: { path: true },
});

เอเจนต์ยังคงเห็นเอาต์พุตแบบเดียวกับที่เห็นจากเชลล์ปกติ

การให้เชลล์แก่ตัวแทน

ชิ้นสุดท้ายกำลังเดินสายนี้จนถึง 97 เพื่อให้ตัวแทนสามารถรันคำสั่งกับมันได้ ด้วยแรงบันดาลใจจากวิธีที่ Mintlify สร้างระบบไฟล์ของผู้ช่วย เราจึงติดตั้งอะแดปเตอร์ fs ที่สนับสนุน Redis ที่ 101 บน 114 :

import { InMemoryFs, MountableFs } from "just-bash";
 
const mountableFs = new MountableFs({ base: new InMemoryFs() });
mountableFs.mount("/workspace", redisFs); // redisFs talks to Upstash
 
const bash = new Bash({ fs: mountableFs, cwd: "/workspace" });

เมื่อตัวแทนรัน 126 นั่นคือ 133 โทรตรงไปยัง Redis 146 ถูกสกัดกั้นและเปลี่ยนเส้นทางไปยัง Redis Search