เจาะประเด็น
AI / Coding
ความจำ AI กำลังจะไม่ใช่ภาระอีกต่อไป เมื่อคนนี้เอา S3 มาเป็นสมองให้ Agent
โปรเจกต์เปิดใหม่ Polign ชวนเราตั้งคำถามว่า ทำไมความจำของ AI ต้องฝากไว้กับฐานข้อมูลแพงๆ ทั้งที่เรามีที่เก็บไฟล์ราคาถูกอยู่แล้ว
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้าเราลดภาระการบริหารฐานข้อมูลออกไปได้ทั้งหมด แล้วให้ AI จำโดยใช้แค่ที่เก็บไฟล์ธรรมดาๆ วงการ Agent จะเปลี่ยนไปขนาดไหน?
เริ่มกันที่ความจริงข้อหนึ่งที่คนทำ AI รู้ดี — ปัญหาใหญ่ที่สุดของ Agent ไม่ได้อยู่ที่โมเดลฉลาดหรือโง่ แต่อยู่ที่ "ความจำ" ต่างหาก ไอ้เจ้าสมองกลที่ต้องจำบริบทการสนทนา จำข้อมูลผู้ใช้ จำสิ่งที่ทำไปแล้วก่อนหน้านี้ มันคือต้นเหตุของค่าใช้จ่ายที่พุ่งปรี๊ดและความช้าที่ใครเห็นใครก็เซ็ง
แล้วก็มีคนชื่อ Polign (ไม่ใช่คน แต่เป็นโปรเจกต์) ผุดไอเดียที่ฟังแล้วแบบ... "เฮ้ย ทำไมไม่คิดแบบนี้วะ" — ใช้ S3 หรือ GCS bucket ที่เรามีอยู่แล้วเป็นหน่วยความจำหลักของ Agent แทนที่จะต้องไปตั้งฐานข้อมูลเวกเตอร์แพงๆ หรือเสียเงินค่า API ให้กับบริการจำสำเร็จรูป
ฟังดูง่ายแต่แก่นมันไม่ได้ง่ายนะ ที่เขาทำคือการสร้าง vector db + BM25 search แบบ lightweight ที่ทำงานกับ "typed facts" และ "structured queries" ได้จริง หมายความว่า Agent ของคุณจะจำได้ว่า "ผู้ใช้คนนี้ชื่อสมชาย อายุ 30 ปี ทำงานเป็นโปรแกรมเมอร์" ไม่ใช่จำแค่ว่า "มีคนคุยด้วยเรื่องหนึ่ง" แบบมั่วๆ เหมือนที่เห็นทั่วไป
จุดที่ทำให้ผมรู้สึกว่าโปรเจกต์นี้ไม่ได้มาเล่นๆ คือการที่มันใช้ S3/GCS เป็น primary storage ซึ่งหมายความว่าคุณไม่ต้องมาเสียเวลาจัดการ state ของ database เอง ไม่ต้องปวดหัวกับการ backup ไม่ต้องกลัวว่า server พังแล้วข้อมูลหาย เพราะมันคือ bucket ที่คุณใช้อยู่แล้วในชีวิตประจำวัน แถมการ restart node ก็เร็วแบบไม่น่าเชื่อ เพราะไม่ต้องโหลดดัชนีทั้งหมดขึ้นมาใหม่
ทีนี้มาพูดกันในมุมของคนที่ต้องเอาไปใช้งานจริงบ้าง — ข้อดีที่เห็นได้ชัดคือเรื่องต้นทุน ถ้าคุณรัน Agent เยอะๆ การจ่ายค่า vector database ต่อเดือนมันไม่ได้ถูกๆ นะ โดยเฉพาะถ้าองค์กรคุณมีข้อมูลเยอะระดับล้านแถว แต่ถ้าใช้ S3 คุณจ่ายตามปริมาณที่เก็บจริง ซึ่งถูกกว่าโคตรๆ
แต่ก็ต้องพูดถึงข้อจำกัดด้วยความสัตย์จริง — โปรเจกต์นี้เพิ่งเป็น "prototype" ตามที่ผู้พัฒนาบอกเองในกระทู้ Hacker News ยังไม่ได้ผ่านการใช้งานจริงในระดับ production ที่มีคนใช้งานพร้อมกันเป็นพันๆ คน และการ query แบบซับซ้อนที่ต้อง join ข้อมูลหลายมิติอาจจะยังไม่ตอบโจทย์เท่ากับฐานข้อมูลเวกเตอร์เต็มรูปแบบ
อย่างไรก็ตาม สิ่งที่ Polign ทำคือการเปิดประตูความคิดที่ว่า "ความจำของ AI ไม่จำเป็นต้องเป็นฐานข้อมูลเสมอไป" — มันอาจจะเป็นแค่ไฟล์ที่เรียงอย่างฉลาดๆ ใน bucket ที่เราจ่ายเงินถูกๆ ก็ได้ นี่คือแนวคิดที่กล้าดี และเป็นทิศทางที่น่าสนใจมากสำหรับคนที่อยากลดค่าใช้จ่ายเรื่อง Agent memory
สำหรับคนที่อยากลองเล่น ตัว demo ค้นหาสดเปิดให้ทดสอบได้ที่ demo.polign.com และมี writeup อธิบายแนวคิดอย่างละเอียดที่บล็อกของเขา — ผมแนะนำให้ไปอ่าน เพราะมันจะทำให้คุณเห็นภาพว่าเจ้าสิ่งนี้ทำงานยังไง และทำไมมันถึงต่างจาก vector database ทั่วไปที่คุณคุ้นเคย
ความเห็นส่วนตัวผม — นี่คือโปรเจกต์ที่ "คิดต่าง" จริงๆ และทิศทางแบบนี้แหละที่จะทำให้ AI เข้าถึงคนทั่วไปได้มากขึ้น เพราะไม่ใช่ทุกคนที่มีงบพันล้านเพื่อจ่ายค่า database ชั้นสูง แต่ทุกคนมี bucket อยู่แล้ว และถ้าไอเดียนี้ไปได้ไกล เราอาจเห็น "ที่เก็บไฟล์" กลายเป็น "สมอง" ของ AI ในอนาคตอันใกล้ก็ได้
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...