เพิ่งไปเดินเล่นใน Show HN เ� درد HN มาครับ เจอโปรเจกต์นึงชื่อ Dictata ของคนที่ชื่อ AntoineChatry สะดุดตาตรงที่มันเป็น local dictation ใช้ Whisper ในการฟัง แล้วเอาผลลัพธ์มา cleanup ด้วย LLM อีกที คือไม่ได้แค่พิมพ์ตามคำพูด แต่ช่วยจัดระเบียบประโยคให้อ่านรู้เรื่องขึ้นด้วย ตอนนี้บน HN มีแค่ 3 points กับ 0 comments เลยรู้สึกว่าเป็นของใหม่สดๆ ร้อนๆ ที่ยังไม่มีใครพูดถึง เลยอยากชวนเพื่อนๆ มาลองดูด้วยกัน
ใน README ของ GitHub เค้าบอกว่า Dictata รองรับการทำงานแบบออฟไลน์ทั้งหมด เพราะใช้ Whisper ในการแปลงเสียง แล้วค่อยส่งข้อความที่ได้ให้ LLM จัดการเรื่อง punctuation, การตัดประโยค, หรือแม้แต่แก้คำฟังผิดให้บริบทดีขึ้น อันนี้ผมว่าจุดขายมันอยู่ที่ความเป็นส่วนตัวนะครับ เพราะเสียงเราไม่ได้ส่งไปไหน ต่างจากพวก dictation แบบ cloud ทั่วไปที่ต้องอัปโหลดเสียงขึ้นเซิร์ฟเวอร์ ที่สำคัญเค้ายังให้เลือกได้ด้วยว่าจะใช้ LLM ตัวไหนมาทำ cleanup ไม่ผูกขาดกับตัวใดตัวหนึ่ง แอบคิดว่าถ้าใครมี GPU ที่บ้านก็น่าจะรันได้ลื่นๆ เลย
ส่วนตัวผมมองว่าไอเดียการเอา LLM มาช่วย cleanup หลัง Whisper นี่แหละคือสิ่งที่ทำให้โปรเจกต์นี้น่าสนใจกว่าการใช้ Whisper เปล่าๆ เพราะปกติเวลาเราพูดตามธรรมชาติมันจะมีคำเติม เช่น อ่า เอ่อ หรือพูดซ้ำๆ แล้วผลลัพธ์ที่ได้มันจะดูไม่เป็นทางการ ถ้า LLM ช่วยจัดให้มันอ่านลื่นขึ้นแบบไม่เพี้ยนความหมายก็ถือว่าเวิร์คมาก แต่อันที่ผมกังวลคือเรื่อง latency ครับ เพราะต้องรอสองรอบ รอบแรกคือ Whisper ถอดเสียง รอบสองคือ LLM จัดรูปแบบ ถ้าเครื่องไม่แรงพออาจจะรู้สึกหน่วงตอนใช้งานจริง และอีกเรื่องคือการที่มันเป็น local หมดเลย มันก็ต้องแลกกับความสะดวกในการซิงก์ข้ามอุปกรณ์ แต่สำหรับคนที่ซีเรียสเรื่องข้อมูลส่วนตัวนี่คือทางเลือกที่ดีเลยล่ะ
อยากถามเพื่อนๆ ในกลุ่มหน่อยครับ มีใครลองติดตั้งหรือใช้งานตัวนี้แล้วบ้างมั้ย แล้วคิดว่าการมี LLM มาช่วย cleanup ข้อความจาก Whisper มันจำเป็นจริงๆ ไหม หรือว่าปกติใช้ Whisper อย่างเดียวแล้วพอใจอยู่แล้ว? แล้วถ้าให้เลือก ระหว่างความสะดวกของ cloud dictation กับความเป็นส่วนตัวของ local อย่างนี้ เพื่อนๆ เลือกแบบไหนครับ?
ใน README ของ GitHub เค้าบอกว่า Dictata รองรับการทำงานแบบออฟไลน์ทั้งหมด เพราะใช้ Whisper ในการแปลงเสียง แล้วค่อยส่งข้อความที่ได้ให้ LLM จัดการเรื่อง punctuation, การตัดประโยค, หรือแม้แต่แก้คำฟังผิดให้บริบทดีขึ้น อันนี้ผมว่าจุดขายมันอยู่ที่ความเป็นส่วนตัวนะครับ เพราะเสียงเราไม่ได้ส่งไปไหน ต่างจากพวก dictation แบบ cloud ทั่วไปที่ต้องอัปโหลดเสียงขึ้นเซิร์ฟเวอร์ ที่สำคัญเค้ายังให้เลือกได้ด้วยว่าจะใช้ LLM ตัวไหนมาทำ cleanup ไม่ผูกขาดกับตัวใดตัวหนึ่ง แอบคิดว่าถ้าใครมี GPU ที่บ้านก็น่าจะรันได้ลื่นๆ เลย
ส่วนตัวผมมองว่าไอเดียการเอา LLM มาช่วย cleanup หลัง Whisper นี่แหละคือสิ่งที่ทำให้โปรเจกต์นี้น่าสนใจกว่าการใช้ Whisper เปล่าๆ เพราะปกติเวลาเราพูดตามธรรมชาติมันจะมีคำเติม เช่น อ่า เอ่อ หรือพูดซ้ำๆ แล้วผลลัพธ์ที่ได้มันจะดูไม่เป็นทางการ ถ้า LLM ช่วยจัดให้มันอ่านลื่นขึ้นแบบไม่เพี้ยนความหมายก็ถือว่าเวิร์คมาก แต่อันที่ผมกังวลคือเรื่อง latency ครับ เพราะต้องรอสองรอบ รอบแรกคือ Whisper ถอดเสียง รอบสองคือ LLM จัดรูปแบบ ถ้าเครื่องไม่แรงพออาจจะรู้สึกหน่วงตอนใช้งานจริง และอีกเรื่องคือการที่มันเป็น local หมดเลย มันก็ต้องแลกกับความสะดวกในการซิงก์ข้ามอุปกรณ์ แต่สำหรับคนที่ซีเรียสเรื่องข้อมูลส่วนตัวนี่คือทางเลือกที่ดีเลยล่ะ
อยากถามเพื่อนๆ ในกลุ่มหน่อยครับ มีใครลองติดตั้งหรือใช้งานตัวนี้แล้วบ้างมั้ย แล้วคิดว่าการมี LLM มาช่วย cleanup ข้อความจาก Whisper มันจำเป็นจริงๆ ไหม หรือว่าปกติใช้ Whisper อย่างเดียวแล้วพอใจอยู่แล้ว? แล้วถ้าให้เลือก ระหว่างความสะดวกของ cloud dictation กับความเป็นส่วนตัวของ local อย่างนี้ เพื่อนๆ เลือกแบบไหนครับ?
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...