เจาะประเด็น
AI / Security
แอปหาคู่ใช้ AI หลอกโอนเงิน หน้าตาโคตรเนียนจนนักวิจัยเกือบหลง
AI ไม่ได้แค่เขียนเรียงความเก่งอีกต่อไป แต่มันโกหกเก่งจนแยกไม่ออกว่าคนคุยอยู่คือคนจริงหรือโค้ด
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
เมื่อ AI โทรหาเราได้แบบไม่ต้องมีคนจริงอยู่ปลายสาย คำว่า "คุยกับคน" บนแอปหาคู่จะเหลือความหมายอะไร
นักวิจัยด้านความปลอดภัยที่ใช้ชื่อว่า Matthew "Zigula" Gore-Kormanik กำลังนั่งแกะโค้ดแอปหาคู่ปลอมที่ชื่อ Dora อยู่ดีๆ จู่ๆ ก็มีป๊อปอัปเด้งขึ้นมาบอกว่าเขากำลังได้รับสายจาก Jennifer สาวผมแดง ตาสีฟ้า อายุ 41 ปี ราศีธนู ชอบ piercing ชอบดนตรี หนังสยองขวัญ ไนต์ไลฟ์ และกีฬา โปรไฟล์ดูดีแบบที่ใครเห็นก็ต้องกดรับ
เขากดรับสาย แล้วสิ่งที่เกิดขึ้นก็คือ...ไม่มีคนอยู่ปลายสาย มีแต่ระบบที่พยายามทำให้เขาเชื่อว่ามีคนอยู่ตรงนั้น นี่คือหน้าตาของ scam ยุคใหม่ที่ใช้ AI เป็นเครื่องมือหลัก ไม่ใช่แค่บอทพิมพ์ตอบในแชทแบบเมื่อก่อนอีกแล้ว
เรื่องนี้ไม่ใช่แค่เคสเดียวที่หลุดออกมา แต่เป็นสัญญาณว่าแอปหาคู่ปลอมที่ขับเคลื่อนด้วย AI กำลังกลายเป็นอุตสาหกรรมเงาที่มีโครงสร้างชัดเจนขึ้นเรื่อยๆ มันไม่ใช่ scam ระดับ "แชทหลอกโอนเงิน" แบบเดิมๆ ที่เราพอจับทางได้ แต่เป็นการผสมผสานระหว่าง AI สร้างเสียง สร้างภาพ และสร้างบทสนทนาแบบเรียลไทม์ เพื่อทำให้เหยื่อรู้สึกว่ากำลังมีความสัมพันธ์จริงๆ กับคนจริงๆ
จุดที่น่ากลัวคือมันไม่ต้องใช้คนจริงนั่งตอบอีกแล้ว เมื่อก่อนแก๊ง scam ต้องจ้างคนเป็นสิบๆ นั่งพิมพ์ตอบเหยื่อทีละคน ซึ่งมีต้นทุนและมีจุดรั่วที่คนเหล่านั้นอาจสารภาพหรือทำพลาด แต่พอ AI เข้ามา ทำหน้าที่นี้แทนได้ทั้งหมด มันก็สเกลได้แบบไม่จำกัด — หนึ่งระบบดูแลเหยื่อพันคนพร้อมกันได้โดยไม่ต้องพัก ไม่ต้องนอน ไม่ต้องขอขึ้นเงินเดือน
คนที่เสี่ยงที่สุดคือคนที่กำลังเหงา กำลังมองหาความสัมพันธ์ หรือเพิ่งอกหัก แล้วบังเอิญไปเจอแอปที่ดูน่าเชื่อถือ มีโปรไฟล์สวยๆ เยอะแยะ AI จะทำหน้าที่คัดกรองว่าใครคือเหยื่อที่ "พร้อมจ่าย" แล้วค่อยๆ สร้างความผูกพันทีละขั้น จนเหยื่อรู้สึกว่าการโอนเงินหรือให้ข้อมูลส่วนตัวเป็นเรื่องปกติ
และที่แย่กว่านั้นคือ ระบบแบบนี้ทำให้การตรวจสอบทำได้ยากขึ้นมาก เมื่อก่อนเราอาจจับได้ว่าบอทพิมพ์ตอบเร็วเกินไป ใช้คำซ้ำๆ หรือตอบไม่ตรงบริบท แต่ AI ยุคใหม่ตอบได้ลื่นไหล มีอารมณ์ มีบริบท มีการอ้างอิงถึงเรื่องที่คุยกันก่อนหน้าได้ แม้แต่คนที่ระวังตัวก็ยังแยกยาก
มุมของผมคือ ปัญหานี้ไม่ใช่แค่เรื่อง "ระวังตัวเวลาคุยกับคนแปลกหน้า" อีกต่อไป เพราะคำแนะนำแบบนั้นมันใช้ไม่ได้จริงเมื่อ AI หลอกได้เนียนขนาดนี้ สิ่งที่ต้องเปลี่ยนคือวิธีที่แพลตฟอร์มและหน่วยงานกำกับดูแลตรวจสอบแอปเหล่านี้ตั้งแต่ต้นทาง ไม่ใช่ปล่อยให้ผู้ใช้ต้องป้องกันตัวเองคนเดียว
ใช้ AI สร้างตัวตนปลอม
โปรไฟล์อย่าง Jennifer ถูกสร้างขึ้นมาอย่างสมบูรณ์ ทั้งอายุ ราศี สีผม สีตา งานอดิเรก เพื่อให้ดูเป็นคนจริง
โทรออกได้เหมือนคนจริง
ไม่ใช่แค่แชท แต่ระบบสามารถ "โทรหา" เหยื่อได้ เพื่อเพิ่มความรู้สึกว่าเป็นความสัมพันธ์จริง
สเกลได้ไม่จำกัด
เมื่อก่อนต้องใช้คนนั่งตอบ ตอนนี้ระบบเดียวดูแลเหยื่อได้พร้อมกันหลายพันคนโดยไม่มีต้นทุนเพิ่ม
ถ้ายังคิดว่า scam บนแอปหาคู่คือเรื่องไกลตัว คิดใหม่ได้เลย เพราะเมื่อ AI ทำหน้าที่ "เป็นคน" ได้เนียนขนาดนี้ กำแพงเดียวที่เหลืออยู่คือวิจารณญาณของเรา ซึ่งมันก็ไม่ได้แข็งแรงเท่าไหร่ตอนที่เราเหงา
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...