ทำไม Claude ตอบผิด (และวิธีจับมันโกหก)
ผมโดน Claude หลอกเรื่องราคาเหล็กเส้นมาแล้ว เลยอยากเล่าให้ฟังว่า AI ผิดได้ยังไงและจะระวังยังไง
เรื่องนี้เกิดขึ้นจริงกับผม
ผมต้องประเมินราคางานเหล็กเสริมในงานก่อสร้างนึง ปกติผมจะโทรถาม supplier ก่อน วันนั้นรีบมาก เลยลองถาม Claude ว่าราคาเหล็กเส้น DB12 ปัจจุบันเฉลี่ยเท่าไหร่
Claude ตอบมาเลขสวยมาก เป๊ะมาก มีหน่วยมีอะไรครบ ผมเอาไปใส่ในใบเสนอเลย
วันต่อมาผมโทรเช็คกับ supplier เพื่อความชัวร์ — ราคาผิดไป 8-10% ถ้าผมส่งใบไปจริงคงเสียเงินไม่น้อย
ผมไม่โกรธ Claude นะ — เพราะเรื่องนี้เกิดจาก ผมไม่เข้าใจว่ามันทำงานยังไง
AI ไม่ใช่ Google
Google = เปิดเว็บที่มีอยู่จริงให้คุณอ่าน
AI = แต่งคำตอบขึ้นมาใหม่ทุกครั้ง โดยอิงจากรูปแบบที่เคยเห็น
แปลว่าตัวเลขที่ Claude ตอบมา ส่วนใหญ่ มันเดา — บางทีเดาเก่ง บางทีเดาตามตัวเลขเก่าๆ ที่มันเคยเห็นเมื่อ 6 เดือนที่แล้ว
วงการนี้เรียกอาการนี้ว่า Hallucination — แปลตรงตัวว่า "หลอน" คือมันแต่งคำตอบที่ดูน่าเชื่อถือมากแต่ไม่จริง
เรื่องที่ผมไม่ไว้ใจ AI เลย
| เรื่อง | เหตุผล |
|---|---|
| ราคาวัสดุปัจจุบัน | ราคาเปลี่ยนทุกเดือน AI ไม่รู้ |
| สถิติเฉพาะไทย | ข้อมูลรายปี อาจล้าสมัย |
| กฎหมาย / ข้อบังคับ | ของแบบนี้ตรวจที่ราชการดีกว่า |
| ชื่อคน / ชื่อบริษัทเฉพาะ | เดาแล้วแต่งได้ง่าย |
| เหตุการณ์ในเดือนล่าสุด | AI training cutoff อาจเก่ากว่านั้น |
กฎของผม: ถ้าเป็นตัวเลขหรือข้อเท็จจริงที่จะเอาไปใช้กับลูกค้า — เช็คอีกที่เสมอ
วิธีลดโอกาสผิด
1. ให้ข้อมูลเอง อย่าให้มันเดา
แทนที่จะถาม "ราคาเหล็กเส้นเท่าไหร่" — ก็อปราคาจริงจาก supplier มาวาง แล้วถาม "คำนวณราคารวมงานเหล็ก 2 ตันให้หน่อย ราคาตามนี้: ..."
2. บอกตรงๆ ให้มันยอมรับเมื่อไม่รู้
ผมมักใส่ใน prompt ว่า "ถ้าเรื่องไหนไม่แน่ใจ บอกตรงๆ ว่าไม่รู้ อย่าเดา" — ไม่ได้เป็นเวทมนตร์ แต่ช่วยลดได้พอสมควร
3. ถามให้มันอธิบายที่มา
"ทำไมคิดว่าใช่?" หรือ "อ้างอิงจากไหน?" — ถ้ามันอธิบายไม่ได้ชัดเจน ผมจะระวังกว่าปกติ
4. กฎทอง — AI ร่าง คุณตัดสิน
ทุกอย่างที่จะออกจากมือคุณไปสู่ลูกค้า ตัวคุณต้องอ่านและรับผิดชอบเอง
ลองคุยกับ Claude เรื่องข้อจำกัดของมัน
ลองเลย: ให้ Claude บอกข้อจำกัดของตัวเอง
Claude มีข้อจำกัดอะไรบ้างที่ผมในฐานะเจ้าของธุรกิจไทย ควรรู้ก่อนใช้กับงานจริง โดยเฉพาะเรื่อง: - ตัวเลข / ราคา / สถิติ - กฎหมาย / ภาษี ของไทย - ข้อมูลที่อัพเดตหลังปี Claude เรียนจบ - ชื่อบริษัท / ชื่อคน เฉพาะในไทย ตอบเป็น bullet สั้นๆ พร้อมแนะนำว่าผมควรทำยังไงเมื่อเจอกรณีแบบนี้
เช็คว่าได้ผลลัพธ์ตามนี้
- ☐ Claude ยอมรับข้อจำกัดตัวเองตรงๆ
- ☐ อธิบายว่าทำไมมันถึงผิดพลาดได้
- ☐ แนะนำวิธีใช้งานปลอดภัย
สัญญาณที่ควรระวัง
จากประสบการณ์ ผมเห็น 4 สัญญาณนี้แล้วระวังเป็นพิเศษ
- ตัวเลขเป๊ะๆ ไม่มีที่มา เช่น "65.4% ของ..." — มาแม่นแบบนี้น่าสงสัย
- ชื่อเฉพาะที่คุณไม่เคยได้ยิน อาจเป็นชื่อแต่ง
- อ้างกฎหมายแบบมีมาตราเป๊ะ เช่น "ตามมาตรา 248..." — ของจริงเช็คที่ราชการ
- มั่นใจเกินเหตุ ในเรื่องที่ซับซ้อน — มักเป็นสัญญาณว่าเดาแบบมั่นใจ
ลองทำดู: ฝึกจับ AI หลอน
ทำเสร็จคุณจะรู้สึกครับว่า Claude ก็เป็นแค่ผู้ช่วยที่เก่งบางเรื่องและกลวงบางเรื่อง — เหมือนคนเรานี่แหละ
บทสุดท้ายของชั้นนี้ ผมจะรวบ 5 งานที่คุณเอาไปใช้ได้วันนี้ — งานที่ผมใช้จริงในบริษัทตัวเองแทบทุกวัน
บทนี้มีประโยชน์กับคุณมั้ยครับ?
ผมอ่าน feedback เองทุกอันแล้วเอาไปปรับเนื้อหา