AI Safety สำหรับคนทำงาน: ใช้ AI อย่างปลอดภัย ไม่ให้ข้อมูลรั่วหรือคำตอบผิดพาเสียงาน
AI Safety สำหรับคนทำงานคือการใช้ AI โดยรู้ขอบเขต รู้ความเสี่ยง และมีขั้นตอนตรวจผลลัพธ์ก่อนนำไปใช้จริง ประเด็นสำคัญไม่ใช่แค่ “AI ตอบได้ไหม” แต่คือ “คำตอบนั้นถูกพอ ปลอดภัยพอ และเหมาะจะใช้ในงานจริงไหม”
ความเสี่ยงหลักของ AI#
- คำตอบผิดแต่ดูน่าเชื่อ
- แต่งแหล่งอ้างอิงหรือข้อมูล
- สรุปเกินข้อมูลในไฟล์
- ข้อมูลลับหรือข้อมูลลูกค้ารั่ว
- prompt injection จากเอกสารหรือเว็บ
- automation ทำ action โดยไม่ตั้งใจ
- ใช้ AI กับงานเสี่ยงสูงโดยไม่มีผู้เชี่ยวชาญตรวจ
AI Hallucination คืออะไร#
AI hallucination คือกรณีที่ AI สร้างคำตอบที่ดูน่าเชื่อแต่ไม่ตรงกับข้อเท็จจริง เช่น อ้างแหล่งที่ไม่มีจริง ให้ตัวเลขผิด หรือสรุปสิ่งที่ไม่ได้อยู่ในไฟล์
วิธีลดความเสี่ยง:
- ขอแหล่งอ้างอิง
- ให้ใช้เฉพาะข้อมูลที่ให้
- ให้บอกเมื่อไม่แน่ใจ
- แยก fact, assumption และ recommendation
- ตรวจตัวเลข วันที่ และชื่อเฉพาะเอง
Prompt Injection คืออะไร#
Prompt injection คือความเสี่ยงที่ข้อความจากไฟล์ เว็บไซต์ หรือข้อมูลภายนอกพยายามสั่งให้ AI ทำสิ่งที่ขัดกับคำสั่งเดิม เช่น ให้เปิดเผยข้อมูล หลีกเลี่ยง policy หรือทำ action ที่ไม่ควรทำ
วิธีลดความเสี่ยง:
- ระบุว่าให้ทำตามคำสั่งผู้ใช้และ policy เท่านั้น
- ระวังไฟล์หรือเว็บที่ควบคุมไม่ได้
- จำกัดสิทธิ์ของ AI agent
- ให้มนุษย์อนุมัติก่อน action สำคัญ
Data Policy สำหรับทีม#
ควรแบ่งข้อมูลเป็นระดับ:
- Public: ใช้กับ AI ได้ตามปกติ
- Internal: ใช้ได้เฉพาะเครื่องมือ/plan ที่องค์กรอนุมัติ
- Confidential: ต้องขออนุญาตหรือ anonymize
- Restricted: ห้ามส่งเข้า AI เช่น credential, secrets, ข้อมูลส่วนบุคคลละเอียด
Checklist ก่อนใช้ AI กับงานจริง#
- ไม่มีข้อมูลลับหรือ credential
- มีแหล่งอ้างอิงสำหรับ claim สำคัญ
- ตรวจตัวเลข วันที่ และชื่อเฉพาะแล้ว
- แยก fact กับ recommendation แล้ว
- งานเสี่ยงสูงมีผู้เชี่ยวชาญตรวจ
- automation มี approval ก่อน action สำคัญ
- มีบันทึกว่าตรวจอะไรไปแล้ว
FAQ#
AI ปลอดภัยไหม#
การใช้ AI ลดความเสี่ยงได้เมื่อเลือกเครื่องมือที่เหมาะสม มีนโยบายข้อมูล จำกัดสิทธิ์ และมี human review แต่ไม่ควรส่งข้อมูลลับหรือใช้คำตอบกับงานเสี่ยงสูงโดยไม่ตรวจ
ใช้ AI กับข้อมูลบริษัทได้ไหม#
ขึ้นอยู่กับ policy ขององค์กร plan ที่ใช้ และประเภทข้อมูล ข้อมูลลับ ข้อมูลลูกค้า credential และข้อมูลส่วนบุคคลควรถูกจำกัดหรือ anonymize ก่อนใช้
Prompt injection อันตรายอย่างไร#
Prompt injection อาจทำให้ AI ทำตามคำสั่งที่ฝังมากับไฟล์หรือเว็บภายนอก เช่น เปิดเผยข้อมูลหรือข้ามข้อจำกัด จึงควรจำกัดสิทธิ์และให้มนุษย์อนุมัติก่อน action สำคัญ