RAG ที่ผูกคำตอบกับหลักฐาน: เรียกค้นก่อน ตอบเฉพาะสิ่งที่รองรับได้

1. แยกการเรียกค้นและการตอบเป็นคนละการตัดสินใจ

Retrieval-augmented generation หรือ RAG ส่งข้อมูลที่เรียกค้นให้โมเดลสร้างภาษา แทนการพึ่งเฉพาะความรู้ในพารามิเตอร์ งานวิจัย RAG ต้นฉบับศึกษางานภาษาที่ต้องใช้ความรู้โดยมีดัชนีข้อความวิกิพีเดีย ไม่ได้ตั้งระบบตรวจยืนยันเหตุการณ์วิดีโอ สำหรับการค้นหาภาพ ให้เรียกค้นหลักฐานเหตุการณ์ที่เข้าเงื่อนไขก่อน แล้วค่อยตัดสินว่าหลักฐานรองรับประโยคใด การเรียกค้นเสนอบริบทให้ตอบ ไม่ใช่อนุญาตให้เติมข้อสังเกตที่หายด้วยเรื่องเล่าคล้ายตัวอย่างที่โมเดลเคยเรียน

ใช้คำถามเดิม “หาผู้หญิง เสื้อแดง ถือกล่อง เวลาประมาณ 13:00” ต้องยืนยันวันที่ เขตเวลา และหน้าต่างโดยประมาณก่อนค้นตามเวลาต้นทาง ไม่สมมติวันนี้โดยเงียบ เสื้อและความสัมพันธ์ถือต้องเป็นของบุคคลเดียวกันกับกล่องเดียวกันในเวลาที่เข้ากัน ประเภทบุคคลเป็นคำบรรยายการแสดงออกที่ปรากฏตามผู้ใช้ ไม่ใช่หลักฐานอัตลักษณ์ทางเพศหรือเพศ ห้ามอนุมานลักษณะที่ได้รับการคุ้มครองหรือระบุตัวตน ผู้สมัครตรงบางส่วนไม่ใช่คำตอบครบ ความสัมพันธ์ไม่ทราบต้องคงไม่ทราบ ไม่กลายเป็นเท็จหรือมีหลักฐานเพราะถ้อยคำดูมั่นใจ

2. แยก RAG ข้อความ RAG หลายสื่อ และการตรวจจับดิบ

RAG ข้อความเรียกค้นข้อความ เช่น ฟิลด์เหตุการณ์ บทถอดเสียง OCR หรือคำบรรยายที่สร้างขึ้น แล้วตอบจากข้อความนั้น คำบรรยายที่มาจากภาพยังเป็นตัวกลางข้อความ หากขั้นตอบไม่ได้ตรวจภาพจริง มันอาจละมือ ผูกวัตถุผิดคน หรือบรรยายความสัมพันธ์ผิด ต้องเก็บวิธีสร้างข้อความและจุดอ้างอิงต้นทาง พร้อมบอกให้ชัดเมื่อคำตอบพึ่งคำบรรยายแทนการตรวจหลักฐานภาพที่มีสิทธิ์โดยตรง มิฉะนั้นผู้อ่านอาจเข้าใจว่าโมเดลเห็นและตรวจทุกสิ่งที่คำบรรยายกล่าวแล้ว

RAG หลายสื่ออาจเรียกค้นและใช้ภาพ บริเวณ หรือช่วงวิดีโอร่วมกับข้อความเป็นข้อมูลให้ตอบ ขึ้นกับระบบที่เลือก การเห็นพิกเซลโดยตรงช่วยทบทวนคำบรรยายได้ แต่ความละเอียดจำกัด การสุ่มคลิป และความผิดพลาดโมเดลยังจำกัดข้อสรุป ส่วนการตรวจจับวัตถุดิบเสนอประเภทและกรอบบริเวณจากสื่อเข้า ไม่ใช่การเรียกค้นแล้วสร้างคำตอบ และไม่ยืนยันการถือหรือระยะเวลา ผลตรวจจับที่เก็บไว้เป็นข้อมูลเข้า RAG ได้เมื่อรักษาที่มาและความไม่แน่นอน ต้องประเมินแต่ละส่วนแยก ไม่ยกความผิดพลาดหรือการดีขึ้นทั้งหมดให้ป้าย RAG เดียว

3. แยกคำถามคุณภาพสามชนิดที่ไม่เหมือนกัน

การผูกกับหลักฐานหรือ grounding เชื่อมแต่ละข้ออ้างกับหลักฐานที่ระบุและรองรับได้ เช่น รุ่นเหตุการณ์ บริเวณบุคคล และช่วงต้นทาง การมีอ้างอิงอยู่จริงจำเป็นแต่ยังไม่พอ เพราะต้องครอบคลุมข้ออ้างนั้น ความซื่อตรงต่อบริบทหรือ faithfulness ถามว่าคำตอบยึดข้อมูลที่ได้รับโดยไม่เพิ่มข้อกล่าวไร้หลักฐานหรือเมินความไม่แน่นอนหรือไม่ ส่วนความถูกต้องหรือ correctness ถามว่าคำตอบถูกตามคำถามที่ยืนยันและหลักฐานต้นทางที่ตรวจแล้วหรือไม่ คุณสมบัติเหล่านี้ทับซ้อนแต่แทนกันไม่ได้ ต้องมีตัวอย่างประเมินและป้ายความผิดพลาดของแต่ละชนิด

คำตอบอาจซื่อตรงด้วยการทวนคำบรรยายที่ผิด แต่ยังไม่ถูกต้อง ประโยคดูถูกแต่กู้คืนหลักฐานรองรับไม่ได้ก็ยังผูกกับหลักฐานไม่เพียงพอ รหัสเหตุการณ์ที่มีจริงแต่ชี้คนหรือเวลาผิดไม่รองรับข้ออ้างเช่นกัน JSON ตัวอย่างระบุรุ่น บริเวณ และช่วง พร้อมเก็บการถือที่ไม่ทราบ ไม่ใช่ข้อสังเกตจริงหรือข้อตกลงคำตอบที่รันได้ บริบทเวลาที่ยังขาดห้ามการทำงาน รูปแบบโครงสร้างทำให้ตรวจสอบเป็นขั้นตอนได้ แต่อ้างอิงที่ผ่านสคีมาไม่ได้รับรองว่าเกิดอะไรขึ้น

{
  "time": {"clock": "13:00", "date": null, "timezone": null, "window_minutes": null},
  "retrieval_scope": "authorized_only",
  "illustrative_claim": {"predicate": "holding_same_box", "state": "unknown"},
  "evidence_reference": {
    "event_id": "evt-0042",
    "source_segment": "cam-03/segment-017",
    "region_ids": ["region-person-1", "region-box-2"],
    "interval_seconds": [15, 18],
    "interval_convention": "half_open_from_segment_start",
    "source_revision": "r1",
    "event_revision": "r1"
  },
  "answer_state": "abstain_pending_confirmation",
  "playback": "requires_fresh_authorization"
}

4. ตรวจข้ออ้าง ไม่ใช่เพียงตัวอักษรอ้างอิง

แก้จุดอ้างอิงไปยังรุ่นเหตุการณ์และต้นทางที่มีจริงและได้รับอนุญาต ตรวจว่าบริเวณเป็นของเฟรมหรือชิ้นวิดีโอที่ระบุ ตำแหน่งเวลาอยู่ภายในสื่อที่มี และบุคคลกับกล่องเกี่ยวข้องกันตลอดช่วงอ้างอิง ให้ผู้ตรวจดูบริบทข้างเคียงที่มีสิทธิ์เมื่อจำเป็นต่อการประเมินส่งกล่องหรือการบัง ภาพย่อมีวัตถุสองอย่างไม่พอรองรับความสัมพันธ์ต่อเนื่อง การอ้างคลิปยาวทั้งหมดอาจซ่อนว่าไม่มีหลักฐานตรงกับข้ออ้างเฉพาะ จึงต้องชี้บริเวณและช่วงที่ผู้ตรวจทบทวนได้จริง

เทียบแต่ละประโยคที่เสนอทั้งกับหลักฐานสนับสนุนและหลักฐานขัดแย้งก่อนแสดง ถ้าคำบรรยายว่าถือ แต่ภาพที่เข้าถึงได้เห็นกล่องบนโต๊ะโดยบุคคลเกี่ยวข้องไม่ได้ควบคุม ให้ระบุความขัดแย้ง ไม่เลือกคำบรรยายที่ทำให้คำตอบลื่นไหลกว่า ถ้ามือถูกบัง ความสัมพันธ์อาจยังไม่ทราบ ให้งดส่วนที่ไม่มีหลักฐาน ติดป้ายผลตรงบางส่วนชัด หรือบอกว่าหลักฐานไม่พอตอบคำถามครบ การตอบไม่พบต้องแยกข้อจำกัดความครอบคลุมค้นได้เมื่อเหมาะสม โดยไม่เปิดเผยการมีอยู่ของเหตุการณ์ที่เข้าถึงไม่ได้

5. เก็บอำนาจตัดสินใจไว้นอกข้อความและคำตอบที่สร้าง

บังคับสิทธิ์ก่อนเรียกค้นและจัดอันดับผู้สมัครในทุกแขนง รวมดัชนีข้อความ เวกเตอร์ และการดึงบริบทเพิ่ม จำกัดผู้สมัครจากต้นทางที่ได้รับอนุญาต และรักษาเวลา กล้อง กับค่าถูกต้องที่ยืนยันตลอดการจัดอันดับใหม่และสร้างคำตอบ ตรวจสิทธิ์อีกครั้งก่อนแสดงหลักฐานหรือเปิดเล่น เพราะสิทธิ์อาจเปลี่ยน แผนคำถามของโมเดลภาษาหรืออ้างอิงที่สร้างไม่ให้สิทธิ์เข้าถึง ใช้การอ่านข้อมูลที่ตรวจสคีมา อนุญาตเฉพาะรายการ และใส่ค่าผ่านพารามิเตอร์ คำสั่ง SQL ที่สร้างโดยตรงไม่ใช่ผู้มีอำนาจกำหนดความเข้าเงื่อนไข

OCR คำบรรยาย บันทึกที่ค้นมา และคำถามผู้ใช้เป็นข้อมูลที่ไม่ไว้วางใจ คำสั่งพิมพ์ในฉากหรือแทรกในคำบรรยายต้องไม่แก้สิทธิ์ ขอข้อมูลไม่เกี่ยวข้อง หรือได้อำนาจใช้เครื่องมือ OWASP อธิบายการแทรกคำสั่งทางอ้อมและเหตุใด RAG อย่างเดียวไม่กำจัดความเสี่ยง แยกข้อมูลจากคำสั่ง จำกัดการกระทำที่อนุญาต และตรวจผลนอกโมเดล พร้อมยอมรับว่าไม่ใช่หลักประกันป้องกันทุกกรณี ห้ามส่งหลักฐานลับไปโมเดลภายนอกโดยไม่ได้รับอนุมัติ ความช่วยเหลือด้านความหมายที่มีประโยชน์ไม่ลบขอบเขตข้อมูลที่อนุมัติไว้

6. รักษาหลักฐานให้ทันรุ่นและข้อสรุปให้อยู่ในขอบเขต

รักษาความสอดคล้องระหว่างสื่อต้นทาง บันทึกเหตุการณ์ คำบรรยาย เวกเตอร์ แคชเรียกค้น และอ้างอิงคำตอบที่บันทึก การหมดอายุ ลบ หรือเปลี่ยนรุ่นต้องกันหลักฐานเก่าไม่ให้รองรับคำตอบปัจจุบัน รหัสเหตุการณ์คงที่อย่างเดียวไม่ได้ตรึงเนื้อหา ต้องเก็บรุ่นต้นทางและเหตุการณ์ที่ตรวจจริง ตรวจการมีอยู่และสิทธิ์ก่อนใช้ซ้ำ และกันการประมวลผลล่าช้าสร้างข้อมูลที่ลบแล้วกลับมา เมื่อหลักฐานหายให้ระบุว่าคำตอบเก่าหรือใช้ไม่ได้ ไม่รักษาความมั่นใจจากการเปิดข้อมูลสำเร็จในอดีต

ห้ามเปลี่ยนคำถามเชิงบรรยายเป็นการอนุมานลับเกี่ยวกับตัวตน ลักษณะที่ได้รับการคุ้มครอง เจตนา หรือประวัติส่วนบุคคล แทร็กที่มีขอบเขตเป็นการเชื่อมภายในลำดับต้นทาง ไม่ใช่อัตลักษณ์ที่ยืนยัน ให้คนทบทวนข้อสรุปที่มีผลสำคัญ ไม่ลงโทษอัตโนมัติจากผลตรงที่ไม่แน่นอน ประเมินความเกี่ยวข้องเรียกค้น การรองรับอ้างอิง ความซื่อตรง ความถูกต้อง การจัดการข้อขัดแย้ง และการงดตอบที่เหมาะสมแยกกัน รวมกรณีตอบได้เพื่อไม่ให้การปฏิเสธทุกอย่างดูเป็นคุณภาพ AIFacon Detection ยังอยู่ในแผน บทความไม่ยืนยันบริการ RAG ที่ใช้งานแล้ว สมรรถนะหรือระดับบริการที่รับประกัน นโยบายข้อมูลผลิตภัณฑ์ หรือผลรับรอง

• ทดสอบคำตอบที่ใช้เพียงคำบรรยายกับบริเวณต้นทาง และแยกตัวกลางข้อความจากหลักฐานหลายสื่อที่ตรวจจริง
• ตรวจอ้างอิงระดับข้ออ้างทั้งเหตุการณ์ บริเวณ ช่วง และรุ่น รวมอ้างอิงที่มีจริงแต่รองรับคนหรือเวลาอื่น
• ทดสอบคำบรรยายขัดแย้ง มือถูกบัง และคำถามตอบไม่ได้ สถานะไม่ทราบไม่ใช่เท็จและไม่อนุญาตให้แต่งข้อเท็จจริง
• ทดสอบสิทธิ์บังคับก่อนเรียกค้น OCR หรือคำบรรยายที่ไม่ไว้วางใจ เวลาที่ยังไม่ยืนยัน และสิทธิ์ถูกถอนก่อนเปิดเล่น
• ทดสอบการลบ หมดอายุ เหตุการณ์แก้รุ่น และคำตอบแคชเก่า ห้ามอนุมานตัวตนหรือลักษณะลับ และให้ทบทวนข้อสรุปที่มีผลสำคัญ