ระดับเนื้อหา: Overview / Implementation considerations
หลักการและการเลือกใช้
จริยธรรม AI พิจารณาความเสียหาย ความเป็นธรรม ความโปร่งใส และความรับผิดชอบ ไม่จำกัดเพียงความแม่นยำเฉลี่ย ระบบที่วัดกระบวนการผลิตอาจส่งผลต่อคนเมื่อข้อมูลถูกนำไปประเมินการทำงานนอกวัตถุประสงค์เดิม
สำหรับผู้อ่านทั่วไป จริยธรรมถามว่าระบบควรใช้ทำอะไรและใครรับผลเมื่อผิด ไม่ใช่ถามเพียงว่าทำได้หรือไม่ ความโปร่งใสต้องทำให้รู้ขอบเขตและช่องทางทบทวน ส่วนความรับผิดชอบต้องมีผู้ตัดสินและแก้ผลที่ผิดจริง หากข้อมูลจากกล้องถูกใช้ตัดสินคน การอ่านที่ผิดเพราะแสงหรืออุปกรณ์อาจกลายเป็นข้อกล่าวหาที่ไม่เหมาะสม จึงต้องระบุการใช้ที่ห้ามตั้งแต่ต้น
วิศวกรกำหนดกลุ่มสภาพงานที่เกี่ยวข้องและติดตามความผิดโดยไม่เก็บข้อมูลอ่อนไหวเกินจำเป็น Human oversight คือการกำกับโดยคนที่มีหลักฐาน เวลา และอำนาจแก้ ไม่เพียงกดยอมรับผลอัตโนมัติ ต้องมีขั้นบันทึกข้อโต้แย้งและผลแก้ พร้อมเจ้าของความเสี่ยง การใช้กรอบบริหารความเสี่ยงช่วยตั้งคำถามและบทบาท แต่ไม่ทำให้การตัดสินที่มีผลต่อบุคคลเป็นธรรมโดยอัตโนมัติ
เลื่อนแผนภาพซ้าย–ขวาเพื่อดูรายละเอียดครบทุกส่วน
ตัวอย่างในบริบทอุตสาหกรรม
ตัวอย่างเชิงออกแบบ: กล้องอ่านเกจไม่ควรถูกตีความเป็นเครื่องวัดผลงานพนักงาน หากไม่มีข้อตกลงและการประเมินผลกระทบ แสงต่างกันระหว่างกะอาจทำให้บางกลุ่มได้รับผลผิดมากกว่า
สมมติกะหนึ่งมีแสงที่ทำให้ภาพอ่านไม่ได้บ่อยกว่า การนำจำนวน no-read ไปตีความว่ากะนั้นทำงานไม่ดีเป็นการข้ามเหตุผล ต้องตรวจสภาพภาพและอุปกรณ์ก่อน ผู้ได้รับผลกระทบควรเห็นหลักฐานและมีช่องขอทบทวน ไม่ให้คะแนนโมเดลกลายเป็นข้อสรุปต่อบุคคลโดยไม่รู้ที่มา และไม่เปลี่ยนวัตถุประสงค์การเก็บจากอ่านกระบวนการเป็นติดตามคนโดยไม่มีการประเมินใหม่
วิศวกรตรวจผลรายสภาพแสงและแหล่งกล้อง พร้อมการเข้าถึงข้อมูลของแต่ละบทบาท หากมีคำร้องว่าเวลาไม่ตรง ต้องย้อนดูภาพและ timestamp ไม่บังคับยอมรับเพราะระบบบันทึกแล้ว บันทึกการแก้และวิธีแจ้งผู้เกี่ยวข้องอย่างเหมาะสม ใช้ข้อมูลทดสอบที่ไม่เปิดเผยบุคคลจริงตรวจขั้นโต้แย้ง เพื่อยืนยันว่าช่องทางทำงานและผู้รับผิดชอบสามารถเปลี่ยนผลที่ผิดได้จริง
ขั้นตอนศึกษาและทดลอง
- 1 ระบุผู้ได้รับผลกระทบและกรณีใช้ข้อมูลผิดวัตถุประสงค์
- 2 ประเมิน error แยกสภาพงานและเปิดช่องโต้แย้งผล
- 3 กำหนดเจ้าของความเสี่ยง ผู้อนุมัติ และเงื่อนไขหยุดใช้
วิธีประเมินและนิยามผล
ติดตามความต่างของ error และภาระ review รายกลุ่มที่เหมาะสมโดยไม่เก็บข้อมูลอ่อนไหวเพิ่มโดยไร้เหตุผล ตรวจว่าข้อร้องเรียนเปลี่ยนการตัดสินใจได้จริง
ความต่างของผลต้องตีความร่วมกับสภาพข้อมูลและจำนวนตัวอย่าง ไม่สรุปว่ากลุ่มมีสาเหตุบางอย่างจากสัดส่วนผิดเพียงค่าเดียว ควรดูภาระตรวจซ้ำ เวลาในการแก้ และผลที่ตามมาของการตัดสิน ไม่ใช้การทำคะแนนกลุ่มเท่ากันเป็นหลักฐานความเป็นธรรมครบทุกมิติ เพราะวัตถุประสงค์ สิทธิ์ และความเสียหายของแต่ละงานยังต้องประเมินร่วมด้วย
วิศวกรทดสอบขั้นส่งคนตรวจและการขอทบทวนว่ามีข้อมูลที่เข้าใจได้และอำนาจหยุดผลสำคัญจริง ตรวจการใช้ข้อมูลนอกวัตถุประสงค์ด้วยบทบาทและประวัติการเข้าถึง พร้อมผู้รับผิดชอบติดตามเหตุ แนวทาง NIST และเอกสารด้านข้อมูลส่วนบุคคลเป็นอ้างอิงออกแบบการกำกับ ไม่ใช่ใบรับรองจริยธรรมของระบบ ต้องให้ผู้รู้บริบทและผู้ได้รับผลกระทบมีส่วนในการกำหนดกติกาที่เหมาะสม
ข้อจำกัดและกรณีผิดพลาด
ไม่มี metric เดียวรับรองความเป็นธรรมทุกบริบท และการให้คนกดยืนยันโดยไม่เห็นหลักฐานไม่ใช่ meaningful human oversight
คนอาจเชื่อผลอัตโนมัติแม้ผิดเพราะคิดว่าเครื่องเป็นกลาง ต้องออกแบบให้เห็นความไม่แน่นอนและข้อจำกัด ไม่ใช้สีหรือข้อความมั่นใจเพื่อกดดันให้ยอมรับ การเก็บข้อมูลเพิ่มเพื่อตรวจความต่างอาจสร้างความเสี่ยงใหม่ จึงต้องมีเหตุผลและสิทธิ์ชัด ไม่ใช้ความต้องการทำคะแนนเป็นธรรมเป็นเหตุเก็บข้อมูลอ่อนไหวทุกประเภทโดยไม่จำเป็นหรือส่งต่อภายนอก
การกำกับเพิ่มเวลาและภาระงานแต่จำเป็นเมื่อผลกระทบสูง ต้องวางทรัพยากรผู้ตรวจและขอบเขตหยุดใช้ ไม่ถือว่าการมีคู่มือหรือช่องร้องเรียนทำให้ปัญหาจบ ตัวอย่างนี้อธิบายสิ่งที่ต้องประเมิน ไม่ยืนยันว่าผลิตภัณฑ์มีระบบข้อโต้แย้งหรือผ่านการตรวจจริยธรรมแล้ว และไม่ใช้ผลอ่านภาพเป็นคำตัดสินประสิทธิภาพหรือความรับผิดของคนโดยไม่มีหลักฐานและกระบวนการที่เหมาะสม
รายการตรวจสอบก่อนนำไปใช้
- วัตถุประสงค์ประกาศชัดหรือไม่
- ผู้ได้รับผลกระทบขอทบทวนได้หรือไม่
- กำหนดการใช้ที่ห้ามและเจ้าของเรื่องหรือไม่