ICE, CBP รู้ว่าแอปจดจำใบหน้าไม่สามารถทำตามที่ DHS บอกว่าทำได้

ICE, CBP รู้ว่าแอปจดจำใบหน้าไม่สามารถทำตามที่ DHS บอกว่าทำได้

เอกสารภายในเปิดเผยว่าทั้งสำนักงานตรวจคนเข้าเมืองและการบังคับใช้กฎหมายศุลกากรของสหรัฐอเมริกา (ICE) และกรมศุลกากรและการป้องกันชายแดน (CBP) ตระหนักดีว่าแอปพลิเคชันการจดจำใบหน้าที่เป็นที่ถกเถียงไม่สามารถตอบสนองเกณฑ์มาตรฐานประสิทธิภาพที่ได้รับการส่งเสริมต่อสาธารณะโดยกระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) ช่องว่างความรับผิดชอบที่เพิ่มขึ้นระหว่างสิ่งที่หน่วยงานรัฐบาลอ้างเกี่ยวกับเทคโนโลยีเฝ้าระวังและสิ่งที่บันทึกภายในแสดงให้เห็นจริง ทำให้เกิดคำถามที่สำคัญเกี่ยวกับความโปร่งใส จริยธรรมในการจัดซื้อจัดจ้าง และข้อจำกัดในโลกแห่งความเป็นจริงของระบบระบุตัวตนที่ขับเคลื่อนด้วย AI

ICE และ CBP รู้อะไรเกี่ยวกับแอปจดจำใบหน้าจริง ๆ บ้าง?

จากผลการสืบสวนและการสื่อสารภายในที่ได้รับผ่านการร้องขอบันทึกสาธารณะ เจ้าหน้าที่ทั้ง ICE และ CBP ได้รับการประเมินว่าระบบจดจำใบหน้ามีอัตราความแม่นยำต่ำกว่าที่โฆษณาไว้อย่างมาก โดยเฉพาะอย่างยิ่งเมื่อนำไปใช้กับบุคคลที่มีสีผิวเข้ม ผู้หญิง และผู้สูงอายุ แม้จะมีการค้นพบเหล่านี้ แต่หน่วยงานต่างๆ ยังคงเผยแพร่เทคโนโลยีข้ามพรมแดนและขั้นตอนการทำงานด้านการบังคับใช้คนเข้าเมืองต่อไป

การตัดการเชื่อมต่อนั้นสิ้นเชิง DHS ส่งเสริมเครื่องมือนี้ต่อสาธารณะว่าเป็นโซลูชันที่เชื่อถือได้และมีความแม่นยำสูงสำหรับการยืนยันตัวตน อย่างไรก็ตาม ตัวแทนภายในสังเกตเห็นอัตราข้อผิดพลาดและความล้มเหลวของ Edge-case ที่อาจตัดสิทธิ์ซอฟต์แวร์ภายใต้มาตรฐานการจัดซื้อที่เข้มงวด การติดตั้งใช้งานยังคงดำเนินต่อไปโดยไม่คำนึงถึง ทำให้เกิดคำถามร้ายแรงเกี่ยวกับความรับผิดชอบของสถาบัน และการเร่งรีบในการนำเครื่องมือ AI มาใช้โดยไม่มีการตรวจสอบที่เพียงพอ

เหตุใดความแม่นยำในการจดจำใบหน้าจึงมีความสำคัญในบริบทของการบังคับใช้กฎหมาย

ข้อผิดพลาดในการจดจำใบหน้าในแอปสำหรับผู้บริโภคถือเป็นความไม่สะดวก ในบริบทของการบังคับใช้กฎหมายและการบังคับใช้การเข้าเมือง อาจหมายถึงการกักขังโดยมิชอบ การระบุตัวตนผิด หรือการละเมิดสิทธิพลเมืองที่ส่งผลร้ายแรงต่อชีวิต เงินเดิมพันไม่สามารถสูงขึ้นได้ ซึ่งเป็นเหตุผลว่าทำไมข้อจำกัดที่ทราบของระบบนี้จึงทำให้การใช้งานอย่างต่อเนื่องน่าตกใจมาก

ผลบวกลวงอาจส่งผลให้ผู้บริสุทธิ์ถูกตั้งค่าสถานะ คุมขัง หรือถูกตั้งคำถามที่รุกรานโดยอิงจากการจับคู่อัลกอริทึมที่มีข้อบกพร่อง

อคติทางประชากรศาสตร์ในชุดข้อมูลการฝึกอบรมทำให้เกิดการระบุคนผิวดำ ชนพื้นเมือง และคนผิวสีผิดอย่างไม่เป็นสัดส่วน ซึ่งเป็นโหมดความล้มเหลวที่ได้รับการบันทึกไว้อย่างดีในระบบการจดจำใบหน้าเชิงพาณิชย์

การขาดการตรวจสอบที่เป็นอิสระทำให้ผู้ขายสามารถรับรองการกล่าวอ้างความถูกต้องได้ด้วยตนเองโดยแทบไม่ต้องมีการตรวจสอบจากภายนอก ก่อนที่หน่วยงานจะนำเครื่องมือไปใช้ในวงกว้าง

ความทึบในการปรับใช้หมายความว่าบุคคลที่ได้รับผลกระทบแทบไม่รู้ว่าตนถูกคัดกรองโดยระบบอัลกอริธึม ไม่ต้องพูดถึงว่าระบบทราบข้อจำกัดด้านความแม่นยำ

กรอบการกำกับดูแลที่อ่อนแอทำให้เกิดกลไกทางกฎหมายบางประการสำหรับการตัดสินใจที่ท้าทาย แม้จะเพียงบางส่วนก็ตาม บนพื้นฐานของเทคโนโลยีไบโอเมตริกซ์

“เทคโนโลยีที่อันตรายที่สุดไม่ใช่เทคโนโลยีที่ล้มเหลวอย่างเห็นได้ชัด แต่เป็นเทคโนโลยีที่หน่วยงานต่างๆ รู้ว่ากำลังล้มเหลว แต่ก็ปรับใช้อยู่ดี เพราะแรงจูงใจทางการเมืองหรือการปฏิบัติงานในการดำเนินการมีมากกว่าภาระหน้าที่ที่จะต้องถูกต้องแม่นยำ”

สิ่งนี้เผยให้เห็นปัญหาที่ลึกซึ้งยิ่งขึ้นกับการจัดซื้อจัดจ้าง AI ของรัฐบาลอย่างไร

กรณีการจดจำใบหน้าของ ICE และ CBP ไม่ใช่ความล้มเหลวเพียงอย่างเดียว แต่เป็นอาการของความผิดปกติของระบบในวิธีที่หน่วยงานของรัฐประเมิน จัดหา และปรับใช้เครื่องมือที่ขับเคลื่อนด้วย AI ผู้ขายมักจะทำการกล่าวอ้างที่ทะเยอทะยานในระหว่างกระบวนการขาย หน่วยงานขาดความสามารถทางเทคนิคภายในในการตรวจสอบการอ้างสิทธิ์เหล่านั้นอย่างอิสระ และเมื่อมีการลงนามในสัญญา ความเฉื่อยขององค์กรจะกีดกันการประเมินใหม่อย่างซื่อสัตย์ แม้ว่าข้อมูลประสิทธิภาพจะบอกเล่าเรื่องราวที่แตกต่างออกไปก็ตาม

รูปแบบนี้รุนแรงขึ้นเนื่องจากลักษณะการจำแนกประเภทหรือกึ่งจำแนกของการปรับใช้เทคโนโลยีบังคับใช้กฎหมายจำนวนมาก ซึ่งจำกัดความสามารถของนักข่าว องค์กรเสรีภาพพลเมือง และสาธารณชนในการพิจารณาว่าเครื่องมือเหล่านี้ทำงานอย่างไรจริง ๆ ในสนาม ความโปร่งใสไม่ได้เป็นเพียงความดีงามของระบบราชการในบริบทนี้เท่านั้น

Related Posts

• เครื่องมือแซนด์บ็อกซ์บรรทัดคำสั่งที่รู้จักกันน้อยของ macOS (2025)
• ผู้บริหาร Waymo เผยบริษัทจ้างพนักงานระยะไกลในฟิลิปปินส์
• ทำไมอลูมิเนียมฟอยล์จึงมีด้านหนึ่งมันวาวและอีกด้านมีผิวด้าน?
• เครื่องจำลองการสัมผัส

Frequently Asked Questions

แอปจดจำใบหน้าที่ DHS สนับสนุน มีประสิทธิภาพอย่างไร?

เอกสารภายในเปิดเผยว่าแอปพลิเคชันจดจำใบหน้าไม่สามารถตอบสนองมาตรฐานประสิทธิภาพที่ DHS ประกาศต่อสาธารณะ แม้ DHS จะอ้างประสิทธิภาพที่สูงก็ตาม ตามรายงานของ ICE และ CBP เซ็นเซอร์ใบหน้านี้ไม่เหมาะสมสำหรับการใช้งานในหน้าที่จริง

สาเหตุของความแตกต่างระหว่างข้อมูลภายในกับข้อมูลสาธารณะคืออะไร?

ช่องว่างนี้เกิดจากปัญหาของข้อมูลที่ไม่ทราบและการสื่อสารที่ไม่ถูกตูนระหว่างหน่วยงานต่าง ๆ ภายในเอกสารแสดงความกังวลเกี่ยวกับความน่าประทับใจในการประเมินประสิทธิภาพของเทคโนโลยี และสถานะการใช้งานในสถานการณ์จริง เนื่องจากหนทางการแจ้งเตือนที่ไม่เหมาะสม

การใช้แอปพลิเคชันจดจำใบหน้ายังดำเนินต่อไปหรือยัง?

แม้จะมีข้อแย้งเกี่ยวกับประสิทธิภาพ แอปพลิเคชันยังถูกรักษาไว้สำหรับการใช้งาน จึงมีการสืบสวนหาความโปร่งใสและความรับผิดชอบต่อข้อมูลเทคโนโลยีที่แท้จริง ในขณะนี้ไม่มีข้อมูลว่าจะยุติการ