ICEとCBPは、顔認識アプリがDHSができると言っていることができないことを知っていた

ICEとCBPは、顔認識アプリがDHSができると言っていることができないことを知っていた

内部文書によると、米国移民関税執行局（ICE）と税関国境警備局（CBP）の両方が、物議を醸している顔認識アプリケーションが国土安全保障省（DHS）が公的に推進しているパフォーマンスベンチマークを満たしていないことを認識していたことが明らかになった。監視技術について政府機関が主張していることと、内部記録が実際に示していることとの間の説明責任のギャップが増大していることは、透明性、調達倫理、AIを活用した識別システムの現実世界の限界について重大な疑問を引き起こしている。

ICE と CBP は顔認識アプリについて実際に何を知っていたのでしょうか?

調査結果と公的記録請求を通じて入手した内部通信によると、ICEとCBPの当局者は、顔認識システムが、特に肌の色が濃い人、女性、高齢者に適用した場合、宣伝されている精度を大幅に下回っていることを示す評価を受けた。これらの発見にもかかわらず、当局は国境管理と入国管理ワークフロー全体にテクノロジーの展開を続けました。

断絶は激しい。 DHS は、このツールを信頼できる高精度の本人確認ソリューションとして宣伝しました。しかし、社内では、エージェントは、厳格な調達基準の下ではソフトウェアが不適格となるようなエラー率とエッジケースの障害を指摘しました。それにもかかわらず導入は継続され、組織の説明責任と、適切な精査なしに AI ツールの導入を急ぐことについて深刻な疑問が生じました。

法執行機関において顔認識の精度が重要なのはなぜですか?

消費者向けアプリにおける顔認識エラーは不便です。法執行機関や移民執行機関の文脈では、これらは不当な拘禁、誤認、または人生を変える結果を伴う公民権侵害を意味する場合があります。危険はこれ以上ありません。だからこそ、このシステムの既知の制限により、継続使用が非常に憂慮されるのです。

誤検知により、欠陥のあるアルゴリズムの照合に基づいて、無実の個人がフラグを立てられたり、拘束されたり、侵入的な尋問を受けたりする可能性があります。

トレーニング データセットにおける人口統計上の偏りは、黒人、先住民、有色人種の不均衡な誤認を引き起こします。これは、商用の顔認識システムにおける十分に文書化された失敗モードです。

独立した監査が存在しないため、代理店がツールを大規模に導入する前に、ベンダーは外部検証をほとんど行わずに精度の主張を自己認証することができます。

導入が不透明であるということは、影響を受ける人々がアルゴリズム システムによってスクリーニングされたことをほとんど知らないことを意味し、ましてやシステムに既知の精度制限があることなどは言うまでもない。

監視の枠組みが弱いため、生体認証技術に基づいて（たとえ部分的にでも）困難な決定を下すための法的メカニズムがほとんど残されていません。

「最も危険なテクノロジーとは、目に見えて失敗する種類のテクノロジーではありません。政府機関が失敗していることを知っていても、政治的または運用上の行動のインセンティブが正確である義務を上回るため、とにかく導入してしまう種類のテクノロジーです。」

これは政府の AI 調達に関するより深刻な問題をどのように明らかにするのでしょうか?

ICE と CBP の顔認識事件は、単独の障害ではなく、政府機関が AI を活用したツールを評価、調達、導入する方法における全体的な機能不全の症状です。ベンダーは販売プロセス中に野心的な主張をすることがよくありますが、代理店にはそれらの主張を独自に検証するための内部技術的能力が不足しており、一度契約が締結されると、たとえパフォーマンスデータが別のストーリーを示している場合でも、組織の慣性により誠実な再評価が妨げられます。

このパターンは、多くの法執行テクノロジー導入の機密または半機密の性質によって悪化しており、ジャーナリスト、自由人権団体、および一般の人々がこれらのツールが現場で実際にどのように機能するかを精査する能力が制限されています。この文脈では、透明性は単なる官僚的な便宜ではありません。

Related Posts

• DJBの暗号学的オデッセイ：コードヒーローから標準規格の批評家へ
• macOS のあまり知られていないコマンドライン サンドボックス ツール (2025)
• シンギュラリティは火曜日に起こる
• ランダムな実験的選択はより良い理論につながるでしょうか?

Frequently Asked Questions

ICEとCBPは、顔認識アプリがDHSができると言っていることができないことを知っていた

ICEとCBPは、物議を醸している顔認識アプリケーションが国土安全保障省（DHS）が公的に推進しているパフォーマンスベンチマークを満たしていないことを知っていたことが明らかになっています。内部文書によると、監視技術について政府機関が主張していることと、内部記録が実際に示していることとの間の説明責任のギャップが増大していることは、透明性、調達倫理、AIを活用した識別システムの現実世界の限界について重大な疑問を引き起こしています。

ICEとCBPは顔認識アプリについて実際に何を知っていたのでしょうか?

調査結果と公的記録請求を通じて入手した内部通信によると、ICEとCBPの当局者は、顔認識システムが、特に肌の色が濃い人、女性、高齢者に適用した場合、宣伝されている精度を大幅に下回っていることを示す評価を受けました。これらの発見にもかかわらず、当局は国境管理と入国管理ワークフロー全体にテクノロジーの展開を続けました。断絶は激しい。DHSは、このツールを信頼できる高精度の本人確認ソリューションとして宣伝しましたが、社内ではエージェントが厳格な調達基準の下ではソフトウェアが不適格となるようなエラー率とエッジケースの障害を指摘しました。それにもかかわらず、DHSは、このシステムが重要な人権侵害を引き起こしていることが報告されているにもかかわらず、大規模な展開を継続しました。

内部文書はどのようにこの情報を明らかにしたのでしょうか?

内