ICE, CBP нь царай таних програм DHS-ийн хэлж байгаа зүйлийг хийж чадахгүй гэдгийг мэдэж байсан

Дотоод баримт бичгүүдээс харахад АНУ-ын Цагаачлал, гаалийн алба (ICE) болон Гааль, хил хамгаалах алба (CBP) хоёулаа маргаантай нүүр царай таних програм нь Дотоодын аюулгүй байдлын яамнаас (DHS) олон нийтэд сурталчилсан гүйцэтгэлийн шалгуур үзүүлэлтийг хангаж чадаагүйг мэдэж байсан. Хяналтын технологийн талаар төрийн байгууллагуудын хэлж байгаа зүйл болон дотоод бүртгэлүүд бодит байдал дээр юу харуулж байгаа хоорондын хариуцлагын зөрүү нэмэгдэж байгаа нь ил тод байдал, худалдан авалтын ёс зүй, хиймэл оюун ухаанаар ажилладаг таних системийн бодит хязгаарлалтын талаар чухал асуултуудыг төрүүлж байна.

ICE болон CBP нар царай таних програмын талаар юу мэддэг байсан бэ?

Олон нийтийн бүртгэлийн хүсэлтээр олж авсан мөрдөн байцаалтын үр дүн болон дотоод харилцааны дагуу ICE болон CBP-ийн албан тушаалтнууд нүүр таних систем нь ялангуяа бараан арьстай хүмүүс, эмэгтэйчүүд болон өндөр настай хүмүүст хэрэглэх үед түүний зар сурталчилгааны нарийвчлалын түвшингээс ихээхэн доогуур байгааг харуулсан үнэлгээ авсан байна. Эдгээр олдворуудыг үл харгалзан агентлагууд технологийг хил дамнасан үйл ажиллагаа болон цагаачлалын хэрэгжилтийг хангах ажлын урсгалыг үргэлжлүүлэн нэвтрүүлсээр байна.

Таслах нь маш ноцтой юм. DHS нь уг хэрэгслийг таниулах найдвартай, өндөр нарийвчлалтай шийдэл болгон олон нийтэд сурталчилсан. Гэхдээ дотооддоо агентууд алдааны хувь хэмжээ, алдаа дутагдлыг тэмдэглэсэн бөгөөд энэ нь худалдан авалтын аливаа хатуу стандартын дагуу програм хангамжийг хүчингүй болгох болно. Байршлуулалт нь үл хамааран үргэлжилсэн нь институцийн хариуцлагын талаар ноцтой асуултууд болон хиймэл оюун ухааны хэрэгслийг зохих шалгалтгүйгээр нэвтрүүлэхээр яаравчлав.

Хууль сахиулах үйл ажиллагаанд нүүр царай таних нарийвчлал яагаад чухал вэ?

Хэрэглэгчийн апп-д нүүр таних алдаа нь эвгүй байдалд хүргэдэг. Хууль сахиулах болон цагаачлалын хууль сахиулах ажиллагааны хүрээнд эдгээр нь буруугаар баривчлах, буруу таних, иргэний эрхийг зөрчих, амьдралыг өөрчлөх үр дагавартай гэсэн үг юм. Бооцоо нь илүү өндөр байж болохгүй. Ийм учраас энэ системийн мэдэгдэж буй хязгаарлалтууд нь түүнийг үргэлжлүүлэн ашиглахад хүргэж байна.

• Худал эерэг нь алдаатай алгоритмын дагуу гэм буруугүй хүмүүсийг дарцаглах, саатуулах эсвэл түрэмгий байцаалтад оруулахад хүргэж болзошгүй.
• Хүн ам зүйн гажуудал сургалтын өгөгдлийн багц дахь хар арьст, уугуул иргэд, өнгөт арьст хүмүүсийг пропорциональ бус буруу танихад хүргэдэг бөгөөд энэ нь арилжааны нүүр царай таних системд маш сайн баримтжуулсан алдааны горим юм.
• Хараат бус аудитын дутагдал нь худалдагч нарт үнэн зөвийг баталгаажуулах боломжийг олгодог бөгөөд агентлагууд өргөн цар хүрээтэй хэрэглүүрийг ашиглахаас өмнө хөндлөнгийн шалгалт багатай байдаг.
• Байршуулах явцад тунгалаг байх гэдэг нь нөлөөлөлд өртсөн хүмүүс алгоритмын системээр шалгасан гэдгээ бараг мэддэггүй, тэр нь бүү хэл системд тодорхой нарийвчлалын хязгаарлалт байсан гэдгийг мэддэггүй.
• Хяналтын тогтолцоо сул байгаа ньбиометрийн технологийн үндсэн дээр гаргасан шийдвэрүүдийг хэсэгчлэн ч гэсэн эсэргүүцэх эрх зүйн цөөн хэдэн механизм үлдээдэг.

"Хамгийн аюултай технологи бол нүдэнд харагдахуйц бүтэлгүйтдэг технологи биш - энэ нь агентлагууд бүтэлгүйтэж буйг мэддэг, гэхдээ улс төрийн болон үйл ажиллагааны урам зориг нь үнэн зөв байх үүргээс давж гардаг тул ямар ч байсан ашиглаж болно."

Энэ нь засгийн газрын хиймэл оюун ухааны худалдан авалттай холбоотой илүү гүнзгий асуудлуудыг хэрхэн илчилж байна вэ?

ICE болон CBP-ийн нүүр царай таних тохиолдол нь тусдаа бүтэлгүйтэл биш бөгөөд энэ нь засгийн газрын агентлагууд хиймэл оюун ухаанаар ажилладаг багаж хэрэгслийг хэрхэн үнэлж, худалдан авч, байршуулж буй системийн үйл ажиллагааны доголдлын шинж тэмдэг юм. Борлуулалтын явцад худалдагч нар ихэвчлэн амбицтай нэхэмжлэл гаргадаг, агентлагууд эдгээр нэхэмжлэлийг бие даан шалгах дотоод техникийн чадавхигүй, гэрээ байгуулсны дараа байгууллагын инерци нь гүйцэтгэлийн өгөгдөл өөр түүхийг өгүүлсэн ч гэсэн шударга дахин үнэлгээ хийхээс татгалздаг.

Хууль сахиулах технологийн олон ашиглалтын нууц болон хагас ангилсан шинж чанар нь энэ хэв маягийг улам даамжруулж байгаа бөгөөд энэ нь сэтгүүлчид, иргэний эрх чөлөөний байгууллагууд болон олон нийтийн эдгээр хэрэглүүрийг бодит байдал дээр хэрхэн ажиллаж байгааг шалгах боломжийг хязгаарладаг. Ил тод байдал нь энэ нөхцөлд зүгээр нэг хүнд суртал биш, харин хариуцлага тооцох үйл ажиллагааны шаардлага юм.

Хариуцлагатай хиймэл оюун ухааныг ашиглах нь үнэндээ ямар харагддаг вэ?

Засгийн газрын царай таних хөтөлбөрүүдийг тойрсон тунгалаг байдлаас ялгаатай нь төрийн болон хувийн аль ч байгууллагад AI-г хариуцлагатай нэвтрүүлэх нь үр дүнгийн харьцуулалт, хараат бус аудит, хязгаарлалтыг тодорхой баримтжуулах, үр дагаврын шийдвэр гаргахаас өмнө хүний ​​бодит хяналтыг шаарддаг. Эдгээр нь радикал зарчим биш; Эдгээр нь програм хангамжийн салбарынхан хиймэл оюун ухааны ёс зүйн тогтолцоонд улам бүр кодчилогдсон суурь стандартууд юм.

Төвөгтэй үйл ажиллагаа, технологийн стекийг удирдаж буй бизнесүүдийн хувьд энэ сургамжийг шилжүүлэх боломжтой: таны хэрэгслүүд юу хийж чадахгүйг мэдэх нь юу хийж чадахыг мэдэхтэй адил чухал юм. Технологийн засаглалдаа хариуцлага, ил тод байдлыг бий болгодог байгууллагууд хязгаарлалт нь чимээгүйхэн мэдэгдэж байсан боловч хэзээ ч нээлттэй хэлэлцэгдээгүй системийг нэвтрүүлэхээс үүдэлтэй нэр хүнд, хууль эрх зүй, ёс зүйн нөлөөллөөс зайлсхийдэг.

Бизнесүүд хэрхэн илүү ил тод технологийн засаглалыг бий болгох вэ?

Засгийн газрын нүүр царайг таних хариуцлагын зөрүү нь хувийн хэвшлийн байгууллагууд зайлсхийхийн тулд идэвхтэй ажиллах ёстой болгоомжлолын загварыг санал болгож байна. Технологийн ил тод засаглалыг бий болгоно гэдэг нь програм хангамжийн хэрэгслүүдийг хэрхэн үнэлдэг, байршуулах шийдвэрт хэн гарын үсэг зурдаг, ашиглалтад орсны дараа гүйцэтгэлийг хэрхэн хянадаг, систем дутуу ажиллах үед юуг хянах, буцаах зэрэг талаар тодорхой бодлого тогтоохыг хэлнэ.

Mewayz гэх мэт платформууд нь 138,000 гаруй хэрэглэгчдийн итгэмжлэгдсэн 207 модуль бүхий нэгдмэл бизнесийн үйлдлийн систем бөгөөд энэ төрлийн үйл ажиллагааны ил тод байдлыг харгалзан бүтээгдсэн. CRM, аналитик, төслийн удирдлага, багийн хамтын ажиллагаа, гүйцэтгэлийн хяналтыг нэг нэгдсэн платформ дор нэгтгэснээр Mewayz нь өсөн нэмэгдэж буй бизнесүүдэд өөрсдийн хэрэглүүрүүд хэлтэс бүрт хэрхэн ажиллаж байгаа талаар хариуцлагатай шийдвэр гаргахад шаардлагатай харагдацыг өгдөг. Mewayz нь нууцлагдмал эвдрэлийн горимтой системээс илүүтэйгээр шийдвэр гаргагчдад хэрэгтэй мэдээллийг харуулдаг.

Байнга асуудаг асуултууд

ICE болон CBP нь царай таних програмын хязгаарлалтын талаар санаа зовж байгаагаа албан ёсоор баримтжуулсан уу?

Тийм. Дотоод харилцаа холбоо, үнэлгээний тайлангаас харахад агентлагийн ажилтнууд гүйцэтгэлийн дутагдал, ялангуяа хүн ам зүйн нарийвчлалын зөрүүтэй холбоотой байгааг тэмдэглэжээ. Эдгээр санаа зовоосон асуудлуудыг дотоод сувгаар баримтжуулсан боловч хил дамнасан технологи болон цагаачлалын үйл ажиллагааг үргэлжлүүлэн нэвтрүүлэхэд саад болж, эсвэл дорвитой удаашруулаагүй бололтой.

Одоогоор АНУ-д нүүр царай таних технологийг холбооны түвшинд зохицуулдаг уу?

2026 оны эхэн үеийн байдлаар, АНУ-д төрөөс нүүр царай таних технологийг ашиглахыг зохицуулсан холбооны нэгдсэн хууль байхгүй байна. Хэд хэдэн хот, мужууд орон нутгийн хориг, хоригийг баталсан бөгөөд холбооны түвшинд хууль тогтоомжийн саналууд үргэлжилж байгаа ч ICE болон CBP зэрэг агентлагууд харьцангуй зөвшөөрөгдсөн дотоод удирдамж, хатуу чанд өөр өөр агентлагийн тусгай бодлогын дагуу үйл ажиллагаагаа явуулсаар байна.

Өдөр тутмын байгууллагууд ICE/CBP-ийн нүүр царай таних нөхцөл байдлаас юу сурч болох вэ?

Үндсэн сургамж бол шударга, тасралтгүй гүйцэтгэлийн хариуцлага хүлээхгүйгээр технологийг нэвтрүүлэх нь хууль эрх зүй, ёс зүй, үйл ажиллагааны томоохон эрсдэлийг бий болгодог. Байгууллагууд ашиглалтад оруулахын өмнө бие даасан жишиг үнэлгээ хийхийг шаардаж, хиймэл оюун ухааны туслалцаатай аливаа шийдвэрт хүний хяналт тавих тодорхой протоколуудыг бий болгож, аль хэдийн гаргасан худалдан авалтын шийдвэрт заналхийлэхээс илүүтэйгээр хэрэгслийн хязгаарлалтыг хариуцлагатай засаглал гэж үздэг дотоод соёлыг бий болгох ёстой.

Хүчирхэг институциуд өөрсдийнхөө хэрэгсэл хийж чадах зүйл болон тэдгээр хэрэгслүүдийн бодитой хүргэж буй зүйлсийн хоорондох ялгаа нь шинэ асуудал биш боловч хиймэл оюун ухаанаар ажилладаг системүүд эрсдэлийг ихээхэн нэмэгдүүлдэг. Та хилийн хяналтын алба удирдаж байгаа эсвэл өсөн нэмэгдэж буй бизнес эрхэлдэг эсэхээс үл хамааран үйл ажиллагааны ил тод байдал, шударга гүйцэтгэлийн хариуцлага нь найдвартай засаглалын маргаангүй үндэс юм.

Та бизнесээ ойлгомжтой, хяналт, хариуцлагатай болгоход зориулагдсан платформ дээр бий болгоход бэлэн үү? Өнөөдөр Mewayz-аас эхлээрэй — сарын 19 долларын төлөвлөгөө, 207 модуль, таамаглал байхгүй.