CBP падпісвае здзелку Clearview AI аб выкарыстанні распазнання твараў для «тактычнага цэлеўказання»

Мытная і памежная служба ЗША (CBP) падпісала новы кантракт з Clearview AI, які дазваляе выкарыстоўваць тэхналогію распазнання твараў для таго, што афіцыйныя асобы апісваюць як аперацыі "тактычнага цэлеўказання". Гэтая падзея азначае значную эскалацыю таго, як федэральныя агенцтвы разгортваюць біяметрычныя інструменты на базе штучнага інтэлекту, падымаючы крытычныя пытанні аб прыватнасці, падсправаздачнасці і будучыні кіравання штучным інтэлектам як у дзяржаўным, так і ў прыватным сектарах.

Што такое здзелка CBP і Clearview AI і чаму гэта важна?

Clearview AI доўгі час быў супярэчлівым імем у свеце распазнання твараў. Кампанія стварыла сваю базу дадзеных шляхам збору мільярдаў малюнкаў з сацыяльных сетак, агульнадаступных вэб-сайтаў і іншых інтэрнэт-крыніц — практыка, якая выклікала судовыя пазовы і рэгулятарны кантроль па ўсім свеце. Новы кантракт CBP уяўляе сабой адно з найбольш значных у аператыўным плане разгортванняў тэхналогіі Clearview на сённяшні дзень, перамяшчаючы яе ад падтрымкі расследаванняў да актыўнага "тактычнага цэлеўказання" - фраза, якая прапануе выкарыстанне ў рэальным ці амаль рэальным часе ў сцэнарыях прымусовага выканання.

CBP, які працуе пад кіраўніцтвам Дэпартамента ўнутранай бяспекі, кантралюе бяспеку межаў, мытны кантроль і іміграцыйны кантроль. Інтэграцыя базы дадзеных распазнавання твараў Clearview у тактычныя аперацыі CBP азначае, што агенты неўзабаве могуць супаставіць твары, зробленыя ў палявых умовах, з наборам мільярдаў малюнкаў, зробленых без відавочнай згоды людзей. Для прадпрыемстваў, спецыялістаў па бяспецы і звычайных грамадзян гэта сігналізуе аб тым, што ідэнтыфікацыя з дапамогай штучнага інтэлекту больш не з'яўляецца канцэпцыяй будучыні — гэта аператыўная рэальнасць.

Як тэхналогія распазнання твараў працуе ў кантэксце праваахоўных органаў?

Сістэмы распазнання твараў, такія як Clearview AI, выкарыстоўваюць алгарытмы глыбокага навучання для стварэння лічбавага "адбітка твару" з фатаграфіі. Затым гэты адбітак твару параўноўваецца з эталоннай базай дадзеных, каб знайсці магчымыя супадзенні. У праваахоўных органах працоўны працэс звычайна выконвае наступныя дзеянні:

• Захоп выявы: фатаграфія зроблена ў палявых умовах, атрымана з запісаў камер назірання або ўзята з дакумента або падказкі.
• Вылучэнне функцый: мадэль штучнага інтэлекту адлюстроўвае ключавыя рысы твару — адлегласць паміж вачыма, форму носа, лінію сківіцы — ва ўнікальны лікавы вектар.
• Запыт у базу даных: вектар параўноўваецца з мільёнамі ці мільярдамі захаваных адбіткаў твараў, каб атрымаць супадзенні з павярхоўным рэйтынгам.
• Лічная праверка: аналітык разглядае лепшыя супадзенні і прымае канчатковае рашэнне, у ідэале да прыняцця якіх-небудзь прымусовых мер.
• Дзеянні або вызваленне: На падставе агляду агенты прыступаюць да апытання, затрымлівання або здымаюць з асобы падазрэнні.

Дакладнасць і справядлівасць гэтага канвеера ў значнай ступені залежаць ад якасці і разнастайнасці навучальных даных, парога для аб'яўлення супадзення і строгасці этапу праверкі чалавекам. Даследаванні, у тым ліку праведзеныя NIST, нязменна выяўляюць, што многія сістэмы распазнання твараў менш дакладна працуюць на жанчынах і людзях з цёмным адценнем скуры, што выклікае сур'ёзную заклапочанасць наконт дыскрымінацыйнага ўздзеяння пры разгортванні ва ўмовах жорсткага кантролю.

Якія наступствы «тактычнага таргетынгу» для прыватнасці і грамадзянскіх свабод?

Фраза «тактычнае цэлеўказанне» робіць значную працу ў гэтай размове. Нягледзячы на ​​тое, што CBP не апублікавала дэталёвага аператыўнага плана, фармулёўка прадугледжвае актыўнае разгортванне на месцах, а не рэтраспектыўнае расследаванне. Гэта адрозненне мае надзвычайнае значэнне для грамадзянскіх свабод.

"Калі распазнаванне твараў перамяшчаецца са стала аналітыка на тэлефон агента ў поле, запас памылак — і шкоды — змяншаецца амаль да нуля. Няма паўзы, разважанняў і часта няма магчымасці звярнуцца да памылкова ідэнтыфікаванага чалавека."

Абаронцы канфідэнцыяльнасці сцвярджаюць, што разгортванне базы дадзеных Clearview у тактычных мэтах нармалізуе масавае біяметрычнае сачэнне без заканадаўчага дазволу. У адрозненне ад адбіткаў пальцаў або ДНК, сабраных у рамках афіцыйных судовых працэсаў, выявы ў базе дадзеных Clearview ніколі добраахвотна не перадаваліся ў дзяржаўныя органы. Выкарыстанне гэтых даных для прымусовых дзеянняў стварае трывожны прэцэдэнт: такія публічна бачныя паводзіны — у тым ліку размяшчэнне фота ў інтэрнэце — могуць быць накіраваны супраць асоб у кантэксце правапрымянення, якога яны нават не чакалі.

Як кампаніі павінны рэагаваць на пашырэнне сачэння за штучным інтэлектам у сваіх галінах?

Здзелка CBP-Clearview - гэта не проста гісторыя ўрада - яна мае прамыя наступствы для кампаній, якія збіраюць, захоўваюць або апрацоўваюць даныя кліентаў. Нарматыўны ціск вакол біяметрычных даных узмацняецца. Закон штата Ілінойс аб канфідэнцыяльнасці біяметрычнай інфармацыі (BIPA), аналагічныя законы ў Тэхасе і Вашынгтоне і федэральнае заканадаўства, якое чакае прыняцця, - усё гэта сігналізуе аб тым, што кампаніі, якія апрацоўваюць даныя аб тварах, сутыкаюцца з усё большай юрыдычнай пагрозай.

Цяпер кампаніі павінны спытаць: ці збіраем мы біяметрычныя дадзеныя? Калі так, ці ёсць у нас выразная згода, бяспечныя пратаколы захоўвання і выразныя палітыкі захавання даных? Акрамя выканання патрабаванняў, рэпутацыйныя стаўкі рэальныя. Спажыўцы звяртаюць увагу на тое, як кампаніі апрацоўваюць штучны інтэлект і асабістыя даныя, і быць злоўленым не на тым баку гісторыі этыкі штучнага інтэлекту можа нанесці працяглую шкоду брэнду.

Вось дзе інтэграваныя платформы кіравання бізнесам становяцца важнымі. Кіраванне патрабаваннямі, адносінамі з пастаўшчыкамі, палітыкай даных і сувяззю паміж аддзеламі патрабуе каардынацыі, якую проста не могуць забяспечыць раскіданыя інструменты. Уніфікаваная платформа дазваляе камандам па адпаведнасці, юрыдычным, кадравым і аперацыйным аддзелам заставацца ў адпаведнасці - асабліва ў сувязі з хуткімі зменамі нарматыўнага асяроддзя.

Як выглядае будучыня кіравання ІІ для прадпрыемстваў?

Кантракт CBP-Clearview - гэта папярэдні прагляд свету, у якім працэс прыняцця рашэнняў ІІ закранае ўсё больш важныя сферы. Прадпрыемствам неабходна пабудаваць унутраную структуру кіравання зараз, перш чым правілы выкрышталізуюцца ў жорсткія патрабаванні. Гэта азначае прызначэнне кіраўнікоў па этыцы штучнага інтэлекту, правядзенне рэгулярных алгарытмічных аўдытаў, вядзенне празрыстых інвентарызацый даных і навучанне галоўных кіраўнікоў абмежаванням штучнага інтэлекту.

Кампаніі, якія разглядаюць кіраванне штучным інтэлектам як практыкаванне ў полі сцяжка, будуць злоўлены на плоскаступнёвасці, калі нарматыўнае асяроддзе стане больш жорсткім. Тыя, хто ўбудоўвае гэта ў сваю аператыўную ДНК - адсочванне практык штучнага інтэлекту пастаўшчыкоў, захаванне палітык мінімізацыі даных і забеспячэнне падсправаздачнасці на ўсіх узроўнях - будуць у стане адаптавацца і кіраваць.

Часта задаюць пытанні

Ці законна выкарыстанне Clearview AI у Злучаных Штатах?

Clearview AI працуе ў складанай прававой шэрай зоне ў ЗША, хаця некалькі штатаў падалі ў суд або ўрэгулявалі з кампаніяй, а ЕС прыняў прымусовыя меры, федэральны закон у цяперашні час не забараняе дзяржаўным установам набываць доступ да базы дадзеных Clearview. Кантракт CBP з'яўляецца законным у адпаведнасці з дзеючымі федэральнымі правіламі, хаця ён знаходзіцца пад пільнай увагай з боку Кангрэса і арганізацый па грамадзянскіх свабодах.

Наколькі дакладная тэхналогія распазнання твараў Clearview AI?

Clearview AI заяўляе аб высокай дакладнасці, і незалежнае тэсціраванне паказала, што ён можа пераўзыходзіць іншыя сістэмы па некаторых тэстах. Аднак дакладнасць істотна адрозніваецца ў залежнасці ад дэмаграфічнай групы, якасці выявы і ўмоў асвятлення. Нават сістэма з дакладнасцю на 99% дае значную колькасць ілжывых спрацоўванняў у маштабе, і ў кантэксце праваахоўных органаў адно ілжывае супадзенне можа прывесці да неправамернага затрымання або яшчэ горш.

Як малыя і сярэднія прадпрыемствы могуць абараніць сябе ад рызык захавання патрабаванняў, звязаных з штучным інтэлектам?

Найбольш эфектыўным падыходам з'яўляецца актыўны: аўдыт кожнага пастаўшчыка і ўнутраных інструментаў, якія закранаюць персанальныя або біяметрычныя даныя, устанаўленне дакладнай палітыкі захавання і выдалення даных і дакументаванне рамак згоды. Цэнтралізацыя гэтых працоўных працэсаў у бізнес-аперацыйнай сістэме - замест таго, каб кіраваць імі ў адключаных электронных табліцах і патоках электроннай пошты - рэзка зніжае рызыку прабелаў у адпаведнасці і дазваляе больш хутка рэагаваць на змяненне правілаў.

Скрыжаванне штучнага інтэлекту, біяметрычнага назірання і дзяржаўных праваахоўных органаў з'яўляецца адной з вызначальных бізнес- і палітычных задач гэтага дзесяцігоддзя. Незалежна ад таго, арыентуецеся вы ў адпаведнасці з патрабаваннямі, адказна кіруеце дадзенымі кліентаў або проста спрабуеце апярэджваць нарматыўныя змены, якія імкліва адбываюцца, уніфікацыя і бачнасць вашых бізнес-аперацый больш не з'яўляецца абавязковым - гэта вельмі важна.

Mewayz дае прадпрыемствам, якія растуць, 207-модульную аперацыйную сістэму для кіравання адпаведнасцю патрабаванням, камунікацыяй, працоўнымі працэсамі каманды і іншым — усё ў адной платформе, якой давяраюць больш за 138 000 карыстальнікаў. Планы пачынаюцца ўсяго з 19 долараў у месяц. Пачніце бясплатную пробную версію на app.mewayz.com і паглядзіце, як уніфікаваная бізнес-АС можа зрабіць вашу арганізацыю гнуткай, падсправаздачнай і гатовай да ўсяго, што будзе далей.