CBP podpisuje pogodbo Clearview AI za uporabo prepoznavanja obrazov za "taktično ciljanje"

Ameriška carinska in mejna zaščita (CBP) je podpisala novo pogodbo s Clearview AI, ki dovoljuje uporabo tehnologije za prepoznavanje obrazov za operacije, ki jih uradniki opisujejo kot operacije "taktičnega ciljanja". Ta razvoj označuje pomembno stopnjevanje v tem, kako zvezne agencije uvajajo biometrična orodja, ki jih poganja umetna inteligenca, in odpira kritična vprašanja o zasebnosti, odgovornosti in prihodnosti upravljanja umetne inteligence v javnem in zasebnem sektorju.

Kaj je dogovor CBP in Clearview AI Deal in zakaj je pomemben?

Clearview AI je že dolgo kontroverzno ime v svetu prepoznavanja obrazov. Podjetje je zgradilo svojo zbirko podatkov s strganjem milijard slik s platform družbenih medijev, javnih spletnih mest in drugih spletnih virov – praksa, ki je povzročila tožbe in regulativni nadzor po vsem svetu. Nova pogodba CBP predstavlja eno izmed operativno najpomembnejših uvedb Clearviewove tehnologije doslej, ki jo premika od preiskovalne podpore k aktivnemu "taktičnemu ciljanju" – izraz, ki predlaga uporabo v realnem ali skoraj realnem času v scenarijih izvrševanja.

CBP, ki deluje pod Ministrstvom za domovinsko varnost, nadzira varnost meje, carinsko pregon in nadzor priseljevanja. Integracija baze podatkov za prepoznavanje obrazov Clearview v taktične operacije CBP pomeni, da bodo agenti morda kmalu primerjali obraze, posnete na terenu, z naborom milijard slik, postrganih brez izrecnega soglasja posameznikov. Za podjetja, varnostne strokovnjake in vsakdanje državljane to signalizira, da identifikacija, ki jo poganja umetna inteligenca, ni več koncept prihodnosti – je operativna realnost.

Kako tehnologija prepoznavanja obraza deluje v kontekstu kazenskega pregona?

Sistemi za prepoznavanje obraza, kot je Clearview AI, uporabljajo algoritme globokega učenja za ustvarjanje numeričnega "odtisa obraza" iz fotografije. Ta obrazni odtis se nato primerja z referenčno bazo podatkov, da se najdejo morebitna ujemanja. V organih pregona potek dela običajno sledi tem korakom:

• Zajem slike: Fotografija je posneta na terenu, vzeta iz nadzornega posnetka ali iz dokumenta ali nasveta.
• Izvleček funkcij: Model AI preslika ključne obrazne točke — razdaljo med očmi, obliko nosu, čeljustnico — v edinstven numerični vektor.
• Poizvedba po zbirki podatkov: vektor se primerja z milijoni ali milijardami shranjenih obraznih odtisov, da se ujema s površinsko rangiranimi ujemanji.
• Človeški pregled: analitik pregleda najboljša ujemanja in sprejme končno odločitev, najbolje preden se sprejme kakršen koli izvršilni ukrep.
• Ukrep ali razrešitev: Na podlagi pregleda agenti nadaljujejo z razgovorom, pridržanjem ali oprostijo posameznika suma.

Natančnost in poštenost tega cevovoda sta močno odvisni od kakovosti in raznolikosti podatkov o usposabljanju, praga za razglasitev ujemanja in strogosti koraka človeškega pregleda. Študije – vključno s tistimi iz NIST – dosledno ugotavljajo, da številni sistemi za prepoznavanje obrazov manj natančno delujejo na ženskah in ljudeh s temnejšo poltjo, kar vzbuja resne pomisleke o diskriminatornem učinku, kadar se uporabljajo v okoljih, ki zahtevajo visoko tveganje.

Kakšne so posledice 'taktičnega ciljanja' na zasebnost in državljanske svoboščine?

Besedna zveza "taktično ciljanje" v tem pogovoru opravlja pomembno delo. Čeprav CBP ni izdal podrobnega operativnega načrta, jezik pomeni aktivno uporabo na terenu in ne retrospektivno preiskovalno uporabo. To razlikovanje je izjemno pomembno za državljanske svoboščine.

"Ko se prepoznavanje obraza premakne z analitikove mize na agentov telefon na terenu, se možnost napake – in škode – skrči skoraj na nič. Ni premora, ni premisleka in pogosto ni nobenega sredstva za nekoga, ki je napačno identificiran."

Zagovorniki zasebnosti trdijo, da uvedba Clearviewove skrajšane baze podatkov za taktične namene normalizira množični biometrični nadzor brez zakonodajnega dovoljenja. Za razliko od prstnih odtisov ali DNK, zbranih s formalnimi pravnimi postopki, slike v zbirki podatkov Clearview nikoli niso bile prostovoljno predložene vladnemu sistemu. Uporaba teh podatkov za izvršilne ukrepe ustvari zaskrbljujoč precedens: to javno vidno vedenje – vključno z objavo fotografije na spletu – se lahko obrne proti posameznikom v kontekstih izvrševanja, ki jih niso nikoli pričakovali.

Kako naj se podjetja odzovejo na razširitev nadzora z umetno inteligenco v svojih panogah?

Dogovor CBP-Clearview ni le vladna zgodba – ima neposredne posledice za podjetja, ki zbirajo, shranjujejo ali obdelujejo podatke o strankah. Regulativni pritisk na biometrične podatke se stopnjuje. Illinoisov zakon o zasebnosti biometričnih informacij (BIPA), podobni zakoni v Teksasu in Washingtonu ter čakajoča zvezna zakonodaja kažejo, da se podjetja, ki obdelujejo podatke o obrazu, soočajo z vse večjo pravno izpostavljenostjo.

Podjetja se morajo zdaj vprašati: Ali zbiramo biometrične podatke? Če je tako, ali imamo izrecno soglasje, protokole za varno shranjevanje in jasne politike hrambe podatkov? Poleg skladnosti so deleži ugleda resnični. Potrošniki so pozorni na to, kako podjetja ravnajo z umetno inteligenco in osebnimi podatki, in biti ujet na napačni strani zgodbe o etiki umetne inteligence lahko povzroči trajno škodo blagovni znamki.

Tukaj postanejo integrirane platforme za upravljanje poslovanja bistvenega pomena. Upravljanje skladnosti, odnosov s prodajalci, politik podatkov in komunikacij med oddelki zahteva usklajevanje, ki ga razpršena orodja preprosto ne morejo zagotoviti. Poenotena platforma omogoča usklajenost skupin za zagotavljanje skladnosti, pravne službe, kadrovske službe in operacij – še posebej, ker se regulativna okolja hitro spreminjajo.

Kakšna je prihodnost upravljanja umetne inteligence za podjetja?

Pogodba CBP-Clearview je predogled sveta, v katerem se odločanje z umetno inteligenco dotika vse bolj pomembnih področij. Podjetja morajo zdaj zgraditi notranje okvire upravljanja, preden se predpisi izkristalizirajo v stroge zahteve. To pomeni imenovanje vodij za etiko umetne inteligence, izvajanje rednih algoritemskih revizij, vzdrževanje preglednih inventarjev podatkov in usposabljanje vodilnih vodij o omejitvah umetne inteligence.

Podjetja, ki upravljanje umetne inteligence obravnavajo kot vajo potrditvenega polja, bodo ob zaostritvi regulativnega okolja padla na noge. Tisti, ki to vgradijo v svoj operativni DNK – sledenje praksam umetne inteligence prodajalcev, vzdrževanje politik minimiziranja podatkov in zagotavljanje odgovornosti na vseh ravneh – bodo v položaju za prilagajanje in vodenje.

Pogosto zastavljena vprašanja

Ali je Clearview AI zakonit za uporabo v Združenih državah?

Umetna inteligenca Clearview deluje v zapleteni pravni sivi coni v ZDA. Medtem ko je več zveznih držav tožilo podjetje ali se z njim poravnalo, EU pa je izdala izvršilne ukrepe, zvezni zakon trenutno vladnim agencijam ne prepoveduje nakupa dostopa do baze podatkov Clearview. Pogodba CBP je zakonita v skladu z veljavnimi zveznimi pravili, čeprav se sooča s stalnim nadzorom kongresa in organizacij za državljanske svoboščine.

Kako natančna je tehnologija za prepoznavanje obraza Clearview AI?

Umetna inteligenca Clearview trdi, da ima visoke stopnje natančnosti, neodvisno testiranje pa je pokazalo, da lahko pri določenih merilih uspešnosti prekaša druge sisteme. Vendar se natančnost močno razlikuje glede na demografsko skupino, kakovost slike in svetlobne pogoje. Tudi 99-odstotno natančen sistem proizvede pomembno število lažno pozitivnih rezultatov v velikem obsegu in v kontekstu kazenskega pregona lahko eno samo napačno ujemanje povzroči neupravičeno pridržanje ali še hujše.

Kako se lahko mala in srednje velika podjetja zaščitijo pred tveganji skladnosti, povezanimi z umetno inteligenco?

Najučinkovitejši pristop je proaktiven: revizija vsakega prodajalca in notranjega orodja, ki posega v osebne ali biometrične podatke, določite jasne politike hrambe in brisanja podatkov ter dokumentirajte okvire za soglasje. Centralizacija teh delovnih tokov v poslovnem operacijskem sistemu – namesto da bi jih upravljali v nepovezanih preglednicah in e-poštnih nitih – dramatično zmanjša tveganje vrzeli v skladnosti in omogoči hitrejše odzive, ko se predpisi spremenijo.

Presečišče umetne inteligence, biometričnega nadzora in vladnega pregona je eden od odločilnih poslovnih in političnih izzivov tega desetletja. Ne glede na to, ali krmarite po zahtevah glede skladnosti, odgovorno upravljate podatke o strankah ali preprosto poskušate biti v koraku s hitrimi regulativnimi spremembami, poenotenje in vidnost vaših poslovnih operacij ni več neobvezno – bistveno je.

Mewayz daje rastočim podjetjem operacijski sistem z 207 moduli za upravljanje skladnosti, komunikacije, timskih delovnih tokov in več – vse v eni platformi, ki ji zaupa več kot 138.000 uporabnikov. Načrti se začnejo že pri 19 USD/mesec. Začnite brezplačno preskusno različico na app.mewayz.com in si oglejte, kako lahko poenoten poslovni OS ohranja vašo organizacijo prožno, odgovorno in pripravljeno na vse, kar sledi.