Yala i bɛ se ka an ka réseau neuronal reverse engineer kɛ wa?

Neural Network Reverse Engineering ka bagabagali min bɛ ka bonya — ani a kɔrɔ ye min ye i ka jago la

San 2024, ɲininikɛlaw minnu bɛ inivɛrisiteba dɔ la, olu y’a jira k’u bɛ se ka kanba misali dɔ kɔnɔna jɔcogo labɛn kokura, n’o tɛ foyi ye n’a ka API jaabiw tɛ ani jatebɔ min bɛ se dɔrɔmɛ 2000 ma O kεcogo in ye bεnkanw bila AI baarakɛyɔrɔ la, nka a nɔfɛkow bɛ se ka tɛmɛ Silicon Valley kan kosɛbɛ. Jagokɛla o jago bɛ masin kalancogo misaliw bila sen kan — k’a ta nanbarako dɔnni fɛɛrɛw la ka se kiliyanw ka ladilikan masinw ma — sisan ɲininkali dɔ bɛ o la min tɛ mɔgɔ lafiya : i ye kalo caman kɛ ka hakili min jɔ, yala mɔgɔ dɔ bɛ se ka o sonya wa? Neural network reverse engineering tɛ farati ye tugun teori la. O ye binkannikɛlan ye min bɛ se ka kɛ, min bɛ se ka sɔrɔ ka taa a fɛ, jɛkulu bɛɛ ka kan ka min faamuya fɛɛrɛko siratigɛ la.

Neural Network Reverse Engineering bɛ cogo min na tiɲɛ na

reverse engineering a neural network tɛ wajibiya ka don farikolo la ka don sèrwɛri la min bɛ a baara. A ka c’a la, binkannikɛlaw bɛ baara kɛ ni fɛɛrɛ ye min bɛ wele ko model extraction, u bɛ modeli dɔ ka API ɲininka cogo labɛnnen na ni donnakow ye minnu dilannen don koɲuman, o kɔfɛ, u bɛ baara kɛ ni bɔlenw ye walasa ka kopi dɔ dege min bɛ tali kɛ ɲɔgɔn na. San 2023 sɛgɛsɛgɛli dɔ min bɔra USENIX Security kɔnɔ, o y’a jira ko binkannikɛlaw bɛ se ka jago ja danfaralanw ka latigɛ dancɛw ladege ni kantigiya 95% ni kɔ ye ni ɲininkali 100.000 ye — o kɛcogo min musaka tɛ dɔrɔmɛ kɛmɛ damadɔ bɔ API sara la.

bɔli kɔfɛ , model inversion attacks bɛ yen , minnu bɛ baara kɛ sira wɛrɛ fɛ . Sani u ka modɛli kopi kɛ, binkannikɛlaw bɛ kalan kunnafoniw yɛrɛ labɛn kokura. Ni i ka neural network tun dege kiliyanw ka sɛbɛnw kan, sɔngɔko fɛɛrɛw kan minnu ye i yɛrɛ ta ye, walima jago kɔnɔna jateminɛw kan, inversion binkanni min ɲɛnabɔra, o tɛ i ka modɛli sonya dɔrɔn — o bɛ kunnafoni nafamaw bɔ kɛnɛ kan minnu tobira a girinyaw kɔnɔ. Dakun sabanan, n’o ye membership inference attacks, o b’a to juguw k’a dɔn ni kunnafonidilan kɛrɛnkɛrɛnnen dɔ tun bɛ kalansenw kɔnɔ, o bɛ danbe haminankobaw lawuli sariyaw kɔnɔ i n’a fɔ GDPR ani CCPA.

Fɛn min bɛ kɛ ɲɔgɔn fɛ, o ye ko "kɛsu nɛrɛma" hakilina — hakilina min ye ko modɛli dɔ bilali API kɔfɛ, o b’a to lakana la — o tiɲɛna kosɛbɛ. i ka modɛli bɛ kirayakuma o kirayakuma segin, o ye data point ye binkannikɛla bɛ se ka baara kɛ ni min ye i kama.

Mun na jagokɛlaw ka kan k' u janto u yɛrɛ la ka tɛmɛ sisan kan

Jɛkulu fanba b’u ka ɛntɛrinɛti lakanani baarakɛnafolo sinsin ɛntɛrinɛti laminiw kan, labanyɔrɔw lakanani, ani kunnafonidilanw sirili kan. Nka hakililata min bɛ don senfagabana kalanlen dɔ kɔnɔ, o bɛ se ka kɛ kalo caman ɲinini ni yiriwali ye ani yiriwali musaka miliyɔn caman. Ni ɲɔgɔndankɛla walima ɲɛnajɛla jugu dɔ y’i ka modɛli Bɔ, u bɛ i ka ɲinini nafa bɛɛ Sɔrɔ k’a sɔrɔ musaka si ma Kɛ. IBM ka san 2024 Cost of a Data Breach jatebɔ la, sariya tiɲɛni hakɛ danmadɔ min kɛra AI sitɛmuw kan, o ye tɔnw musaka kɛ miliyɔn 5,2 ye — 13% ka ca ni sariya tiɲɛniw ye minnu tɛ AI nafolo kan.

farati in ka jugu kɛrɛnkɛrɛnnenya la jagokɛla misɛnw ni jagokɛla cɛmancɛw ma . Baarakɛda minnu bɛ baara kɛ, olu bɛ se ka ML lakana jɛkulu kɛrɛnkɛrɛnnenw ni fɛnw sɔrɔ minnu bɛ kɛ ka kɛɲɛ ni mɔgɔw sago ye. Nka SMB minnu bɛ ka masin kalanni don u ka baarakɛtaw la, olu hakɛ min bɛ ka caya — a kɛra ɲɛmɔgɔya jatebɔ ye, ɲininiw fɔli, walima kiliyanw dɛmɛni otomatiki — olu ka teli ka misaliw bila senkan ni lakana gɛlɛya fitinin ye. U bɛ u jigi da mɔgɔ sabananw ka baarakɛminɛnw kan minnu bɛ se ka lakanani bɛrɛbɛrɛw waleya walima minnu tɛ se ka kɛ.

miirili min farati ka bon kosɛbɛ AI lakanani na , o ye ko gɛlɛya bɛ bɛn lakanani ma . Neural network min bɛ ni paramɛtiri miliyɔn 100 ye, o tɛ lakana a danma ka tɛmɛ min bɛ ni miliyɔn 1 ye — min nafa ka bon, o ye i bɛ a dontaw ni a bɔlenw sɔrɔli kɔlɔsi cogo min na.

Lafasali waleyali duuru ka ɲɛsin modɛli sonyali ma

I ka hakilijagabɔw lakanani tɛ doktora sɔrɔ kɛlɛli masin kalanni na , nka a bɛ kɛ ni laɲini ye ka ɲɛsin fɛn dilanni latigɛ ma . Nin fɛɛrɛ ninnu bɛ sisan wale ɲumanw jira minnu laadilen don jɛkuluw fɛ i n’a fɔ NIST ani OWASP walasa ka ML misali bilalenw lakana.

• Tari dantigɛli ani ɲininkali baarakɛnafolo : API weleli hakɛ min bɛ se ka kɛ baarakɛla walima kilisi kelen o kelen na waati dantigɛlen kɔnɔ . Modeli bɔli binkanniw bɛ ɲininkali ba tan ni tan de wajibiya — dantigɛli jugu bɛ kɛ sababu ye ka bɔliba kɛ fɛn ye min tɛ se ka kɛ ni alarma ma wuli.
• Bɔli bɔnɛ : mankan kɔrɔsilen fara modeli kirayakuma kan . Sani aw ka dannaya hakɛ tigitigiw segin (misali la, 0,9237), aw bɛ lamini ka taa cɛmancɛw la minnu ka gɛlɛn (misali la, 0,92). O bɛ baarakɛcogo lakana ka sɔrɔ ka dɔ fara ɲininkali hakɛ kan kosɛbɛ binkannikɛla mago bɛ min na walasa k’i ka modɛli jɔ kokura.
• Ji taamasiyɛn : Siginiden minnu tɛ ye, olu don i ka modɛli ka kɛwalew la — donna-bɔn fila kɛrɛnkɛrɛnnenw minnu bɛ kɛ bolokɔfɛfɛn ye. Ni i ka modɛli sonyalen dɔ bɔra kɛnɛ kan, ji taamasiyɛnw bɛ sonyali daliluw di kiritigɛlaw ma.
• danfara danfara kalan waati : Jate mankan pikiri kɛ kalan taabolo yɛrɛ la . O bɛ dan sigi kunnafoni hakɛ min na kalanko misali kelen-kelen bɛɛ kan, o bɛ bɔ modeli ka kirayakumaw fɛ, k’a yɛrɛ tanga inversion ni membership inference attacks fila bɛɛ ma.
• Kɔlɔsili ni anomali dɔnni : API baarakɛcogo misaliw lajɛ walasa ka sɛgɛsɛgɛli kɛcogo sigilen taamasiɲɛw sɔrɔ . Bɔli binkanniw bɛ ɲininkaliw tilatilali danfaralenw lawuli minnu tɛ foyi bɔ i n’a fɔ baarakɛlaw ka taama sariyalenw — otomatiki lasɔminiw bɛ se ka kɛwale sikɛtaw jira sani binkanni ka ɲɛ.

Ni hali nin fɛɛrɛ fila walima saba waleyali bɛ binkanni musaka n' a gɛlɛya kɔrɔta ni hakɛ ye . Laɲini tɛ lakana dafalen ye — a bɛ bɔli kɛ sɔrɔko siratigɛ la hakilintan ye n’i y’a suma ni modɛli jɔli ye ka bɔ fɛn fɔlɔ la.

baarakɛminɛnw jɔyɔrɔ AI lakanani na

Fɛn kelen min bɛ ye ka ye barow la modeli lakanani kan , o ye baarakɛyɔrɔba ye min ka bon . Neural network tɛ yen a dan na — a bɛ jɛ ni kunnafonidilanw ye, CRM sitɛmuw, faturayɔrɔw, baarakɛlaw ka sɛbɛnw, ani kiliyanw ka kumaɲɔgɔnya baarakɛminɛnw. Binkannikɛla min tɛ se k’i ka modɛli kɔsegin k’a ɲɛsin a ma, o bɛ se ka kunnafonidilanw pibilikiw laɲini o nɔ na minnu b’a balo, API minnu b’a bɔlenw dun, walima jagokɛyɔrɔw minnu b’a ka kirayakumaw mara.

O yɔrɔ de la baarakɛyɔrɔ kelen sɔrɔli bɛ kɛ lakana nafa lakika ye sanni ka kɛ nɔgɔya dɔrɔn ye . Ni jagokɛlaw ye SaaS baarakɛminɛn tan ni caman siri ɲɔgɔn na minnu ni ɲɔgɔn cɛ tiɲɛna, jɛ-ka-baara yɔrɔ kelen-kelen bɛɛ bɛ kɛ binkanni yɔrɔ ye min bɛ se ka kɛ. Mewayz b’o ɲɛnabɔ ni jagokɛcogo modulu 207 farali ye ɲɔgɔn kan — k’a ta CRM ni fatura la ka se HR ni jateminɛ ma — ka kɛ yɔrɔ kelen ye ni dondaw kɔlɔsili ni jatebɔ sɛbɛnw ye minnu bɛ cɛmancɛ la. Sani u ka baarakɛminɛn suguya tan ni duuru lakana ni yamaruya modɛli tan ni duuru ye, ekipuw bɛ fɛn bɛɛ ɲɛnabɔ ka bɔ dakun kelen na.

Jɛkulu minnu bɛ AI sekow bila senkan, o jɛ-ka-baara in kɔrɔ ye ko kunnafonidilanw ka dɔgɔn sistɛmuw ni ɲɔgɔn cɛ, API kilisi minnu bɛ panpan labɛncogo dosiyew kɔnɔ, olu ka dɔgɔ, ani sariya labatoli yɔrɔ kelen bɛ sɔrɔ donko sariyaw la. Ni i ka kiliyanw ka kunnafoniw, baarakɛcogo jateminɛw, ani jagokɛlaw ka hakilinaw bɛɛ bɛ balo sigida kelen kɔnɔ min bɛ mara, binkanni yɔrɔ min bɛ kɛ kunnafonidilanw bɔli kama — o ye modeli inversion binkanniw ka fɛn fɔlɔ ye — o bɛ dɔgɔya kosɛbɛ.

diɲɛ kɔnɔko lakika minnu ye baro Changé

San 2022 , finɛtɛki daminɛna dɔ y' a ye ko ɲɔgɔndan dɔ ye juruko jatebɔ fɛn dɔ daminɛ min bɛ tali kɛ ɲɔgɔn na kalo 8 dɔrɔn daminɛ yɛrɛ daminɛ kɔfɛ . Kɔnɔna sɛgɛsɛgɛli y’a jira ko ɲɔgɔndankɛla tun bɛ ɲininkali kɛ cogo labɛnnen na daminɛ in ka jatebɔ API la kabini kalo caman, ka baara kɛ ni jaabiw ye walasa ka misali ɲɔgɔnna dɔ dege. Daminɛ tun tɛ ni hakɛ dantigɛli ye, a tun bɛ se ka dantigɛli dafalenw segin, wa a tun tɛ ɲininkali sɛbɛn si mara min bɛ se ka sariya siratigɛ dɛmɛ. ɲɔgɔndankɛla ma kɔlɔlɔ si sɔrɔ.

Kɔsa in na, san 2024 laban na, lakana ɲininikɛlaw ye fɛɛrɛ dɔ jira min tɔgɔ ye ko "side-channel model extraction" min tun bɛ baara kɛ ni waati danfara ye API jaabiw la — baarakɛla ye waati hakɛ min ta walasa ka jaabiw segin donnafɛnw danfaralenw na — walasa ka modɛli kɔnɔna sigicogo jateminɛ k’a sɔrɔ u ma hali kirayakumaw yɛrɛ sɛgɛsɛgɛ Binkanni in ye baara kɛ ni modɛliw ye minnu bilala sankaba dilanbaga belebele saba bɛɛ kan, wa a tun tɛ don kɛrɛnkɛrɛnnen si wajibiya ka tɛmɛ API kilisi jɔnjɔn kan.

Nin ko kɛlenw bɛ kumaba dɔ sinsin : bagabagali bɛ ka wuli joona ka tɛmɛ jɛkulu fanba ka lafasaliw kan . Fɛɛrɛ minnu tùn jatera ɲininiw ye minnu bɛ Kɛ ‘sèn na a sàn sàba ye nin ye, olu bɛ Sɔrɔ sisan i n’a fɔ baarakɛminɛn dafalenw GitHub kan. Jagokɛlaw minnu bɛ misali lakanani jate sini haminanko ye, olu bɛ kɔfɛ kaban.

Lakanali fɔlɔ AI ladamu jɔli

fɛɛrɛko dɔrɔn tɛ nin gɛlɛya in ɲɛnabɔ . Jɛkuluw ka kan ka ladamu dɔ jɔ, AI nafolo bɛ minɛ ni kɔnɔnajɛya ye i n’a fɔ source code, jago gundo ani kiliyanw ka kunnafonidilanw. O bɛ daminɛ ni fɛnmarataw ye — tɔn caman yɛrɛ tɛ lisi dafalen mara min b’a jira ko modɛli minnu bɛ bila sen kan, u bɛ se ka sɔrɔ yɔrɔ minnu na, ani jɔn bɛ se ka API sɔrɔ. i tɛ se ka min lakana, i t'a dɔn ko o bɛ yen.

baarakɛɲɔgɔnya min bɛ kɛ ɲɔgɔn fɛ , o nafa ka bon . Kunnafoni dɔnnikɛlaw ka kan ka kɛlɛɲɔgɔnw ka bagabagali faamuya. Lakanali jɛkuluw ka kan k’a faamu masin kalanni pibilikiw bɛ baara kɛ cogo min na. Fɛn dilanni ɲɛmɔgɔw ka kan ka latigɛw kɛ ni kunnafoni ye, kunnafoni modɛli APIw bɛ min jira. "Ekipu bilenman" degeliw kɛli tuma bɛɛ — kɔnɔna ekipuw b’a ɲini yɔrɔ minnu na k’i yɛrɛ ka misaliw bɔ walima k’u wuli — olu bɛ dɛsɛw jira sani kɛnɛma binkannikɛlaw k’o kɛ. Baarakɛda minnu bɛ i n’a fɔ Google ani Microsoft, olu bɛ nin wale ninnu kɛ kalo saba o kalo saba; kun t' a la jɛkulu fitininw tɛ se ka sɛgɛsɛgɛli nɔgɔmanw ta .

Platifɔmu minnu bɛ i n’a fɔ Mewayz minnu bɛ na ni baarakɛcogo kunnafoniw ye so kelen jukɔrɔ, olu fana bɛ kunnafonidilanw maracogo sariyaw labatoli nɔgɔya minnu bɛ nɔ bila AI lakanani na k’a ɲɛsin a yɛrɛ ma. Ni i bɛ se k’a lajɛ mɔgɔ min sera kiliyanw ka yɔrɔ minnu na, waati min na jateminɛw rapɔɔriw dabɔra, ani kunnafoniw bɛ taa cogo min na moduluw ni ɲɔgɔn cɛ, i bɛ kɔlɔsili sugu jɔ min bɛ kunnafonidilanw bɔli ni modɛli sonyali fila bɛɛ kɛli gɛlɛya kosɛbɛ k’a sɔrɔ u ma dɔn.

min bɛ na kɔfɛ : sariyasun , sariyasun , ani labɛn

Sariyasenw sigicogo bɛ ka minɛ . EU ka AI sariya, n’o donna sariya labatoli la dakunw na k’a daminɛ san 2025 la, sariyaw bɛ misali jɛlen ni lakana lamini na, minnu bɛna a ɲini jɛkuluw fɛ u k’a jira k’u ye fɛɛrɛ bɛnnenw tigɛ walasa ka AI sigida lakana ka bɔ fɛn tiɲɛnenw ni sonyali la. Ameriki jamana na, NIST ka AI Risk Management Framework (AI RMF) bɛ modeli bɔli ɲɛfɔ k’a jɛya sisan i n’a fɔ bagabagali suguya. Jagokɛlaw minnu bɛ nin sariyasun ninnu ta ni timinandiya ye, olu bɛna sariya labatoli nɔgɔya — wa u bɛna jɔyɔrɔ ɲuman sɔrɔ walasa k’u ka AI waridonw lafasa.

a kunba ye ko tilennen ye : neural network reverse engineering tɛ bagabagali ye min bilalen bɛ jamana-jamanaw ka kɛbagaw bolo . O ye fɛɛrɛ ye min bɛ se ka sɔrɔ, min sɛbɛnnen don kosɛbɛ, min bɛ se ka kɛ ni ɲɔgɔndankɛla walima kɛwalekɛla jugu o mɔgɔ dusu laminlen don, o bɛ se ka kɛ ka ɲɛsin sistɛmuw ma minnu lafasali man ɲi. Jagokɛyɔrɔ minnu bɛ ɲɛtaa sɔrɔ AI waati la, olu tɛna kɛ dɔrɔn minnu bɛ misali ɲumanw dilan — u bɛna kɛ minnu b’u lakana. A daminɛ ni dondaw kɔlɔsili ye, bɔli jɔli, ani baarakɛcogo kɔlɔsili. Aw ye jɔ baarakɛcogo jusigilan kelen kan min bɛ kunnafonidilanw jɛnsɛnni dɔgɔya. Wa aw k’aw ka modɛli kalanlenw minɛ i n’a fɔ u ye nafolo nafamaw ye, bawo aw ka ɲɔgɔndankɛlaw bɛna o kɛ tiɲɛ na.

Ɲininkali minnu bɛ kɛ tuma caman na

sɔgɔsɔgɔninjɛ kɔsegin ye mun ye ?

Neural network reverse engineering ye masin kalanni modɛli dɔ ka bɔli ye, API jaabiw, walima a kɛcogo misaliw sɛgɛsɛgɛli ye walasa k’a kɔnɔna jɔcogo, a girinya, walima a kalan kunnafoniw jɔ kokura. Binkannikɛlaw bɛ se ka baara kɛ ni fɛɛrɛw ye i n’a fɔ model extraction, membership inference, ani adversarial probing walasa ka proprietary algorithms sonya. Jagokɛlaw minnu bɛ u jigi da baarakɛminɛnw kan minnu bɛ tali kɛ AI la, o bɛ hakililata ni ɲɔgɔndan faratibaw lase u ma minnu bɛ lakana fɛɛrɛw ɲini minnu bɛ kɛ ka ɲɛ.

jagokɛlaw bɛ se k' u ka AI modɛliw lakana cogo di walasa u kana kɛ kɔsegin ye ?

Lafasali jɔnjɔnw ye API ɲininkaliw ye minnu bɛ dan sigi hakɛ la, ka mankan kɔrɔsilenw fara modeli bɔli kan, ka doncogo sikɛlenw kɔlɔsi, ani ka baara kɛ ni danfaralenw ka danbe ye kalan waati. Plateformes i n’a fɔ Mewayz, n’o ye jagokɛla ka OS ye min bɛ se ka kɛ 207 ye, olu bɛ tɔnw dɛmɛ u ka baara kɛ ɲɔgɔn fɛ ani ka dɔ bɔ u ka fɛnw jirali la, u kɛtɔ ka AI baarakɛcogo sɛgɛsɛgɛlenw mara sigida lakananen kɔnɔ, min bɛ kɛ kelen ye sanni ka jɛnsɛn mɔgɔ sabananw ka jɛɲɔgɔnyaw kɔnɔ minnu ka gɛlɛn.

Yala jagokɛla misɛnninw bɛ farati la AI modɛli sonyali la wa ?

A bɛrɛbɛrɛ. Ɲininikalaw y’a jira ko binkanni minnu bɛ kɛ ka misali bɔ, olu musaka tɛ se dɔrɔmɛ 2000 ma jatebɔ la, o b’a to mɔgɔ bɛɛ bɛ se k’u sɔrɔ. Jagokɛyɔrɔ fitinin minnu bɛ baara kɛ ni ladilikanw ye minnu bɛ kɛ ka kɛɲɛ ni mɔgɔw sago ye, sɔngɔko jateminɛw, walima nanbarako dɔnni misaliw, olu ye laɲiniw ye minnu bɛ mɔgɔ sama tigitigi bawo tuma caman na, lakana tɛ u la min bɛ se ka kɛ baarakɛyɔrɔ ye. Plateformes sɔngɔ gɛlɛnw i n’a fɔ Mewayz, k’a daminɛ $19/mo la app.mewayz.com, olu bɛ ekipu fitininw dɛmɛ ka baarakɛcogo lakanani barikamaw waleya.

n ka kan ka mun kɛ ni n bɛ sigasiga ko n ka AI modɛli tiɲɛna ?

A daminɛ ni API doncogo sɛbɛnw sɛgɛsɛgɛli ye ɲininkali hakɛw la minnu tɛ deli ka kɛ walima doncogo sigilenw ye minnu bɛ bɔli cɛsiriw jira. API kilisi wuli joona ani ka dantigɛli gɛlɛnw waleya. Aw ye jateminɛ kɛ ni misali bɔlenw bɔra ɲɔgɔndan fɛnw na. Aw ye jateminɛ kɛ ka ji taamasiyɛn kɛ modeli nataw bɔcogo la walasa ka baarakɛcogo yamaruyabaliw nɔfɛtaama, ani ka taa ɛntɛrinɛti lakanani kɛrɛnkɛrɛnnen dɔ fɛ walasa ka sariya tiɲɛni hakɛ bɛɛ jateminɛ ani k’aw ka lafasaliw gɛlɛya.