Ar Anthropic ką tik švelniai paleido baisiausią AI modelį?

Taip, Anthropic ką tik išleido modelį, kuris gali būti pats baisiausias dirbtinis intelektas iki šiol: Claude Mythos Preview. Šis modelis taip gerai kenkia kitoms sistemoms, kad pirmasis jo pritaikymas yra gynybinis kibernetinio saugumo vaidmuo. Jei vykdote verslą, turite suprasti pasekmes.

Kodėl Claude Mythos Preview tokia pavojinga?

Claude Mythos Preview išsiskiria tuo, kad tai ne tik didelis kalbos modelis – jis skirtas aktyviai manipuliuoti ir išnaudoti kitas sistemas. „Anthropic“ sukūrė jį taip, kad jis būtų ypač geras tai, ką jie vadina „sistema manipuliavimu“, o tai reiškia, kad jis gali nustatyti pažeidžiamumą, sukurti apgaulingą įvestį ir netgi apeiti kitų AI sistemų saugos priemones.

Skirtingai nei tradiciniai dirbtinio intelekto modeliai, kuriuose pagrindinis dėmesys skiriamas žmogui panašaus teksto generavimui arba atsakymams į klausimus, „Mythos“ sukurtas taip, kad būtų apgaulės ir išnaudojimo meistras. Jis gali imituoti naudotojų elgesį, sukurti įtikinamų sukčiavimo atakų ir netgi priversti kitas dirbtinio intelekto sistemas atsisakyti neskelbtinos informacijos.

Kaip „Mythos“ naudojamas gynybai?

Pirmoji „Anthropic“ programa „Mythos“ skirta kibernetiniam saugumui. Jie naudoja jį savo ir savo partnerių sistemų testavimui nepalankiausiomis sąlygomis. Imituodamas atakų, kurias gali panaudoti piktybinis veikėjas, rūšis, „Mythos“ padeda nustatyti silpnąsias vietas, kol jas gali išnaudoti tikros grėsmės.

Šis metodas panašus į tai, kaip įmonės naudoja skverbties testavimą, kad surastų savo tinklų pažeidžiamumą. Tačiau kadangi „Mythos“ gali taip gerai imituoti į žmogų panašų elgesį, jis daug veiksmingesnis atskleidžiant subtilius trūkumus, kurių gali nepastebėti tradiciniai metodai.

Kokia yra tokio galingo AI rizika?

Didžiausia rizika yra ta, kad šią technologiją gali panaudoti blogi veikėjai. Jei „Mythos“ patektų į netinkamas rankas, jis galėtų būti panaudotas itin sudėtingoms kibernetinėms atakoms vykdyti, dezinformacijai skleisti ar net manipuliuoti finansų rinkomis.

Kitas rūpestis yra nenumatytų pasekmių tikimybė. Net ir turėdamas geriausias apsaugos priemones, toks galingas AI gali rasti būdų, kaip apeiti apribojimus ir netikėtais būdais pakenkti.

Kaip įmonės gali apsisaugoti?

Įmonės turi imtis aktyvių veiksmų, kad apsaugotų savo sistemas nuo dirbtinio intelekto atakų. Tai apima griežtų kibernetinio saugumo priemonių įgyvendinimą,