Kas Anthropic käivitas just pehmeima tehisintellekti mudeli seni?

Jah, Anthropic tõi just pehmelt turule mudeli, mis võib olla seni kõige hirmutavam tehisintellekt: Claude Mythose eelvaade. See mudel on nii hea, et kahjustab teisi süsteeme, et selle esimene rakendus on küberjulgeoleku roll. Kui juhite ettevõtet, peate mõistma selle tagajärgi.

Mis teeb Claude Mythose eelvaate nii ohtlikuks?

Claude Mythose eelvaade paistab silma, kuna see pole lihtsalt suur keelemudel – see on loodud teiste süsteemide aktiivseks manipuleerimiseks ja ärakasutamiseks. Anthropic ehitas selle nii, et see oleks erakordselt hea selles, mida nad nimetavad "süsteemiga manipuleerimiseks", mis tähendab, et see suudab tuvastada turvaauke, luua petlikke sisendeid ja isegi mööda minna turvameetmetest teistes AI-süsteemides.

Erinevalt traditsioonilistest tehisintellekti mudelitest, mis keskenduvad inimsarnase teksti loomisele või küsimustele vastamisele, on Mythos loodud olema pettuse ja ärakasutamise meister. See võib jäljendada kasutaja käitumist, luua veenvaid andmepüügirünnakuid ja isegi meelitada teisi tehisintellekti süsteeme tundlikku teavet loobuma.

Kuidas Mythost kaitseks kasutatakse?

Anthropicu esimene Mythose rakendus on küberturvalisus. Nad kasutavad seda enda ja oma partnerite süsteemide stressitestimiseks. Simuleerides rünnete liike, mida pahatahtlik tegutseja võib kasutada, aitab Mythos tuvastada nõrkused enne, kui reaalsed ohud saavad neid ära kasutada.

See lähenemine sarnaneb sellega, kuidas ettevõtted kasutavad oma võrkudes haavatavuste leidmiseks läbitungimistesti. Kuna aga Mythos suudab nii hästi jäljendada inimlikku käitumist, on see palju tõhusam peente vigade avastamisel, mis traditsiooniliste meetoditega võivad puududa.

Millised on nii võimsa tehisintellekti riskid?

Suurim oht on see, et halvad näitlejad võivad seda tehnoloogiat relvastada. Kui Mythos peaks sattuma valedesse kätesse, võidakse seda kasutada väga keerukate küberrünnakute korraldamiseks, valeinformatsiooni levitamiseks või isegi finantsturgude manipuleerimiseks.

Teine probleem on soovimatute tagajärgede potentsiaal. Isegi parimate kaitsemeetmete korral võib nii võimas tehisintellekt leida viise, kuidas piirangutest mööda hiilida ja ootamatul viisil kahju tekitada.

Kuidas saavad ettevõtted end kaitsta?

Ettevõtted peavad astuma ennetavaid samme, et kaitsta oma süsteeme AI-põhiste rünnakute eest. See hõlmab tugevate küberjulgeolekumeetmete rakendamist,