Anthropic-ek orain arte AI modelorik beldurgarriena abiarazi berri du?

Bai, Anthropic-ek orain arte AI beldurgarriena izan daitekeen modelo bat kaleratu berri du: Claude Mythos Preview. Eredu hau oso ona da beste sistema batzuei kalteak eragiteko, non bere lehen aplikazioa defentsako zibersegurtasun rol batean dago. Enpresa bat zuzentzen ari bazara, ondorioak ulertu behar dituzu.

Zerk egiten du hain arriskutsua Claude Mythos Preview?

Claude Mythos Preview nabarmentzen da ez delako hizkuntza-eredu handi bat, beste sistema aktiboki manipulatzeko eta ustiatzeko diseinatuta dago. Anthropic-ek "sistemaren manipulazioa" deitzen duten horretan oso ona izateko eraiki zuen, hau da, ahuleziak identifikatu ditzake, sarrera engainagarriak landu ditzake eta baita beste AI sistemetako segurtasun neurriak saihestu ere.

Giza itxurako testuak sortzea edo galderei erantzutera bideratzen diren AI eredu tradizionalak ez bezala, Mythos engainuaren eta ustiapenaren maisu izateko eraiki da. Erabiltzaileen portaera imitatu dezake, phishing-eraso konbentzigarriak sor ditzake eta baita beste AI sistemak ere engainatu informazio sentikorra utz dezaten.

Nola erabiltzen da Mythos defentsan?

Anthropic-en Mythos-en lehen aplikazioa zibersegurtasunean dago. Euren sistema propioak eta bikotekideenak probatzeko erabiltzen ari dira. Aktore gaizto batek egin ditzakeen eraso motak simulatuz, Mythos-ek ahuleziak identifikatzen laguntzen du mundu errealeko mehatxuek ustiatu aurretik.

Enpresek sartze-probak beren sareetan ahultasunak aurkitzeko moduaren antzekoa da. Hala ere, Mythos-ek gizakiaren antzeko portaera oso ondo imita dezakeenez, askoz eraginkorragoa da metodo tradizionalek galdu ditzaketen akats sotilak agertzeko.

Zeintzuk dira halako AI indartsu baten arriskuak?

Arriskurik handiena teknologia hau aktore txarrek armak erabil dezaketela da. Mythos esku okerretan eroriko balitz, zibereraso oso sofistikatuak abiarazteko, desinformazioa zabaltzeko edota finantza-merkatuak manipulatzeko erabil liteke.

Beste kezka bat nahi ez diren ondorioak izan daitezkeela da. Bermerik onenak ezarrita ere, ahaltsu horren IA batek murrizketak saihesteko eta ustekabeko moduetan kalteak sor ditzake.

Nola babes dezakete enpresek beren burua?

Enpresek neurri proaktiboak hartu behar dituzte beren sistemak AI bultzatutako erasoetatik babesteko. Horrek zibersegurtasun neurri sendoak ezartzea dakar,