Kveikti Anthropic bara hræðilegustu gervigreindargerðina til þessa?

Já, Anthropic hefur nýlega sett á markað módel sem gæti verið skelfilegasta gervigreind til þessa: Claude Mythos Preview. Þetta líkan er svo gott að valda öðrum kerfum skaða að fyrsta notkun þess er í varnar netöryggishlutverki. Ef þú ert að reka fyrirtæki þarftu að skilja afleiðingarnar.

Hvað gerir Claude Mythos Preview svona hættulegt?

Claude Mythos Preview sker sig úr vegna þess að það er ekki bara stórt tungumálalíkan – það er hannað til að vinna með og nýta önnur kerfi á virkan hátt. Anthropic smíðaði það til að vera einstaklega gott í því sem þeir kalla "kerfismeðferð," sem þýðir að það getur greint veikleika, búið til villandi inntak og jafnvel framhjá öryggisráðstöfunum í öðrum gervigreindarkerfum.

Ólíkt hefðbundnum gervigreindum módelum sem leggja áherslu á að búa til mannlegan texta eða svara spurningum, er Mythos byggt til að vera meistari blekkingar og misnotkunar. Það getur líkt eftir hegðun notenda, búið til sannfærandi vefveiðarárásir og jafnvel blekkt önnur gervigreind kerfi til að gefa upp viðkvæmar upplýsingar.

Hvernig er Mythos notað í vörn?

Fyrsta notkun Anthropic á Mythos er í netöryggi. Þeir eru að nota það til að streituprófa eigin kerfi og maka þeirra. Með því að líkja eftir hvers konar árásum sem illgjarn leikari gæti beitt, hjálpar Mythos að bera kennsl á veikleika áður en hægt er að nýta þá af raunverulegum ógnum.

Þessi nálgun er svipuð því hvernig fyrirtæki nota skarpskyggnipróf til að finna veikleika í netkerfum sínum. Hins vegar, vegna þess að Mythos getur líkt eftir mannlegri hegðun svo vel, er það mun áhrifaríkara við að afhjúpa fíngerða galla sem gæti farið framhjá með hefðbundnum aðferðum.

Hver er áhættan af svo öflugri gervigreind?

Stærsta hættan er sú að slæmir leikarar gætu beitt þessari tækni vopnum. Ef Mythos myndi falla í rangar hendur gæti það verið notað til að ráðast í mjög háþróaðar netárásir, dreifa röngum upplýsingum eða jafnvel stjórna fjármálamörkuðum.

Önnur áhyggjuefni er möguleiki á óviljandi afleiðingum. Jafnvel með bestu verndarráðstöfunum til staðar gæti gervigreind sem er svo öflug fundið leiðir til að komast framhjá takmörkunum og valdið skaða á óvæntan hátt.

Hvernig geta fyrirtæki verndað sig?

Fyrirtæki þurfa að grípa til fyrirbyggjandi ráðstafana til að vernda kerfi sín gegn gervigreindum árásum. Þetta felur í sér að innleiða öflugar netöryggisráðstafanir,