Antropik henizem iň gorkunç AI modelini ýumşak işe girizdimi?

Hawa, Antropik entek iň gorkunç AI bolup biljek modeli ýumşak işe girizdi: Klod Mifos Öňünden syn. Bu model beýleki ulgamlara zyýan ýetirmäge şeýle bir ökde welin, ilkinji ulanylyşy gorag kiberhowpsuzlyk rolunda. Bir iş alyp barýan bolsaňyz, netijelerine düşünmeli.

Klod Mifosyň synyny beýle howply edýän näme?

Klod Mifos Öňünden syn, diňe bir uly dil modeli bolman, beýleki ulgamlary işjeň dolandyrmak we ulanmak üçin döredilenligi bilen tapawutlanýar. Antropik, "ulgam manipulýasiýasy" diýilýän zada gaty gowy bolmagy üçin gurupdy, ýagny gowşak goralanlyklary kesgitläp biler, aldawly girişleri we hatda beýleki AI ulgamlarynda howpsuzlyk çärelerinden aýlanyp biler.

Adam ýaly tekst döretmäge ýa-da soraglara jogap bermäge gönükdirilen adaty AI modellerinden tapawutlylykda, Mifos aldaw we ekspluatasiýa ussady bolmak üçin gurulýar. Ulanyjynyň özüni alyp barşyna öýkünip biler, ynandyryjy balykçy hüjümlerini döredip biler we hatda beýleki AI ulgamlaryny duýgur maglumatlardan ýüz öwürip biler.

Mifos goragda nähili ulanylýar?

Antropigiň Mifosyň ilkinji ulanylyşy kiberhowpsuzlykda. Muny öz ulgamlaryny we hyzmatdaşlarynyň ulgamyny synamak üçin ulanýarlar. Zyýanly aktýoryň ulanyp biljek hüjümleriniň görnüşlerini simulasiýa etmek bilen, Mifos, dünýädäki howplardan peýdalanmazdan ozal gowşak taraplary kesgitlemäge kömek edýär.

Bu çemeleşme, torlardaky gowşak ýerleri tapmak üçin kompaniýalaryň giriş synaglaryny ulanmagyna meňzeýär. Şeýle-de bolsa, Mifos adam ýaly özüni alyp barşyny şeýle gowy şekillendirip bilýändigi sebäpli, adaty usullardan sypdyryp boljak inçe kemçilikleri ýüze çykarmak has täsirli.

Şeýle güýçli AI-iň töwekgelçiligi näme?

Iň uly töwekgelçilik, bu tehnologiýanyň erbet aktýorlar tarapyndan ýaraglanmagydyr. Mifos nädogry eliňe düşmeli bolsa, ýokary derejeli kiberhüjümleri başlatmak, nädogry maglumatlary ýaýratmak ýa-da maliýe bazarlaryny dolandyrmak üçin ulanylyp bilner.

Anotherene bir alada, garaşylmadyk netijeleriň potensialy. Iň oňat gorag çäreleri bolan ýagdaýynda-da, bu güýçli AI çäklendirmeleri aýyrmagyň we garaşylmadyk ýagdaýda zyýan ýetirmegiň ýollaryny tapyp biler.

Kärhanalar özlerini nädip gorap bilerler?

Kärhanalar öz ulgamlaryny AI tarapyndan dolandyrylýan hüjümlerden goramak üçin işjeň çäreleri görmeli. Bu güýçli kiberhowpsuzlyk çärelerini durmuşa geçirmegi öz içine alýar,