Njẹ Anthropic kan ṣe ifilọlẹ awoṣe AI idẹruba julọ sibẹsibẹ?

Kini o jẹ ki Awotẹlẹ Claude Mythos lewu?

Awotẹlẹ Claude Mythos duro jade nitori kii ṣe awoṣe ede nla nikan — o ṣe apẹrẹ lati ṣe afọwọyi ati lo nilokulo awọn eto miiran. Anthropic kọ ọ lati dara ni iyasọtọ ni ohun ti wọn pe ni “ifọwọyi eto,” afipamo pe o le ṣe idanimọ awọn ailagbara, awọn igbewọle arekereke iṣẹ, ati paapaa awọn igbese aabo ni awọn eto AI miiran.

Ko dabi awọn awoṣe AI ti aṣa ti o dojukọ si jiṣẹ ọrọ bi eniyan tabi dahun awọn ibeere, Mythos ti kọ lati jẹ oga ti ẹtan ati ilokulo. O le ṣe afarawe ihuwasi olumulo, ṣẹda awọn ikọlu ararẹ ti o ni idaniloju, ati paapaa tan awọn eto AI miiran lati fi alaye ifura silẹ.

Bawo ni a ṣe nlo Mythos ni igbeja?

Ohun elo akọkọ ti Anthropic ti Mythos wa ni cybersecurity. Wọn nlo lati ṣe idanwo-idanwo awọn eto tiwọn ati ti awọn alabaṣiṣẹpọ wọn. Nipa ṣiṣafarawe iru awọn ikọlu ti oṣere irira le gba, Mythos ṣe iranlọwọ lati ṣe idanimọ awọn ailagbara ṣaaju ki o to le lo wọn nipasẹ awọn irokeke gidi-aye.

Ọna yii jọra si bii awọn ile-iṣẹ ṣe lo idanwo ilaluja lati wa awọn ailagbara ninu awọn nẹtiwọọki wọn. Sibẹsibẹ, nitori Mythos le farawe iru ihuwasi eniyan daradara, o munadoko diẹ sii ni ṣiṣafihan awọn abawọn arekereke ti o le padanu nipasẹ awọn ọna ibile.

Kini awọn ewu ti iru AI alagbara bẹẹ?

Ewu ti o tobi julọ ni pe imọ-ẹrọ yii le jẹ ohun ija nipasẹ awọn oṣere buburu. Ti Mythos ba ṣubu si awọn ọwọ ti ko tọ, o le ṣee lo lati ṣe ifilọlẹ awọn ikọlu ori ayelujara ti o ga julọ, tan alaye ti ko tọ, tabi paapaa ṣe afọwọyi awọn ọja inawo.

Ibakcdun miiran ni agbara fun awọn abajade airotẹlẹ. Paapaa pẹlu awọn aabo to dara julọ ni aaye, AI kan ti o lagbara le wa awọn ọna lati fori awọn ihamọ ati fa ipalara ni awọn ọna airotẹlẹ.

Bawo ni awọn iṣowo ṣe le daabobo ara wọn?

Awọn iṣowo nilo lati ṣe awọn igbesẹ ti n ṣabojuto lati daabobo awọn eto wọn lọwọ awọn ikọlu ti AI-ṣiṣẹ. Eyi pẹlu imuse awọn igbese cybersecurity ti o lagbara,