Anthropic хамгийн аймшигтай хиймэл оюун ухааны загвараа дөнгөж саяхан эхлүүлсэн үү?

Тийм ээ, Anthropic одоог хүртэл хамгийн аймшигтай хиймэл оюун ухаан байж болох загвараа дөнгөж саяхан танилцууллаа: Claude Mythos Preview. Энэ загвар нь бусад системд хор хөнөөл учруулахдаа маш сайн тул анхны хэрэглээ нь кибер аюулгүй байдлын хамгаалалтын үүрэг гүйцэтгэдэг. Хэрэв та бизнес эрхэлж байгаа бол үр дагаврыг нь ойлгох хэрэгтэй.

Claude Mythos Preview юу нь тийм аюултай вэ?

Claude Mythos Preview нь зөвхөн том хэлний загвар биш бөгөөд бусад системүүдийг идэвхтэй удирдах, ашиглахад зориулагдсан тул бусдаас ялгардаг. Anthropic нь үүнийг "системийн манипуляци" гэж нэрлэдэг зүйлдээ маш сайн байхаар бүтээсэн бөгөөд энэ нь бусад хиймэл оюун ухааны системүүдийн эмзэг байдлыг тодорхойлох, хууран мэхлэх оролт хийх, тэр ч байтугай аюулгүй байдлын арга хэмжээг тойрч гарах боломжтой гэсэн үг юм.

Хүнтэй төстэй текст үүсгэх эсвэл асуултанд хариулахад чиглэдэг уламжлалт хиймэл оюун ухааны загваруудаас ялгаатай нь Mythos нь хууран мэхлэлт, мөлжлөгийн мастер байхаар бүтээгдсэн. Энэ нь хэрэглэгчийн зан төлөвийг дуурайж, итгэл үнэмшилтэй фишинг халдлага үүсгэж, бусад AI системийг хууран мэхэлж, нууц мэдээллийг өгөх боломжтой.

Mythos-ийг хамгаалалтад хэрхэн ашигладаг вэ?

Антропикийн Mythos-ийн анхны хэрэглээ нь кибер аюулгүй байдлын асуудал юм. Тэд үүнийг өөрсдийн болон хамтрагчдынхаа системийг стресст турших зорилгоор ашиглаж байна. Mythos нь хорлонтой этгээдийн ашиглаж болох халдлагуудыг дуурайснаар сул талуудыг бодит аюул заналхийллээр ашиглахаас өмнө тодорхойлоход тусалдаг.

Энэ арга нь компаниуд сүлжээн дэх эмзэг байдлыг илрүүлэхийн тулд нэвтрэлтийн тестийг ашигладагтай төстэй юм. Гэсэн хэдий ч, Mythos нь хүнтэй төстэй зан үйлийг маш сайн дуурайж чаддаг тул уламжлалт аргаар орхигдуулж болзошгүй нарийн дутагдлыг илрүүлэхэд илүү үр дүнтэй байдаг.

Ийм хүчирхэг хиймэл оюун ухаан ямар эрсдэлтэй вэ?

Хамгийн том эрсдэл бол энэ технологийг муу жүжигчид зэвсэглэх явдал юм. Хэрэв Mythos буруу гарт орвол түүнийг маш боловсронгуй кибер халдлага хийх, ташаа мэдээлэл түгээх, санхүүгийн зах зээлийг удирдахад ашиглаж болно.

Өөр нэг санаа зовоосон зүйл бол хүсээгүй үр дагаварт хүргэж болзошгүй юм. Хамгийн сайн хамгаалалттай байсан ч ийм хүчирхэг хиймэл оюун ухаан нь хязгаарлалтыг даван туулах, гэнэтийн байдлаар хохирол учруулах арга замыг олж чадна.

Бизнесүүд өөрсдийгөө хэрхэн хамгаалах вэ?

Бизнесүүд өөрсдийн системийг хиймэл оюун ухаанд суурилсан халдлагаас хамгаалахын тулд идэвхтэй алхам хийх хэрэгтэй. Үүнд кибер аюулгүй байдлын хүчтэй арга хэмжээг хэрэгжүүлэх,