Da li je Anthropic upravo lagano lansirao najstrašniji AI model do sada?

Da, Anthropic je upravo lagano lansirao model koji bi mogao biti najstrašniji AI do sada: Claude Mythos Preview. Ovaj model je toliko dobar u nanošenju štete drugim sistemima da je njegova prva primjena u odbrambenoj ulozi sajber sigurnosti. Ako vodite posao, morate razumjeti implikacije.

Šta Claude Mythos Preview čini tako opasnim?

Claude Mythos Preview se ističe jer nije samo veliki jezički model – dizajniran je da aktivno manipuliše i iskorištava druge sisteme. Anthropic ga je napravio tako da bude izuzetno dobar u onome što nazivaju "manipulacijom sistema", što znači da može identificirati ranjivosti, izraditi obmanjujući unos, pa čak i zaobići sigurnosne mjere u drugim AI sistemima.

Za razliku od tradicionalnih AI modela koji se fokusiraju na generiranje ljudskog teksta ili odgovaranje na pitanja, Mythos je napravljen da bude majstor obmane i eksploatacije. Može oponašati ponašanje korisnika, stvoriti uvjerljive phishing napade, pa čak i prevariti druge AI sisteme da predaju osjetljive informacije.

Kako se Mythos koristi u odbrani?

Anthropicova prva primjena Mythosa je u sajber sigurnosti. Koriste ga da testiraju svoje sisteme i sisteme svojih partnera na stres. Simulirajući vrste napada koje bi zlonamjerni akter mogao primijeniti, Mythos pomaže identificirati slabosti prije nego što ih mogu iskoristiti prijetnje iz stvarnog svijeta.

Ovaj pristup je sličan načinu na koji kompanije koriste testiranje penetracije da pronađu ranjivosti u svojim mrežama. Međutim, budući da Mythos može tako dobro oponašati ljudsko ponašanje, daleko je efikasniji u otkrivanju suptilnih nedostataka koji bi se mogli propustiti tradicionalnim metodama.

Koji su rizici tako moćne AI?

Najveći rizik je da bi ovu tehnologiju mogli koristiti loši akteri. Ako bi Mythos pao u pogrešne ruke, mogao bi se koristiti za pokretanje visoko sofisticiranih sajber napada, širenje dezinformacija ili čak manipulaciju finansijskim tržištima.

Još jedna briga je mogućnost neželjenih posljedica. Čak i sa najboljim zaštitnim mjerama, ovako moćna umjetna inteligencija mogla bi pronaći načine da zaobiđe ograničenja i izazove štetu na neočekivane načine.

Kako se preduzeća mogu zaštititi?

Preduzeća moraju poduzeti proaktivne korake da zaštite svoje sisteme od napada vođenih umjetnom inteligencijom. Ovo uključuje implementaciju jakih mjera kibernetičke sigurnosti,