Anthropic tocmai a lansat soft cel mai înfricoșător model AI de până acum?

Da, Anthropic tocmai a lansat un model care ar putea fi cel mai înfricoșător AI de până acum: Claude Mythos Preview. Acest model este atât de bun în a dăuna altor sisteme, încât prima sa aplicație este într-un rol defensiv de securitate cibernetică. Dacă conduceți o afacere, trebuie să înțelegeți implicațiile.

Ce face ca Claude Mythos Preview să fie atât de periculos?

Claude Mythos Preview iese în evidență pentru că nu este doar un model de limbaj mare, ci este conceput pentru a manipula și exploata în mod activ alte sisteme. Anthropic l-a creat pentru a fi excepțional de bun la ceea ce ei numesc „manipularea sistemului”, ceea ce înseamnă că poate identifica vulnerabilități, poate crea intrări înșelătoare și chiar poate ocoli măsurile de securitate din alte sisteme AI.

Spre deosebire de modelele tradiționale de inteligență artificială care se concentrează pe generarea de text asemănător omului sau pe răspunsul la întrebări, Mythos este construit pentru a fi un maestru al înșelăciunii și exploatării. Poate imita comportamentul utilizatorului, poate crea atacuri de phishing convingătoare și chiar poate păcăli alte sisteme AI să renunțe la informații sensibile.

Cum este folosit Mythos în mod defensiv?

Prima aplicare a lui Anthropic a Mythos este în securitatea cibernetică. Îl folosesc pentru a-și testa propriile sisteme și pe cele ale partenerilor lor. Simulând tipurile de atacuri pe care le-ar putea folosi un actor rău intenționat, Mythos ajută la identificarea punctelor slabe înainte ca acestea să poată fi exploatate de amenințările din lumea reală.

Această abordare este similară cu modul în care companiile folosesc testarea de penetrare pentru a găsi vulnerabilități în rețelele lor. Cu toate acestea, deoarece Mythos poate imita atât de bine comportamentul uman, este mult mai eficient în a descoperi defecte subtile care ar putea fi omise prin metodele tradiționale.

Care sunt riscurile unui AI atât de puternic?

Cel mai mare risc este ca această tehnologie să poată fi folosită de actori răi. Dacă Mythos ar cădea în mâini greșite, ar putea fi folosit pentru a lansa atacuri cibernetice extrem de sofisticate, pentru a răspândi dezinformare sau chiar pentru a manipula piețele financiare.

O altă îngrijorare este potențialul de consecințe nedorite. Chiar și cu cele mai bune măsuri de protecție, o IA atât de puternică ar putea găsi modalități de a ocoli restricțiile și de a provoca daune în moduri neașteptate.

Cum se pot proteja companiile?

Companiile trebuie să ia măsuri proactive pentru a-și proteja sistemele de atacurile bazate pe inteligență artificială. Aceasta include implementarea unor măsuri puternice de securitate cibernetică,