Антропик иң куркыныч AI моделен йомшак кына эшләтеп җибәрдеме?

Әйе, Антропик әле иң куркыныч ЯИ булырга мөмкин булган модельне йомшак эшләтеп җибәрде: Клод Мифос Алдан карау. Бу модель бүтән системаларга зыян китерергә бик оста, аны беренче куллану кибер-куркынычсызлык ролендә. Әгәр дә сез бизнес алып барасыз икән, моның нәтиҗәләрен аңларга кирәк.

Клод Мифосны алдан карау ни куркыныч итә?

Клод Мифос Алдан карау аерылып тора, чөнки ул зур тел моделе генә түгел - ул башка системаларны актив куллану һәм куллану өчен эшләнгән. Антропик аны "система манипуляциясе" дип атаган әйберләргә бик яхшы итеп төзегән, димәк, ул зәгыйфьлекләрне, алдаучы керемнәрне ачыклый ала, һәм хәтта башка ЯИ системаларында куркынычсызлык чараларын узып китә ала.

Кешегә охшаган текст ясарга яки сорауларга җавап бирүче традицион ЯИ модельләреннән аермалы буларак, Мифос алдау һәм эксплуатация остасы итеп төзелгән. Ул кулланучының тәртибен охшатырга, ышандырырлык фишинг һөҗүмнәрен ясарга һәм хәтта башка ЯИ системаларын сизгер мәгълүматлардан баш тартырга мөмкин.

Мифос ничек саклана?

Антропикның Мифосны беренче куллануы кибер куркынычсызлыкта. Алар моны үз системаларын һәм партнерларының системасын сынау өчен кулланалар. Зыянлы актер куллана алган һөҗүм төрләрен охшатып, Мифос кимчелекләрне реаль дөнья куркынычлары кулланганчы ачыкларга булыша.

Бу алым компанияләрнең челтәрләрендәге зәгыйфьлекләрне табу өчен үтеп керү сынауларын ничек кулланганына охшаш. Ләкин, Мифос кешегә охшаган тәртипне бик яхшы охшата алганга, традицион ысуллар белән сагынып була торган нечкә кимчелекләрне ачу күпкә эффективрак.

Мондый көчле ЯИның нинди куркынычлары бар?

Иң зур куркыныч - бу технология начар актерлар белән коралланырга мөмкин. Әгәр дә Мифос ялгыш кулларга эләксә, аны бик катлаулы кибер һөҗүмнәр башлау, дөрес булмаган мәгълүмат тарату, хәтта финанс базарларын манипуляцияләү өчен кулланырга мөмкин.

Тагын бер борчылу - көтелмәгән нәтиҗәләр өчен потенциал. Иң яхшы саклану чаралары булган очракта да, ЯИ бу көчле чикләүләрне узып, көтмәгәндә зыян китерү юлларын таба алыр иде.

Бизнес үзләрен ничек саклый ала?

Бизнесларга үз системаларын ЯИ һөҗүмнәреннән саклау өчен актив адымнар ясарга кирәк. Бу кибер-куркынычсызлык чараларын тормышка ашыруны үз эченә ала,