Ինչպես է կատուն կարգաբերում կայուն դիֆուզիոն (2023)

Արհեստական ինտելեկտի պատմության մեջ վրիպազերծման ամենաանսպասելի պատմություններից մեկում տնային կատուն ակամայից օգնեց ինժեներներին բացահայտել կայուն տարածության թաքնված աղավաղումը Stable Diffusion-ի պատկերի ստեղծման խողովակաշարում: 2023-ի միջադեպը դարձավ ուղենշային դեպքի ուսումնասիրություն, թե ինչպես իրական աշխարհի անկանխատեսելի մուտքերը կարող են բացահայտել թերությունները, որոնք ամբողջությամբ բաց են թողնում հազարավոր ժամերի կառուցվածքային փորձարկումները:

Ի՞նչ է իրականում տեղի ունեցել կատվի և կայուն դիֆուզիայի հետ:

2023 թվականի սկզբին մեքենայական ուսուցման ինժեները, որն աշխատում էր տնից, ինչ-որ տարօրինակ բան նկատեց: Նրանց կատուն, ստեղնաշարի վրայով անցնելով Stable Diffusion ուսուցման վազքի ժամանակ, անհեթեթ նիշերի շարան ներկայացրեց արագ խմբաքանակի մեջ: Մոդելը խեղաթյուրված ելքեր ստեղծելու կամ սխալ թույլ տալու փոխարեն ստեղծեց մի շարք պատկերներ՝ հետևողական և խիստ հատուկ վիզուալ արտեֆակտով. կրկնվող տեսողական օրինաչափություն, որը չպետք է գոյություն ունենար՝ հաշվի առնելով արագ մուտքերը:

Սա պատահական աղմուկ չէր: Նախշը բացահայտեց նախկինում չբացահայտված կողմնակալություն մոդելի խաչաձև ուշադրության շերտերում, մասնավորապես, թե ինչպես է U-Net ճարտարապետությունը մշակում որոշակի նշանների համակցություններ, որոնք դուրս են գալիս նորմալ լեզվական սահմաններից: Կատվի ստեղնաշարի խառնուրդը արդյունավետորեն ստեղծել էր հակառակորդ հուշում, որը ոչ մի փորձարկողի մտքով չէր անցնում փորձել՝ բացահայտելով մոդելի CLIP տեքստային կոդավորիչի ինտեգրման թերությունը, որն ազդեց, թե ինչպես են հաշվարկվել տարածական հարաբերությունները զրոյացման գործընթացում:

Ինժեներական թիմն անցկացրեց հաջորդ շաբաթները՝ փնտրելով արտեֆակտը դեպի իր հիմնական պատճառը. լողացող կետի կլորացման խնդիր թաքնված դիֆուզիոն ժամանակացույցում, որը դրսևորվում էր միայն հատուկ նշանների եզրային դեպքերում: Ուղղումը բարելավեց պատկերների համահունչությունը բոլոր հուշումների տեսակների մոտ մոտ 3-4%-ով, ինչը զգալի ձեռքբերում է գեներատիվ AI-ի կատարողականում:

Ինչու՞ են ոչ սովորական մուտքերը բռնում սխալներ, որոնք ՈԱ թիմերը բաց են թողնում:

Կառուցվածքային թեստավորումը հետևում է մարդկային տրամաբանությանը: Ինժեներները գրում են թեստային դեպքեր՝ հիմնվելով օգտագործողի ակնկալվող վարքի, եզրային դեպքերի վրա, որոնք նրանք կարող են պատկերացնել, և նախորդ կրկնություններից ձախողման հայտնի ռեժիմները: Բայց ծրագրաշարը, հատկապես AI համակարգերը միլիարդավոր պարամետրերով, պարունակում են հնարավոր վիճակների համակցված պայթյուն, որը ոչ մի փորձարկման շրջանակ չի կարող ամբողջությամբ ծածկել:

«Ամենավտանգավոր սխալները նրանք չեն, որոնք թաքնվում են կոդում, որը դուք չեք փորձարկել, այլ նրանք են, որոնք թաքնվում են ձեր փորձարկած կոդում սխալ ենթադրություններով»: — Այս սկզբունքը, որը վաղուց հասկացվում էր ավանդական ծրագրային ճարտարագիտության մեջ, էքսպոնենցիալ ավելի կարևոր է դառնում մեքենայական ուսուցման համակարգերում, որտեղ մուտքային տարածքն արդյունավետորեն անսահման է:

Կատվի միջադեպը ամրապնդեց այն, ինչ քաոսային ինժեներական պրակտիկանտները գիտեին տարիներ շարունակ. պատահական, անկանխատեսելի մուտքերը բացահայտում են համակարգային թույլ կողմեր, որոնք մեթոդական թեստավորումը չի կարող: Դա նույն սկզբունքն է fuzz թեստավորման հիմքում, որտեղ դիտավորյալ սխալ ձևավորված տվյալները սնվում են համակարգեր՝ բացահայտելու խոցելիությունը: Այստեղ տարբերությունն այն էր, որ ֆուզերը չորս ոտք ու պոչ ուներ:

Ի՞նչ բացահայտեց սա AI-ի վրիպազերծման մարտահրավերների մասին:

Վրիպազերծման գեներատիվ AI մոդելները սկզբունքորեն տարբերվում են ավանդական ծրագրաշարի վրիպազերծումից: Երբ սովորական հավելվածը ձախողվում է, դուք ստանում եք սխալի մատյան, կույտի հետք, վերարտադրվող ուղի: Երբ արհեստական ինտելեկտի մոդելը տալիս է աննկատ սխալ արդյունքներ, ձախողումը կարող է աննկատ մնալ ամիսներով, քանի որ չկա մեկ «ճիշտ» պատասխան, որի դեմ կարելի է համեմատել:

• Թաքնված տարածության անթափանցիկություն. Դիֆուզիոն մոդելներում ներքին ներկայացումները բավականին դժվար են մեկնաբանվում, ինչը դժվարացնում է ելքային արտեֆակտների հետագծումը դեպի կոնկրետ հաշվարկային ձախողումներ:
• Խթանի զգայունություն. Տեքստի մուտքագրման աննշան տատանումները կարող են շատ տարբեր արդյունքներ առաջացնել, ինչը նշանակում է, որ սխալները կարող են հայտնվել միայն նեղ և անկանխատեսելի պայմաններում:
• Գնահատման սուբյեկտիվությունը․
• Կասկադային կախվածություն․
• Ուսուցման տվյալների խճճվածություն․