Hacker News

አንድ ድመት የተረጋጋ ስርጭትን (2023) እንዴት እንዳረመች

አንድ ድመት የተረጋጋ ስርጭትን (2023) እንዴት እንዳረመች ይህ የተበላሸው አጠቃላይ ትንታኔ ዋና ክፍሎቹን እና ሰፋ ያሉ እንድምታዎችን በዝርዝር መመርመርን ይሰጣል። የትኩረት ቁልፍ ቦታዎች ውይይቱ የሚያተኩረው፡- ዋና ዘዴዎች እና ሂደቶች…

1 min read Via blog.dwac.dev

Mewayz Team

Editorial Team

Hacker News
የተሟላው የ SEO ብሎግ ልጥፍ ይኸውና፡

ድመት እንዴት እንደታረመ የተረጋጋ ስርጭት (2023)

በ AI ታሪክ ውስጥ ካሉት ያልተጠበቁ የማረም ታሪኮች ውስጥ፣ የቤት ድመት ባለማወቅ በStable Diffusion ምስል ማመንጨት ቧንቧ መስመር ላይ ያለውን ወሳኝ ድብቅ የጠፈር መዛባት ለይተው እንዲያውቁ ረድቷቸዋል። በ2023 የተከሰተው ክስተት ያልተጠበቁ የገሃዱ ዓለም ግብአቶች በሺዎች የሚቆጠር ጊዜ የተዋቀረ ሙከራ ሙሉ በሙሉ የሚያመልጡትን ጉድለቶች እንዴት እንደሚያጋልጡ የሚያሳይ ታሪካዊ ጥናት ሆነ።

በድመት እና በተረጋጋ ስርጭት ምን ሆነ? እ.ኤ.አ. በ2023 መጀመሪያ ላይ፣ አንድ የማሽን መማሪያ መሐንዲስ ከቤት ሆኖ የሚሰራ አንድ ልዩ ነገር አስተዋለ። ድመታቸው በStable Diffusion የሥልጠና ሩጫ ወቅት በቁልፍ ሰሌዳው ላይ የተራመደች፣ ትርጉም የለሽ ገጸ-ባህሪያትን ወደ ፈጣን ባች አስተዋወቀች። ሞዴሉ የተጎሳቆሉ ውጤቶችን ከማምረት ወይም ስህተትን ከመጣል ይልቅ ተከታታይ ምስሎችን ወጥነት ያለው እና በጣም ልዩ የሆነ ምስላዊ ቅርስ ፈጠረ - ፈጣን ግብዓቶች ሲታዩ መኖር ያልነበረበት ተደጋጋሚ የመለጠጥ ንድፍ።

ይህ የዘፈቀደ ድምጽ አልነበረም። ንድፉ ከዚህ ቀደም ያልታወቀ አድሎአዊነትን በአምሳያው የመስቀል-ትኩረት እርከኖች፣ በተለይም የዩ-ኔት አርክቴክቸር ከመደበኛ የቋንቋ ድንበሮች ውጪ የወደቁ የተወሰኑ የማስመሰያ ውህዶችን እንዴት እንደሚያስተናግድ አሳይቷል። የድመቷ ኪቦርድ መፍጨት ማንም ሰው ሞካሪ ሊሞክረው ያላሰበውን የተቃዋሚ ጥያቄ ፈጥሯል፣ይህም በአምሳያው CLIP የጽሑፍ ኢንኮደር ውህደት ውስጥ ያለውን ጉድለት በማጋለጥ በጥፋቱ ሂደት ውስጥ የቦታ ግንኙነቶች እንዴት እንደሚሰሉ ይነካል።

የኢንጂነሪንግ ቡድኑ ቅርሶቹን ወደ ዋናው መንስኤው በመፈለግ በሚቀጥሉት ሳምንታት አሳልፏል፡ ተንሳፋፊ-ነጥብ የማዞሪያ ጉዳይ በድብቅ ስርጭት መርሐግብር ውስጥ በተወሰኑ የማስመሰያ ጠርዝ ጉዳዮች ላይ ብቻ የሚታየው። ማስተካከያው በሁሉም የፈጣን አይነቶች ላይ ያለውን የምስል ቅንጅት በግምት ከ3-4% አሻሽሏል፣ ይህም በጄኔቲቭ AI አፈጻጸም ላይ ከፍተኛ ትርፍ አግኝቷል።

ለምንድነው ያልተለመዱ ግብዓቶች የQA ቡድኖች የሚያመልጡትን ሳንካዎች የሚይዙት?

የተዋቀረ ሙከራ የሰውን አመክንዮ ይከተላል። መሐንዲሶች የፈተና ጉዳዮችን የሚጽፉት በሚጠበቀው የተጠቃሚ ባህሪ፣ ሊገምቷቸው በሚችሉት ጠርዝ ጉዳዮች እና ከቀደምት ድግግሞሾች በሚታወቁ የውድቀት ሁነታዎች ላይ በመመስረት ነው። ነገር ግን ሶፍትዌር - በተለይም AI ሲስተሞች በቢሊዮኖች የሚቆጠሩ መለኪያዎች - ምንም ዓይነት የሙከራ ማዕቀፍ ሙሉ በሙሉ ሊሸፍኑ የማይችሉትን ግዛቶች ጥምር ፍንዳታ ይዟል።

"በጣም አደገኛ የሆኑት ሳንካዎች እርስዎ ያልሞከሩት በኮድ ውስጥ የሚደበቁ አይደሉም። እነሱ በተሳሳተ ግምቶች የሞከሩት ኮድ ውስጥ የሚደበቁ ናቸው።" - ይህ መርህ በባህላዊ የሶፍትዌር ምህንድስና ውስጥ ለረጅም ጊዜ የተገነዘበው ፣ የመግቢያ ቦታው ወሰን በሌለው የማሽን መማሪያ ስርዓቶች ውስጥ እጅግ በጣም ወሳኝ ይሆናል።

💡 DID YOU KNOW?

Mewayz replaces 8+ business tools in one platform

CRM · Invoicing · HR · Projects · Booking · eCommerce · POS · Analytics. Free forever plan available.

Start Free →

የድመቷ ክስተት ትርምስ የምህንድስና ባለሙያዎች ለዓመታት የሚያውቁትን አጠናከረ፡ በዘፈቀደ ያልተጠበቁ፣ ያልተጠበቁ ግብዓቶች የስልት ሙከራ ማድረግ የማይችሉትን የስርዓት ድክመቶች ያሳያሉ። ሆን ተብሎ የተበላሹ መረጃዎች ተጋላጭነቶችን ለማግኘት ወደ ስርዓቶች የሚገቡበት ከfuzz ሙከራ ጀርባ ያለው ተመሳሳይ መርህ ነው። እዚህ ያለው ልዩነት ፊውዘር አራት እግሮች እና ጅራት ያለው መሆኑ ነው።

ይህ ስለ AI ማረም ተግዳሮቶች ምን ገለጠ?

የጄነሬቲቭ AI ሞዴሎችን ማረም በመሠረቱ ባህላዊ ሶፍትዌሮችን ከማረም የተለየ ነው። አንድ የተለመደ መተግበሪያ ሳይሳካ ሲቀር የስህተት ምዝግብ ማስታወሻ፣ የቁልል ዱካ፣ ሊባዛ የሚችል መንገድ ያገኛሉ። የ AI ሞዴል በድብቅ የተሳሳቱ ውጤቶችን ሲያወጣ ውድቀቱ ለወራት ሳይስተዋል አይቀርም ምክንያቱም ከተቃራኒው ጋር የሚወዳደር አንድም “ትክክለኛ” መልስ የለም።

  • ድብቅ የጠፈር ግልጽነት፡ በስርጭት ሞዴሎች ውስጥ ያሉት የውስጥ ውክልናዎች ለመተርጎም በጣም አስቸጋሪ ናቸው፣ ይህም የውጤት ቅርሶችን ወደ ተለዩ የስሌት ውድቀቶች ለማወቅ አስቸጋሪ ያደርገዋል።
  • አፋጣኝ ትብነት፡ በጽሁፍ ግብአት ላይ ያሉ ጥቃቅን ልዩነቶች በጣም የተለያዩ ውጤቶችን ሊያመጡ ይችላሉ፣ ይህ ማለት ስህተቶች በጠባብ እና ሊገመቱ በማይችሉ ሁኔታዎች ውስጥ ብቻ ሊታዩ ይችላሉ።
  • የግምገማ ርእሰ ጉዳይ፡ ከሚለካ ትክክለኛነት ጋር ከምደባ ስራዎች በተለየ፣ የምስል የማመንጨት ጥራት በከፊል ተጨባጭ ነው፣ ይህም ስውር ውርደቶች በራስ-ሰር ቼኮች እንዲንሸራተቱ ያስችላቸዋል።
  • የማስወገድ ጥገኞች፡ በጽሑፍ ኢንኮደር ውስጥ ያለ አንድ እንከን በመስቀል-ትኩረት ዘዴ፣ በዲኖይስቲንግ መርሐግብር እና በ VAE ዲኮደር በኩል ሊሰራጭ ይችላል፣ ይህም የስር መንስኤ ትንተና እጅግ ውስብስብ ያደርገዋል።
  • የሥልጠና መረጃ መጠላለፍ፡ በአምሳያው አርክቴክቸር ውስጥ ያሉ ስህተቶችን እና ከሥልጠና መረጃ የወረሱትን አድልዎ ለመለየት ጊዜ የሚወስዱ እና በስሌት ውድ የሆኑ ጥንቃቄ የተሞላባቸው ጥናቶችን ይጠይቃል።

ይህ ክስተት በ AI ልማት ልማዶች ላይ ምን ተጽዕኖ አሳደረ? የድመት ማረም ታሪክ፣ ላይ ላዩን አስቂኝ ሆኖ ሳለ፣ AI ቡድኖች እንዴት የጥራት ማረጋገጫን እንደሚያገኙ ላይ በርካታ ተጨባጭ ለውጦችን አድርጓል። ከዚያን ጊዜ ጀምሮ በርካታ ድርጅቶች የፉዝ ሙከራ ፕሮቶኮሎቻቸውን ለጄነሬቲቭ ሞዴሎች በተለይም የዘፈቀደ እና የተቃራኒ ቶከን ቅደም ተከተሎችን በማካተት ቋንቋዊ ያልሆኑ ግብአቶችን አስፍተዋል። አንዳንድ ቡድኖች ቀጣይነት ያለው የመዋሃድ ቧንቧ መስመሮቻቸው አካል አድርገው አሁን በራስ ሰር "የቁልፍ ሰሌዳ መራመድ" ምስሎችን ያካሂዳሉ። ክስተቱ ለስርጭት ሞዴሎች የትርጓሜ መሳሪያዎችን ፍላጎት አድሷል። ምስላዊው ቅርስ ብዙም ግልፅ ባይሆን ኖሮ - ከደማቅ ምስል ይልቅ ስውር የቀለም ለውጥ - ላልተወሰነ ጊዜ ሳይስተዋል አይቀርም። ይህ ማህበረሰቡ ለተፈጠሩ ውጤቶች የተሻለ አውቶማቲክ ያልተለመደ ፍለጋን እንዲያዳብር ገፋፍቶታል። በ AI ልማት፣ የምርት ድግግሞሽ እና የጥራት ማረጋገጫ ላይ ውስብስብ የስራ ሂደቶችን ለሚቆጣጠሩ ቡድኖች፣ እንደነዚህ ያሉ ክስተቶች የተማከለ የአሰራር ታይነት አስፈላጊነትን ያጎላሉ። ስህተት የጽሑፍ ኢንኮደርን፣ መርሐግብር አውጪውን እና ዲኮደርን ሲዘረጋ፣ በተበታተኑ መሳሪያዎች እና ተያያዥነት ባላቸው የመገናኛ መስመሮች ላይ ምርመራውን መከታተል የራሱ የሆነ ግጭት ይፈጥራል።

ብዙ ጊዜ የሚጠየቁ ጥያቄዎች

የረጋ ስርጭት ድመት ማረም ክስተት እውነተኛ ክስተት ነበር?

ዋናው ታሪኩ በ2023 ከ AI ምህንድስና ማህበረሰብ በተገኘ በሰፊው የተጋራ መለያ ላይ የተመሰረተ ነው። የተወሰኑ ዝርዝሮች በመድገም ረገድ በመጠኑ ተረት ሆነው ሳለ፣ ከስር ያለው ቴክኒካዊ ሁኔታ - የዘፈቀደ የቁልፍ ሰሌዳ ግቤት ድብቅ ቦታ ስህተትን የሚያጋልጥ - በደንብ የተመዘገበ እና በስርጭት ሞዴል አርክቴክቸር ውስጥ ከሚታወቁ የውድቀት ሁነታዎች ጋር የሚስማማ ነው። በሶፍትዌር ምህንድስና ታሪክ ውስጥ ተመሳሳይ ድንገተኛ ግኝቶች ተከስተዋል።

የfuzz ሙከራ በጄነሬቲቭ AI ሞዴሎች ውስጥ ስህተቶችን በአስተማማኝ ሁኔታ ሊይዝ ይችላል?

የፉዝ ሙከራ የተወሰኑ የሳንካ ምድቦችን በተለይም ከግቤት መተንተን፣ ማስመሰያ ጠርዝ ጉዳዮች እና የቁጥር መረጋጋት ጉዳዮች ጋር የተያያዙትን ለመያዝ ውጤታማ ነው። ሆኖም ግን, ለጄነሬቲቭ AI የብር ጥይት አይደለም. እነዚህ ሞዴሎች ከመወሰን ይልቅ ፕሮባቢሊቲካዊ ውጤቶችን ስለሚያመርቱ፣ በfuzz ሙከራ ወቅት “ሽንፈት” ምን እንደሆነ ለመወሰን ከቀላል ማለፊያ/ውድቀት ማረጋገጫዎች ይልቅ የተራቀቁ ያልተለመዱ የፍተሻ ሥርዓቶችን ይፈልጋል።

የፕሮፌሽናል AI ቡድኖች በውስብስብ ስርአቶች ውስጥ የስራ ፍሰቶችን ማረም እንዴት ያስተዳድራሉ?

አብዛኞቹ የበሰሉ AI ቡድኖች የሙከራ መከታተያ መድረኮችን፣ የተማከለ ምዝግብ ማስታወሻዎችን፣ የትብብር ሰነዶችን እና የተዋቀረ የፕሮጀክት አስተዳደርን ጥምር ላይ ይመካሉ። ዋናው ተግዳሮት የመከታተያ ችሎታን መጠበቅ ነው - አንድን የተወሰነ የውጤት ቅርስ ከአምሳያው ሥሪት፣ የሥልጠና ዳታ፣ ሃይፐርፓራሜትሮች እና ኮድ ቁርጠኝነት ጋር ማገናኘት ነው። እነዚህን የስራ ፍሰቶች ወደ አንድ የተዋሃዱ የአሰራር ስርዓቶች የሚያዋህዱ ቡድኖች በቅንጅት ወጪዎች ላይ በጣም ያነሰ ጊዜ እና ለትክክለኛ ችግር ፈቺ ጊዜ ያሳልፋሉ።

የአሰራር ውስብስብነትዎን ያቃልሉ

የ AI ሞዴሎችን እያረምክም ሆነ ሌላ ማንኛውንም ውስብስብ የንግድ ሥራ እያስተዳደርክ፣ የተበታተኑ መሳሪያዎች የተበታተነ አስተሳሰብን ይፈጥራሉ። Mewayz 207 የተቀናጁ ሞጁሎችን ከ138,000 በላይ ተጠቃሚዎች ወደታመኑ ወደ አንድ የንግድ ኦፕሬቲንግ ሲስተም ያመጣል - ለቡድንዎ ችግሮችን ወደ ምንጫቸው ለማወቅ፣ ምላሾችን ለማስተባበር እና በፍጥነት ለመንቀሳቀስ የሚያስፈልገውን የተማከለ ታይነት ይሰጣል። የነጻ ሙከራዎን በapp.mewayz.com ይጀምሩ እና የተዋሃዱ ስራዎች ምን እንደሚመስሉ ይመልከቱ።