"Ko e momeniti fakatu'utamaki taha 'i he ohi 'o e fakafofonga LLM ko e taimi 'oku kamata ke ngaue ai ha me'a. 'Oku fakafuofua'i 'e he ngaahi timi 'a e workflow, tanaki atu 'a e ngaahi sitepu, tanaki atu 'a e kau fakafofonga — pea 'oku nau toki 'ilo'i 'a e fokotu'utu'u 'o e fakamole quadratic 'i he taimi 'oku a'u mai ai 'a e inivoisi. 'I he taimi ko ia, kuo 'osi ta'o 'a e 'atakai 'i loto."

'E Lava Fēfē ke Fa'u 'e he Ngaahi Pisinisí Honau Founga mei he Ngaahi Fakamole Fakakuata?

Ko e ongoongo lelei ko e quadratic scaling 'oku 'ikai ke ta'ealakalofi — ko ha fili tisaini ia 'e lava ke fakafoki fakakonga 'aki 'a e 'atakai fakataumu'a. 'Oku kau 'i he ngaahi founga fakasi'isi'i 'aonga taha 'a e context pruning, 'a ia 'oku fakahinohino'i mahino ai 'a e kau fakafofonga ke fakanounou'i mo li'aki 'a e ngaahi ola 'o e vaha'a taimi kae 'ikai ko hono tauhi 'o e ngaahi outputs 'o e me'angaue 'o e raw. 'Oku tokoni lahi foki 'a e ngaahi sipinga 'o e fakafofonga hierarchical: kae 'ikai ko ha fakafofonga lele fuoloa 'e taha 'oku ne tanaki ha fu'u tu'unga lahi, 'oku ke orchestrate subagents nounou 'oku nau takitaha tokanga'i ha ngaue fakangatangata, foaki atu ha fakamatala fakanounou compact, pea fakangata.

Ko e caching ko ha toe leva ia 'oku 'ikai ke fu'u faka'aonga'i. Caching vave — 'oku poupou'i he taimi ni 'e he lahi taha 'o e kau foaki sipinga lalahi — 'oku ne faka'ata koe ke faka'ehi'ehi mei he toe totongi 'o e ngaahi konga static 'o ho'o tu'unga hange ko e ngaahi faka'ai'ai 'o e sisitemi mo e ngaahi tohi fakamo'oni. Ki he ngaahi pisinisi 'oku nau fakalele 'a e ngaahi ngaue 'otometiki 'o e voliume ma'olunga, 'e lava ke fakasi'isi'i 'e he me'a ni pe 'a e ngaahi fakamole 'aki 'a e 30-60%. Faka'osi, model routing — 'ave 'a e ngaahi ngaue si'isi'i faingofua ange ki he ngaahi sipinga iiki ange, ma'ama'a ange lolotonga hono ta'ofi 'o e ngaahi sipinga 'o e frontier ki he ngaahi tu'utu'uni fakakaukau-mamafa — flattens 'a e curve 'o e fakamole 'i he founga fakaofo.

Ko e hā e ʻuhinga ʻo e meʻá ni ki he ngaahi Pisinisi ʻoku nau feinga ke Patisetiʻi ʻa e Ngaahi Ngāue ʻa e AI?

Ko e patiseti polokalama fakakomipiuta tukufakaholo 'oku ne fakakaukau'i 'oku fakafuofua 'a e ngaahi fakamole mo e kau faka'aonga'i pe ngaahi fefakatau'aki — fakatou'osi 'a e ngaahi fehokotaki'anga fakalaine. LLM fakafofonga fakamole maumau'i 'a e fakakaukau ko ia 'o faka'aufuli. Ko ha pisinisi 'oku lavame'a hono faka'otometiki 'o e ngaahi ngaue 'e nima pea toki fakakaukau ke faka'otometiki 'a e nimangofulu 'e lava ke ne 'ilo'i 'oku 'ikai ke tupulaki 'enau ngaahi fakamole ki he ngaahi ngaue AI 'o liunga hongofulu, ka 'oku liunga tolungofulu pe lahi ange, 'o fakatatau ki he faingata'a mo e loloa 'o e ngaue.

'Oku hanga 'e he me'a ni 'o mahu'inga 'aupito 'a e 'asi 'a e fakamole mo e fakatefito 'o e ngaue. 'Oku fie ma'u 'e he ngaahi pisinisi 'a e ngaahi tu'unga 'oku nau fakatahataha'i 'enau AI tooling, workflows, mo e fakamatala 'o hono faka'aonga'i ki ha sisitemi observable 'e taha — 'ikai koe'uhi he 'oku faingofua, ka koe'uhi 'oku 'ikai ha vakai fakatahataha ko ia, 'Oku hoko 'a e fokotu'utu'u 'o e fakamole quadratic 'o 'ikai lava mo'oni ke fakatotolo'i pe pule'i. Ko e ngaahi me'angaue 'oku movetevete 'oku 'uhinga ia ki he totongi movetevete, ngaahi 'akau 'oku movetevete, pea 'ikai ha malava ke 'ilo'i pe ko e fē 'a e sitepu pau 'o e workflow 'oku ne fakamoleki 'a e ngaahi ma'u'anga tokoni 'oku 'ikai ke fakatatau.

'Oku tokoni'i fēfē 'e he Mewayz 'a e ngaahi timi ke nau pule'i 'a e AI mo e ngaahi fakamole ki he ngaahi ngaue 'a e pisinisi 'i he Scale?

Ko e Mewayz ko ha sisitemi ngaue pisinisi 207-module 'oku falala ki ai 'a e kau faka'aonga'i 'o e 138,000 'oku ne 'omi 'a e fa'ahinga tonu 'o e fakatahataha'i 'o e ngaue 'oku fie ma'u 'e he ohi 'o e AI tu'uloa. Kae 'ikai ko hono pule'i 'o ha sprawling stack 'o e ngaahi fakalelei'anga poini — takitaha mo 'ene totongi, 'ene silo fakamatala, mo 'ene fakataha'i 'o e 'olunga — Mewayz centralizes 'a e ngaahi ngaue fakapisinisi 'i he maketi, fakatau, kakano, e-commerce, mo e workflows 'o e 'otometiki ki ha tu'unga fakatahataha 'e taha 'i he $19–49 'i he mahina.

'I he taimi 'oku nofo kotoa ai ho'o CRM, ho'o ngaahi paipa 'o e kakano, ho'o taimi-tepile fakasosiale, ho'o ngaahi me'angaue fehokotaki'anga-'i-bio, mo ho'o pule'i 'o e timi 'i loto 'i ha sisitemi 'e taha, 'Oku ke fakangata 'a e ngaahi fakamole 'o e fehokotaki'anga 'oku ne 'ai 'a e LLM fakafofonga workflows fakamole lahi 'i he 'uluaki feitu'u. 'E lava ke ma'u 'e he kau fakafofonga mo ngaue 'i he ma'a, fokotu'utu'u, centralized 'a e fakamatala kae 'ikai ko e tuitui fakataha 'a e fakamatala mei ha APIs 'e hongofulu — ngaahi tu'unga nounou ange, si'isi'i ange 'a e ngaahi ui me'angaue, mo e ngaahi fakamole fakangaue 'oku ma'ulalo ange 'aupito. 'Oku 'ikai tokoni'i pe 'e he Mewayz ke ke ngaue 'atamai lelei ange; 'oku ne liliu 'a e fokotu'utu'u 'o e fakamole 'o e fakalele 'o e ngaahi ngaue 'oku tokoni'i 'e he AI.

Ngaahi Fehuʻi ʻoku Faʻa ʻEke

Ko e quadratic LLM cost curve ko ha palopalema ia ki he fanga ki'i pisinisi pe ko e ngaahi timi 'o e ngaahi kautaha pe?

'Oku ne uesia 'a e ngaahi pisinisi 'o e lahi kotoa pe, ka 'oku fa'a ongo'i 'uluaki ia 'e he fanga ki'i pisinisi koe'uhi 'oku 'ikai ke nau ma'u 'a e ivi faka'enisinia fakatapui ke 'ilo'i mo fakalelei'i vave 'a e ngaahi langa 'oku 'ikai ke fakamole lahi. 'E lava ke faingofua hono fakatupu 'e ha solopreneur 'oku lele 'a e ngaahi ngaue 'otometiki 'e nima 'a e ngaahi fakamole ta'e'amanekina 'i he faka'osinga 'o e mahina koe'uhi ko e ngaue takitaha 'oku ne tanaki fakalongolongo 'a e tu'unga 'i he ngaahi sitepu 'e laui hongofulu. Ko e fakalelei'anga 'oku tatau pe tatau ai pe pe ko e ha 'a e fua: fakatahataha'i 'a e tooling, fakanounou'i 'a e ngaahi matapa sio'ata 'o e context 'o e fakafofonga, pea faka'aonga'i ha tu'unga fakatahataha'i 'oku ne 'oatu kiate koe 'a e visibility ki he feitu'u 'oku 'alu mo'oni ai 'a e ngaahi faka'ilonga — mo e pa'anga.

'Oku solova nai 'e he liliu ki ha sipinga LLM ma'ama'a ange 'a e palopalema 'o e fakamole fakakuata?

Konga, ka 'oku 'ikai ko e tefito'i me'a. 'Oku fakasi'isi'i 'e ha sipinga ma'ama'a ange 'a e fakamole ki he-token, 'a ia 'oku ne fakasi'isi'i ho'o fakamole 'aupito. Ka neongo ia, 'oku 'ikai ke ne liliu 'a e fotunga 'o e curve — 'oku kei vave 'a e ngaahi fakamole quadratically 'i he tupulaki 'a e faingata'a 'o e workflow. 'Oku fa'a fie ma'u foki 'e he ngaahi sipinga ma'ama'a ange 'a e ue'i verbose lahi ange mo fakatupu 'a e ngaahi ui me'angaue falala'anga si'isi'i ange, 'a ia 'e lava ke fakalahi mo'oni 'a e lau 'o e sitepu mo e retries, fakakonga pe faka'ikai'i kakato 'a e lelei 'o e totongi. 'Oku ola lelei 'a e model routing 'i he taimi 'oku faka'aonga'i fakapotopoto ai, ka ko e ngaahi liliu faka'ata ki he loloa 'o e tu'unga ko e ma'olunga taha-leverage intervention.

Te u kamata fēfē ke ʻiloʻi pe ko fē ʻi heʻeku ngaahi founga ngāué ʻoku ʻikai ke fuʻu fakamole lahi tahá?

Kamata 'aki hono tohi 'a e lahi 'o e ngaahi sitepu mo e lau fakakatoa 'o e token ki he lele 'o e workflow 'o e fakafofonga takitaha. Vahevahe 'a e ngaahi faka'ilonga fakakatoa 'e he lau 'o e sitepu — kapau 'oku tupulaki lahi 'a e ratio ko 'eni 'i he sitepu takitaha 'oku tanaki atu (kae 'ikai ke nofo roughly tu'uma'u), 'Oku ke ma'u ha palopalema 'o e tanaki 'o e context. Vakai pau ki he ngaahi outputs 'o e ui me'angaue pea vakai'i pe 'oku tanaki 'e ho'o kau fakafofonga 'a e ngaahi tali kakato pe ko e fakamatala to'o fekau'aki pe. 'Oku 'ilo 'e he ngaahi timi lahi taha 'oku 'uhinga 'a e sitepu 'e ua pe tolu 'o e workflow ki he konga lahi 'o 'enau faka'aonga'i 'o e token, 'a ia 'oku ne 'ai 'a e fakalelei'i 'oku fakataumu'a lahi mo lava ke a'usia.