Ggml.ai kau ki he Hugging Face ke fakapapau'i 'a e fakalakalaka taimi loloa 'o e AI Fakalotofonua .

Ngaahi Fehuʻi ʻoku Faʻa ʻEke

Ko e hā ʻa e Ggml.ai pea ko e hā ʻoku kau ai ki he Fofonga ʻo e ʻUfiʻufí?

Ggml.ai ko e kautaha 'i mui 'i he GGML, ko ha laipeli tensor manakoa 'oku ne fakaivia 'a e inference fakalotofonua 'o e AI 'i he ngaahi naunau 'o e kau fakatau. 'I he'ene kau mai ki he Hugging Face, 'oku ne ma'u ai 'a e ngaahi ma'u'anga tokoni fakalakalaka taimi loloa mo e poupou lahi ange 'a e komiuniti. 'Oku fakapapau'i 'e he hoa ngaue ko 'eni 'oku kei lava pe ke ma'u 'a e ngaahi sipinga 'o e AI fakalotofonua 'oku fakaava, lelei, mo fakalakalaka hokohoko — 'aonga ki he ngaahi tu'unga hange ko e Mewayz 'oku nau fakataha'i 'a e ngaahi malava 'o e AI 'i he kotoa 'o 'enau 207-module pisinisi OS.

'Oku anga fefe 'a e 'aonga 'o e fengaue'aki ko 'eni ki he fakalakalaka fakalotofonua 'o e AI?

'Oku fakataha'i 'e he fengaue'aki 'a e 'ekositemi fakatata lahi 'o e Hugging Face mo e taukei 'a e Ggml.ai 'i he inference fakalotofonua optimized. 'Oku ma'u 'e he kau developers mo e ngaahi pisinisi 'a e 'ata ki he ngaahi sipinga quantized lahi ange 'oku lele lelei 'i he ngaahi naunau angamaheni 'o 'ikai ha fakafalala ki he 'ao. Ki he kau faka'aonga'i 'o e Mewayz 'i he app.mewayz.com, 'Oku 'uhinga 'eni ki he vave ange, fakafo'ituitui ange 'a e ngaahi me'a 'oku fakalele 'e he AI 'oku fakahu fakahangatonu 'i loto 'i he'enau ngaue — 'oku kau kotoa 'i he palani $19/mo.

Ko e ha e 'uhinga 'o e "AI fakalotofonua" pea ko e ha 'oku mahu'inga ai ki he ngaahi pisinisi?

'Oku 'uhinga 'a e AI fakalotofonua ki hono fakalele 'o e ngaahi sipinga ako 'o e misini 'i ho'o device pe server, kae 'ikai ko hono 'ave 'o e fakamatala ki he kau foaki 'o e 'ao 'i tu'a. 'Oku 'omi 'e he founga ko 'eni 'a e ngaahi lelei lahi 'i he fakapulipuli 'o e fakamatala, fakasi'isi'i 'a e latency, mo e ma'ulalo ange 'a e ngaahi fakamole hokohoko. Ko e ngaahi pisinisi 'oku nau faka'aonga'i 'a e ngaahi tu'unga fakalukufua hange ko e Mewayz 'oku nau ma'u 'aonga mei he AI fakalotofonua 'aki hono tauhi 'a e ngaahi fakamatala fakangaue 'oku mahu'inga 'i he-premise lolotonga ia 'oku kei leveraging 'a e 'otometiki 'atamai 'i he kotoa 'o e 207 modules fakatahataha'i.

'E kei 'ata pe 'a e Ggml.ai hili hono ma'u?

'Io, Kuo tukupa 'a e Hugging Face ke tauhi 'a e ngaahi fakava'e 'o e Ggml.ai 'oku 'ata-ma'u'anga fakamatala. 'E hokohoko atu 'a e laipeli GGML mo e ngaahi me'angaue fekau'aki hange ko e llama.cpp 'i he malumalu 'o e ngaahi laiseni fakangofua, 'o fakapapau'i 'e lava ke langa tau'ataina 'a e komiuniti 'iate kinautolu. Ko e founga fakaava ko 'eni 'oku fakafe'unga'i ia mo e ngaahi tu'unga hange ko Mewayz 'oku fakafalala ki he ngaahi langa fakalakalaka 'o e AI 'oku lava ke ma'u ke 'oatu 'a e ngaahi me'angaue pisinisi malohi, 'oku ala ma'u ki he kau faka'aonga'i 'o e 138,000 'i mamani kotoa.

Ko e hā ʻa e Ggml.ai pea ko e hā ʻoku kau ai ki he Hugging Fofonga?","talitali":{"@fa'ahinga":"Tali","tohi":"Ggml.ai ko e kautaha 'i mui 'i he GGML, ko ha laipeli tensor manakoa 'oku ne fakaivia 'a e inference fakalotofonua 'o e AI 'i he ngaahi naunau 'o e kau fakatau, 'Oku ne malu'i 'a e ngaahi ma'u'anga tokoni fakalakalaka taimi loloa 'o e komiuniti 'o e ensurea. 'oku lava ke ma'u, lelei, pea hokohoko atu hono fakalelei'i \u2014 'aonga ki he ngaahi tu'unga hange ko e Huwayz 'oku ne fakataha'i 'a e ngaahi malava 'o e AI "}},{"@fa'ahinga":"Fehu'i","hingoa":"'Oku anga fefe 'a e 'aonga 'o e hoa ngaue ko 'eni ki he fakalakalaka fakalotofonua 'o e AI model?","acceptedAnswer":{"@type":"Tali:"'te ecosystem mo e taukei 'a e Ggml.ai 'i he optimized inference fakalotofonua 'oku ma'u 'e he kau fakalakalaka mo e ngaahi pisinisi 'a e 'ata ki he ngaahi sipinga quantized lahi ange 'oku lele lelei 'i he ngaahi naunau angamaheni 'o 'ikai ha fakafalala 'a e 'ao Ki he kau faka'aonga'i 'o e Mewayz 'i he app.mewayz.com, 'Oku 'uhinga 'eni 'oku kau ai 'a e ngaahi fotunga fakafo'ituitui lahi ange 'o e work1in. the"}},{"@type":"Fehu'i","hingoa":"Ko e hā 'a e 'uhinga 'o e \"AI fakalotofonua\" ko 'eni pea ko e hā 'oku mahu'inga ai ki he ngaahi pisinisi?","tali Tali":{"@type":"Tali","text":"'Oku 'uhinga 'a e AI fakalotofonua ki hono lele'i 'o e ngaahi sipinga 'o e ako 'o e misini 'o 'ikai ko e founga 'o e clo ngaahi lelei mahu'inga 'i he fakapulipuli 'o e fakamatala, fakasi'isi'i 'a e latency, mo e ma'ulalo ange 'a e ngaahi fakamole hokohoko. ma'u?","taliTali":{"@fa'ahinga":"Tali","text":"'Io, Kuo tukupa 'a e Hugging Face ke tauhi 'a e ngaahi fakava'e 'o e Ggml.ai 'oku fakaava-ma'u'anga fakamatala. 'E hokohoko atu 'a e laipeli GGML mo e ngaahi me'angaue fekau'aki hange ko e llama.cpp 'i he malumalu 'o e ngaahi laiseni fakangofua 'o hange ko e communild 'a e founga 'o e upon. Mewayz 'oku fakafalala ki he ngaahi langa fakalakalaka 'o e AI 'oku lava ke ma'u ke 'oatu 'a e ngaahi me'angaue pisinisi malohi, 'oku ala ma'u ki he kau faka'aonga'i 'o e 138,000 'i mamani kotoa."}}]}