ଆପଲ୍ ସିଲିକନ୍ ଉପରେ ସବ୍-ମିଲିସେକେଣ୍ଡ୍ RAG | କ Server ଣସି ସର୍ଭର ନାହିଁ | କ API ଣସି API ନାହିଁ | ଗୋଟିଏ ଫାଇଲ୍ |

ଆପଲ୍ ସିଲିକନ୍ ଉପରେ \ u003ch2 \ u003eSub-Millisecond RAG | କ Server ଣସି ସର୍ଭର ନାହିଁ | କ API ଣସି API ନାହିଁ | ଗୋଟିଏ ଫାଇଲ୍ \ u003c / h2 \ u003e | \ u003cp \ u003e ଏହି ମୁକ୍ତ ଉତ୍ସ GitHub ସଂଗ୍ରହାଳୟ ବିକାଶକାରୀ ଇକୋସିଷ୍ଟମରେ ଏକ ମହତ୍ contribution ପୂର୍ଣ୍ଣ ଅବଦାନକୁ ପ୍ରତିନିଧିତ୍ୱ କରେ | ପ୍ରୋଜେକ୍ଟ ଆଧୁନିକ ବିକାଶ ଅଭ୍ୟାସ ଏବଂ ସହଯୋଗୀ କୋଡିଂ ପ୍ରଦର୍ଶନ କରେ | \ u003c / p \ u003e | \ u003ch3 \ u003e ଟେକ୍ନିକାଲ୍ ବ Features ଶିଷ୍ଟ୍ୟ \ u003c / h3 \ u003e \ u003cp \ u003e ସଂଗ୍ରହାଳୟ ସମ୍ଭବତ includes ଅନ୍ତର୍ଭୁକ୍ତ କରେ: \ u003c / p \ u003e \ u003cul \ u003e | \ u003cli \ u003eClean, ଭଲ-ଦଲିଲ ହୋଇଥିବା କୋଡ୍ \ u003c / li \ u003e \ u003cli \ u003e ବ୍ୟବହାର ଉଦାହରଣ ସହିତ ବିସ୍ତୃତ README \ u003c / li \ u003e \ u003cli \ u003e ଟ୍ରାକିଂ ଏବଂ ଅବଦାନ ନିର୍ଦ୍ଦେଶାବଳୀ \ u003c / li \ u003e \ u003cli \ u003e ନିୟମିତ ଅଦ୍ୟତନ ଏବଂ ରକ୍ଷଣାବେକ୍ଷଣ \ u003c / li \ u003e \ u003c / ul \ u003e | \ u003ch3 \ u003eCommunity Impact \ u003c / h3 \ u003e \ u003cp \ u003e ଏହିପରି ଉତ୍ସ-ପ୍ରୋଜେକ୍ଟଗୁଡିକ ଜ୍ knowledge ାନ ବଣ୍ଟନକୁ ପ୍ରୋତ୍ସାହିତ କରିଥାଏ ଏବଂ ପ୍ରବେଶ ସଂକେତ ଏବଂ ସହଯୋଗୀ ବିକାଶ ମାଧ୍ୟମରେ ବ technical ଷୟିକ ନବୀକରଣକୁ ତ୍ୱରାନ୍ୱିତ କରେ | \ u003c / p \ u003e

ବାରମ୍ବାର ପଚରାଯାଉଥିବା ପ୍ରଶ୍ନ |

RAG କ’ଣ ଏବଂ ସବ୍-ମିଲିସେକେଣ୍ଡ୍ ସ୍ପିଡ୍ କାହିଁକି ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ?

RAG (ପୁନରୁଦ୍ଧାର-ଅଗମେଣ୍ଟେଡ୍ ଜେନେରେସନ୍) ହେଉଛି ଏକ କ que ଶଳ ଯାହା ଏକ ଉତ୍ତର ସୃଷ୍ଟି କରିବା ପୂର୍ବରୁ ସ୍ଥାନୀୟ ଜ୍ଞାନ ଆଧାରରୁ ପ୍ରାସଙ୍ଗିକ ପ୍ରସଙ୍ଗ ପୁନରୁଦ୍ଧାର କରି AI ପ୍ରତିକ୍ରିୟାକୁ ବ ances ାଇଥାଏ | ସବ୍-ମିଲିସେକଣ୍ଡ ପୁନରୁଦ୍ଧାର ଅର୍ଥ ହେଉଛି ଲୁକ୍ଅପ୍ ଓଭରହେଡ୍ ପ୍ରାୟତ cept ଅବିସ୍ମରଣୀୟ, ଯାହା AI କୁ ତୁରନ୍ତ ଅନୁଭବ କରେ | ଡେଭଲପର୍ମାନଙ୍କ ପାଇଁ ସ୍ଥାନୀୟ AI ଉପକରଣ ନିର୍ମାଣ କିମ୍ବା ଆପରେ ବୁଦ୍ଧିଜୀବୀକୁ ଏକତ୍ର କରିବା ପାଇଁ, ଏହି ଗତି ବିଳମ୍ବତା ବଟଲିନ୍କକୁ ଦୂର କରିଥାଏ ଯାହା ସାଧାରଣତ cloud କ୍ଲାଉଡ୍-ଆଧାରିତ ପୁନରୁଦ୍ଧାର ପାଇପଲାଇନକୁ ଆଘାତ ଦେଇଥାଏ - ନେଟୱାର୍କ ରାଉଣ୍ଡ-ଟ୍ରିପ୍ କିମ୍ବା API ହାର ସୀମାକୁ ଅପେକ୍ଷା କରେ ନାହିଁ |

ଏହାକୁ ଚଲାଇବା ପାଇଁ ମୋର ଏକ ସର୍ଭର କିମ୍ବା କ୍ଲାଉଡ୍ API ଦରକାର କି?

ନା। ଏହା ହେଉଛି ଏହି ପ୍ରୋଜେକ୍ଟର ମୂଳ ସ୍ଥାନ - ସ୍ଥାନୀୟ ଏବଂ ଅଫଲାଇନ୍ରେ ସବୁକିଛି ଆପଣଙ୍କ ଆପଲ୍ ସିଲିକନ୍ ମ୍ୟାକ୍ ଉପରେ ଚାଲିଥାଏ | ବ୍ୟବସ୍ଥା କରିବାକୁ କ server ଣସି ସର୍ଭର ନାହିଁ, ପରିଚାଳନା କରିବାକୁ କ API ଣସି API ଚାବି ନାହିଁ, ଏବଂ ଜିଜ୍ଞାସା ପାଇଁ କ costs ଣସି ବ୍ୟବହାର ଖର୍ଚ୍ଚ ନାହିଁ | ଗୋପନୀୟତା ସମ୍ବେଦନଶୀଳ ବ୍ୟବହାର ମାମଲା କିମ୍ବା ବାୟୁ ଚାଳିତ ପରିବେଶ ପାଇଁ ଏହା ଆଦର୍ଶ ଅଟେ | ଯଦି ଆପଣ ଏକ ବ୍ୟାପକ ଅଲ-ଇନ୍-ପ୍ଲାଟଫର୍ମ ଖୋଜୁଛନ୍ତି, ମେୱାଇଜ୍ $ 19 / ମାସ ପାଇଁ 207 ମଡ୍ୟୁଲ୍ ପ୍ରଦାନ କରନ୍ତି, AI ଉପକରଣଗୁଡ଼ିକୁ ଅନ୍ତର୍ଭୁକ୍ତ କରି ଯାହା ସଂଯୋଗ ଉପଲବ୍ଧ ହେଲେ କ୍ଲାଉଡ୍ ଚାଳିତ ବ features ଶିଷ୍ଟ୍ୟ ସହିତ ସ୍ଥାନୀୟ କାର୍ଯ୍ୟ ପ୍ରବାହକୁ ପରିପୂର୍ଣ୍ଣ କରେ |

ଆପଲ୍ ସିଲିକନ୍ ସ୍ଥାନୀୟ RAG ପାଇଁ ବିଶେଷ ଉପଯୁକ୍ତ କାହିଁକି?

|

ଆପଲ୍ ସିଲିକନ୍ ଚିପ୍ସ (M1 ଏବଂ ପରବର୍ତ୍ତୀ) ଏକ ୟୁନିଫାଏଡ୍ ମେମୋରୀ ସ୍ଥାପତ୍ୟକୁ ବ feature ଶିଷ୍ଟ୍ୟ କରେ ଯେଉଁଠାରେ CPU, GPU, ଏବଂ ନ୍ୟୁରାଲ୍ ଇଞ୍ଜିନ ସମାନ ଉଚ୍ଚ-ବ୍ୟାଣ୍ଡୱିଡଥ୍ ମେମୋରୀ ପୁଲ୍ ଅଂଶୀଦାର କରନ୍ତି | ଏହା ପ୍ରକ୍ରିୟାକରଣ ୟୁନିଟ୍ ମଧ୍ୟରେ ଡାଟା ଟ୍ରାନ୍ସଫର ଓଭରହେଡ୍ କୁ ଦୂର କରିଥାଏ, ଭେକ୍ଟର ସମାନତା ସନ୍ଧାନ କରିଥାଏ ଏବଂ ଏମ୍ବେଡିଂ ଇନଫେରେନ୍ସ ଅତି ଶୀଘ୍ର କରିଥାଏ | ଫଳାଫଳ ହେଉଛି ଯେ ଅପରେସନ୍ ଯାହା ସାଧାରଣତ dedicated ଉତ୍ସର୍ଗୀକୃତ GPU ହାର୍ଡୱେର୍ କିମ୍ବା ଏକ ରିମୋଟ୍ ସର୍ଭର ଆବଶ୍ୟକ କରେ, ଏକ ମାକବୁକ୍ ରେ ଗୋଟିଏ ପ୍ରକ୍ରିୟାରେ ଦକ୍ଷତାର ସହିତ ଚଲାଇପାରେ, ଏହି ପ୍ରୋଜେକ୍ଟ ପ୍ରଦର୍ଶନ କରୁଥିବା ସବ୍-ମିଲିସେକେଣ୍ଡ ପୁନରୁଦ୍ଧାର ସମୟକୁ ସକ୍ଷମ କରିଥାଏ |

ଏକ ଉତ୍ପାଦନ ପ୍ରୟୋଗ ପାଇଁ ମୁଁ ଏହି ଉପାୟକୁ କିପରି ସ୍କେଲ କରିପାରିବି?

ବ୍ୟକ୍ତିଗତ କିମ୍ବା ଛୋଟ ଦଳ ପ୍ରୋଜେକ୍ଟ ପାଇଁ, ଏହି ଏକକ ଫାଇଲ୍ ପଦ୍ଧତି ଯଥେଷ୍ଟ ଏବଂ ଚମତ୍କାର | ଉତ୍ପାଦନ ସ୍କେଲ ପାଇଁ - ଏକାଧିକ ଉପଭୋକ୍ତା, ବିଭିନ୍ନ ତଥ୍ୟ ଉତ୍ସ ଏବଂ ୱାର୍କଫ୍ଲୋ ସ୍ୱୟଂଚାଳିତ ପରିଚାଳନା ପାଇଁ - ଆପଣଙ୍କୁ ଏକ ବ୍ୟାପକ ଟୁଲ୍ସେଟ୍ ଆବଶ୍ୟକ | ମେୱାଇଜ୍ ବଣ୍ଡଲ୍ 207 ମଡ୍ୟୁଲ୍ ପରି ପ୍ଲାଟଫର୍ମଗୁଡିକ, AI, CRM, ବିଷୟବସ୍ତୁ, ଏବଂ ଆନାଲିଟିକ୍ସ ଉପକରଣଗୁଡିକ ସହିତ $ 19 / ମାସ ପାଇଁ, ଦଳଗୁଡିକୁ ଏକ ପରିଚାଳନା ପରିବେଶ ପ୍ରଦାନ କରିଥାଏ ଯାହାକି ସ୍ଥାନୀୟ ପ୍ରୋଟୋଟାଇପ୍ଗୁଡ଼ିକୁ ସମ୍ପୂର୍ଣ୍ଣ ଉତ୍ପାଦରେ ସମ୍ପୁର୍ଣ୍ଣ ଭିତ୍ତିରେ ପୁନ build ନିର୍ମାଣ ନକରି ବିସ୍ତାର କରିଥାଏ | ଏଠାରେ ପ୍ରଦର୍ଶିତ ସ୍ଥାନୀୟ RAG pattern ାଞ୍ଚା ଏକ ବୃହତ ସ୍ଥାପତ୍ୟ ମଧ୍ୟରେ ବୁଦ୍ଧିମାନ ମୂଳ ଭାବରେ କାର୍ଯ୍ୟ କରିପାରିବ |

|<ସ୍କ୍ରିପ୍ଟ ପ୍ରକାର = "ପ୍ରୟୋଗ / ld + json"> {"@ ପ୍ରସଙ୍ଗ": "https: \ / \ / schema.org", "@ ପ୍ରକାର": "FAQPage", "mainEntity": ) ଏହା? "," ଗ୍ରହଣ କରାଯାଇଥିବା ଉତ୍ତର ": {" @ ପ୍ରକାର ":" ଉତ୍ତର "," ପାଠ୍ୟ ":" ନା $ 19 \ / ମାସ, AI ଉପକରଣଗୁଡିକ ଅନ୍ତର୍ଭୂକ୍ତ କରେ ଯାହା "}}, {" @ ପ୍ରକାର ":" ପ୍ରଶ୍ନ "," ନାମ ":" ଆପଲ୍ ସିଲିକନ୍ କୁ ସ୍ଥାନୀୟ RAG ପାଇଁ ବିଶେଷ ଉପଯୁକ୍ତ କାହିଁକି କରେ? "," ଗ୍ରହଣୀୟ ଉତ୍ତର ": {" @ ପ୍ରକାର ":" ଉତ୍ତର "," ପାଠ୍ୟ ":" ଆପଲ୍ ସିଲିକନ୍ ଚିପ୍ସ (M1 ଏବଂ ପରେ) ଏକ ୟୁନିଫାଏଡ୍ ମେମୋରୀ ସ୍ଥାପତ୍ୟକୁ ସମାନ କରିଥାଏ, ଯେଉଁଠାରେ CPU, GPU, ଏବଂ ନ୍ୟୁରାଲ୍ ଇଞ୍ଚ ଇଞ୍ଜିନକୁ ସ୍ଥାନାନ୍ତର କରିଥାଏ | ୟୁନିଟ୍, ଭେକ୍ଟର ସମାନତା ସନ୍ଧାନ ଏବଂ ଏମ୍ବେଡିଂ ଇନଫେରେନ୍ସ ଅତି ଦ୍ରୁତ ଅଟେ ଫଳାଫଳ ହେଉଛି ଯେ ସାଧାରଣତ dedicated ଉତ୍ସର୍ଗୀକୃତ GPU ହାର୍ଡୱେର୍ କିମ୍ବା ରିମୋଟ୍ ସର୍ଭର ଆବଶ୍ୟକ କରୁଥିବା କାର୍ଯ୍ୟଗୁଡିକ ru}}, {"@ ପ୍ରକାର": "ପ୍ରଶ୍ନ", "ନାମ": "ମୁଁ କିପରି ଏହି ପଦ୍ଧତିକୁ ମାପ କରିପାରିବି?", "ଉତ୍ତର", "ଟେକ୍ସଟ୍" ପାଇଁ: ଉପଭୋକ୍ତା, ବିବିଧ ଡାଟା ଉତ୍ସ, ଏବଂ ୱାର୍କଫ୍ଲୋ ଅଟୋମେସନ୍ \ u2014 ଆପଣ ଏକ ବ୍ୟାପକ ଟୁଲ୍ସେଟ୍ ଆବଶ୍ୟକ କରିବେ, ମେୱାଇଜ୍ ବଣ୍ଡଲ୍ 207 ମଡ୍ୟୁଲ୍, AI, CRM, ବିଷୟବସ୍ତୁ, ଏବଂ ଆନାଲିଟିକ୍ସ ଉପକରଣ ସହିତ, $ 19 \ / ମାସରେ, ସ୍ଥାନୀୟ ପ୍ରୋଟୋଟାଇପ୍ଗୁଡ଼ିକୁ ସମ୍ପୁର୍ଣ୍ଣ ପ୍ରଡୁରେ ବିସ୍ତାର କରିବାକୁ ଏକ ପରିଚାଳନା ପରିବେଶ ପ୍ରଦାନ କରିବ |