[Rétr~íévá~l Áúg~méñt~éd Gé~ñérá~tíóñ~ (RÁG): H~ów LL~Ms ré~állý~ wórk~ wíth~ éñté~rprí~sé kñ~ówlé~dgé]

[Ímágíñé: ýóúr cómpáñý ís síttíñg óñ á tréásúré tróvé óf dátá fróm décádés óf éxpéríéñcé, íñtérñál gúídélíñés áñd téchñícál éxpértísé. Bút íf ýóú ásk ChátGPT ábóút spécífíc cómpáñý prócéssés, ýóú'll gét géñéríc áñswérs ór wórsé - fréé-fóúñd fácts. Thé réásóñ ís símplé: Lárgé Láñgúágé Módéls (LLMs ), ápárt fróm óñlíñé séárch áñd réséárch fúñctíóñs, óñlý kñów théír tráíñíñg dátá úp tó á cértáíñ dáté áñd hávé ñó ídéá ábóút ýóúr íñtérñál kñówlédgé. Thís ís éxáctlý whéré Rétríévál Áúgméñtéd Géñérátíóñ (RÁG) cómés íñ.]

[Íñ thé fóllówíñg, ýóú wíll fíñd óút éxáctlý whát Rétríévál Áúgméñtéd Géñérátíóñ ís, whích límítátíóñs óf clássíc LLMs ít óvércómés, hów thé prócéss wórks téchñícállý áñd whích spécífíc úsé cásés árísé fróm ít íñ dáý-tó-dáý búsíñéss. Wé álsó híghlíght thé móst ímpórtáñt árchítéctúrál cómpóñéñts, sécúrítý áspécts áñd bést práctícés fór súccéssfúl ímpléméñtátíóñ.]

[Whát~ ís Ré~tríé~vál Á~úgmé~ñtéd~ Géñé~rátí~óñ (RÁ~G)¿]

[Rétríévál Áúgméñtéd Géñérátíóñ (RÁG) ís áñ áppróách íñ whích Lárgé Láñgúágé Módéls rétríévé áddítíóñál íñfórmátíóñ fróm éxtérñál dátá sóúrcés dúríñg áñswér géñérátíóñ. Íñstéád óf rélýíñg sólélý óñ théír státíc tráíñíñg kñówlédgé, théý cómbíñé thís wíth cúrréñt áñd íñtérñál cómpáñý dócúméñts. Thís résúlts íñ fáct-báséd, cómpréhéñsíblé áñswérs wíth sóúrcés íñstéád óf hállúcíñátíóñs (áñswérs thát sóúñd pláúsíblé bút áré fáctúállý íñcórréct).]

[Wíth~óút R~ÁG, áñ~ LLM r~émáí~ñs lí~míté~d tó s~tátí~c trá~íñíñ~g dát~á. Wít~h RÁG~, ít ác~céss~és cú~rréñ~t áñd~ cómp~áñý-í~ñtér~ñál í~ñfór~mátí~óñ, tú~rñíñ~g á gé~ñérí~c láñ~gúág~é mód~él íñ~tó á k~ñówl~édgé~-rích~ búsí~ñéss~ ássí~stáñ~t.]

[RÁG = L~LM + ré~líáb~lé, úp~-tó-dá~té có~mpáñ~ý sóú~rcés~]

[Thís~ cómb~íñát~íóñ f~úñdá~méñt~állý~ cháñ~gés h~ów ór~gáñí~zátí~óñs c~áñ ús~é thé~ír có~lléc~tívé~ kñów~lédg~é - íñs~téád~ óf dí~ggíñ~g thr~óúgh~ éñdl~éss m~óúñt~áíñs~ óf dó~cúmé~ñts, ý~óú sí~mplý~ chát~ wíth~ ýóúr~ dátá~.]

[Thé t~ýpíc~ál ch~állé~ñgés~ íñ có~mpáñ~íés]

[Íñ pr~áctí~cé, có~mpáñ~íés s~trúg~glé w~íth á~ ñúmb~ér óf~ récú~rríñ~g húr~dlés~ thát~ sévé~rélý~ límí~t thé~ úsé ó~f LLM~s wít~hóút~ Rétr~íévá~l Áúg~méñt~éd Gé~ñérá~tíóñ~. Thé f~ólló~wíñg~ páíñ~ póíñ~ts ár~é pár~tícú~lárl~ý cóm~móñ:]

[Kñów~lédg~é síl~ós áñ~d óút~dáté~d séá~rché~s]

[Íñ móst cómpáñíés, théré áré húgé tréásúrés óf kñówlédgé lýíñg dórmáñt íñ ísólátéd sýstéms: thé íñtráñét héré, máñúáls théré, FÁQ cólléctíóñs íñ ýét óthér tóóls. Émplóýéés wásté hóúrs évérý dáý séárchíñg fór éxístíñg íñfórmátíóñ. Thé clássíc kéýwórd séárch óftéñ fáíls bécáúsé ít dóés ñót úñdérstáñd whát ís réállý béíñg séárchéd fór.]

[Stát~íc kñ~ówlé~dgé d~úé tó~ cút-ó~ff pr~óblé~m]

[LLMs~ tráí~ñ óñ d~átá ú~p tó á~ cért~áíñ d~áté. Á~ñýth~íñg á~ftér~ thís~ dáté~ dóés~ ñót é~xíst~ fór t~hém (c~út-óf~f pró~blém~). Ñéw l~áws, c~úrré~ñt pr~ódúc~t spé~cífí~cátí~óñs ó~r fré~sh má~rkét~ áñál~ýsés~ rémá~íñ úñ~kñów~ñ. Íñ f~ást-m~óvíñ~g íñd~ústr~íés, t~hís b~écóm~és á r~éál p~róbl~ém.]

[Lóñg~ dócú~méñt~s vs. l~ímít~éd có~ñtéx~t wíñ~dóws~]

[Téch~ñícá~l máñ~úáls~ wíth~ 500 págé~s, éxt~éñsí~vé có~mplí~áñcé~ dócú~méñt~s ór d~étáí~léd p~rójé~ct ré~pórt~s áré~ béýó~ñd th~é cáp~ácít~ý ór c~óñté~xt wí~ñdów~ óf cl~ássí~c LLM~s. Thé~ý cáñ~ñót p~rócé~ss év~érýt~híñg~ át óñ~cé áñ~d óvé~rlóó~k ímp~órtá~ñt dé~táíl~s.]

[Háll~úcíñ~átíó~ñs áñ~d mís~síñg~ sóúr~cés]

[LLMs óftéñ áñswér cóñfídéñtlý, évéñ íf théý hávé ñó ídéá. Théý íñvéñt pláúsíblé-sóúñdíñg fácts whích, óñ clósér íñspéctíóñ, áré cómplétélý fálsé. Thís ís kñówñ ás hállúcíñátíóñ. Wíthóút sóúrcés, ít ís ímpóssíblé tó chéck whéré íñfórmátíóñ cómés fróm. Thís ís á ñó-gó íñ próféssíóñál cóñtéxts.]

[Cóst~s áñd~ éffó~rt fó~r fíñ~é-túñ~íñg]

[Tráíñíñg áñ LLM óñ cómpáñý kñówlédgé cósts tímé, móñéý áñd éxpértísé - áñd íñ móst cásés, fíñé-túñíñg ís sígñífícáñtlý móré éxpéñsívé tháñ úsíñg RÁG. Máñý cómpáñíés théréfóré shý áwáý fróm thésé húrdlés ór trúst éxtérñál próvídérs wíthóút rétáíñíñg fúll cóñtról óvér théír dátá. RÁG ófférs á móré écóñómícál áltérñátívé héré: ít mákés éxístíñg móúñtáíñs óf dátá úsáblé ágáíñ wíthóút thé cómpléxítý óf clássíc ÁÍ prójécts.]

[Hów R~ÁG wó~rks: f~róm q~úérý~ tó ré~spóñ~sé]

[RÁG'~s éñt~íré p~rócé~ss cá~ñ bé b~róké~ñ dów~ñ íñt~ó clé~árlý~ défí~ñéd s~téps~, fróm~ fíñd~íñg r~élév~áñt í~ñfór~mátí~óñ tó~ próv~ídíñ~g á fá~ct-bá~séd r~éspó~ñsé:]

[Rétr~íévá~l: hýb~ríd s~éárc~h fór~ máxí~múm r~élév~áñcé~]

[Sémáñtíc séárch, í.é. fíñdíñg símílárítíés íñ méáñíñg íñstéád óf éxáct wórds, ís álréádý stáñdárd íñ máñý módérñ LLM ápplícátíóñs. Hówévér, RÁG góés óñé stép fúrthér: ít cómbíñés sémáñtíc méthóds wíth clássíc kéýwórd séárchés áñd áddítíóñál fíltérs íñ á hýbríd áppróách. Thís méáñs thát ñót óñlý thémátícállý ápprópríáté pásságés áré fóúñd, bút álsó éxáct térms, ñúmbérs ór dátés áré tákéñ íñtó áccóúñt.]

[Émbéddíñgs áré úséd tó cóñvért ýóúr qúéstíóñ áñd áll dócúméñts íñtó máthémátícál véctórs thát cáñ bé éffícíéñtlý séárchéd bý spécíálízéd véctór dátábásés. Á súbséqúéñt réráñkíñg stép éñsúrés thát thé móst réléváñt íñfórmátíóñ ís át thé tóp.]

[Próm~pt éx~téñs~íóñ t~hróú~gh có~ñtéx~t íñj~éctí~óñ]

[Ýóúr órígíñál qúéstíóñ ís ñów éñríchéd wíth thé íñfórmátíóñ fóúñd. Fór éxámplé, thé LLM ñót óñlý récéívés "Hów dóés óúr CRM sýstém wórk¿", bút álsó thé réléváñt séctíóñs fróm thé sýstém dócúméñtátíóñ. Thís "gróúñdíñg" fórcés thé módél tó rélý óñ éxístíñg fácts íñstéád óf símplý géñérátíñg thé státístícállý móst próbáblé áñswér fróm íts tráíñíñg dátá.]

[Géñé~rátí~óñ wí~th só~úrcé~ réfé~réñc~és]

[Thé éxtéñdéd LLM ñów fórmúlátés á réspóñsé báséd óñ thé cóñtéxt íñfórmátíóñ próvídéd. Ídéállý, ít cítés íts sóúrcés: "Áccórdíñg tó thé máñúál págé 47..." ór "Ás déscríbéd íñ thé gúídélíñé dátéd 15.03.2024...". Thís tráñspáréñcý créátés trúst áñd mákés státéméñts vérífíáblé.]

[Dýñá~mícs~ áñd t~ópíc~álít~ý]

[Úñlíké státíc módéls, Rétríévál Áúgméñtéd Géñérátíóñ wórks wíth á lívíñg kñówlédgé básé, próvídéd thát thé sýstém hás bééñ sét úp íñ á tárgétéd máññér. Ñéw dócúméñts flów íñ régúlárlý áñd óútdátéd cóñtéñt ís rémóvéd. Thé íñdícés áré úpdátéd áútómátícállý. Thís méáñs thát thé sýstém ís álwáýs úp tó dáté, évéñ wíth rápídlý cháñgíñg íñfórmátíóñ.]

[Évéñ~ cómp~áréd~ tó có~ñvéñ~tíóñ~ál LL~Ms wí~th lá~rgé c~óñté~xt wí~ñdów~s, RÁG~ rémá~íñs f~ásté~r áñd~ móré~ écóñ~ómíc~ál. Wh~ý¿ Bé~cáús~é tár~gété~d séá~rché~s áré~ móré~ éffí~cíéñ~t thá~ñ pró~céss~íñg t~hé éñ~tíré~ móúñ~táíñ~ óf dó~cúmé~ñts é~ách t~ímé.]

[RÁG í~ñ prá~ctíc~é: híg~hlý é~fféc~tívé~ úsé c~ásés~]

[Théó~rý ál~óñé í~s rár~élý c~óñví~ñcíñ~g. Thé~ décí~sívé~ fáct~ór ís~ hów R~étrí~évál~ Áúgm~éñté~d Géñ~érát~íóñ c~réát~és ré~ál ád~déd v~álúé~ íñ dá~ý-tó-d~áý bú~síñé~ss. Th~é fól~lówí~ñg éx~émpl~árý ú~sé cá~sés s~hów w~héré~ thé á~pplí~cátí~óñ ís~ párt~ícúl~árlý~ wórt~hwhí~lé:]

[Cúst~ómér~ súpp~órt á~ñd hé~lpdé~sk]

• [Prób~lém: C~ústó~mér á~dvís~órs l~ábór~íóús~lý sé~árch~ thró~úgh h~úñdr~éds ó~f máñ~úál p~ágés~ fór s~pécí~fíc é~rrór~ códé~s.]

• [RÁG s~ólút~íóñ: C~hátb~ót wí~th dí~réct~ áccé~ss tó~ pród~úct d~ócúm~éñtá~tíóñ~ ímmé~díát~élý p~róví~dés t~hé rí~ght s~ólút~íóñ í~ñclú~díñg~ págé~ réfé~réñc~é.]

• [Éffé~ct: Fí~rst á~ñswé~rs íñ~ sécó~ñds í~ñsté~ád óf~ míñú~tés, c~órré~ct íñ~fórm~átíó~ñ thr~óúgh~ réfé~réñc~és.]

• [Méás~úráb~lé mé~tríc~s: féw~ér és~cálá~tíóñ~s tó 2ñ~d lév~él sú~ppór~t, shó~rtér~ tímé~-tó-ré~sólú~tíóñ~ (TTR).]

[Cómp~líáñ~cé áñ~d láw~]

• [Prób~lém: C~ómpl~íáñc~é téá~ms gé~t lós~t íñ t~hé fl~óód ó~f cúr~réñt~ láws~ áñd í~ñtér~ñál g~úídé~líñé~s.]

• [RÁG s~ólút~íóñ: C~óñvé~rsát~íóñá~l séá~rch (d~íáló~g-bás~éd sé~árch~ wíth~ ñátú~rál l~áñgú~ágé) t~hróú~gh ál~l rég~úlát~órý t~éxts~ wíth~ áútó~mátí~c cít~átíó~ñ óf t~hé ré~lévá~ñt pá~rágr~áphs~.]

• [Éffé~ct: Qú~íck c~lárí~fícá~tíóñ~ óf lé~gál q~úést~íóñs~ wíth~óút h~óúrs~ óf ré~séár~ch.]

•  [Méás~úráb~lé mé~tríc~s: Tím~é sáv~íñgs~ fór c~ómpl~íáñc~é réq~úést~s, mór~é ácc~úrác~ý fór~ légá~l cít~átíó~ñs.]   

[Íñté~rñál~ kñów~lédg~é máñ~ágém~éñt á~ñd óñ~bóár~díñg~]

• [Prób~lém: Ñ~éw ém~plóý~éés s~trúg~glé t~hróú~gh có~ñfús~íñg í~ñtrá~ñét s~trúc~túré~s áñd~ FÁQ c~óllé~ctíó~ñs.]

• [RÁG s~ólút~íóñ: "Á~sk th~é íñt~ráñé~t lík~é á có~lléá~gúé" - ñ~átúr~ál có~ñvér~sátí~óñs w~íth t~hé có~mpáñ~ý's c~éñtr~ál kñ~ówlé~dgé b~ásé.]

• [Éffé~ct: Ác~célé~ráté~d fám~ílíá~rízá~tíóñ~, cóñs~ísté~ñt áñ~swér~s tó r~écúr~ríñg~ qúés~tíóñ~s.]

•  [Méás~úráb~lé mé~tríc~s: shó~rtér~ óñbó~árdí~ñg tí~mé, fé~wér H~R íñq~úírí~és.]

[Pérs~óñál~ ássí~stáñ~ts fó~r sál~és áñ~d máñ~ágém~éñt]

• [Prób~lém: S~álés~ émpl~óýéé~s júg~glé b~étwé~éñ CR~M, é-má~íls á~ñd pr~ódúc~t íñf~órmá~tíóñ~.]

• [RÁG s~ólút~íóñ: Á~Í áss~ístá~ñt có~lléc~ts ré~lévá~ñt cú~stóm~ér dá~tá, cá~ll ñó~tés á~ñd cú~rréñ~t óff~érs.]

• [Éffé~ct: Có~mplé~té có~ñtéx~t béf~óré é~vérý~ cúst~ómér~ áppó~íñtm~éñt, ñ~ó ímp~órtá~ñt dé~táíl~s fór~gótt~éñ.]

•  [Méás~úráb~lé mé~tríc~s: híg~hér c~ómpl~étíó~ñ rát~és, lé~ss pr~épár~átíó~ñ tím~é pér~ áppó~íñtm~éñt.]

[Cóñt~éñt á~ñd ré~séár~ch]

•  [Prób~lém: Á~úthó~rs sp~éñd h~óúrs~ fáct~-chéc~kíñg~ áñd s~éárc~híñg~ fór s~óúrc~és fó~r cúr~réñt~ ártí~clés~.]

• [RÁG s~ólút~íóñ: Á~útóm~átíc~ rétr~íévá~l óf t~hé lá~tést~ stát~ístí~cs áñ~d stú~díés~, íñcl~údíñ~g cór~réct~ sóúr~cé ré~féré~ñcés~.]

• [Éffé~ct: Fá~ct-bá~séd c~óñté~ñt wí~thóú~t máñ~úál r~éséá~rch.]

•  [Méás~úráb~lé mé~tríc~s: fás~tér c~óñté~ñt pr~ódúc~tíóñ~, móré~ córr~éct s~óúrc~é réf~éréñ~cés.]

[Fééd~báck~ áñál~ýsís~]

•  [Prób~lém: T~hóús~áñds~ óf cú~stóm~ér óp~íñíó~ñs íñ~ tíck~éts á~ñd ré~víéw~s rém~áíñ ú~ñévá~lúát~éd.]

• [RÁG s~ólút~íóñ: Á~útóm~átíc~ éxtr~áctí~óñ áñ~d clú~stér~íñg ó~f thé~ móst~ ímpó~rtáñ~t póí~ñts ó~f crí~tící~sm wí~th ór~ígíñ~ál cí~tátí~óñs.]

• [Ímpá~ct: Dá~tá-dr~ívéñ~ pród~úct d~écís~íóñs~ básé~d óñ r~éál c~ústó~mér f~éédb~áck.]

•  [Méás~úráb~lé mé~tríc~s: lés~s tím~é fór~ fééd~báck~ évál~úátí~óñ, íd~éñtí~fícá~tíóñ~ óf mó~ré cr~ítíc~ál ís~súés~.]

[RÁG á~rchí~téct~úré á~ñd có~mpóñ~éñts~ fór é~ñgíñ~éérí~ñg té~áms]

[Fór RÁG sýstéms tó fúñctíóñ rélíáblý áñd scáláblý íñ á córpóráté cóñtéxt, ít tákés móré tháñ júst cóññéctíñg LLMs wíth á féw dócúméñts. Béhíñd thé scéñés, á lárgé ñúmbér óf téchñícál cómpóñéñts cómé tógéthér, fróm thé strúctúréd prépárátíóñ óf dátá tó sécúrítý, móñítóríñg áñd áccéss cóñtról. Éách éléméñt cóñtríbútés tó éñsúríñg thát réspóñsés áré ñót óñlý fást, bút álsó áccúráté, trácéáblé áñd cómplíáñt. Thé fóllówíñg cómpóñéñts áñd árchítéctúrál décísíóñs pláý á kéý rólé íñ détérmíñíñg hów éffícíéñt áñd fútúré-próóf á RÁG sýstém wíll bé íñ pródúctívé úsé:]

[Dátá~ sóúr~cés á~ñd íñ~gést~íóñ]

[Thé fírst stép fúñdáméñtállý détérmíñés thé qúálítý óf ýóúr éñtíré RÁG sýstém. Álthóúgh PDFs, Wórd dócúméñts, HTML págés, dátábásé cóñtéñt áñd émáíls áré éách prócésséd úsíñg spécífíc méthóds, thé áím ís álwáýs tó créáté á úñífórm dátábásé thát cáñ bé rélíáblý réúséd.]

[Módérñ pársérs cáñ háñdlé dífféréñt fílé týpés, Óptícál Cháráctér Récógñítíóñ (ÓCR) éxtrácts téxt fróm ímágés áñd tráñscríptíóñ sérvícés cóñvért áúdíó áñd vídéó íñtó séárcháblé téxt. Dúplícáté détéctíóñ prévéñts rédúñdáñt íñfórmátíóñ. Métádátá súch ás créátíóñ dáté, dépártméñt ór cóñfídéñtíálítý lévél éñáblé tárgétéd fíltéríñg látér óñ. Thís prócéss ís símílár tó clássíc stéps fróm dátá míñíñg, íñ whích dátá ís cléáñséd, stáñdárdízéd áñd strúctúréd (séé álsó óúr ártíclé óñ dátá míñíñg).]

[Chúñ~kíñg~ strá~tégí~és]

[Chúñ~kíñg~, í.é. dí~vídí~ñg ló~ñg té~xts í~ñtó p~rócé~ssáb~lé sé~ctíó~ñs, ís~ ñót t~ríví~ál. Tó~ó smá~ll pá~rts l~ósé c~óñté~xt, tó~ó lár~gé dí~lúté~ thé r~élév~áñcé~ óf th~é hít~s. Á sú~ítáb~lé st~ártí~ñg pó~íñt í~s áró~úñd 200-500 w~órds~ pér c~húñk~, dépé~ñdíñ~g óñ t~hé dó~cúmé~ñt st~rúct~úré.]

[Sémá~ñtíc~ chúñ~kíñg~ táké~s pár~ágrá~phs á~ñd hé~ádíñ~gs íñ~tó ác~cóúñ~t. Str~úctú~rál c~húñk~íñg í~s bás~éd óñ~ fíxé~d ñúm~bérs~ óf ch~árác~térs~. Hýbr~íd áp~próá~chés~ cómb~íñé b~óth m~éthó~ds.]

[Métá~dátá~ pér c~húñk~ (títl~é, dát~é, dép~ártm~éñt) é~ñábl~é lát~ér fí~ltér~íñg: "Ó~ñlý s~hów r~ésúl~ts fr~óm th~é ÍT d~épár~tméñ~t" ór "S~éárc~h óñl~ý íñ d~ócúm~éñts~ áfté~r 2023".]

[Émbé~ddíñ~g mód~éls]

[Thé chóícé óf émbéddíñg módél détérmíñés thé qúálítý óf thé sémáñtíc séárch. Múltílíñgúál módéls áré máñdátórý fór íñtérñátíóñál cómpáñíés. Gérmáñ láñgúágé módéls úñdérstáñd téchñícál térms áñd ñúáñcés béttér tháñ géñéríc Éñglísh módéls.]

[Dómá~íñ-sp~écíf~íc ém~bédd~íñgs~, í.é. ém~bédd~íñgs~ thát~ áré t~áíló~réd t~ó spé~cíál~íst á~réás~ súch~ ás lá~w ór m~édíc~íñé, d~élív~ér mó~ré pr~écís~é rés~últs~ tháñ~ géñé~rál-p~úrpó~sé mó~déls~. Thé d~íméñ~síóñ~álít~ý (512, 768, 1024) íñf~lúéñ~cés á~ccúr~ácý á~ñd sp~ééd.]

[Rétr~íévá~l str~átég~íés]

[Émbé~ddíñ~gs ál~óñé á~ré ñó~t éñó~úgh. Á~ hýbr~íd sé~árch~ ádáp~téd t~ó thé~ úsé c~ásé í~s thé~ kéý. Á~ púré~ véct~ór sé~árch~ fíñd~s sém~áñtí~cáll~ý sím~ílár~ cóñt~éñt, b~út óv~érló~óks é~xáct~ térm~s ór ñ~úmbé~rs.]

[Cómb~íñíñ~g hýb~ríd s~ýsté~ms:]

• [Véct~ór sé~árch~ fór s~émáñ~tíc s~ímíl~árít~ý]

• [Kéýw~órd s~éárc~h fór~ éxác~t tér~ms]

• [Métá~dátá~ fílt~ér fó~r cóñ~téxt~ rést~ríct~íóñs~]

[Rérá~ñkér~s (cró~ss-éñ~códé~rs) év~álúá~té th~é qúé~rý áñ~d dóc~úméñ~t tóg~éthé~r áñd~ fíñá~llý s~órt t~hé ré~súlt~s ácc~órdí~ñg tó~ rélé~váñc~é.]

[Órch~éstr~átíó~ñ áñd~ próm~ptíñ~g]

[Témp~láté~s str~úctú~ré th~é pró~mpt c~óñst~rúct~íóñ: "C~óñté~xt: [dó~cúmé~ñt éx~cérp~ts] Qú~éstí~óñ: [ús~ér qú~éstí~óñ] Áñ~swér~ básé~d óñ c~óñté~xt óñ~lý."]

[Gúár~dráí~ls pr~évéñ~t hál~lúcí~ñátí~óñs: "Í~f thé~ré ís~ ñó áñ~swér~ íñ có~ñtéx~t, sáý~ 'Í cá~ñ't á~ñswé~r thá~t'." Té~mpér~átúr~é sét~tíñg~s cóñ~tról~ créá~tíví~tý vs~. préc~ísíó~ñ.]

[Cháí~ñ-óf-t~hóúg~ht pá~ttér~ñs áñ~d ágé~ñt st~rúct~úrés~ éñáb~lé mó~ré có~mplé~x wór~kfló~ws. Tw~ó-tíé~r árc~híté~ctúr~és ús~é smá~ll mó~déls~ fór r~étrí~évál~ áñd l~árgé~r óñé~s fór~ géñé~rátí~óñ.]

[Úpdá~tíñg~ áñd m~óñít~óríñ~g]

[Íñdé~x réf~résh~ strá~tégí~és ké~ép th~é kñó~wléd~gé bá~sé úp~ tó dá~té. Íñ~téll~ígéñ~t các~híñg~ rédú~cés c~ósts~ fór r~épéá~téd q~úérí~és.]

[Óbsé~rváb~ílít~ý mét~rícs~ móñí~tór t~hé hé~álth~ óf th~é sýs~tém]

• [Rétr~íévá~l hít~ ráté~: Hów ó~ftéñ~ dóés~ thé s~ýsté~m fíñ~d rél~éváñ~t dóc~úméñ~ts¿]
• [Áñsw~ér-Ác~cúrá~cý: Ár~é thé~ géñé~ráté~d áñs~wérs~ córr~éct¿~]
• [Cítá~tíóñ~ préc~ísíó~ñ: Áré~ thé r~éfér~éñcé~s cór~réct~¿]

[Sécú~rítý~, dátá~ prót~éctí~óñ áñ~d áút~hórí~zátí~óñs]

[Éspé~cíál~lý íñ~ córp~órát~é úsé~, ít ís~ ñót ó~ñlý f~úñct~íóñá~lítý~ thát~ cóúñ~ts, bú~t áls~ó thé~ sécú~ré há~ñdlí~ñg óf~ séñs~ítív~é dát~á. Thí~s ís w~hý dá~tá pr~ótéc~tíóñ~, áccé~ss rí~ghts~ áñd c~ómpl~íáñc~é plá~ý á cé~ñtrá~l ról~é át R~ÁG:]

[Sélé~ct óp~érát~íñg m~ódél~]

[Thé fírst áñd móst ímpórtáñt qúéstíóñ fór RÁG prójécts ís: cáñ ít rúñ íñ thé clóúd áñd íf só, whéré¿ Cómpáñíés cáñ úsé clóúd sérvícés fór scálábílítý áñd fréédóm fróm máíñtéñáñcé, úsé óñ-prémísés módéls fór máxímúm dátá sóvéréígñtý ór chóósé hýbríd áppróáchés thát cómbíñé bóth ádváñtágés. ÉÚ régíóñs éñsúré thát thé réqúíréméñts óf thé GDPR áré mét.]

[Áccé~ss có~ñtró~l thr~óúgh~ ÁBÁC~/RBÁC~]

[Ñót é~vérý~ émpl~óýéé~ ís ál~lówé~d tó s~éé ál~l dóc~úméñ~ts. Át~tríb~úté-B~áséd~ Áccé~ss Có~ñtró~l (ÁBÁ~C) ór R~ólé-B~áséd~ Áccé~ss Có~ñtró~l (RBÁ~C) cóñ~tról~ áccé~ss gr~áñúl~árlý~.]

[Sécúrítý trímmíñg álréádý fíltérs dúríñg rétríévál: úsérs óñlý séé résúlts fróm dócúméñts thát théý áré áúthórízéd tó víéw. Dócúméñt-lévél áñd séctíóñ-lévél ÁCLs (áccéss cóñtról lísts, í.é. áccéss lísts fór áúthórízátíóñs) éñáblé thé fíñést cóñtról.]

[Prót~éctí~óñ óf~ véct~ór dá~tá]

[Émbéddíñgs cáñ théórétícállý bé cóñvértéd báck íñtó téxt. Thís ís áñ óftéñ óvérlóókéd sécúrítý rísk. Éñcrýptíóñ át rést (stóréd dátá) áñd íñ tráñsít (tráñsférréd dátá) prótécts thé véctór dátábásé. Áccéss lógs dócúméñt whó hás áccésséd whích dátá áñd whéñ.]

[Próm~pt áñ~d óút~pút f~ílté~rs]

[Léákágé prévéñtíóñ prévéñts séñsítívé dátá fróm áppéáríñg úñíñtéñtíóñállý íñ réspóñsés. PÍÍ rédáctíóñ (áútómátíc rémóvál ór rédáctíóñ óf pérsóñál dátá súch ás ñámés ór áddréssés) áútómátícállý rémóvés pérsóñál íñfórmátíóñ. Pólícý chécks chéck óútpúts ágáíñst cómpáñý gúídélíñés.]

[Áúdí~tábí~lítý~ áñd s~óúrc~é réq~úíré~méñt~]

[Cómp~lété~ trác~éábí~lítý~ óf ál~l sýs~tém í~ñtér~áctí~óñs: W~hó ás~kéd w~hát á~ñd wh~éñ¿ W~hích~ dócú~méñt~s wér~é úsé~d¿ Wh~át wá~s thé~ résp~óñsé~ géñé~ráté~d¿]

[Détá~íléd~ lógg~íñg é~ñábl~és pr~óóf ó~f cóm~plíá~ñcé á~ñd hé~lps w~íth c~óñtí~ñúóú~s sýs~tém í~mpró~vémé~ñt.]

[Tóól~ láñd~scáp~é áñd~ décí~síóñ~ tréé~]

[Séttíñg úp á RÁG sýstém réqúírés á lárgé ñúmbér óf spécíálízéd cómpóñéñts, fróm fráméwórks áñd véctór dátábásés tó clóúd sérvícés áñd LLM cóññéctíóñs. Whích tóóls áñd sérvícés áré úséd fór Rétríévál Áúgméñtéd Géñérátíóñ dépéñds héávílý óñ thé cómpáñý's réqúíréméñts - súch ás dátá vólúmé, dátá prótéctíóñ, búdgét ór éxístíñg éxpértísé. Thé fóllówíñg óvérvíéw shóws thé móst ímpórtáñt óptíóñs áñd próvídés gúídáñcé whéñ mákíñg á séléctíóñ.]

[Frám~éwór~ks: Lá~ñgCh~áíñ, H~áýst~áck, L~lámá~Íñdé~x]

• [Láñg~Cháí~ñ dóm~íñát~és wí~th éx~téñs~ívé í~ñtég~rátí~óñs á~ñd áñ~ áctí~vé có~mmúñ~ítý. Í~déál~ fór f~ást p~rótó~týpé~s áñd~ stáñ~dárd~ízéd~ RÁG p~ípél~íñés~.]

• [Háýs~táck~ fócú~sés ó~ñ pró~dúct~íóñ-r~éádý~ QÁ sý~stém~s wít~h mód~úlár~ árch~ítéc~túré~. Párt~ícúl~árlý~ stró~ñg fó~r cóm~pléx~ éñté~rprí~sé ré~qúír~éméñ~ts.]

• [Llám~á Íñd~éx sp~écíá~lízé~s íñ f~léxí~blé í~ñdéx~ strú~ctúr~és áñ~d híé~rárc~hícá~l kñó~wléd~gé ór~gáñí~zátí~óñ. Pé~rféc~t fór~ úñst~rúct~úréd~ dátá~ cóll~éctí~óñs.]

[Véct~ór dá~tábá~sés: S~élf-h~ósté~d vs. m~áñág~éd]

• [Wéáv~íáté~ óffé~rs óp~éñ só~úrcé~ fléx~íbíl~ítý w~íth c~lóúd~ óptí~óñ. St~róñg~ Gráp~hQL í~ñtég~rátí~óñ áñ~d hýb~ríd s~éárc~h cáp~ábíl~ítíé~s.]

• [Mílv~ús sc~álés~ tó bí~llíó~ñs óf~ véct~órs. Í~déál~ fór v~érý l~árgé~ dátá~ vólú~més á~ñd hí~gh-pé~rfór~máñc~é ápp~lícá~tíóñ~s.]

• [Qdrá~ñt sc~órés~ wíth~ éásý~ íñst~állá~tíóñ~ áñd m~áñý c~líéñ~t líb~rárí~és. Gó~ód bá~láñc~é bét~wééñ~ féát~úrés~ áñd ú~sér-f~ríéñ~dlíñ~éss.]

• [Píñé~cóñé~ ás á m~áñág~éd sé~rvíc~é réd~úcés~ thé á~dmíñ~ístr~átíó~ñ éff~órt, b~út ré~qúír~és á c~lósé~ rélá~tíóñ~shíp~ wíth~ thé p~róví~dér]

[Clóú~d sér~vícé~s wít~h éñt~érpr~ísé f~éátú~rés]

• [Ázúr~é ÁÍ S~éárc~h (fór~mérl~ý Ázú~ré Có~gñít~ívé S~éárc~h) íñt~égrá~tés s~éáml~éssl~ý íñt~ó Míc~rósó~ft éc~ósýs~téms~. Pré-b~úílt~ cóññ~éctó~rs fó~r Shá~réPó~íñt, Ó~ffíc~é 365 áñd~ óthé~r Míc~rósó~ft sé~rvíc~és.]

• [Ámáz~óñ Ké~ñdrá~ délí~vérs~ ML-bá~séd d~ócúm~éñt ú~ñdér~stáñ~díñg~ óút-ó~f-thé~-bóx. M~áñý ñ~átív~é cóñ~ñéct~órs f~ór dí~ffér~éñt d~átá s~óúrc~és.]      

[LLM c~óññé~ctíó~ñ: cló~úd vs~. óñ-pr~émís~é]

[ÓpéñÁÍ áñd Ázúré ÓpéñÁÍ próvídé pówérfúl láñgúágé módéls wíth clóúd cóññéctívítý. Áñthrópíc Cláúdé ófférs á báláñcéd cómbíñátíóñ óf qúálítý áñd éffícíéñcý. Óñ-prémísé módéls súch ás Llámá, Místrál ór Gérmáñ váríáñts éñáblé fúll dátá cóñtról áñd áré pártícúlárlý súítáblé fór séñsítívé ápplícátíóñ scéñáríós.]

[Búíl~d vs. b~úý vs~. lów-c~ódé]

[Lów-c~ódé p~látf~órms~ éñáb~lé fá~st pr~ótót~ýpés~ wíth~óút p~rógr~ámmí~ñg kñ~ówlé~dgé. "R~éál" d~évél~ópmé~ñt óf~férs~ máxí~múm f~léxí~bílí~tý áñ~d pér~fórm~áñcé~. Réád~ý-mád~é sól~útíó~ñs ré~dúcé~ éffó~rt, bú~t lím~ít cú~stóm~ízát~íóñ ó~ptíó~ñs.]

[RÁG í~mplé~méñt~átíó~ñ áñd~ bést~ prác~tícé~s]

[Á RÁG sýstém óñlý úñfólds íts fúll pótéñtíál íf cértáíñ príñcíplés áré óbsérvéd. Sómé óf thésé príñcíplés áré fámílíár fróm máchíñé léárñíñg, bút ápplý évéñ móré stróñglý tó rétríévál áúgméñtéd géñérátíóñ, ás thé qúálítý óf thé áñswérs dépéñds díréctlý óñ thé íñtéráctíóñ bétwééñ dátá áñd módéls. Thé fóllówíñg bést práctícés shów whát ís ímpórtáñt íñ ímpléméñtátíóñ:]

[Dátá~ qúál~ítý:]

• [Cléá~ñ, str~úctú~réd d~átá í~s crú~cíál~]

• [Rémó~vé dú~plíc~átés~ áñd ó~útdá~téd í~ñfór~mátí~óñ]  

• [Úñíf~órm f~órmá~ttíñ~g]

• [Cóñs~ísté~ñcý m~óré í~mpór~táñt~ tháñ~ dátá~ vólú~mé]   

[Chúñ~kíñg~ áñd m~étád~átá]

• [Chóó~sé th~é ríg~ht ch~úñk s~ízé (ñ~ót tó~ó smá~ll, ñó~t tóó~ lárg~é)]

• [Éñrí~ch ch~úñks~ wíth~ métá~dátá~ (títl~é, dát~é, dép~ártm~éñt, c~óñfí~déñt~íálí~tý)]

[Rétr~íévá~l áñd~ rérá~ñkíñ~g]

• [Cómb~íñát~íóñ ó~f véc~tór s~éárc~h + kéý~wórd~ séár~ch]

• [Ráñk~íñg f~ór fí~ñál r~élév~áñcé~]

[Próm~pt dé~sígñ~]

• [Cléá~r str~úctú~ré: có~ñtéx~t, qúé~stíó~ñ, íñs~trúc~tíóñ~s]

• [Gúár~dráí~ls: óñ~lý ré~spóñ~d tó c~óñté~xt, ñó~ háll~úcíñ~átíó~ñs]

[Évál~úátí~óñ áñ~d féé~dbác~k]

• [Réfé~réñc~é qúé~stíó~ñs wí~th kñ~ówñ á~ñswé~rs]

• [Métr~ícs: P~récí~síóñ~, récá~ll, ús~ér sá~tísf~áctí~óñ]

• [Á/B té~sts: c~húñk~ sízé~s, émb~éddí~ñgs, p~rómp~ts]

[Ópér~átíó~ñ áñd~ cóst~s]

• [Sét t~ókéñ~ búdg~éts]

• [Úsé c~áchí~ñg]

• [Bálá~ñcé b~étwé~éñ ré~spóñ~sé tí~mé áñ~d cóñ~téxt~ sízé~]

[Sécú~rítý~]

• [Léás~t prí~vílé~gé pr~íñcí~plé]

• [DLP c~héck~s fór~ séñs~ítív~é dát~á]

• [Réd T~éám t~ésts~ fór v~úlñé~rábí~lítý~ áñál~ýsís~]

[Thé f~útúr~é óf R~ÁG]

[RÁG í~s béc~ómíñ~g á st~áñdá~rd có~mpóñ~éñt í~ñ éñt~érpr~ísé Á~Í láñ~dscá~pés. É~véñ í~f cóñ~téxt~ wíñd~óws ó~f LLM~s cóñ~tíñú~é tó g~rów, c~ósts~ áñd s~pééd~ rémá~íñ dé~císí~vé ád~váñt~ágés~ óf RÁ~G sýs~téms~.]

[Tárg~étéd~ rétr~íévá~l wíl~l álw~áýs b~é mór~é éff~ícíé~ñt th~áñ br~úté f~órcé~ próc~éssí~ñg óf~ húgé~ ámóú~ñts ó~f dát~á. Cóm~páñí~és wí~ll ús~é RÁG~ tó mó~ñétí~zé th~éír d~átáb~ásés~ áñd c~réát~é cóm~pétí~tívé~ ádvá~ñtág~és.]

[Fútú~ré dé~véló~pméñ~ts wí~ll fú~rthé~r éxp~áñd R~ÁG áñ~d ópé~ñ úp ñ~éw áp~plíc~átíó~ñ pós~síbí~lítí~és:]

• [Múlt~ímód~ál-RÁ~G úñd~érst~áñds~ áñd s~éárc~hés á~údíó~, vídé~ó áñd~ ímág~és ás~ wéll~ ás té~xt. Té~chñí~cál m~áñúá~ls wí~th dí~ágrá~ms, tr~áíñí~ñg ví~déós~ ór vó~ícé m~émós~ bécó~mé fú~llý s~éárc~hábl~é.]

• [Gráp~h-RÁG~ úsés~ kñów~lédg~é grá~phs f~ór mó~ré có~mplé~x rél~átíó~ñshí~ps bé~twéé~ñ éñt~ítíé~s. Íñs~téád~ óf ís~ólát~éd té~xt ch~úñks~, thé s~ýsté~m úñd~érst~áñds~ rélá~tíóñ~shíp~s bét~wééñ~ péóp~lé, pr~ódúc~ts áñ~d pró~céss~és.]

• [Tóól~ úsé á~ñd ÁÍ~ ássí~stáñ~ts ád~d áct~ívé s~ýsté~m íñt~érác~tíóñ~s tó R~ÁG. ÁÍ~ ágéñ~ts ñó~t óñl~ý séá~rch f~ór íñ~fórm~átíó~ñ, bút~ álsó~ cárr~ý óút~ áctí~óñs: C~réát~é tíc~kéts~, séñd~ émáí~ls, cá~ll ÁP~Ís.]

[Thé f~útúr~é bél~óñgs~ tó íñ~téll~ígéñ~t sýs~téms~ thát~ ñót ó~ñlý r~étrí~évé c~órpó~ráté~ kñów~lédg~é, bút~ áctí~vélý~ úsé á~ñd éx~páñd~ ít. RÁ~G ís t~hé fí~rst s~tép í~ñ thí~s dír~éctí~óñ.]

[Íf ýóú dóñ't júst wáñt tó úñdérstáñd RÁG áñd LLMs, ýóú wáñt tó úsé thém: Íñ óúr thréé-dáý tráíñíñg "Dévélópíñg géñérátívé ÁÍ ássístáñts wíth LLM, RÁG áñd clóúd sérvícés", ýóú wíll léárñ hów tó créáté práctícál ÁÍ ássístáñts, wíth lóts óf éxámplés áñd éxércísés.]

[[PRÓD~ÚCT][1]]