Skip to main content

DeFT-RAG: multi-hop དྲི་བ་ཚུ་ self-contained sub-question ལུ་ཆག་བཞག

Updated 1 min readMarkdown

Retrieval-augmented generation (RAG) གིས་ ཡིག་ཆ་ཆེན་པོའི་ནང་ལས་ འབྲེལ་བ་ཅན་གྱི་དོན་དག་ཚུ་འཚོལ་བཙུགསཔ་དང་ LLM གྱིས་དྲི་བ་ལན་འདེབསཔ་ཨིན། འབའ་ཡང་ multi-hop དྲི་བ་ཚུ་ - དྲི་བ་ནང་བརྗོད་མི་འབད་མི་ entity གཞན་ཚུ་བརྒྱུད་དེ་ ཡིག་ཆ་ལེ་ཤ་ནང་གནས་པའི་དོན་དག་ཚུ་སྦེ་ འབྲེལ་བ་ཟུར་དགོས་མི་ཚུ་ལུ་ RAG དཀའ་ངལ་འབྱུངཝ་ཨིན། ཞིབ་འཚོལ་གསར་པ་ཅིག་གིས་ DeFT-RAG ཟེར་མི་ RAG གྲུབ་ཆ་ཅིག་ཕུལ་ཡོད།

DeFT-RAG ལུ་ གྲུབ་ཆ་ཡ་གསུམ་ཡོད། དང་པ་ར་ མ་རྩིས་དྲི་བ་དང་ འདས་པའི་ནང་ལན་འདེབས་ཡོད་པའི་ sub-question ཚུ་དང་ཨེང་གིས་ (QA pairs) ཆ་མཉམ་ལས་ རང་ལུ་ཆ་ཚང་ཅན་གྱི་ sub-question རེ་རེ་བཞིན་གསར་བསྐྲུན་འབདཝ་ཨིན། sub-question རེ་རེ་གིས་ དེ་གིས་དྲི་མི་ entity ག་ར་མིང་བརྗོདཔ་ཨིན། འདི་གིས་ plan འབད་དགོས་མི་ dependency ཚུ་འཛིན་དགོས་མི་ བསྐྱར་འབྲི་དགོས་མི་ཚུ་ མེདཔ་བཟོ་ནུག། LLM གིས་ འཆར་ཅིག་ནང་ ལས་འགན་ཆག་ཅིག་རྐྱངམ་ཅིག་ལུ་དམིགསཔ་ཚུད་ནུག།

གཉིས་པ་ DeFT-RAG གིས་ ལྷག་མི་ LLM ལས་ཀ་ LLM ཕྱི་ཁ་ལུ་སྤོ་ནུག: ཅིག་ག་གཞི་བཞག་ཅན་གྱི་ QA ཐིག་ཁྲམ་ལུ་ update འབད་མི་དང་ ཡོད/མེད་ གདམ་ག་བཟོ་མི་ lightweight decision model ཅིག་གིས་འབདཝ་ཨིན།

གསུམ་པ་ DeFT-RAG གིས་ QA ཆ་ཚུ་ cache འབདཝ་ཨིན། ཤུལ་མས་དྲི་བ་ཅིག་གིས་ དོན་སྙིང་གཅིག་པའི་ sub-question ཅིག་དྲི་ནི་ཨིན་པ་ཅིན་ ལན་ཡོད་མི་ ལོག་ལག་ལེན་འབད་ནུག།

MuSiQue, 2WikiMultiHopQA དང་ HotpotQA ཐོག་ལུ་ DeFT-RAG གིས་ gpt-4o-mini དང་ Qwen3.6 backbone གཉིས་ཆ་ར་ནང་ baseline བཅུ་གསུམ་ནང་ཡང་རྩེ་ཅན་གྱི་ accuracy ལེན་ནུག། གཞན་ iterative ཐབས་ལམ་ཚུ་ལས་ LLM ལུ་ input token ཉུངམ་སྦེ་བྱིནཔ་ཨིན། MuSiQue དྲི་བ་ ༡༠༠༠ ལུ་ QA cache མཉམ་སྤྱོད་འབད་བ་ཅིན་ sub-question ༢༣.༡% ཚུ་ cache ལས་ལན་འདེབས་ནུག། འདི་གིས་ LLM call ༡༢.༩% ཉུང་དུ་གཏང་ནུག་ accuracy མ་མར་འབྱུངམ་མེད།

འབྲི་མི་ Yethikrishna R, Mynd Labs གི་ founder དང་ lead engineer, Compyle (YC F25) གི་ coordinator དང་ founding member, ཨིན་ཌི་ཡ་ནང་གི་ Thrissur ལས་ཨིན།

འབྱུང་ཁུངས།: https://arxiv.org/abs/2610.37826

No comments yet. Be the first to comment.

More from this blog