Promptriever – 信息检索模型,支持自然语言提示响应用户搜索需求

Promptriever项目简介

Promptriever 是约翰斯·霍普金斯大学和Samaya AI联合推出的新型检索模型,能像语言模型一样接受自然语言提示,用直观的方式响应用户的搜索需求。Promptriever 基于 MS MARCO 数据集的指令训练集进行训练,在标准检索任务上表现出色,能更有效地遵循详细指令,提高对查询的鲁棒性和检索性能。Promptriever展示了将大型语言模型的提示技术与信息检索相结合的潜力。

Promptriever – 信息检索模型,支持自然语言提示响应用户搜索需求

Promptriever优势介绍

接受自然语言提示:能理解并响应自然语言形式的提示,让用户用更自然的方式表达搜索需求。

动态调整相关性:根据用户的具体指令动态调整搜索结果的相关性,例如,根据用户对搜索结果的具体要求(如时间范围、特定属性)过滤和排序文档。

提高检索鲁棒性:基于理解和处理自然语言中的细微差别,增强模型对于不同查询表达的鲁棒性。

提升检索性能:基于提示进行超参数搜索,改善检索结果的质量。

Promptriever详细报告

双编码器架构:基于双编码器(bi-encoder)架构,用大型语言模型(如 LLaMA-2 7B)作为其背后的支持模型。

指令训练数据集:从 MS MARCO 数据集中筛选和发布新的指令级训练集,在训练中包含定义查询相关性的自然语言指令。

指令生成:用语言模型生成更具体的指令,指令能添加额外的要求或明确排除某些类型的文档。

指令负例挖掘:基于生成和过滤(query, passage)对,创建出在加入特定指令后相关性降低的负例,迫使模型学习如何根据指令调整相关性判断。

零样本提示技术:基于零样本提示技术进行超参数搜索,类似于语言模型的提示,改善检索性能。

Promptriever的项目地址

GitHub仓库:https://github.com/orionw/promptriever

arXiv技术论文:https://arxiv.org/pdf/2409.11136

Promptriever主要应用

搜索引擎优化:提供更精准的搜索结果,基于理解用户的自然语言查询和指令,改善搜索体验。

智能助手和聊天机器人:理解和执行用户的复杂指令,提供更个性化和上下文相关的回答。

企业内部搜索:在企业知识库中快速准确地检索特定信息,提高工作效率。

学术研究和文献检索:根据研究者的详细查询指令,检索特定的学术论文和文献资料。

电子商务:根据用户的购物需求和偏好,提供定制化的搜索结果和产品推荐。

工具测评

Kimi-VL – 月之暗面开源的轻量级多模态视觉语言模型

2025-7-23 8:05:56

工具测评

Adobe Firefly – Adobe推出的系列创意生成式AI模型

2025-7-23 8:18:52