Promptriever是什么

Promptriever 是约翰斯·霍普金斯大学和Samaya AI联合推出的新型检索模型，能像语言模型一样接受自然语言提示，用直观的方式响应用户的搜索需求。Promptriever 基于 MS MARCO 数据集的指令训练集进行训练，在标准检索任务上表现出色，能更有效地遵循详细指令，提高对查询的鲁棒性和检索性能。Promptriever展示了将大型语言模型的提示技术与信息检索相结合的潜力。

Promptriever的主要功能

• 接受自然语言提示：能理解并响应自然语言形式的提示，让用户用更自然的方式表达搜索需求。
• 动态调整相关性：根据用户的具体指令动态调整搜索结果的相关性，例如，根据用户对搜索结果的具体要求（如时间范围、特定属性）过滤和排序文档。
• 提高检索鲁棒性：基于理解和处理自然语言中的细微差别，增强模型对于不同查询表达的鲁棒性。
• 提升检索性能：基于提示进行超参数搜索，改善检索结果的质量。

Promptriever的技术原理

• 双编码器架构：基于双编码器（bi-encoder）架构，用大型语言模型（如 LLaMA-2 7B）作为其背后的支持模型。
• 指令训练数据集：从 MS MARCO 数据集中筛选和发布新的指令级训练集，在训练中包含定义查询相关性的自然语言指令。
• 指令生成：用语言模型生成更具体的指令，指令能添加额外的要求或明确排除某些类型的文档。
• 指令负例挖掘：基于生成和过滤（query, passage）对，创建出在加入特定指令后相关性降低的负例，迫使模型学习如何根据指令调整相关性判断。
• 零样本提示技术：基于零样本提示技术进行超参数搜索，类似于语言模型的提示，改善检索性能。

Promptriever的项目地址

• GitHub仓库：https://github.com/orionw/promptriever
• arXiv技术论文：https://arxiv.org/pdf/2409.11136

Promptriever的应用场景

• 搜索引擎优化：提供更精准的搜索结果，基于理解用户的自然语言查询和指令，改善搜索体验。
• 智能助手和聊天机器人：理解和执行用户的复杂指令，提供更个性化和上下文相关的回答。
• 企业内部搜索：在企业知识库中快速准确地检索特定信息，提高工作效率。
• 学术研究和文献检索：根据研究者的详细查询指令，检索特定的学术论文和文献资料。
• 电子商务：根据用户的购物需求和偏好，提供定制化的搜索结果和产品推荐。