Lychee-Rerank-MM实战指南：批量模式输入文件格式（txt/md）规范说明

你是不是也遇到过这样的问题？在图文检索的场景里，先用一个快速的模型召回了一大堆候选结果，但里面鱼龙混杂，真正相关的、高质量的文档就那么几个，需要你手动去筛选，费时又费力。

Lychee-Rerank-MM（荔枝多模态重排序模型）就是来解决这个痛点的。它就像一个专业的“质检员”，能帮你从一堆候选结果里，精准地挑出最相关、质量最高的那几个。而它的“批量模式”，更是效率神器，一次性能处理成百上千个文档对。

但很多朋友在实际使用时，都卡在了第一步：这个批量模式的输入文件，到底该怎么准备？ 格式不对，模型就看不懂，自然也就排不出好结果。

这篇文章，我就来手把手教你，如何正确地准备Lychee-Rerank-MM批量模式所需的输入文件。我会用最直白的话，把TXT和MD两种格式的规范讲清楚，并给你可以直接套用的模板和真实案例。看完你就能立刻上手，让你的图文检索系统拥有一个强大的“精排”大脑。

1. 先搞懂批量模式在干什么

在深入文件格式之前，我们得先明白Lychee-Rerank-MM的批量模式到底在解决什么问题。想象一下这个场景：

1. 用户输入：一张“夕阳下的埃菲尔铁塔”图片，或者一段“寻找巴黎地标建筑旅游攻略”的文字。
2. 粗排系统：快速从你的海量图文库中，召回100个可能相关的文档（可能是纯文本介绍、带图的攻略、甚至是视频标题）。
3. 精排需求：这100个结果里，哪些是真正高度相关的优质内容？你需要一个更聪明的模型来给它们打分、排序。

Lychee的批量模式，就是让你把“用户查询”和“召回的100个候选文档”一次性喂给它。它会为每一个“查询-文档”对计算一个相关性得分（0到1之间），然后帮你从高到低排好序。

所以，输入文件的核心，就是清晰、无歧义地告诉模型：“这是查询，那是文档列表，请开始你的表演。”

2. 输入文件格式详解：TXT 篇

TXT格式是最简单、最通用的纯文本格式。它的优点是兼容性极强，任何系统都能生成和读取。我们用Lychee批量模式时，就需要遵循一个特定的结构，让模型能准确解析。

2.1 核心结构（三部分缺一不可）

一个合格的TXT输入文件，必须包含以下三个部分，并按顺序排列：

[指令]
[查询]
[文档1]
[文档2]
[文档3]
...

第一部分：指令 这是告诉模型任务是什么。对于通用的图文检索重排序任务，我们通常使用固定的指令： Given a web search query, retrieve relevant passages that answer the query 这一行必须单独占一行。

第二部分：查询 这就是用户的搜索内容。可以是纯文本，也可以是图片的描述性文本（注意：在批量文件的TXT格式中，我们无法直接嵌入图片，所以需要用文字描述图片内容，或者使用图片的URL或文件路径，前提是你的后续处理流程能根据这个路径加载图片）。这一行也必须单独占一行。 示例：A beautiful sunset behind the Eiffel Tower.

第三部分：文档列表 从第三行开始，每一行都是一个独立的候选文档。文档可以是纯文本，也可以是图文混合的描述（同样，图片部分用文字描述或路径表示）。每个文档必须独占一行。 示例：

The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris, France.
Paris travel guide featuring the Louvre Museum and Seine River cruises.
A photo collection of global landmarks including the Statue of Liberty and the Eiffel Tower.

2.2 完整TXT文件示例

把上面三部分组合起来，一个完整的、可用的TXT输入文件是这样的：

Given a web search query, retrieve relevant passages that answer the query
A beautiful sunset behind the Eiffel Tower.
The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris, France.
Paris travel guide featuring the Louvre Museum and Seine River cruises.
A photo collection of global landmarks including the Statue of Liberty and the Eiffel Tower.
Information about the history and construction of the Eiffel Tower.
Best restaurants near the Eiffel Tower with views.

2.3 注意事项与常见错误

1. 空行是分隔符：指令、查询、文档之间不能有空行。Lychee模型会按行解析，空行可能导致它把空行误认为是一个空文档，或者导致解析错位。
2. 避免行内换行：一个文档的内容尽量在一行内写完。如果内容很长，确保你的处理脚本在生成TXT文件时没有插入换行符，否则一个文档会被拆成多行，模型会将其识别为多个文档。
3. 转义特殊字符：如果文档内容中包含模型指令中可能使用的特殊符号（虽然不常见），需要注意。通常的中英文文本无需担心。
4. 图片如何处理：这是TXT格式的局限。标准做法是：
   • 方案A（文本描述）：将图片内容用详细的文字描述出来，作为文档文本的一部分。例如：“[IMAGE]: A photograph taken from Trocadéro Gardens, showing the Eiffel Tower illuminated by warm sunset light, with a pink and orange sky in the background.”
   • 方案B（标识符+后处理）：在TXT文件中使用唯一标识符（如IMG_001）或文件路径（如/data/images/paris/eiffel_sunset.jpg）占位。然后在调用Lychee模型之前或之后，你的程序需要根据这些标识符去加载真实的图片数据，并组合成模型所需的 multimodal input。这需要额外的工程处理。

3. 输入文件格式详解：MD 篇

MD（Markdown）格式比TXT更强大，因为它支持丰富的文本样式，并且可以天然地嵌入图片！这对于Lychee这种多模态模型来说，简直是绝配。你可以直接在文档里用Markdown语法插入图片链接或本地路径，模型能够直接读取和理解。

3.1 核心结构（与TXT逻辑一致）

MD文件的结构逻辑和TXT完全一样，也是“指令-查询-文档列表”三部分。只是书写方式用了Markdown语法。

[指令]
[查询]
[文档1]
[文档2]
[文档3]
...

3.2 完整MD文件示例（支持图文！）

下面是一个展示MD格式强大之处的例子，它包含了纯文本和图文混合文档。

Given a web search query, retrieve relevant passages that answer the query
A beautiful sunset behind the Eiffel Tower.

The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris, France. It is named after the engineer Gustave Eiffel, whose company designed and built the tower.

![Eiffel Tower at Sunset](https://example.com/images/eiffel_sunset.jpg) This stunning photo captures the iconic Eiffel Tower during the golden hour, with the sky painted in hues of orange and purple. The lighting accentuates the intricate ironwork of the tower.

Paris travel guide featuring the Louvre Museum and Seine River cruises. The guide also includes a section on the best times to visit the Eiffel Tower to avoid crowds.

**History of the Eiffel Tower**: Constructed between 1887 and 1889 as the centerpiece of the 1889 World's Fair. Initially criticized by some artists, it has become a global cultural icon.

A photo collection of global landmarks. ![Landmark Collage](path/to/local/images/landmarks.png) The collage includes the Eiffel Tower, Statue of Liberty, and the Great Wall of China.

看，第二和第五个文档里直接包含了图片！ 模型在读取时，能同时处理这些文本和图片信息，做出更精准的相关性判断。

3.3 MD格式的优势与使用技巧

1. 原生多模态支持：使用![alt text](image_url_or_path)语法，轻松嵌入图片。这是MD格式用于Lychee批量任务的最大优势。
2. 结构更清晰：你可以使用##、**加粗**、*列表*等Markdown语法来组织文档内容，使其可读性更强。虽然模型主要关注语义，但清晰的格式有时可能对理解有细微帮助。
3. 兼容性：MD文件本质也是文本文件，几乎所有编程语言都能轻松读写和解析。
4. 路径注意事项：
   • 网络图片：使用公开可访问的URL（如https://...）。
   • 本地图片：使用服务器上的绝对路径（如/root/lychee-rerank-mm/data/image.jpg）。确保运行Lychee模型的进程有权限读取该路径。

4. 实战：如何生成和验证你的输入文件

知道了格式，我们来看看怎么在实际操作中生成它。

4.1 使用Python脚本生成

这是最灵活的方式。假设你有一个查询query和一个文档列表doc_list（每个文档可能包含文本和图片路径）。

# 示例：生成TXT格式文件
def generate_txt_input(instruction, query, doc_list, output_path='batch_input.txt'):
    with open(output_path, 'w', encoding='utf-8') as f:
        # 写入指令
        f.write(instruction + '\n')
        # 写入查询
        f.write(query + '\n')
        # 写入所有文档，每个文档占一行
        for doc in doc_list:
            # 如果是图文混合，你需要将图片路径转化为描述或特定格式的文本
            # 例如，如果doc是一个字典：{'text': '...', 'image_path': '...'}
            if isinstance(doc, dict):
                line = f"{doc['text']} [IMAGE:{doc['image_path']}]"
            else:
                line = str(doc)
            # 确保行内没有意外的换行符
            line = line.replace('\n', ' ')
            f.write(line + '\n')
    print(f"TXT输入文件已生成：{output_path}")

# 示例：生成MD格式文件
def generate_md_input(instruction, query, doc_list, output_path='batch_input.md'):
    with open(output_path, 'w', encoding='utf-8') as f:
        f.write(instruction + '\n')
        f.write(query + '\n\n') # MD中查询后多一个空行更美观
        for doc in doc_list:
            if isinstance(doc, dict):
                # 如果有图片路径，用Markdown语法嵌入
                md_content = f"{doc['text']}\n\n![Image]({doc['image_path']})"
            else:
                md_content = str(doc)
            f.write(md_content + '\n\n---\n\n') # 用分隔线区分不同文档
    print(f"MD输入文件已生成：{output_path}")

# 调用示例
instruction = "Given a web search query, retrieve relevant passages that answer the query"
user_query = "How to care for a succulent plant?"
documents = [
    "Succulents need plenty of sunlight and infrequent watering.",
    {"text": "A guide to common succulent types.", "image_path": "/images/echeveria.jpg"},
    "Overwatering is the most common cause of death in succulents."
]

generate_txt_input(instruction, user_query, documents, 'succulent_txt.txt')
generate_md_input(instruction, user_query, documents, 'succulent_md.md')

4.2 手动验证文件

在提交给Lychee模型之前，务必肉眼检查一下生成的文件：

1. 打开文件，确认指令在第一行。
2. 查询在第二行。
3. 从第三行开始，是不是你预期的文档内容？ 每个文档是否独立成行（TXT）或段落（MD）？
4. 对于MD文件，检查图片的Markdown语法是否正确，图片路径或URL是否有效。

4.3 调用Lychee批量接口

文件准备好后，你可以通过Lychee提供的Web界面（通常是http://localhost:7860）上传文件进行批量重排序，或者通过其API接口编程调用。核心就是把这个符合规范的文件传递给模型的批量处理端点。

5. 总结

为Lychee-Rerank-MM准备批量输入文件，关键在于严格遵守“指令-查询-文档列表”的三段式结构，并根据你的需求选择合适的格式：

• 追求极简和兼容，且文档以纯文本为主：选择 TXT格式。记住“三行论”：第一行指令，第二行查询，后面每行一个文档。注意图片需要用文字描述或特殊标识符来转化。
• 需要处理真正的图文混合文档，希望文件可读性更强：选择 MD格式。你可以利用![alt](url)语法直接嵌入图片，让模型获得最丰富的多模态信息。

无论哪种格式，在生成文件后，花一分钟做一次简单的手动验证，能避免很多“模型输出不对”的困惑。现在，你的输入文件已经规范了，快去让Lychee模型为你的检索结果带来质的提升吧！

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。