2.1 指令数据集构建方法

2022.12         2023.03         2023.04         2024.06         2025+
Self-Instruct → Alpaca  →  UltraChat  →   MAGPIE   →  更智能的合成
(175 种子任务)  (52K条)    (1.5M多轮)    (无需种子)    (质量+规模)

# MAGPIE 的核心思路（伪代码）
# 1. 仅输入 ChatML 模板的用户消息前缀
prompt = "<|im_start|>user\n"

# 2. 让对齐模型（如 Qwen3-32B Instruct）自动补全
generated_instruction = model.generate(prompt)
# 输出示例："解释黑洞是如何形成的，并举一个具体例子"

# 3. 将生成的指令重新输入模型，获得回复
full_prompt = f"<|im_start|>user\n{generated_instruction}<|im_end|>\n<|im_start|>assistant\n"
response = model.generate(full_prompt)

# 4. 形成完整的 (指令, 回复) 对

temperature=0.7 → 常规指令（问答、解释、摘要）
temperature=1.0 → 创意指令（写作、角色扮演）
temperature=1.2 → 不常见指令（冷门话题、跨领域）

# 基于 n-gram 的简单去重示例
from collections import Counter

def compute_ngram_overlap(text1, text2, n=3):
    """计算两段文本的 n-gram Jaccard 相似度"""
    ngrams1 = set(zip(*[text1.split()[i:] for i in range(n)]))
    ngrams2 = set(zip(*[text2.split()[i:] for i in range(n)]))
    if not ngrams1 or not ngrams2:
        return 0.0
    intersection = ngrams1 & ngrams2
    union = ngrams1 | ngrams2
    return len(intersection) / len(union)

# 标记相似度 > 0.7 的样本对为近似重复
SIMILARITY_THRESHOLD = 0.7

# 去污染检查示例
def check_contamination(train_sample, test_samples, n=10, threshold=0.8):
    """检查训练样本是否与测试集存在 n-gram 重叠"""
    train_ngrams = extract_ngrams(train_sample, n)
    for test_sample in test_samples:
        test_ngrams = extract_ngrams(test_sample, n)
        overlap = len(train_ngrams & test_ngrams) / max(len(test_ngrams), 1)
        if overlap > threshold:
            return True  # 污染！应移除
    return False

# 数据混合实验框架
mix_configs = {
    "config_a": {"general": 0.5, "math": 0.2, "code": 0.2, "safety": 0.1},
    "config_b": {"general": 0.3, "math": 0.3, "code": 0.3, "safety": 0.1},
    "config_c": {"general": 0.4, "math": 0.15, "code": 0.15, "safety": 0.3},
}

# 对每种配比：
# 1. 按比例采样构建训练集
# 2. 训练模型（固定其他超参数）
# 3. 在多个基准上评估（GSM8K、HumanEval、MT-Bench、安全测试）
# 4. 选择综合表现最优的配比