---

🔗 快速链接

• 📚 HuggingFace 组织 - 预训练模型和数据集
• 📖 文章与教程：
  • 自适应分类器：动态文本分类
  • AutoThink：高级推理技术
  • 企业级就绪分类器

---

自适应分类器是一个基于 PyTorch 的机器学习库，通过持续学习、动态添加类别以及针对对抗性输入的战略防御，彻底革新了文本分类。它构建在 HuggingFace 转换器之上，实现了零停机的模型更新和企业级的鲁棒性。

✨ 核心特性

🎯 核心能力

• 🚀 通用兼容性 - 适用于任何 HuggingFace 转换器模型
• ⚡ 优化推理 - 内置 ONNX Runtime，使 CPU 预测速度提升 2–4 倍
• 📈 持续学习 - 可以添加新样本而不会发生灾难性遗忘
• 🔄 动态类别 - 运行时可添加新类别，无需重新训练
• ⏱️ 零停机 - 在生产环境中更新模型而不中断服务

🛡️ 高级防御

• 🎮 战略分类 - 基于博弈论的防御机制，抵御对抗性操纵
• 🔒 抗游戏化保护 - 在策略性行为下仍能保持稳健的预测
• ⚖️ 多种预测模式 - 提供常规、战略和鲁棒推理选项

🧠 智能架构

• 💾 原型记忆 - 基于 FAISS 的高效相似度搜索
• 🔬 自适应神经层 - 可训练的分类头，并配备 EWC 保护
• 🎯 混合预测 - 结合原型相似性和神经网络输出
• 📊 HuggingFace 集成 - 可直接从 Hub 推送/拉取模型

---

📊 性能与基准测试

🛡️ 战略分类防御

在 AI-Secure/adv_glue 数据集上的对抗性示例测试：

指标	常规分类器	战略分类器	提升
干净数据准确率	80.00%	82.22%	+2.22%
对抗性数据准确率	60.00%	82.22%	+22.22%
鲁棒性（对抗攻击）	下降 20.00%	无下降	完美

🔍 幻觉检测

在 RAGTruth 基准测试中，针对多种任务类型进行评估：

任务类型	精确率	召回率	F1 分数
QA	35.50%	45.11%	39.74%
摘要生成	22.18%	96.91%	36.09%
数据转文本	65.00%	100.0%	78.79%
总体	40.89%	80.68%	51.54%

🚦 LLM 路由优化

在 arena-hard-auto-v0.1 数据集（500 个查询）上测试：

指标	未采用自适应	采用自适应	提升
成本节约	25.60%	32.40%	+6.80%
效率比	1.00x	1.27x	+27%
资源利用率	标准	优化	更好

关键洞察：自适应分类在所有测试场景中均保持了高质量，同时显著提升了成本效益和鲁棒性。

---

立即体验

使用场景	展示内容	链接
基础示例（猫或狗）	持续学习
支持工单分类	真实案例
查询分类	不同配置
多语言情感分析	分类器集成
产品类别分类	批量处理
多标签分类	可扩展性

🚀 安装

快速安装

pip install adaptive-classifier

包含： ONNX Runtime，开箱即用即可实现 2–4 倍的 CPU 推理速度提升

🛠️ 开发环境搭建

# 克隆仓库
git clone https://github.com/codelion/adaptive-classifier.git
cd adaptive-classifier

# 以开发模式安装
pip install -e .

# 安装测试依赖（可选）
pip install pytest pytest-cov pytest-randomly

---

⚡ 快速入门

30 秒设置

在不到 30 秒内即可开始使用自适应分类：

from adaptive_classifier import AdaptiveClassifier

# 🎯 第一步：使用任意 HuggingFace 模型初始化
classifier = AdaptiveClassifier("bert-base-uncased")

# 📝 第二步：添加训练样本
texts = ["这个产品非常好用！", "糟糕的体验", "对这次购买没什么感觉"]
labels = ["正面", "负面", "中性"]
classifier.add_examples(texts, labels)

# 🔮 第三步：进行预测
predictions = classifier.predict("这太棒了！")
print(predictions)  
# 输出: [('正面', 0.85), ('中性', 0.12), ('负面', 0.03)]

🏷️ 多标签分类

同时将文本分类到多个类别，并自动调整阈值：

from adaptive_classifier import MultiLabelAdaptiveClassifier

# 初始化多标签分类器
classifier = MultiLabelAdaptiveClassifier(
    "bert-base-uncased",
    min_predictions=1,    # 确保至少有1个预测结果
    max_predictions=5     # 限制为前5个预测结果
)

# 多标签训练数据（每条文本可以有多个标签）
texts = [
    "AI研究人员利用机器学习研究气候变化",
    "科技初创公司开发医疗健康解决方案"
]
labels = [
    ["科技", "科学", "气候", "AI"],
    ["科技", "商业", "医疗"]
]

classifier.add_examples(texts, labels)

# 进行多标签预测
predictions = classifier.predict_multilabel("宣布了医疗AI领域的突破")
# 输出: [('医疗', 0.72), ('科技', 0.68), ('AI', 0.45)]

💾 保存与加载模型

# 本地保存
classifier.save("./my_classifier")
loaded_classifier = AdaptiveClassifier.load("./my_classifier")

# 🤗 Hugging Face Hub 集成
classifier.push_to_hub("adaptive-classifier/my-model")
hub_classifier = AdaptiveClassifier.from_pretrained("adaptive-classifier/my-model")

🎮 战略防御（防操纵）

# 启用战略分类模式以提高对抗鲁棒性
config = {'enable_strategic_mode': True}
strategic_classifier = AdaptiveClassifier("bert-base-uncased", config=config)

# 对抗操纵的稳健预测
predictions = strategic_classifier.predict("这款产品具有惊人的优质特性！")
# 返回考虑潜在操纵尝试的预测结果

⚡ 使用 ONNX 优化 CPU 推理

Adaptive Classifier 内置了 ONNX Runtime 支持，可在无需任何代码修改的情况下实现 CPU 推理速度提升 2–4 倍。

自动优化（默认）

ONNX Runtime 会自动在 CPU 上使用以获得最佳性能：

# 自动在 CPU 上使用 ONNX，在 GPU 上使用 PyTorch
classifier = AdaptiveClassifier("bert-base-uncased")

# 就这样！CPU 上的预测速度提升了 2–4 倍
predictions = classifier.predict("快速推理！")

性能对比

配置	速度	使用场景
PyTorch (GPU)	最快	GPU 服务器
ONNX (CPU)	2–4 倍更快	生产环境中的 CPU 部署
PyTorch (CPU)	基线	开发、训练

使用 ONNX 保存与部署

# 保存时导出 ONNX（包含量化与非量化的版本）
classifier.save("./model")

# 推送到 Hub 时包含 ONNX（默认同时包含两种版本）
classifier.push_to_hub("username/model")

# 加载时会自动选择 CPU 上最快的量化 ONNX（体积小 4 倍）
fast_classifier = AdaptiveClassifier.load("./model")

# 如果需要最高精度，可以选择非量化的 ONNX
accurate_classifier = AdaptiveClassifier.load("./model", prefer_quantized=False)

# 强制使用 PyTorch（不使用 ONNX）
pytorch_classifier = AdaptiveClassifier.load("./model", use_onnx=False)

# 在保存时选择不导出 ONNX
classifier.save("./model", include_onnx=False)

ONNX 模型版本：

• 量化版（默认）：INT8 量化，体积缩小 4 倍，ARM 上约快 1.14 倍，x86 上快 2–4 倍。
• 非量化版：全精度，精度最高，但文件较大。

默认情况下，模型会同时保存这两种版本，并自动加载量化版本以获得最佳性能。如果需要最高精度，请将 prefer_quantized 设置为 False。

基准测试你的模型

# 比较 PyTorch 与 ONNX 的性能
python scripts/benchmark_onnx.py --model bert-base-uncased --runs 100

示例结果：

模型：bert-base-uncased（CPU）
PyTorch：8.3ms/查询（基线）
ONNX：2.1ms/查询（快 4.0 倍）✓

注意：ONNX 优化默认已启用。对于 GPU 推理，系统会自动使用 PyTorch 以获得最佳性能。

高级用法

动态添加新类别

# 添加一个全新的类别
new_texts = [
    "出现了错误代码 404",
    "更新后系统崩溃了"
]
new_labels = ["技术"] * 2

classifier.add_examples(new_texts, new_labels)

持续学习

# 为现有类别添加更多示例
more_examples = [
    "史上最棒的购买！",
    "强烈推荐这个"
]
more_labels = ["正面"] * 2

classifier.add_examples(more_examples, more_labels)

带高级配置的多标签分类

from adaptive_classifier import MultiLabelAdaptiveClassifier

# 配置高级多标签设置
classifier = MultiLabelAdaptiveClassifier(
    "bert-base-uncased",
    default_threshold=0.5,      # 预测的基础阈值
    min_predictions=1,          # 至少返回的标签数量
    max_predictions=10          # 最多返回的标签数量
)

# 使用多样化的多标签示例进行训练
texts = [
    "科学家开发用于医学诊断和气候研究的 AI",
    "科技公司推出可持续能源和医疗健康产品",
    "奥运选手运用运动科学和营养技术"
]
labels = [
    ["科学", "AI", "医疗", "研究"],
    ["科技", "商业", "环境", "医疗"],
    ["体育", "科学", "健康", "科技"]
]

classifier.add_examples(texts, labels)

# 高级预测选项
predictions = classifier.predict_multilabel(
    "关于 AI 在环境科学中应用的新研究",
    threshold=0.3,     # 自定义阈值
    max_labels=5       # 限制结果数量
)

# 获取详细统计信息
stats = classifier.get_label_statistics()
print(f"自适应阈值：{stats['adaptive_threshold']}")
print(f"各标签的特定阈值：{stats['label_thresholds']}")

战略分类（防操纵）

# 启用战略模式以防御对抗性输入
config = {
    'enable_strategic_mode': True,
    'cost_function_type': 'linear',
    'cost_coefficients': {
        'sentiment_words': 0.5,    # 改变带有情感色彩的词语的成本
        'length_change': 0.1,      # 修改文本长度的成本
        'word_substitution': 0.3   # 替换词语的成本
    },
    'strategic_blend_regular_weight': 0.6,   # 普通预测的权重
    'strategic_blend_strategic_weight': 0.4  # 战略预测的权重
}

classifier = AdaptiveClassifier("bert-base-uncased", config=config)
classifier.add_examples(texts, labels)

# 考虑潜在操纵的稳健预测
text = "这款产品具有惊人的优质特性！"

# 双重预测（普通预测与战略预测的自动混合）
predictions = classifier.predict(text)

# 纯战略预测（模拟对抗性操纵）
strategic_preds = classifier.predict_strategic(text)

# 稳健预测（假设输入可能已被操纵）
robust_preds = classifier.predict_robust(text)

print(f"双重：{predictions}")
print(f"战略：{strategic_preds}")
print(f"稳健：{robust_preds}")

🏷️ 多标签分类

MultiLabelAdaptiveClassifier 将自适应分类扩展到处理每个文本可以同时属于多个类别的情形。它会自动为多标签场景调整阈值。

核心特性

• 🎯 自动阈值调整：根据标签数量动态调整阈值，防止出现空预测
• 📊 Sigmoid 激活函数：采用正确的多标签架构，并使用 BCE 损失而非 softmax
• ⚙️ 可配置限制：设置每条输入的最小和最大预测数量
• 📈 标签特异性阈值：根据标签频率自动调整阈值
• 🔄 增量学习：无需从头训练即可添加新标签和示例

使用方法

from adaptive_classifier import MultiLabelAdaptiveClassifier

# 初始化并配置
classifier = MultiLabelAdaptiveClassifier(
    "distilbert/distilbert-base-cased",
    default_threshold=0.5,
    min_predictions=1,
    max_predictions=5
)

# 多标签训练数据
texts = [
    "快讯：科学家发现人工智能可帮助预测气候变化模式",
    "科技巨头宣布在医疗健康领域的量子计算取得突破",
    "奥委会采用新型体育技术提升运动员表现"
]

labels = [
    ["科学", "技术", "气候", "新闻"],
    ["技术", "医疗", "量子", "商业"],
    ["体育", "技术", "表现", "新闻"]
]

# 训练分类器
classifier.add_examples(texts, labels)

# 进行预测
predictions = classifier.predict_multilabel(
    "一家科技初创公司推出革命性医疗人工智能系统"
)

# 结果：[('技术', 0.85), ('医疗', 0.72), ('商业', 0.45)]

自适应阈值

分类器会根据标签数量自动调整预测阈值：

标签数量	阈值	优势
2–4 个标签	0.5（默认）	标准精度
5–9 个标签	0.4（降低 20%）	平衡召回率
10–19 个标签	0.3（降低 40%）	更好的覆盖范围
20–29 个标签	0.2（降低 60%）	防止空结果
30 个及以上标签	0.1（降低 80%）	确保有预测结果

这解决了在多标签场景中常见的“没有标签达到阈值标准”的问题。

---

🏢 企业级应用场景

🔍 幻觉检测

检测大型语言模型生成的信息是否超出给定上下文支持范围（F1 分数 51.54%，召回率 80.68%）：

detector = AdaptiveClassifier.from_pretrained("adaptive-classifier/llm-hallucination-detector")
context = "法国位于西欧。首都：巴黎。人口约 6700 万。"
response = "巴黎是首都。人口为 7000 万。"  # 包含幻觉信息

prediction = detector.predict(f"上下文：{context}\n回答：{response}")
# 返回：[('HALLUCINATED', 0.72), ('NOT_HALLUCINATED', 0.28)]

🚦 智能 LLM 路由

通过将查询路由到合适的模型层级来优化成本（节省 32.40% 的成本）：

router = AdaptiveClassifier.from_pretrained("adaptive-classifier/llm-router")
query = "编写一个计算斐波那契数列的函数"

predictions = router.predict(query)
# 返回：[('HIGH', 0.92), ('LOW', 0.08)]
# 复杂任务路由至 GPT-4，简单任务路由至 GPT-3.5

⚙️ 配置优化

自动预测不同查询类型的最优 LLM 设置（温度、top_p）：

config_optimizer = AdaptiveClassifier.from_pretrained("adaptive-classifier/llm-config-optimizer")
query = "解释量子物理概念"

predictions = config_optimizer.predict(query)
# 返回：[('BALANCED', 0.85), ('CREATIVE', 0.10), ...]
# 自动建议平衡响应的温度范围：0.6–1.0

🛡️ 内容审核

部署适用于各类审核任务的企业级分类器：

# 可用的预训练企业级分类器：
classifiers = [
    "adaptive-classifier/content-moderation",      # 内容安全
    "adaptive-classifier/business-sentiment",      # 商务沟通
    "adaptive-classifier/pii-detection",           # 隐私保护
    "adaptive-classifier/fraud-detection",         # 金融安全
    "adaptive-classifier/email-priority",          # 邮件路由
    "adaptive-classifier/compliance-classification" # 法规遵从
]

# 轻松部署
moderator = AdaptiveClassifier.from_pretrained("adaptive-classifier/content-moderation")
result = moderator.predict("用户生成的内容在此...")

💡 小贴士：所有企业级模型都支持持续自适应——添加您领域的特定示例，以随时间不断提升性能。

---

架构概览

自适应分类器将四个关键组件整合到统一的架构中：

1. Transformer 嵌入：使用最先进的语言模型进行文本表示
2. 原型记忆：维护类别原型，以便快速适应新示例
3. 自适应神经层：通过持续训练学习精细化的决策边界
4. 战略分类：利用博弈论原理防御对抗性操纵。启用战略模式后，系统会：
   • 对试图操纵分类器的用户行为建模
   • 使用代价函数表示操纵不同特征的难度
   • 将常规预测与战略感知预测相结合，以提高鲁棒性
   • 提供多种预测模式：双重（混合）、战略（模拟操纵）和稳健（抗操纵）

为什么选择自适应分类？

传统分类方法在应对不断变化的需求和对抗性环境时存在显著局限性：

自适应分类器通过以下方式克服这些局限性：

• 动态添加类别，无需完全重新训练
• 战略鲁棒性，抵御对抗性操纵
• 内存高效的原型存储，结合 FAISS 优化
• 零停机更新，适用于生产系统
• 博弈论防御机制

持续学习流程

系统通过不同的阶段逐步演进，每个阶段都在前一阶段的基础上构建知识，且不会发生灾难性遗忘：

学习过程包括：

• 初始训练：基于基础类别进行初始化
• 动态添加：无缝添加新类别
• 持续学习：借助 EWC 保护机制细化决策边界
• 战略增强：提升对操纵的鲁棒性
• 生产部署：具备完整功能并持续自适应

在线学习中的顺序依赖性

在使用自适应分类器进行真正的在线学习（逐步添加示例）时，请注意，示例添加的顺序可能会影响预测结果。这是增量式神经网络训练固有的特性。

挑战

# 这两种场景可能会产生略有不同的模型：

# 场景 1
classifier.add_examples(["鱼的例子"], ["水生"])
classifier.add_examples(["鸟的例子"], ["空中"])

# 场景 2  
classifier.add_examples(["鸟的例子"], ["空中"])
classifier.add_examples(["鱼的例子"], ["水生"])

尽管我们已经实现了排序后的标签 ID 分配以尽量减少这种影响，但神经网络组件仍然会以增量方式学习，这可能导致与顺序相关的行为。

解决方案：仅基于原型的预测

对于需要严格顺序无关性的应用，您可以将分类器配置为仅依赖于基于原型的预测：

# 配置为仅使用原型（顺序无关）
config = {
    'prototype_weight': 1.0,  # 仅使用原型
    'neural_weight': 0.0      # 禁用神经网络的贡献
}

classifier = AdaptiveClassifier("bert-base-uncased", config=config)

采用此配置后：

• 预测仅基于与类原型（平均嵌入）的相似性
• 结果完全与顺序无关
• 缺点是准确率可能会略低于混合方法

最佳实践

1. 追求最大一致性：使用仅基于原型的配置
2. 追求最大准确率：接受默认混合方法带来的一定顺序依赖性
3. 用于生产系统：如果需要严格的顺序一致性，可以考虑分批更新并定期重新训练
4. 模型选择很重要：某些模型（例如 google-bert/bert-large-cased）可能对单个词生成较差的嵌入。为了在短文本输入上获得更好的效果，建议考虑：
   • bert-base-uncased
   • sentence-transformers/all-MiniLM-L6-v2
   • 或任何专门针对语义相似度训练的模型

---

🔗 相关项目

• OpenEvolve - 开源进化编码智能体，用于算法发现
• OptiLLM - 使用 20 多种技术优化推理代理，可提升 2–10 倍的准确率

🤝 社区与贡献

• 🐛 问题与错误报告：GitHub Issues
• 💬 讨论：GitHub Discussions
• 📖 文档：API 参考
• 🛠️ 贡献：CONTRIBUTING.md

📚 参考文献

• 战略分类
• RouteLLM：利用偏好数据学习路由 LLM
• Transformer^2：自适应 LLM
• Lamini 分类器智能体工具包
• Protoformer：面向 Transformer 的嵌入原型
• 克服神经网络中的灾难性遗忘
• RAGTruth：用于开发可信检索增强型语言模型的幻觉语料库
• LettuceDetect：用于 RAG 应用的幻觉检测框架

📜 引用

如果您在研究中使用本库，请引用以下内容：

@software{adaptive-classifier,
  title = {Adaptive Classifier：具有持续学习能力的动态文本分类},
  author = {Asankhaya Sharma},
  year = {2025},
  publisher = {GitHub},
  url = {https://github.com/codelion/adaptive-classifier}
}

---

Adaptive Classifier 快速上手指南

Adaptive Classifier 是一个基于 PyTorch 的机器学习库，专为文本分类设计。它支持持续学习、动态添加新类别以及对抗性输入的防御策略，并内置 ONNX Runtime 以实现更快的 CPU 推理速度。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux, macOS, 或 Windows
• Python 版本: 3.8 或更高版本
• 前置依赖:
  • pip (包管理工具)
  • git (用于克隆仓库，可选)
• 硬件建议:
  • CPU: 支持 AVX2 指令集以获得最佳 ONNX 性能
  • GPU: 可选，若需加速训练或推理，请确保已安装对应的 CUDA 驱动和 PyTorch GPU 版本

国内加速提示: 推荐使用清华或阿里镜像源加速 Python 包下载。

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple <package_name>

安装步骤

方式一：快速安装（推荐）

通过 pip 直接安装，默认包含 ONNX Runtime 支持，可实现 2-4 倍的 CPU 推理加速。

pip install adaptive-classifier

国内用户加速安装命令：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple adaptive-classifier

方式二：开发模式安装

如果您需要修改源码或贡献代码，请克隆仓库并进行开发安装：

# 克隆仓库
git clone https://github.com/codelion/adaptive-classifier.git
cd adaptive-classifier

# 开发模式安装
pip install -e .

# (可选) 安装测试依赖
pip install pytest pytest-cov pytest-randomly

基本使用

只需三步即可在 30 秒内完成自适应分类器的初始化和预测。

1. 初始化与训练

导入库，选择任意 HuggingFace 模型进行初始化，并添加训练样本。

from adaptive_classifier import AdaptiveClassifier

# 🎯 步骤 1: 初始化 (支持任意 HuggingFace 模型)
classifier = AdaptiveClassifier("bert-base-uncased")

# 📝 步骤 2: 添加训练样本
texts = ["The product works great!", "Terrible experience", "Neutral about this purchase"]
labels = ["positive", "negative", "neutral"]
classifier.add_examples(texts, labels)

2. 执行预测

直接对文本进行预测，系统将返回带有置信度的标签列表。

# 🔮 步骤 3: 进行预测
predictions = classifier.predict("This is amazing!")
print(predictions)  
# 输出示例: [('positive', 0.85), ('neutral', 0.12), ('negative', 0.03)]

3. 多标签分类（可选）

如果需要将文本同时归类到多个类别，可以使用 MultiLabelAdaptiveClassifier。

from adaptive_classifier import MultiLabelAdaptiveClassifier

# 初始化多标签分类器
classifier = MultiLabelAdaptiveClassifier(
    "bert-base-uncased",
    min_predictions=1,    # 确保至少返回 1 个标签
    max_predictions=5     # 限制最多返回 5 个标签
)

# 添加多标签训练数据
texts = ["AI researchers study climate change using machine learning"]
labels = [["technology", "science", "climate", "ai"]]

classifier.add_examples(texts, labels)

# 执行多标签预测
predictions = classifier.predict_multilabel("Medical AI breakthrough announced")
# 输出示例: [('healthcare', 0.72), ('technology', 0.68), ('ai', 0.45)]

4. 模型保存与加载

支持本地保存或直接推送到 HuggingFace Hub。

# 保存到本地
classifier.save("./my_classifier")

# 从本地加载
loaded_classifier = AdaptiveClassifier.load("./my_classifier")

# 推送到 HuggingFace Hub
# classifier.push_to_hub("your-username/my-model")

注意: 默认情况下，保存的模型会自动包含量化版和未量化版的 ONNX 模型。在 CPU 上加载时，会自动使用量化版以获得最快推理速度（约 4 倍于原始 PyTorch CPU 速度）。