Hugging Face 推出 SmolTools

Hugging Face 最近推出了 SmolTools，这是一套基于新发布的 SmolLM2 模型（1.7B 参数）构建的应用程序。SmolTools 提供了文本摘要、重写和任务自动化等工具，旨在为更广泛的用户提供高效的 AI 功能。

SmolTools 的主要应用

1. SmolSummarizer
   支持快速摘要长达 20 页的文本，保留关键信息，并支持后续提问以深入理解内容。
2. SmolRewriter
   优化初稿，使其听起来更专业且易于理解，同时保留原始意图，适合电子邮件和消息处理需求。
3. SmolAgent
   作为集成工具的 AI 代理，能够执行随机数生成或时间检查等任务。其可扩展的工具系统允许用户根据需要添加新功能。

安装步骤

1. 克隆仓库：

   git clone https://github.com/huggingface/smollm.git  
   cd smollm/smol_tools

2. 安装依赖：

   uv venv --python 3.11  
   source .venv/bin/activate  
   uv pip install -r requirements.txt

SmolLM2 的优化与扩展

SmolTools 基于 SmolLM2 的变体，包括更轻量级的模型（360M 和 135M），适用于资源有限的设备。这一发展为小型企业、开发者和边缘设备带来了 AI 功能。

业界评价

Drasko Draskovic 指出，SmolTools 对小型企业、个人开发者以及智能手机等边缘设备具有革命性意义。它使复杂的摘要和重写任务能够在设备上直接运行，为用户提供了高效、实用的 AI 工具。Hugging Face 通过此类创新，不仅在开发技术，还在推动 AI 的民主化，证明效率与可访问性与性能同等重要。

Gaurav Dhiman 强调，工具调用和结构化输出功能对于构建高级工作流和代理 AI 应用至关重要。没有这些功能，构建严肃的 AI 应用几乎是不可能的。

Andrés Marafioti 确认 SmolTools 支持这些功能，并提供了相关代码示例。

总结

SmolTools 提供了一套实用且易于访问的工具，简化了设备上的文本处理任务，具有广泛的应用潜力。通过支持工具调用和结构化输出，SmolTools 为构建高级 AI 应用奠定了基础。