a16z：小模型 + 边缘 AI 将定义 2025；音效模型 TangoFlux：3 秒钟生成 30 秒音频丨RTE 开发者日报

开发者朋友们大家好：

这里是 「RTE 开发者日报」 ，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE（Real-Time Engagement）领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有看点的会议」，但内容仅代表编辑的个人观点，欢迎大家留言、跟帖、讨论。

本期编辑：@SSN，@鲍勃

01 有话题的新闻

1、微软论文曝光 GPT 机密内容

近日，微软发布的一篇医学相关的论文中，曝光了 OpenAI 旗下模型的参数。

根据论文披露，OpenAI 的 o1-preview 模型约有 300B 参数，GPT-4o 约 200B，而 GPT-4o-mini 仅有 8B 参数。有消息指出，英伟达此前公布的 GPT-4 采用 1.8T MoE 架构，而此次微软公布的为 1.76T。同时，论文还透露了 Claude3.5Sonnet 的参数规模约为 175B。

据了解，这并非微软第一次「泄露」模型参数信息。此前微软曾在一篇论文中披露 GPT-3.5-Turbo 的 20B 参数信息，但随后又在更新版本中删除了这一信息。
此外，此篇论文的主要目的是介绍一个名为 MEDEC 的医疗领域基准测试。研究团队分析了来自三家美国医院的 488 份临床笔记，评估了各大模型在识别和纠正医疗文档错误方面的能力。(@APPSO)

2、Meta AI 推出 LIGER 混合检索 AI 模型，计算效率与推荐精度兼得

Meta AI 公司联合威斯康星大学麦迪逊分校、ELLIS Unit、LIT AI Lab、机器学习研究所、JKU Linz 等机构，混合密集检索和生成检索，推出了 LIGER（LeveragIng dense retrieval for GEnerative Retrieval）模型。

该模型混合了生成检索的计算效率和密集检索的精度，利用生成检索生成候选集、语义 ID 和文本属性的项目表示，再通过密集检索技术进行精练，平衡了效率和准确性。

LIGER 采用双向 Transformer 编码器和生成解码器。密集检索部分整合了项目文本表示、语义 ID 和位置嵌入，并使用余弦相似度损失进行优化。生成部分使用波束搜索根据用户交互历史预测后续项目的语义 ID。

通过这种混合推理过程，LIGER 降低了计算需求，同时保持了推荐质量。LIGER 还能很好地泛化到未见过的项目，解决了先前生成模型的关键限制。

在 Amazon Beauty、Sports、Toys 和 Steam 等基准数据集上的评估显示，LIGER 的性能持续优于 TIGER 和 UniSRec 等现有最先进模型。（@IT 之家）

3、超快音效生成模型 TangoFlux：仅需 3 秒钟就能生成 30 秒长音频

新加坡科技设计大学（SUTD）和NVIDIA联合发布了一种高效的文本到音频生成模型（TTA）——TangoFlux 。

TANGOFLUX 是一种高效的文本到音频生成模型，拥有 515 百万个参数，能够在短短 3.7 秒内生成最长可达 30 秒的 44.1kHz 音频，这一速度让其在单个 A40GPU 上的表现非常出色。

TANGOFLUX 主要是特色是可以生成各种音效，例如鸟叫、口哨、爆炸等声音，另外也支持生成音乐不过效果就不那么理想了。

文本音频生成模型的一个主要挑战在于如何创建偏好配对。与大型语言模型（LLMs）不同，文本音频生成模型缺乏可验证的奖励机制或金标准答案。为了解决这个问题，研究团队提出了一种名为 CLAP-Ranked Preference Optimization（CRPO）的新框架。该框架通过迭代生成和优化偏好数据，以提升文本音频生成模型的对齐性能。研究表明，使用 CRPO 生成的音频偏好数据在性能上优于现有的替代方案。

通过这一框架，TANGOFLUX 在多项客观和主观基准测试中都取得了领先的表现。此外，研究团队还决定将所有代码和模型开源，以支持更多人对文本音频生成的研究。

在实际效果方面，TANGOFLUX 在音频生成质量上优于其他模型，展现出更清晰的事件声音、更好的事件顺序再现以及更高的音频质量。通过对多个示例的比较，用户可以直观地感受到 TANGOFLUX 在音频生成中的优势。（@AIbase 基地）

02 有亮点的产品

1、VocAdapt：一款语言学习工具

VocAdapt 是一款新推出的 Chrome 浏览器扩展，专注于提供创新的语言学习解决方案。它的核心特点是将日常网页浏览和 YouTube 视频观看转化为语言学习机会，通过自动调整内容难度来适应用户的语言水平。

用户无需额外安排学习时间，只需在日常上网时使用这个工具，就能实现自然的语言学习。它特别适合那些想通过真实内容学习语言、时间有限或偏好沉浸式学习方法的人。使用方式简单，安装后选择目标语言，即可开始在日常浏览中学习。(@Z potentials)

2、SEObot：全球首个 AI 驱动的博客 SEO 代理

SEObot 是一款革命性的 AI 驱动博客 SEO 工具，旨在为内容创作者和营销人员提供全面的 SEO 优化和内容生成服务。其核心价值在于通过先进的 AI 技术，实现高质量、非垃圾内容的自动化生成，同时优化 SEO 策略，提高网站的搜索引擎排名。产品的主要功能包括 AI 生成博客内容、自动内部链接、关键词研究、视频嵌入、图片生成、反幻觉机制、事实核查和引用来源等。

SEObot 的独特优势在于其全面性和自动化程度，能够满足从内容创作到 SEO 优化的全流程需求。目标用户主要包括博客作者、内容营销团队和希望提升网站 SEO 表现的企业。通过提供可选的人工审核和与大多数 CMS 系统的自动同步功能，SEObot 大大简化了内容创作和 SEO 优化的工作流程，为用户节省时间和资源，同时确保内容质量和搜索引擎友好性。(@Z potentials)