关注前沿科技 量子位生命科学领域的基础大模型来了！来自清华、百图生科的团队提出的单细胞基础大模型scFoundation，登上Nature Methods。该模型基于5000万人类单细胞测序的数据进行训练，拥有1亿参数，能够同时处理约20000个基因。团队在模型架构上进行了创新，相同参数量下计算时间是传统Transformer架构的3%左右。相...

关注前沿科技 量子位大模型应用开卷，连一向保守的苹果，都已释放出发展端侧大模型的信号。问题是，大语言模型（LLM）卓越的表现取决于“力大砖飞”，如何在资源有限的环境中部署大模型并保障性能，仍然颇具挑战。以对大模型进行量化+LoRA的路线为例，有研究表明，现有方法会导致量化的LLM严重退化，甚至无法从LoRA微调中...

作为百度智能云推出的产业级AI原生应用开发平台，AppBuilder致力于打通大模型到业务的最后一公里。短短推出半年以后，AppBuilder公布了成绩单：

关注前沿科技 量子位奇绩创坛的路演日舞台上，第一次出现了模型产品首发——Sora级视频生成大模型YiSu-Beta，原生时长可达16s，宣称其懂物理物理世界，且端侧可用。来自清华系AI创业公司极佳科技。大模型时代，陆奇看好的创业者们，起调是越来越高了。在春季奇绩创坛路演日上，53个项目轮番上演，涉及具身智能、机器人、多...

关注前沿科技 量子位OpenAI研究如何破解GPT-4思维，公开超级对齐团队工作，Ilya Sutskever也在作者名单之列。该研究提出了改进大规模训练稀疏自编码器的方法，并成功将GPT-4的内部表征解构为1600万个可理解的特征。由此，复杂语言模型的内部工作变得更加可理解。其实，早在6个月前，研究就已经开始进行了：OpenAI将其公...

量子位以下文章来源于百奥几何BioGeometry ，作者百奥几何[百奥几何BioGeometry .北京百奥几何生物科技有限公司](#)AlphaFold3引起的浪潮下，一个新的抗体设计生成式AI大模型浮出水面。名为GeoFlow，能够同时用于抗原-抗体复合物结构预测和抗体从头设计。例如，给定抗原结构和特定表位，GeoFlow能够生成全新的抗体分子：...

关注前沿科技 量子位大模型风靡全球，有人和AI助手搭伙工作，还有人AI智能体谈起赛博恋爱。最前沿的GPT-4o模型，甚至做到同时能听、能看、能说……一个人工智能学科诞生之初就争论不休的问题，又被抬到水面：机器究竟能思考吗？知名学者斯坦福李飞飞最近就此发声：不，大模型不具备知觉，参数再多也不行。图灵奖三巨头之一...

关注前沿科技 量子位AI太火了！眼睛一睁一闭，一大堆新鲜出炉的前沿科技进展已经塞满未读列表。于是，今年的量子位，比以往更加缺人。这不到金三银四了，是时候拿出喇叭大喊一声：量子位招！人！啦！量子位编辑智能车编辑汽车视频工作室主理人量子位短视频主编量子位视频后期量子位商务经理智库分析师知乎微博新媒体运营...

它采用了Sora相似的技术路线，结合多项自研技术创新，生成的视频不仅运动幅度大且合理，还能模拟物理世界特性，具备强大的概念组合能力和想象力。

原创 关注前沿科技 量子位终于，AI大神李沐回来了！带着他的大模型创业最新成果——一个专门为复杂场景角色扮演设计的大模型，名为Higgs-Llama-3-70B。得知消息的不少网友已激动在评论区催更，李沐老师也回应，视频坑还是会填的：想你的365天。终于回来了，视频都盘包浆了。那沐神到底干啥去了？这就透过Higgs-Llama-3-70B...

量子位Stability AI前CEO的新公司，终于浮出水面：Schelling AI，就如他当初辞职跑路时所说，致力于“去中心化人工智能系统”。△图源：𝕏@irfan3这一消息，由Emad Mostaque本人在最新一次公开亮相中现场宣布。官网域名schelling.ai目前会跳转到官方𝕏，而官方𝕏还是空号。‍只关注了一个账号，是……索尼？？总之很神秘。目前仅...

关注前沿科技 量子位AI算力资源越发紧张的当下，斯坦福新研究将GPU运行效率再提升一波——内核只有100行代码，让H100比使用FlashAttention-2，性能还要提升30%。怎么做到的？研究人员从“硬件实际需要什么？如何满足这些需求？”这两个问题出发，设计了 一个嵌入式CUDA DSL工具，名为ThunderKittens（暂且译为雷猫）。雷猫可...

关注前沿科技 量子位AI太火了！眼睛一睁一闭，一大堆新鲜出炉的前沿科技进展已经塞满未读列表。于是，今年的量子位，比以往更加缺人。这不到金三银四了，是时候拿出喇叭大喊一声：量子位招！人！啦！量子位编辑智能车编辑汽车视频工作室主理人量子位短视频主编量子位视频后期量子位商务经理智库分析师知乎微博新媒体运营...

原创 关注前沿科技 量子位一个年仅9岁的男孩，利用AI智能体，竟然出版了一本书！他叫许萌萌，是来自北京市第二实验小学的一名三年级学生。萌萌与AI智能体共创的书叫做《AI少年——火星生存大挑战》，是一本科普小说，讲述了发生在火星上的“密室逃脱”的故事。而他所选用的AI，正是来自智谱AI的智谱清言。至于这本书具体是如...

关注前沿科技 量子位英特尔为了AI，再次做出重大架构变革：像手机一样搞起SoC（系统级芯片），你的下一台笔记本不会再有独立内存条。英特尔称，这将使数据系统传输功耗降低约40%，笔记本续航有保障了。相比Meteor Lake（去年推出的酷睿Ultra处理器）也可节省250mm面积：而针对内存需求高的用户，今年晚些时候会推出一个...

量子位北航的研究团队，用扩散模型“复刻”了一个地球？在全球的任意位置，模型都能生成多种分辨率的遥感图像，创造出丰富多样的“平行场景”。而且地形、气候、植被等复杂的地理特征，也全都考虑到了。受Google Earth启发，北航的研究团队从俯拍视角出发，将整颗地球的卫星遥感影像“装进”了深度神经网络。基于这样的网络，...

关注前沿科技 量子位循环调用CLIP，无需额外训练就有效分割无数概念。包括电影动漫人物，地标，品牌，和普通类别在内的任意短语。牛津大学与谷歌研究院联合团队的这项新成果，已被CVPR 2024接收，并开源了代码。团队提出名为CLIP as RNN（简称CaR）的新技术，解决了开放词汇量图像分割领域中的几个关键问题：无需训练数...

关注前沿科技 量子位AI太火了！眼睛一睁一闭，一大堆新鲜出炉的前沿科技进展已经塞满未读列表。于是，今年的量子位，比以往更加缺人。这不到金三银四了，是时候拿出喇叭大喊一声：量子位招！人！啦！量子位编辑智能车编辑汽车视频工作室主理人量子位短视频主编量子位视频后期量子位商务经理智库分析师知乎微博新媒体运营...

量子位爆火的斯坦福小镇，曾为我们描绘出了AI Agent实现复杂工作流的美好前景：AI Agent在无需人类操控的情况下，能够按照基本设定，自发完成任务。距离小镇首次亮相，已经过去了1年多的时间，现在AI Agent已经可以将多智能体合作落地到应用了吗？对于AI Agent的落地现状，我们关心的问题是，实际企业需要的AI Agent是什...

关注前沿科技 量子位Transformer挑战者、新架构Mamba，刚刚更新了第二代：Mamba-2，状态空间扩大8倍，训练速度提高50%！更重要的是，团队研究发现原来Transformer和状态空间模型（SSM）竟然是近亲？？‍两大主流序列建模架构，在此统一了。没错，这篇论文的提出的重磅发现：Transformer中的注意力机制与SSM存在着非常紧密...

关注前沿科技 量子位超越Devin！SWEBench排行榜上迎来了新玩家——StarShip CodeGen Agent，姚班带队初创公司OpenCSG出品，以23.67%的成绩获得全球第二名的成绩。同时创造了非GPT-4o基模的最高纪录（SOTA）。我们都知道，SWEBench评测高度贴近真实编程场景，难度极高，不仅要求模型能理解需求、协调多个函数/类甚至文件的...

关注前沿科技 量子位无情戳穿“长上下文”大模型的虚标现象——英伟达新研究发现，包括GPT-4在内的10个大模型，生成达到128k甚至1M上下文长度的都有。但一番考验下来，在新指标“有效上下文”上缩水严重，能达到32K的都不多。新基准名为RULER，包含检索、多跳追踪、聚合、问答四大类共13项任务。RULER定义了“有效上下文长度”，...

ICML 2024高分论文，彩云科技团队构建DCFormer框架，替换Transformer核心组件多头注意力模块（MHA），提出可动态组合的多头注意力（DCMHA）。

关注前沿科技 量子位除了OpenAI自己，居然还有别人能用上GPT-4-Base版？？也就是未经微调的预训练版，还不会对话聊天，只会补全句子的模型。EPFL（瑞士洛桑联邦理工）团队申请到了访问权限，用于研究“上下文学习足以让大模型跟随指令吗？”。也就是不用监督微调、也不用RHLF或其他强化学习对齐方法，只靠提示词能走多远？...

关注前沿科技 量子位AI太火了！眼睛一睁一闭，一大堆新鲜出炉的前沿科技进展已经塞满未读列表。于是，今年的量子位，比以往更加缺人。这不到金三银四了，是时候拿出喇叭大喊一声：量子位招！人！啦！量子位编辑智能车编辑汽车视频工作室主理人量子位短视频主编量子位视频后期量子位商务经理智库分析师知乎微博新媒体运营...

刚刚，中国台湾大学体育场，欢呼阵阵如同演唱会，但这次“摇滚巨星”，其实是英伟达创始人黄仁勋，再次回到学校，带来Computex重磅演讲，以及英伟达的新一代GPU。

原创 关注前沿科技 量子位首个“脑PU”来了！由“16核”类人脑器官（human brain organoids）组成。这项研究来自瑞士生物计算创业公司FinalSpark，并且他们宣称：这种生物处理器（bioprocessor）的功耗比传统数字处理器低100万倍。这些类脑器官是“活的”，已经做到能在系统中存活100天。基于生物处理器，他们还开发了类似云计...

关注前沿科技 量子位多模态，已经成为大模型最重要的发展方向之一。从GPT-4V到GPT-4o，多模态大模型在多模态感知与理解方面的进展，正在不断惊艳世界。然而，利用多模态大模型来应对自动驾驶中复杂场景，特别是罕见但关键的难例场景，仍然是一个未解的难题。围绕这一挑战，现在，一场由大连理工大学、香港科技大学、香港...

关注前沿科技 量子位只要一台“手机”，普通用户也能随时随地拍摄出AR大片了。这个看似手机的设备，就是AR独角兽XREAL最新推出的空间计算终端Beam Pro。不同于传统的3D拍摄，用它拍AR视频，不用后期处理，立马就能看，效果是这样婶儿的：而且还能把2D应用迁移到三维空间，甚至把像Xbox、PS5这样的游戏主机，也串流到AR世界...

关注前沿科技 量子位AI太火了！眼睛一睁一闭，一大堆新鲜出炉的前沿科技进展已经塞满未读列表。于是，今年的量子位，比以往更加缺人。这不到金三银四了，是时候拿出喇叭大喊一声：量子位招！人！啦！量子位编辑智能车编辑汽车视频工作室主理人量子位短视频主编量子位视频后期量子位商务经理智库分析师知乎微博新媒体运营...