SF
deephub
deephub
注册登录
关注博客
注册登录
主页
关于
RSS
4个将Pandas换为交互式表格Python包
deephub
2023-08-07
阅读 2 分钟
561
Pandas是我们日常处理表格数据最常用的包,但是对于数据分析来说,Pandas的DataFrame还不够直观,所以今天我们将介绍4个Python包,可以将Pandas的DataFrame转换交互式表格,让我们可以直接在上面进行数据分析的操作。
Pandas 的Merge函数详解
deephub
2023-08-06
阅读 10 分钟
1.3k
在日常工作中,我们可能会从多个数据集中获取数据,并且希望合并两个或多个不同的数据集。这时就可以使用Pandas包中的Merge函数。在本文中,我们将介绍用于合并数据的三个函数
在消费级GPU调试LLM的三种方法:梯度检查点,LoRA和量化
deephub
2023-08-05
阅读 8 分钟
729
LLM的问题就是权重参数太大,无法在我们本地消费级GPU上进行调试,所以我们将介绍3种在训练过程中减少内存消耗,节省大量时间的方法:梯度检查点,LoRA和量化。
使用 CausalPy 进行因果推理
deephub
2023-08-04
阅读 3 分钟
868
这篇文章通过一个实际的例子简要介绍了因果推理,这个例子来自于《The Brave and True》一书,我们使用 CausalPy 来实现。
TabR:检索增强能否让深度学习在表格数据上超过梯度增强模型?
deephub
2023-08-03
阅读 4 分钟
447
这是一篇7月新发布的论文,他提出了使用自然语言处理的检索增强Retrieval Augmented技术,目的是让深度学习在表格数据上超过梯度增强模型。
10个简单但很有用的Python装饰器
deephub
2023-08-02
阅读 5 分钟
356
装饰器(Decorators)是Python中一种强大而灵活的功能,用于修改或增强函数或类的行为。装饰器本质上是一个函数,它接受另一个函数或类作为参数,并返回一个新的函数或类。它们通常用于在不修改原始代码的情况下添加额外的功能或功能。
SDXL 1.0 介绍和优缺点总结
deephub
2023-07-31
阅读 3 分钟
1.4k
sdxml -base-1.0:生成1024 x 1024图像的基本文本到图像模型。基本模型使用OpenCLIP-ViT/G和CLIP-ViT/L进行文本编码。
因子分解机介绍和PyTorch代码实现
deephub
2023-07-30
阅读 12 分钟
701
因子分解机(Factorization Machines,简称FM)是一种用于解决推荐系统、回归和分类等机器学习任务的模型。它由Steffen Rendle于2010年提出,是一种基于线性模型的扩展方法,能够有效地处理高维稀疏数据,并且在处理特征组合时表现出色。它是推荐系统的经典模型之一,并且模型简单、可解释性强,所以搜索广告与推荐算法...
Meta-Transformer 多模态学习的统一框架
deephub
2023-07-29
阅读 3 分钟
778
Meta-Transformer是一个用于多模态学习的新框架,用来处理和关联来自多种模态的信息,如自然语言、图像、点云、音频、视频、时间序列和表格数据,虽然各种数据之间存在固有的差距,但是Meta-Transformer利用冻结编码器从共享标记空间的输入数据中提取高级语义特征,不需要配对的多模态训练数据。该框架由统一的数据标记...
图注意力网络论文详解和PyTorch实现
deephub
2023-07-28
阅读 11 分钟
6.8k
图神经网络(gnn)是一类功能强大的神经网络,它对图结构数据进行操作。它们通过从节点的局部邻域聚合信息来学习节点表示(嵌入)。这个概念在图表示学习文献中被称为“消息传递”。
DeepSpeed-MoE:训练更大及更复杂的混合专家网络
deephub
2023-07-27
阅读 4 分钟
941
这是微软发布在2022 ICML的论文,MoE可以降低训练成本,但是快速的MoE模型推理仍然是一个未解决的问题。所以论文提出了一个端到端的MoE训练和推理解决方案DeepSpeed-MoE:它包括新颖的MoE架构设计和模型压缩技术,可将MoE模型大小减少3.7倍;通过高度优化的推理系统,减少了7.3倍的延迟和成本;与同等质量的密集模型相比...
2023年发布的25个开源大型语言模型总结
deephub
2023-07-26
阅读 4 分钟
1.2k
大型语言模型(llm)是一种人工智能(AI),在大量文本和代码数据集上进行训练。它们可以用于各种任务,包括生成文本、翻译语言和编写不同类型的创意内容。
Python 3.11的10个使代码更加高效的新特性
deephub
2023-07-25
阅读 4 分钟
858
性能有巨大的提升是Python 3.11的一个重要的改进,除此以外Python 3.11还有增加了许多新的特性。在本文中我们将介绍Python 3.11新特性,通过代码示例演示这些技巧如何提高生产力并优化代码。
LLM-Blender:大语言模型也可以进行集成学习
deephub
2023-07-24
阅读 2 分钟
464
我们都知道集成学习是一种机器学习方法,旨在提高预测模型的性能和鲁棒性。它通过将多个不同的学习器(如决策树、神经网络等)结合成一个整体,来取得比单个学习器更好的预测效果。比如最常见的Kaggle比赛中就广泛的使用了这种方法。
Stable Diffusion在各种显卡上的加速方式测试,最高可以提速211.2%
deephub
2023-07-23
阅读 3 分钟
1.5k
但是它计算过程复杂,使得它的生成速度较慢。所以研究人员就创造了各种提高其速度的方式,比如Xformers、Aitemplate、TensorRT和onflow。在本文中我们将对这些加速方法进行了一系列对比测试。
使用QLoRa微调Llama 2
deephub
2023-07-22
阅读 4 分钟
810
上篇文章我们介绍了Llama 2的量化和部署,本篇文章将介绍使用PEFT库和QLoRa方法对Llama 27b预训练模型进行微调。我们将使用自定义数据集来构建情感分析模型。只有可以对数据进行微调我们才可以将这种大模型进行符合我们数据集的定制化。
使用Cleanlab、PCA和Procrustes可视化ViT微调
deephub
2023-07-21
阅读 3 分钟
447
与传统的卷积神经网络不同,vit使用最初设计用于自然语言处理任务的Transformers 架构来处理图像。微调这些模型以获得最佳性能可能是一个复杂的过程。
使用GGML和LangChain在CPU上运行量化的llama2
deephub
2023-07-20
阅读 7 分钟
1.2k
Meta AI 在本周二发布了最新一代开源大模型 Llama 2。对比于今年 2 月发布的 Llama 1,训练所用的 token 翻了一倍,已经达到了 2 万亿,对于使用大模型最重要的上下文长度限制,Llama 2 也翻了一倍。
基于Gym Anytrading 的强化学习简单实例
deephub
2023-07-19
阅读 3 分钟
833
近年来强化学习(RL)在算法交易领域受到了极大的关注。强化学习算法从经验中学习并基于奖励优化行动使其非常适合交易机器人。在这篇文章,我们将简单介绍如何使用Gym Anytrading环境和GME (GameStop Corp.)交易数据集构建一个基于强化学习的交易机器人。
时间序列的季节性:3种模式及8种建模方法
deephub
2023-07-18
阅读 9 分钟
1.8k
季节变化可以由各种因素引起,例如天气、日历或经济条件。各种应用程序中都有这样的例子。由于假期和旅游的缘故,夏天的机票更贵。另一个例子是消费者支出,由于因为12月的假期而增加。
在自定义数据集上微调Alpaca和LLaMA
deephub
2023-07-17
阅读 8 分钟
927
本文将介绍使用LoRa在本地机器上微调Alpaca和LLaMA,我们将介绍在特定数据集上对Alpaca LoRa进行微调的整个过程,本文将涵盖数据处理、模型训练和使用流行的自然语言处理库(如Transformers和hugs Face)进行评估。此外还将介绍如何使用grado应用程序部署和测试模型。
使用CatBoost和SHAP进行多分类完整代码示例
deephub
2023-07-16
阅读 9 分钟
1.7k
CatBoost是顶尖的机器学习模型之一。凭借其梯度增强技术以及内置函数,可以在不做太多工作的情况下生成一些非常好的模型。SHAP (SHapley Additive exPlanation)是旨在解释具有独特视觉效果和性能价值的机器学习模型的输出。CatBoost和SHAP结合在一起构成了一个强大的组合,可以产生一些非常准确并且可以进行解释的结果。
使用Dreambooth LoRA微调SDXL 0.9
deephub
2023-07-15
阅读 5 分钟
1.1k
本文将介绍如何通过LoRA对Stable Diffusion XL 0.9进行Dreambooth微调。DreamBooth是一种仅使用几张图像(大约3-5张)来个性化文本到图像模型的方法。
7个有用的Prompt参数
deephub
2023-07-14
阅读 2 分钟
744
ChatGPT和Midjournal使得生成式人工智能的应用程序激增。当涉及到生成式AI时,"prompt"通常指的是作为输入给模型的初始提示或指示。它是一个短语、问题、句子或段落,用来引导模型生成相关的响应或文本。
注意力机制中的掩码详解
deephub
2023-07-13
阅读 3 分钟
1.3k
注意力机制的掩码允许我们发送不同长度的批次数据一次性的发送到transformer中。在代码中是通过将所有序列填充到相同的长度,然后使用“attention_mask”张量来识别哪些令牌是填充的来做到这一点,本文将详细介绍这个掩码的原理和机制。
并行计算框架Polars、Dask的数据处理性能对比
deephub
2023-07-08
阅读 8 分钟
1.8k
在Pandas 2.0发布以后,我们发布过一些评测的文章,这次我们看看,除了Pandas以外,常用的两个都是为了大数据处理的并行数据框架的对比测试。
使用Streamlit和OpenAI API构建视频摘要
deephub
2023-07-07
阅读 4 分钟
627
本文提供了使用Streamlit和OpenAI创建的视频摘要应用程序的概述。该程序为视频的每个片段创建简洁的摘要,并总结视频的完整内容。要运行应用程序,需要安装以下依赖项:Python(3.7或更高版本)StreamlitOpenAI API密钥llama_indexyoutube_transcript_apihtml2imagelangchain搭建环境首先,需要设置我们的开发环境,可以使...
矢量数据库对比和选择指南
deephub
2023-07-06
阅读 5 分钟
1.5k
矢量数据库是为实现高维矢量数据的高效存储、检索和相似性搜索而设计的。使用一种称为嵌入的过程,将向量数据表示为一个连续的、有意义的高维向量。本文将研究存储/检索向量数据和执行相似性搜索的实用方法,在我们深入研究之前,首先先介绍矢量数据库的两个关键功能:1、执行搜索的能力当给定查询向量时,向量数据库可...
WideNet:让网络更宽而不是更深
deephub
2023-07-05
阅读 4 分钟
747
这是新加坡国立大学在2022 aaai发布的一篇论文。WideNet是一种参数有效的框架,它的方向是更宽而不是更深。通过混合专家(MoE)代替前馈网络(FFN),使模型沿宽度缩放。使用单独LN用于转换各种语义表示,而不是共享权重。
LeViT-UNet:transformer 编码器和CNN解码器的有效整合
deephub
2023-07-04
阅读 2 分钟
3.6k
levi - unet[2]是一种新的医学图像分割架构,它使用transformer 作为编码器,这使得它能够更有效地学习远程依赖关系。levi - unet[2]比传统的U-Nets更快,同时仍然实现了最先进的分割性能。
上一页
1
…
More
14
15
16
(current)
17
18
…
More
下一页
上一页
16
(current)
下一页