大数据框架原理简介

2020-12-29
阅读 6 分钟
7.4k
针对上篇文章遗留问题联邦学习之一几亿级别的数据量架构如何设计且如何实现要解决这个问题 那么咱首先要会大数据处理框架的相关内容这篇文章咱们走进大数据处理的世界首先咱们要理解大数据相关的概念和原理 才能很好的使用这些组件和设计大数据处理架构flume sqoop 数据仓库 ETL ODS Data Mart OLTP OLAP 数据集市咱一一...

联邦学习之一

2020-12-27
阅读 6 分钟
3.6k
联邦学习的概念 {代码...} 联邦学习的意义 {代码...} 联邦学习的分类企业的数据孤岛或者 联邦学习的应用场景视觉横向联邦学习系统 {代码...} 自然语言处理横向联邦学习系统-未登录词(OOV)生成问题 {代码...} 联邦车险定价学习系统联邦学习产品业务实现流程提前声明:该文章介绍的是目前联邦学习行业比较通用的实现方式...

面试宝典:数据结构-HashSet

2020-08-03
阅读 2 分钟
1.3k
Java集合类关系图整理图1图2“脱掉HashSet的外衣“构造函数默认构造器将传入的集合添加到HashSet的构造器`public HashSet() {         map = new HashMap<>();     } `将传入的集合添加到HashSet的构造器`public HashSet(Collection<? extends E> c) {         map = new HashMap<>(Math.max((int) (c.s...

安装虚拟机Centos系统并安装Docker过程记录

2020-07-31
阅读 7 分钟
2.2k
前言本文主要介绍下1、Mac系统安装虚拟机Centos72、Centos安装docker、docker-compose的过程缘何说起这个话题,是因为之前一篇文章 遗留的问题轻量级日志系统Loki原理简介和使用问题是:loki如何收集k8s的pod日志的问题那篇文章介绍了4种方式第一种方式 我在mac电脑上始终达不到预期的效果即a、通过promtail访问指定路径...

百度区块链所遇到的问题及处理汇总

2020-07-30
阅读 5 分钟
1.8k
前言这篇文章说下使用百度链可能遇到的问题及解决办法创世节点账户余额最大值cat data/config/xuper.json 我随便写了一个值 239位然后查询下余额可以查到所以就认为没有最大值吧 设置为多少就是多少喽若要知道精确的 需要看下源码转账金额大小有限制吗./xchain-cli transfer --to XC1111111111111111@xuper --amount 200...

轻量级日志系统Loki原理简介和使用

2020-07-26
阅读 7 分钟
12.3k
前言 这篇文章应朋友的要求,让写一篇loki日志系统,咱定义不容辞 一定要好好写 开干! 现实中的需求 公司的容器云运行的应用或某一个节点出现了问题,解决的思路 问题首先被prometheus监控 1、metric是来说明当前或者历史达到了某个值 2、alert设置metric达到某个特定的基数触发了告警 仅仅这些日志是不能够解决问题的 ...

百度超级链Xuper关于金额相关问题

2020-07-23
阅读 6 分钟
1.9k
前言 这篇文章咱聊聊百度链手续费问题 关于百度链往期文章汇总 在百度超级链Xuper上部署智能合约并实现存证功能 对百度超级链Xuper使用过程中的进一步理解 在Xuper链上部署Java语言智能合约和分析存证合约的实现逻辑 使用百度链的智能合约来落地公司业务场景 以单节点环境运行 以单一变量的方式来研究一个不了解的事物 ...

使用百度链的智能合约来落地公司业务场景

2020-07-17
阅读 6 分钟
2.5k
前言 这篇文章,咱们承接上文,来聊聊 上篇文章的飞机票 在Xuper链上部署Java语言智能合约和分析存证合约的实现逻辑 “如何根据自己公司的业务逻辑定义存证合约里面的数据结构来实现存证智能合约” 首先需要明确下公司存证业务需要上链的数据结构 `{"data":"", #这里是一个动态的json字符串"businessId":"", #业务id"fileH...

在Xuper链上部署Java语言智能合约和分析存证合约的实现逻辑

2020-07-15
阅读 5 分钟
2k
这篇文章咱们先简单的叙述下官方刚发布的最新版本中的native部署java语言编写的智能合约的过程然后再说下存证合约的代码实现逻辑,下一篇文章咱们说下如何根据自己公司的业务逻辑定义合约里面的数据结构来实现智能合约

对百度超级链Xuper使用过程中的进一步理解

2020-07-13
阅读 3 分钟
1.7k
之前写过一篇文章,在百度超级链Xuper上部署智能合约并实现存证功能 这里叙述了 搭建3个节点 将节点1作为出块节点,这篇文章 咱们配置下将 节点1和节点2作为出块节点,节点3作为同步节点 如何配置以及需要注意的几点,以免读者在操作实践的时候入坑或者由于理解不透彻导致耽误很多时间.

基于docker容器下mongodb 4.0.0 的Replica Sets+Sharded Cluster集群

2020-07-09
阅读 7 分钟
2.3k
目标 `使用三台物理机做数据库集群任意一台宕机之后不会影响线上的业务运转 不会有任何的数据丢失` 方案 `采用的是Replica Sets+Sharded Cluster的集群具有高可用,故障转移,分布式存储等特性` `依上图所示我们此次集群配置如下: 三台物理机,每台物理机拥有完整的分片集群配置,都可独立运行 配置服务器:使用使用3个...

Mongodb存储特性与内部原理

2020-07-08
阅读 5 分钟
2.3k
`本文重点叙述下mongodb存储特性和内部原理,下一篇文章咱们一起来搭建下Replica Sets+Sharded Cluster的集群`

整理各个平台的访问入口及快速推文的方法

2020-07-07
阅读 2 分钟
2.3k
`为了符合大家对于不同平台的使用习惯,我写完一篇文章之后,都会同步发布到不同的平台:微信公众号、知乎、掘金、CSDN、简书、头条、思否为了方便大家找到,我把每个平台的访问入口整理成了各种个样的二维码,大家只需要扫下二维码就可以阅读了(文末附带文章快速同步和二维码制作的方法,有需要的朋友们可以参考下)`

Redis命令性能优化及事务使用过程

2020-07-07
阅读 5 分钟
3.1k
`假设有这样一个使用场景,依次执行下面的5条命令 命令1:hset mall:sale:freq:ctrl:860000000000001 599055114591 1(hash结构,field表示购买的商品ID,value表示购买次数) 简单说明: mall:sale:freq:ctrl:860000000000001是一个hash表;599055114591表示key;1表示key对应的value 命令2:hset mall:sale:freq:ctrl:86...

在百度超级链Xuper上部署智能合约并实现存证功能

2020-07-05
阅读 7 分钟
1.9k
`几个摄影师朋友找到你, 他们的摄影作品上传到自己的blog后总是被其他人盗用, 使用水印之类的方法也无法避免像截取部分这种情况, 他们需要一个能证明摄影作品最早是由 自己上传、而且具有法律效力可供自己进行维权的工具

Jenkins环境搭建和部署项目的过程

2020-07-01
阅读 6 分钟
5.1k
docker run -d -p 8080:8080 -p 50000:50000 --name jenkins --privileged=true -v /Users/mengfanxiao/docker/jenkins:/var/jenkins_home jenkins/jenkins

Semaphore 原理简介和使用

2020-06-28
阅读 4 分钟
4.1k
`在多线程环境下用于协调各个线程, 以保证它们能够正确、合理的使用公共资源 信号量维护了一个许可集,我们在初始化Semaphore时需要为这个许可集传入一个数量值, 该数量值代表同一时间能访问共享资源的线程数量。 线程可以通过acquire()方法获取到一个许可,然后对共享资源进行操作, 如果许可集已分配完了,那么线程将...

AQS原理简介

2020-06-19
阅读 4 分钟
2.8k
原名 AbstractQueuedSynchronizer 即队列同步器 是构建锁和其他同步组件的基础框架(如ReentrantLock、ReentrantReadWriteLock、Semaphore、CountDownLatch)

可重复锁ReentrantLock原理分析

2020-06-18
阅读 4 分钟
2k
可重入锁ReentrantLock实现层面依赖 一、CAS(compareAndSet) LockSupport 基本的方法 park `park使得当前线程放弃cpu 进入等待(waiting)状态 操作系统不会再对其进行调度 直到其他线程对它调用了unpark方法,其中unpark方法使得参数指定的线程恢复可运行状态 ` [1] part和Thread.yield()区别 yield 只是告诉操作系统可...