仰望星空治颈椎

仰望星空治颈椎 查看完整档案

填写现居城市  |  填写毕业院校  |  填写所在公司/组织 www.sevoops.com 编辑
编辑

java php工程师

个人动态

仰望星空治颈椎 关注了标签 · 2019-12-19

架构

架构,是有关软件整体结构与组件的抽象描述,用于指导大型软件系统各个方面的设计。

关注 328

仰望星空治颈椎 评论了文章 · 2019-03-12

机器学习-数据清洗

欢迎大家前往腾讯云+社区,获取更多腾讯海量技术实践干货哦~

本文由brzhang发表

数据清洗

首先,为何需要对数据进行清洗

数据清洗的工作绝壁是非常枯燥的,做数据研究的的人绝对无法避开这个环节,其根本原因是因为我们从各种渠道拿到的数据可能会出现:

1、不合理的数据,你比如,样本中有些人的年龄超过了120岁,楼层的高度达到了1000层,以及其他的一些非常不合理的场景。

2、错误的类型,你比如,样例中,几乎所有的数据都是整形,然而,有一些是字符串类型,如果不进行处理,将这些数据直接喂给算法,一般情况下是要崩溃的。

3、计算机对于处理字符串类型比较吃力,有时候,需要我们将他转化为数字类型,这样就设计到一个映射关系,比如,样例性别,【男,女】,我们可以转化为1,2,房屋的类型【单间,一房一厅,二房一厅,三房一厅,商铺】可以对应的枚举出来,比如我在处理房屋朝向上的示例

#提取房屋的朝向
def parse_orientation(row):
    if '朝西南' in row:
        return 1
    elif '朝东北' in row:
        return 2
    elif '朝东' in row:
        return 3
    elif '朝南' in row:
        return 4
    elif '朝西北' in row:
        return 5
    elif '朝北' in row:
        return 6
    elif '朝东南' in row:
        return 7
    elif '朝南北' in row:
        return 8
    elif '朝西' in row:
        return 9
    else:
        return 10

等等等等,我想说的是绝对还有很多你意想不到的场景,需要你耐心的打磨数据,将搜集到的原始数据,清洗成为可用的数据。

数据清洗需要掌握哪些黑科技

通常我们拿到的数据数据都可以简化为表格模型,无用你是xsl也好,csv亦或json数组也好,都可以利用pandas来读取,读取之后,接下来的工作基本上就是借助在pandas的一些api来做数据清洗工作了,如下,我读取了一份房价信息的数据表,这份数据当然是我自己根据上一篇文章,利用scrapy做了一个爬虫爬取的咯。

imgjupyter笔记

为了让我们能够更好的玩数据清洗,我也不吝啬的贡献出了一份非常全面的pandas的操作Cheatsheet一份,以及后面你一定会用到一个万能的CheatSheet

来来,简单的了解一下pandas的一些常用的api了,举例就用:

img示例数据一行

1、取子集常用操作

img取子集

其中,loc是支持按照列名字符串的方式来取子集,iloc支持的是使用数组索引(从0开始)的方式来取子集,通常,逗号前面是行相关的一些条件限制,逗号右边则是列相关的限制。比如,我取得

img我就取前两列

2、处理空白数据行

img处理空白数据

这种就很简单愉快了,一个api就可以删除或者填充有空白数据的样本了。

这个就不演示了,因为我是爬虫爬取数据,所以在爬取的过程中,我已经对数据进行了一些基础的处理,程序控制不可能出现空白数据了,所以,我也是建议,自己写爬虫去获取数据,这些减轻数据清洗环节的压力。

3、apply系列

apply其实有比较多兄弟,比如applymap,map,他们的能力各有不同,总的来说就是apply()是一种让函数作用于列或者行操作,applymap()是一种让函数作用于DataFrame每一个元素的操作,而map是一种让函数作用于Series每一个元素的操作,如下所示,我这里对ege列进行处理了一了,将数字和文本归一化为数字。

imgapply示例

实际上,这个操作完全可用map来做:

df['ege'] = df['ege'].map(parse_house_age)
df.head(5)

结果完全一样,因为我们只取了一列。

数据清洗比较高级的方式,使用各种图表

1、使用散点图

img房屋总面积对应总价图

2、房价热力值图:

img房价区间热力图

图描述了房间分布区间,可以清洗看出一些问题。

3、频率直方图帮助我们迅速找到一些特例独行的猪,因为他出现的次数少嘛,不得不让人怀疑这种数据的真实性。

img利用直方图快速找出毛刺点

ok,总的来说,这个过程需要开动自己的脑经,把你拿到的原始数据,慢慢慢慢的,变成可以给你下面算法需要的数据。

相关阅读
【每日课程推荐】机器学习实战!快速入门在线广告业务及CTR相应知识

此文已由作者授权腾讯云+社区发布,更多原文请点击

搜索关注公众号「云加社区」,第一时间获取技术干货,关注后回复1024 送你一份技术课程大礼包!

查看原文

仰望星空治颈椎 提出了问题 · 2019-03-10

图片识别时,如何进行数据清洗?

我们进行深度学习训练时,将标记好的图片,批量进入神经网络进行训练。之前没有进行数据清洗,效果很差。
但是不明白的是,图片是如何进行数据清洗的?哪些图片不符合要求?网上很多资料都是针对文本的。
还有一个问题是,例如:我想识别没有带帽子的人,所以标记“没有戴帽子的人”的上半身,但是出来的模型很容易误识别“戴帽子的人”,我是如何从样本中,把“帽子”这个特征去掉呢?
谢谢~

关注 3 回答 1

仰望星空治颈椎 提出了问题 · 2019-01-22

tensorflow+yolov3训练样本,loss值不再收敛?

问题描述

大家好,本人使用tensorflow+yolov3做目标识别,batch_size=32,random=0(不使用多角度训练),训练5000轮,loss值大概在4.1左右。
在此基础上,本人设置random=1,也是在5000轮的情况下,loss却到了10。我在原有的模型基础上继续训练,发现了其实中途loss收敛到4点多,然后又全局发散了,不会再收敛了。

我的推断

因为由于batch_size设置为10的时候,是一直收敛的,如果设置为32,或许越过了局部最优点。

我的问题

请问各位大侠,其实现在是不是陷入了局部最优,在局部最优点造成loss震荡,请问下一步该怎么做呢?

关注 1 回答 0

仰望星空治颈椎 赞了文章 · 2019-01-15

响应式架构与 RxJava 在有赞零售的实践

随着有赞零售业务的快速发展,系统和业务复杂度也在不断提升。如何解决系统服务化后,多个系统之间的耦合,提升业务的响应时间与吞吐量,有效保证系统的健壮性和稳定性,是我们面临的主要问题。结合目前技术体系和业务特点的思考,我们在业务中实践了响应式架构以及RxJava框架,来解决系统与业务复杂所带来的问题。

实践响应式架构

响应式架构是指业务组件和功能由事件驱动,每个组件异步驱动,可以并行和分布式部署及运行。

响应式架构可以带来以下优势:

  • 大幅度降低应用程序内部的耦合性
  • 事件传递形式简化了并行程序的开发工作,使开发人员无须与并发编程基础元素打交道,同时可以解决许多并发编程难题,如死锁等。
  • 响应式架构能够大幅度提高调用方法的安全性和速度。
  • 对复杂业务系统的领域建模,响应式架构可以天然支持。每个系统组件就可以对应到一个业务实体,业务实体之间通过接收事件来完成一次业务操作。

我们使用响应式架构主要是为解决多个系统间的多次远程调用带来的分布式问题,尤其在长任务场景中,响应式架构显得尤其必要。

有赞连锁出现后,随着连锁商家经营规模的扩张,会在系统中创建新的门店。创建新门店会引发一系列业务初始化工作,例如店铺、员工、仓库、商品、库存等业务域,并且各业务域之间存在一定的依赖关系(如图1所示),例如商品依赖仓库初始化完成。

图1连锁新建分店系统依赖关系

图1 连锁新建分店系统依赖关系

商家新增门店时,在店铺初始化完成后,连锁系统发送店铺初始化成功消息,相应系统对事件进行响应,处理完成(成功/失败)后将回执给连锁系统,连锁系统根据相关业务的反馈,决定是继续通知下游业务,还是结束整个过程。新建门店部分流程如图2所示。

在创建门店业务中,每个系统响应连锁系统发出的消息,处理完成后进行回执。通过这种模式,业务系统本身不关心其他系统是否成功或失败,只需对通知的事件进行处理,整体初始化进度与异常处理由连锁系统来控制。这种设计使得各业务系统之间没有直接耦合并保持相互独立。

图2 连锁体系新增分店消息驱动图

图2 连锁体系新增分店消息驱动图

上面的案例介绍了在复杂业务场景下系统间对响应式架构的实践,系统内部同样会遇到复杂业务场景。下面介绍下在系统内部应对复杂业务的实践。

RxJava在有赞零售实践

Rxjava是用来编写异步和基于消息的程序的类库。RxJava在Android有着广泛的使用,主要应用在用户界面绘制与服务端通讯等场景。RxJava的核心思想是响应式编程以及事件、异步这两个特点。响应式编程是一种通过异步和事件流来构建程序的编程模型。在复杂的业务开发中,最棘手的问题就是如何清晰直观的展现复杂的业务逻辑,并且方便后续的业务维护与扩展。

响应式编程使得复杂业务逻辑更清晰

有赞零售的业务场景中有着复杂的业务逻辑,有赞目前提供多种产品供商家选择,商家在不同产品进行切换时,为了商家更好的体验,不同业务的切换会进行数据初始化与处理。例如有赞微商城转换到有赞零售。

这里拿着微商城升级零售的业务场景给大家举例。微商城升级为零售时需要对商品进行转换。首先初始化店铺基础信息。然后读取商品流,将微商城的商品类型转换成零售支持的商品类型。最后读取规格,为规格创建供应链商品库,创建门店商品与添加网店商品的供应链商品关联关系。整体转换流程如图3所示。图中也画出了可以并发处理的场景。

图3 微商城升级有赞零售流程

图3 微商城升级有赞零售流程

如果单纯使用设计模式来解决上面这种场景单一、但业务逻辑特别复杂的场景,是很难做到的。也可以看到除了初始化信息那一步,后面的商品模型转化自始至终在业务中流转的事件都是商品,这里就可以使用RxJava来优化业务代码使得处理流程可以并发,加快升级速度。

最终我们按照图3的流程处理升级逻辑,其中的并发场景,比如保存完零售商品后,并发处理库存、和销售渠道,使用rxjava封装的方法帮助我们进行并发操作。如下所示代码结构清晰,对外屏蔽了复杂的并发处理逻辑。

Observable.zip(
    callAsync(()->处理库存相关操作),
    callAsync(()->更新商品库门店销售渠道),
    callAsync(()->创建商品库与网店商品关联关系),
    (sku1,sku2,sku3)-> sku
).blockingFirst();

最终我们的整体的代码

UpgradeItem.listItems(manager, shop)
    .flatMap(item-> fromCallable(()->更新为零售商品类型))
    .flatMap(item-> fromCallable(()->并发处理商品操作), true)
    .flatMap(item-> 商品流转化为sku流, true)
    .flatMap(sku-> fromCallable(()->保存零售商品))
    .flatMap(sku-> fromCallable(()->并发处理保存商品后续操作, true)
    .subscribeOn(Schedulers.io());

整个商品处理流程就是上面这段代码,一目了然,后面扩展可以自己在中间加入处理流程,也可以在对应业务方法中修改逻辑。

多服务、数据源组合

随着微服务架构兴起,我们将不同的业务域拆分成不同的系统。这样方便了系统的维护,提升了系统的扩展性,但是给上层业务系统也带来了很多麻烦。往往我们为了展示一个页面会涉及到2-3个或更多的应用,而多次的分布式调用不但使得系统的rt增加,也使得核心页面的出错风险更高。

降低rt:在假设第三方接口已经达到性能顶点的情况下,并发是解决多次分布式调用降低rt的常用方法。

自动降级:传统编程方法中,自动降级处理,意味着我们代码中会出现一大堆try/catch,而使用rxjava,我们可以直接定义当流处理异常时,程序需要怎么做,这样的代码看起来非常简洁。

商品搜索作为商品管理的核心入口,根据不同场景聚合商品、优惠、库存等信息。由于商品列表页展示的信息涉及到多服务数据的整合,一方面需要保证整个接口的rt,另一方面不希望由于一个商品数据或外部服务的异常影响到整个商品列表的加载。因此该场景非常适用于RxJava。

图4 商品后台搜索业务流程

最终我们的代码

1.根据入参获取商品加载器

//只有包含的merger才会加载
List<SkuAttrMerger> validMergers = 
    Observable.fromIterable(skuAttrMergers).filter(loader -> request.getAttributes().contains(loader.supportAttribute().getValue())).toList().blockingGet();

2.根据es结果获取商品各个属性详情并加载到SkuAttrContext中(某类属性加载失败则忽略)

//调用load并发加载数据到商品属性上下文中
Observable.fromIterable(商品信息加载器列表)
.flatMap(商品信息加载器-> Observable.fromCallable(() ->异步加载商品信息))
.onErrorResumeNext(Observable.empty())//如果失败则忽略
.subscribeOn(Schedulers.io()),false,线程数(为加载器数 
量)).blockingSubscribe();

3.组装搜索结果(如果某个sku组装失败则直接忽略)

//调用merge将数据合并到目标对象
商品搜索返回结果列表 = Observable.fromIterable(商品id列表)
    .map(商品id->初始化商品搜索结果返回对象)
    .flatMap(商品搜索结果返回对象-> {
        val observables=Observable.fromIterable(商品加载器列表)
            .map(loader -> Observable.fromCallable(() ->合并每个sku的不同属性)).toList().blockingGet();
        return Observable.zipIterable(observables, (a) -> sku, false, 线程数)
        .onErrorResumeNext(Observable.empty()); //如果失败则忽略
        }, false, 1)
    .toList()
    .blockingGet();

后记

本文主要介绍了响应式架构与RxJava在有赞零售的使用场景。目前我们对响应式架构的实践方式是:在系统间使用消息中间件来进行实现,在系统内则使用RxJava实现异步化和响应式编程。对于响应式架构的思想,我们也在探索阶段,并在部分业务场景进行实践。未来面对越来越复杂的零售业务场景,会用响应式架构全面实现系统业务的异步化。总的来说响应式架构思想为提升复杂业务系统健壮性、灵活性提供了强有力的支撑。后面大家如果想更多的讨论响应式架构与编程的实践,欢迎联系我们。

图片描述

查看原文

赞 16 收藏 9 评论 2

仰望星空治颈椎 赞了回答 · 2019-01-07

机器学习中的数学理论知识,如何落实在实际项目里?

1,看自己实际需求了,如果yolo,ssd不能满足你的部分需求,你可能就需要迁移学习。所以,是否自己搭建,搭建多少取决能否解决你的问题。当然,有些项目可能会有特殊要求,不能使用某些东西,这个就不是你能决定的了。
2,多做项目,自然就知道了。

关注 2 回答 1

仰望星空治颈椎 提出了问题 · 2018-12-26

机器学习中的数学理论知识,如何落实在实际项目里?

背景

本人是一枚机器学习初学者,应公司要求完成某目标识别项目。前期学习了许多数学知识。

我理解数学知识在机器学习领域中的作用是:

1.自己搭建神经网络结构:但是现在都是使用像是yolo,ssd之类的结构,自己搭建结构还有必要吗?

2.调整参数:我们可以根据训练时的各种参数(如loss值等)调整参数,但是怎么和这些数学理论结合起来呢?

关注 2 回答 1

仰望星空治颈椎 提出了问题 · 2018-12-13

使用TensorFlow训练样本,影响loss数值的因素主要有哪些?

问题描述

最近使用TensorFlow训练样本,神经网络选择的是yolov3,loss数值一直维持在8左右,再没进行全局收敛了,最终识别率也不高。

问题出现的环境背景及自己尝试过哪些方法

loss为8实在太大,想对其进行优化,因为对机器学习这方面经验尚浅,只总结了以下一些优化点:

  • 修改激活函数
  • 修改损失函数
  • 优化训练样本:增加训练集数量;标记时减少干扰项等

请问除了这几点,还有什么地方可以进行优化的呢?暂时没有想过设置超参,像梯度下降时的步长等。

关注 3 回答 2

仰望星空治颈椎 提出了问题 · 2018-12-13

使用TensorFlow训练样本,影响loss数值的因素主要有哪些?

问题描述

最近使用TensorFlow训练样本,神经网络选择的是yolov3,loss数值一直维持在8左右,再没进行全局收敛了,最终识别率也不高。

问题出现的环境背景及自己尝试过哪些方法

loss为8实在太大,想对其进行优化,因为对机器学习这方面经验尚浅,只总结了以下一些优化点:

  • 修改激活函数
  • 修改损失函数
  • 优化训练样本:增加训练集数量;标记时减少干扰项等

请问除了这几点,还有什么地方可以进行优化的呢?暂时没有想过设置超参,像梯度下降时的步长等。

关注 3 回答 2

仰望星空治颈椎 关注了问题 · 2018-12-13

使用TensorFlow训练样本,影响loss数值的因素主要有哪些?

问题描述

最近使用TensorFlow训练样本,神经网络选择的是yolov3,loss数值一直维持在8左右,再没进行全局收敛了,最终识别率也不高。

问题出现的环境背景及自己尝试过哪些方法

loss为8实在太大,想对其进行优化,因为对机器学习这方面经验尚浅,只总结了以下一些优化点:

  • 修改激活函数
  • 修改损失函数
  • 优化训练样本:增加训练集数量;标记时减少干扰项等

请问除了这几点,还有什么地方可以进行优化的呢?暂时没有想过设置超参,像梯度下降时的步长等。

关注 3 回答 2

认证与成就

  • 获得 6 次点赞
  • 获得 37 枚徽章 获得 3 枚金徽章, 获得 8 枚银徽章, 获得 26 枚铜徽章

擅长技能
编辑

(゚∀゚ )
暂时没有

开源项目 & 著作
编辑

(゚∀゚ )
暂时没有

注册于 2017-01-03
个人主页被 558 人浏览