大会介绍
大会介绍:
2016(Elastic{ON} Dev China 2016)是由 Elastic 官方在中国举办的第一次开发者大会,主要围绕 Elastic 的开源产品: Elasticsearch、Logstash、Kibana 和 Beats,探讨在搜索、数据实时分析、日志分析、安全等领域的实践与应用。
会议日程:
时间 | 项目 | |
---|---|---|
08:30-09:15 | Registration | |
09:15-09:35 | Scott Ho@Elastic 《Opening Keynote》 | |
09:35-10:05 | Medcl Zeng@Elastic 《From ELK to Elastic Stack + Ingest》 | |
10:05-10:35 | Rashid Khan@Elastic 《Kibana 5.0: The Window into the Elastic Stack》 | |
10:35-10:55 | William Wong@Elastic 《X-Pack 5.0: Extending the Elastic Stack + Prelert》 | |
10:55-11:15 | Team@Elastic Networking Break + Ask Me Anything | |
11:15-12:00 | 张乐雷@大众点评 《基于Elasticsearch搜索云服务》 | |
12:00-12:30 | 彭燕卿@苏宁 《基于Kibana和ES的苏宁实时日志分析平台》 | |
12:30-12:50 | 李学辉@瀚思安信 《ES 在电子银行的安全应用》 | |
12:50-13:50 | Networking Lunch | |
13:50-14:10 | Group Photo/Community Award | |
14:10-14:55 | 李啸@趋势科技 《Elasticsearch在移动病毒侦测领域应用那些事儿》 | |
14:55-15:25 | 李振炜@奇虎360 《Elasticsearch加速SparkSQL查询》 | |
15:25-15:55 | 白凡@斗鱼 《基于Elasticsearch的斗鱼搜索服务实现》 | |
15:55-16:15 | Team@Elastic Networking Break + Ask Me Anything | |
16:15-16:55 | 张家杰@58到家 《58到家ES服务化实践》 | |
16:45-17:15 | 秦强强@折800 《packetbeat抓包 辅助服务治理监控服务质量实战》 | |
17:15-17:45 | 杨永辉@美团 《美团日志收集和日志分析平台》 | |
17:45-18:00 | Closing & Lucky Draw |
嘉宾及议题:
Medical Zeng Elastic,Elastic开发工程师与技术布道师
From ELK to Elastic Stack + Ingest
Rashid Khan Elastic,creator of Kibana
Kibana 5.0: The Window into the Elastic Stack
William Wong Elastic
X-Pack 5.0: Extending the Elastic Stack + Prelert
张乐雷 大众点评,技术专家
基于Elasticsearch搜索云服务
搜索云平台是什么?
1、是一个搜索的基础设施支撑平台,为部署、运行、监控告警、扩容、研发支持等相关的操作进行全生命周期支撑。
2、是一个面向开发者的搜索开放平台,为开发人员提供开发技术、部署个性化插件、扩容、管理等技术支持,在平台上完成一系列管理操作。
3、是一个分布式的、弹性的搜索计算平台,支持机器资源分布在不同的业务线,业务线仍自己运维,平台上仅提供了开发、运维等一系列的工具套件,也支持小业务量场景的机器资源的统一管理。
4、是一个支持多搜索引擎的平台,支持Elasticsearch、支持solr,各有优势,都有各自领跑的场景,我们不会过度依赖某个引擎,目前先支持Elasticsearch,但是技术趋势都会跟进,未来可能提供屏蔽底层引擎细节的客户端产品。
5、是一个融合多种解决方案的平台,它不拘泥于某个技术优化点、某个分词、某个排名、某个缓存,而是从多租户、高可用、多技术整合、多写多查、用户体验等综合视角构建的解决方案平台。 搜索云平台建设思路是什么? 上不碰业务,下不碰数据。
彭燕卿 苏宁,监控研发中心技术副总监
基于Kibana和ES的苏宁实时日志分析平台
实时分析日志是程序员定位问题非常重要的环节,从最原始的SSH到主机tail grep日志文件到现在的ELK全套解决方案,从安全性及效率上都是质的提升。
目前苏宁在ELK的基础上搭建云迹实时日志分析产品,提供应用、web、防火墙、中间件等日志的实时检索、统计分析、告警。为苏宁1000+系统提供日志的实时检索分析服务。
在本演讲中,将和大家分享这套系统从无到有的一些技术架构演变,ES使用过程中遇到的坑及调优,Kibana二次开发等。
李学辉 瀚思安信,技术总监
ES 在电子银行的安全应用
随着手持设备的不断普及,越来越多人在日常生活中选择使用便利的电子银行,黑客亦如此,总是紧盯这块蛋糕。不管哪家银行,只要在做网上银行系统,就得面对每天来自世界各地的恶意访问,虽然金融体系有很完善的安全管控机制,但总会有一些恶意的访问成功登入系统,并且其中一些造成储户损失。
此次主题旨在介绍如何在现有安全管控的基础上,通过大数据分析的手段来发现潜在的恶意访问,从而进一步采取行动,避免不必要的损失。
李啸 趋势科技,高级研发工程师
Elasticsearch在移动病毒侦测领域应用那些事儿
目前移动应用越来越普及,与此同时,大量malware散步与互联网之中,我们需要构建一个病毒分析和检测的平台对大量样本进行分析和检测来protect end user免受病毒的侵扰。
分享主题将围绕elasticearch在移动病毒分析和检测领域的应用展开。
第一部分,介绍系统设计。介绍移动病毒侦测技术在我司的演进过程,介绍分析system的演进过程,逐步过渡到elasticsearch的特点和应用范畴,引入elasticsearch engine后带来的优势。分析移动病毒的特征,基于特征如何设计elasticsearch病毒特征库。如何使用rules来监控和检测病毒。
第二部分,介绍垮库查询系统。根据业务特点,我司的特征库存在分表分库现象,重点介绍如何根据业务特点设计proxy来做elasticsearch垮库查询以及性能优化。
第三部分,介绍elasticsearch集群运维相关。介绍elasticsearch运维,调优,监控,测试相关实践经验。
李振炜 奇虎360
Elasticsearch加速SparkSQL查询
SparkSQL对查询的SQL,需要扫描全部的数据,然后获取满足查询条件的记录。如果在海量的数据中,命中的记录个数比较小,查询的时间主要在读取数据。
为了加速响应时间,我们对存储在hdfs上的海量数据的指定字段,建立索引,存储在Elasticsearch中;对于每一个SQL查询,提取出索引字段的查询条件,然后通过Elasticsearch得到满足条件的记录的路径,Spark直接读取记录,实现了海量数据的查询,秒级响应。
白凡 斗鱼,大数据工程师
基于Elasticsearch的斗鱼搜索服务实现
主要针对Elasticsearch在斗鱼主站、鱼吧、点播系统、移动端等搜索项目中应用及其性能调优,进行演讲介绍,具体内容包含以下几点:
1.斗鱼主站、鱼吧、点播系统、移动端等不同业务环境下,ES集群搭建、搜索接口调用、mapping创建及配置设置。
2.斗鱼搜索技术架构,接口采用Nginx处理一级缓存以及负责均衡,tomcat实现索引同步及搜索接口,以ES,MySQL,Redis为基础的数据存储。
3.斗鱼搜索服务缓存处理,高并发应对策略。
4.由于斗鱼网络科技有限公司的语言异构性,搜索集群如何处理数据同步。
5.斗鱼搜索基于Zabbix+ELK的监控环境搭建,日志收集。
6.以及在搜索开发过程中遇到的接口问题、集群环境问题,并发负载问题以及解决方法的分享。
7.以及未来对搜索服务规划,服务接口化,统一工程分化,docker化。
张家杰 58到家,后端高级工程师
58到家ES服务化实践
对于公司的很多一线程序员而言,对于ES的认识和熟悉程度并不如传统的数据库。然而在很多业务场景中,ES有着传统数据库无法比拟的优势。
为了让更多的一线员工更方便的使用ES,对ES进行了服务化封装,使其使用更加方便。
秦强强 折800,基础架构负责人
packetbeat抓包 辅助服务治理监控服务质量实战
1.为什么要做这件事: 这边希望终端出现问题时, 有较好的监控机制来第一时间发现, 定位并解决问题。
2.抓包方式实现服务质量监控的方案与传统的日志打点上报方案和调用链监控的对比, 以及选择packbeat抓包方案的考量。
3.packetbeat + sysdig + elasticsearch技术栈介绍, 与使用该技术栈实现服务消费端健康状况监控的原理和细节。
4.踩坑经验, 效果与权衡, 以及关于服务治理的一些反思。
杨永辉 美团,数据收集通道负责人
美团日志收集和日志分析平台
主要介绍美团整个数据收集通道和日志分析平台建设。
包括自研的日志采集agent支持sockek和文件两种收集方案、统一的日志格式规范、binlog收集、Kafka的监控平台、针对大数据量场景对kafka做的定制优化、为解决业务日志debug和trace的统一日志中心(ES)、公司统一数据检索平台(ES)的建设等。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。