美团视觉GPU推理服务部署架构优化实践

2023-02-10
阅读 8 分钟
860
面对在线推理服务使用的GPU资源不断增加、GPU利用率普遍较低的挑战,美团视觉研发团队决定通过模型结构拆分和微服务化进行优化,他们提出一种通用高效的部署架构,来解决这种常见的性能瓶颈问题。以“图像检测+分类”服务为例,优化后的服务压测性能指标GPU利用率由40%提升至100%,QPS也提升超过3倍。本文将会重点介绍推理...
封面图

美团终端消息投递服务Pike的演进之路

2021-07-27
阅读 11 分钟
2.3k
Pike 2.0致力于为美团提供一套易接入、高可靠、高性能的双向消息投递服务。本文首先从系统架构升级、工作模式升级、长稳保活机制升级等方面介绍了Pike2.0的技术演进,然后介绍了Pike 2.0在直播、游戏等新业务场景下的特性支持。希望本文能给对消息投递服务感兴趣或者从事相关工作的读者一些帮助和启发。
封面图

GraphQL及元数据驱动架构在后端BFF中的实践

2021-05-07
阅读 16 分钟
3.6k
GraphQL是Facebook提出的一种数据查询语言,核心特性是数据聚合和按需索取,目前被广泛应用于前后端之间,解决客户端灵活使用数据问题。本文介绍的是GraphQL的另一种实践,我们将GraphQL下沉至后端BFF层之下,结合元数据技术,实现数据和加工逻辑的按需查询和执行。这样不仅解决了后端BFF层灵活使用数据的问题,这些字段...
封面图

基于SSD的Kafka应用层缓存架构设计与实现

2021-01-17
阅读 8 分钟
1.5k
目前在美团数据平台中,Kafka承担着数据缓冲和分发的角色。如下图所示,业务日志、接入层Nginx日志或线上DB数据通过数据采集层发送到Kafka,后续数据被用户的实时作业消费、计算,或经过数仓的ODS层用作数仓生产,还有一部分则会进入公司统一日志中心,帮助工程师排查线上问题。
封面图

复杂环境下落地Service Mesh的挑战与实践

2020-12-04
阅读 8 分钟
2.1k
在私有云集群环境下建设 Service Mesh ,往往需要对现有技术架构做较大范围的改造,同时会面临诸如兼容困难、规模化支撑技术挑战大、推广困境多等一系列复杂性问题。本文会系统性地讲解在美团在落地 Service Mesh 过程中,我们面临的一些挑战及实践经验,希望能对大家有所启发或者帮助。

【美团·成都沙龙报名】美团收银系统微服务架构实践

2019-12-25
阅读 3 分钟
3.3k
活动时间:2019年12月28日 14:00-17:30活动地址:四川省成都市武侯区都会路66号城南天府大厦(5楼成都人才服务中心)·蓉漂咖啡逐梦厅

【美团·北京沙龙报名】美团点评中间件实践

2019-12-20
阅读 2 分钟
2.6k
【美团技术沙龙】由美团技术团队和美团科协主办,每期沙龙邀请美团及其他互联网公司的技术专家分享来自一线的实践经验,覆盖各主要技术领域。 活动时间:2019年12月28日 13:30-17:30 活动地址:北京市朝阳区望京东路4号科创大厦A座1层 · 美团点评综合指挥中心 报名链接:点我报名 出品人: 吴湘 | 美团点评架构师 美团点...