QCon San Francisco 2024 人工智能与机器学习专题总结

QCon San Francisco 2024 是由 InfoQ 举办的国际软件开发大会，重点关注人工智能（AI）和机器学习（ML）技术的快速发展及其在现代软件开发中的核心地位。大会邀请了来自企业组织的高级软件开发人员，分享他们在采用新兴技术方面的经验和策略。每个演讲都由经验丰富的从业者主持，提供可立即应用于实际项目的实用见解和解决方案。

专题一：生成式AI在生产中的实践与进展

该专题由 Zoox 高级工程经理 Hien Luu 策划，深入探讨了生成式AI（GenAI）的实际应用和最新行业创新，重点关注企业如何利用GenAI增强产品和客户体验。

重点演讲内容：

1. Meta的大规模语言模型服务基础设施扩展
   Meta 高级工程师 Charlotte Qi 分享了如何平衡模型质量、延迟、可靠性和成本，并结合实际案例展示了生产环境中的优化策略。
2. 生成式AI提升生产力
   Wealthsimple 高级软件开发经理 Mandy Gu 讲述了如何通过生成式AI提高运营效率，结合内部工具和第三方解决方案简化日常任务。
3. LLM部署的技巧与技术
   TitanML 联合创始人 Meryem Arik 分享了优化、部署和监控大型语言模型（LLM）的最佳实践，并通过案例研究探讨了自托管与API模型的挑战。
4. LLM驱动的搜索推荐与增长策略
   Pinterest 软件工程师 Faye Zhang 探讨了模型架构、数据收集策略以及确保推荐相关性和准确性的技术，展示了LLM如何推动用户激活、转化和留存。
5. 多代理系统工作流程失败的10个原因及解决方案
   Microsoft Research 首席研究软件工程师 Victor Dibia 分析了从实验到生产系统的关键挑战，并指出了多代理系统常见的失败原因。
6. LLM系统评估的微指标框架
   Voiceflow 机器学习负责人 Denys Linkov 探讨了如何通过多维指标衡量和提高LLM的准确性，而不仅仅是依赖简单的准确率评分。

专题二：软件工程师的AI与ML基础洞察

该专题由 Elastic 首席数据科学家 Susan Shu Chang 策划，旨在帮助软件工程师将AI/ML技术整合到工作中，涵盖了ML模型的部署和评估，并提供了来自企业的实战经验。

重点演讲内容：

1. 大规模现实应用中的推荐与搜索排名系统
   Netflix 高级研究科学家 Moumita Bhattacharya 探讨了从传统模型到深度学习技术的搜索与推荐系统演进。
2. 为什么大多数机器学习项目未能进入生产及如何避免失败
   Grammarly 高级机器学习工程师 Wenjie Zi 分析了机器学习项目失败的原因，并提供了如何避免目标不一致、技能差距和ML不确定性的建议。
3. 通过知识图谱实现可验证和可导航的LLM
   Diffbot AI开发者倡导者 Leann Chen 展示了知识图谱如何提高LLM的事实准确性，并生成更具上下文感知的响应。
4. 大规模推荐系统中的强化学习与用户留存
   Meta 高级工程领导者 Saurabh Gupta 和 Gaurav Chakravorty 分享了如何利用强化学习实现个性化内容推荐，探讨了奖励塑造、最佳时间范围和大规模应用所需的基础设施。
5. LLM评估的实用框架
   MongoDB 高级AI开发者 Apoorva Joshi 提供了可直接应用于项目的LLM评估框架，帮助开发者更好地衡量模型效果。

总结

QCon San Francisco 2024 通过这两个专题，旨在帮助开发者从AI的热潮中回归到实际应用，提供可扩展的解决方案，并帮助不同水平的工程师应对不断变化的AI技术格局。大会还提供了12个其他专题，涵盖软件开发的多个领域。早鸟票将于10月29日截止，建议开发者抓紧时间报名，与超过1000名同行共同探讨软件开发的未来。