趨勢描述

大型語言模型(LLM)已成為當前 AI 發展的核心驅動力,其應用正從通用領域向特定場景深化。研討會內容顯示,LLM 廣泛應用於智能硬體(如詞典筆)的端側部署、知識庫問答體系革新(RAG)、企業級風險控制、數據治理及垂直產業應用。為確保這些應用的可行性與擴展性,大模型訓練的穩定性、推理效能優化(如萬卡規模訓練、高效開源服務框架 SGLang、數據湖查詢加速)以及數據調優的高效構建與進化方法,成為關鍵的技術挑戰與研究方向。

重要性評估

關鍵技術

LLM, 大模型, 推理優化, 訓練穩定性, RAG, 端側部署, 知識庫問答, 數據調優, SGLang

相關研討會

DeepResearch如何在企业内落地


QAnything:大模型驱动下的知识库问答体系革新与实践


京东零售大模型推理优化实践


能源行业基于大模型的数据治理和人工智能应用实践


Training, Inference, Agents: Beyond Apps in the AI-Native World


大模型助力软件研发人机协同进化实践


AI赋能eBay支付风控:从用户行为到交易安全的全面智能化


DLRover在万卡规模大模型训练中的稳定性实践


Data+AI 下一代数智平台建设


GenAI 应用时代,开发思想如何变革?


LLM技术在有道词典笔上的应用实践


SGLang 推理引擎——高效的开源部署方案


一年上线超 10 款产品,AI 时代如何做独立开发


从Copilot到Agent:AI编程的范式革新


加速 AI 推理与检索生成:在 PB 级数据湖上实现 Parquet 查询 1000 倍性能提升


构建面向大模型的安全治理体系和应用实践


让 Agent 进化 Agent:企业自动化的新范式构想


大模型调优数据的高效构建与进化方法


开场致辞


深思考端侧多模态大模型TinyDongni&Deepseek的创新实践


AI Agent 如何重塑有声内容的生产与分发


Infinity:视觉自回归生成新路线


Multi-Agent架构驱动的Data Agent路线与工程实践


CangjieMagic:基于仓颉语言的Agent开发框架实践


Coding Agent 驱动研发提效:从实践到流程改进