12月10日下午,成都东软学院大模型应用与研发中心科研沙龙暨中心第三十七场分享会顺利举行。本场沙龙由科研管理部刘轩老师主持,数智应用技术学院刘杰平老师主讲,分享主题为“大语言模型RAG与Agent原理与实践”。大模型应用与研发中心成员及各学院教师代表共同参与本次技术交流。
刘杰平老师首先从大语言模型的基本概念入手,阐释了其参数规模巨大、训练资源消耗大、成本高昂等核心特点。刘老师指出,大模型之所以展现出对话、推理等智能行为,源于参数量达到千亿级别后产生的“涌现”能力,同时强调大模型本质仍是基于“自回归”机制的文本序列生成模型。针对大模型无法实时更新知识、易产生“幻觉”的问题,刘老师重点介绍了检索增强生成(RAG)技术。通过代码演示,展示出RAG通过将外部知识文本切分为块、转化为向量并存储于向量数据库中和在回答问题时系统通过检索相关文本片段、交由大模型生成答案的具体过程。这一机制相当于为模型“外挂”知识库,显著提升回答的准确性与可追溯性。
随后,刘老师深入讲解了AI Agent(智能体)技术。大模型本身不具备直接执行外部操作的能力,而关键拥有函数调用能力。模型先识别用户意图并抽取参数,再调用预定义的外部工具执行任务,最后对结果进行语言润色。通过“天气查询”和“学习通自动登录”两个案例,刘老师现场演示了AI Agent从指令解析到工具调用的完整流程,展现了大模型与外部工具结合完成复杂任务的可行性。
在交流环节,与会教师围绕知识库分块策略、Embedding模型选择、相似性计算等实际问题展开讨论。刘老师结合LangChain等开发框架及Chroma等工具提出具体建议,当前AI技术正日益工具化、平台化,有助于高校教师积极利用现有框架与平台,聚焦于AI与专业领域的结合,解决实际教学与科研问题。

本次沙龙系统梳理了RAG与AI Agent的技术脉络,通过原理讲解与实例演示,提升了教师对前沿AI技术逻辑的理解。未来,中心将继续举办高质量技术分享活动,为我校教师提供更多的学习和交流机会,推动人工智能技术与教育科研的深度融合。