1  大模型实验室介绍

大模型实验室是在学校现有的实验室建设基础上,依托行业标杆企业,聚焦行业大模型产业发展方向,建设一个产学研一体化的合作教学平台,形成“教与学紧密结合、理论与实践紧密结合,学校与企业紧密结合”的创新教育模式。大模型实验室不仅可以赋能院校“双师型”师资队伍建设,还能培养大模型应用开发方面的复合型、创新型人才。

 基于产教融合实训基地开放共享应用需要和校企合作项目化特点,建设集教学培训、项目实践、科研于一体的“高水平专业化产教融合大模型综合服务平台”,满足基地集教学、科研、培训、社会服务于一体的应用、管理与服务需要,形成一批有影响力的社会服务成果,促进科技成果转化和产业化,不断提升学校服务地方经济社会发展的能力。

 大模型实验室架构图

大模型实验室架构图.png

2 大模型实验室建设内容

2.1 课程资源包

大模型课程资源包主要包含《prompt工程》、《大模型应用开发》两门课程。通过学习这两门课程,学员可以了解Prompt的基本原理、常用的Prompt技巧、如何构建有效的Prompt等,从而能够更好地利用Prompt来优化大模型的性能,掌握利用大模型解决实际问题的方法和技巧。可以学习到大模型应用开发的全流程,包括数据处理、模型训练、模型评估和模型部署等,掌握大模型的应用和开发技术。

课程1.png

课程2.png


2.2 大模型开发平台

     大模型开发平台是一款面向高校大模型教学、科研的的一站式大模型开发工具。平台能够自定义调用CPU和内存资源,自由配置专门针对大模型和深度学习等任务的硬件加速器(如GPU或XPU),能够高效地执行大模型的prompt工程、大模型应用开发和大模型的微调。平台支持主流的大模型基座,支持大模型基座私有化部署,包括智谱的ChatGLM、百川的Baichuan、阿里的Qwen等,助力用户快速进行大模型的开发和微调。平台还提供了丰富大模型开发工具、整套开发环境和资源监控功能,能够灵活分配资源,方便用户轻松使用、开发、管理大模型应用。

大模型平台.png


2.3 大模型应用平台

     大模型应用平台是一款专为高校大模型应用场景教学和科研打造的知识库问答系统。该平台易于使用,知识库支持常见的txt、doc、pdf、md等数据文件上传,同时提供了简洁易懂的操作配置界面,使用户可以轻松地搭建和训练AI应用,并快速调用,满足不同领域的交互式对话场景需求。此外平台还支持可视化的工作流编排,能够满足复杂的问答场景搭建需求。通过大模型应用平台,能够更好帮助用户更好地应用大模型技术,提升教学和科研质量。

大模型应用平台.png

3 教研服务

3.1大模型接口调用

泰迪智能科技提供大模型接口调用服务,支持调用主流的大模型服务引擎,每年为用户提供稳定、可靠的线上大模型调用服务授权,确保每位用户获得充足的接口调用服务资源。提供的接口包括文档上传、文档问答、文档总结、图片生成和图片理解等。全面支持多种大模型应用场景,涵盖语言理解、内容创作、知识问答、逻辑推理、数学能力、代码解析与编写以及多模交互等领域。

模型平台架构.png