企业内训课关键词

KEY WORDS OF Corporate Training

培训地址:
关键字:
如何开箱即用地私有化部署企业级Deepseek:实战篇

联系我们:
13382173255(Karen郑老师)

学员背景| Course Background

参加对象:管理者

授课形式:内训

授课天数:2 天

课程大纲| Course Outline

一、课程开篇:Deepseek与AI时代的操作系统(30分钟)

1. Deepseek的定位与价值

o AI时代的"开源操作系统":如何理解这一概念?

对比传统操作系统:从资源管理到AI驱动的智能化升级

o Deepseek的核心能力:多模态支持、长上下文理解、行业场景适配

2. 为什么选择Deepseek私有化部署?

o 数据安全与合规性需求

o 企业级定制化场景(金融、医疗、政务等)

o 成本优化与长期可控性

 

二、AI大模型部署方式全景解析(30分钟)

1. 主流部署模式对比

公有云API调用 vs 私有化部署 vs 混合部署

算力需求与成本分析(TCO模型)

2. 私有化部署关键技术栈

硬件层:GPU集群/NPU加速卡

框架层:DeepSpeed、vLLM、TensorRT-LLM

运维层:Kubernetes + Prometheus监控体系

 

三、Deepseek部署案例深度剖析(30分钟)

1. 典型场景与解决方案

案例1:企业内部知识库系统

§ 需求:文档智能检索+多轮对话

§ 部署架构:Deepseek-MoE 7B + FAISS向量数据库

案例2:金融风控实时决策系统

§ 需求:低延迟(<200ms)推理+合规审计

§ 方案:Deepseek-33B量化版 + Triton推理服务器

2. 典型性能优化技巧

动态批处理(Dynamic Batching)配置

o FP8量化与模型蒸馏

显存优化策略(PagedAttention技术解析)

 

四、硬件配置与产品选型指南(15分钟)

模型规模

典型场景

推荐配置

代表产品

Deepseek-7B

边缘端/轻量级任务

单卡A10/A30 (24GB显存)

浪潮NF5468M6

幻境科技大模型知识推理一体机

Deepseek-33B

企业级服务

8*A100 80GB + NVLink互联

华为Atlas 800

幻境科技大模型知识推理一体机

Deepseek-130B

超大规模集群

32*H100 + InfiniBand网络

阿里云神龙+灵骏集群

注:国产化替代方案(昇腾910B+华为CANN工具链)

 

五、手把手实操:从零部署Deepseek模型(60分钟)

1. 环境准备阶段

硬件检查:nvidia-smi + dcgm监控

基础环境:Docker + NVIDIA Container Toolkit

o 对非深度研发用户,可直接体验大模型推理一体机预装环境

2. 模型部署全流程

o # Step1: 获取模型权重:git clone https://github.com/deepseek-ai/Deepseek-7B

o # Step2: 启动量化转换:python quantize.py --model_path ./ckpt --quant_type int4

o # Step3: Triton服务部署:docker run -gpus all -v /model_repo:/models tritonserver --model-repository=/models

o 对非深度用户,可直接体验大模型推理一体机预装模型

3. 性能调优实战

压力测试:locust模拟并发请求

显存分析:Nsight Systems性能剖析

日志监控:ELK Stack搭建观测体系

o 对非深度用户,可直接体验大模型推理一体机预装功能

 

六、问答与总结(15分钟)

1. 常见问题解答,如:

如何解决OOM(显存溢出)问题?

国产CPU/GPU适配方案

o 模型微调与持续学习链路设计

2. 课程总结

o 私有化部署的三大关键成功要素

o Deepseek生态发展路线图解读

 

附录:学习资源包

1. 官方部署白皮书(含Benchmark数据)

2. GitHub代码仓库快速访问指南

3. 硬件采购清单与供应商联系方式

4. 企业级部署Checklist(安全/合规/性能)

 

讲师背景| Introduction to lecturers

珀菲特顾问|尹智老师

讲师简介 / About the Program Leader

ChatGPT与人工智能实战专家-尹智老师

 (荷兰Utrecht大学MBI, 大数据&AI专家,人工智能布道师)

背景介绍:            

• 上海人工智能技术协会特聘首席咨询顾问

• 上海人工智能研究院专家讲师

• 上海市人工智能技术协会青少年AI教育首席专家

• 上海市元宇宙产业发展专家咨询委员会专家

• 上海市电竞协会首席AI专家

• 临港产业大学客座教授

• 原商汤科技智能产业研究院首席架构师

• Oracle Master企业架构师

• 原惠普企业服务新形态IT首席架构师

 

 

实战经验:

尹智先生是上海人工智能技术协会特聘首席咨询顾问,上海人工智能研究院专家讲师,上海市元宇宙产业发展专家咨询委员会专家,合肥元宇宙产业协会副会长单位负责人,贵州大数据专家委员会委员,临港产业大学客座教授。曾任商汤科技智能产业研究院首席架构师,德勤Oracle CX首席架构师,惠普企业新形态IT首席架构师,Oracle Master企业架构师。

 

     尹智老师专注在人工智能战略和架构规划、元宇宙产业规划及落地,数字化客户体验, 以及AI及大数据驱动的新形态ICT架构规划和咨询落地,有超过18年在中国大陆和荷兰的职业经验。先后服务过世界顶级的通讯和网络设备及方案商,世界顶级的咨询和审计服务公司和企业软件公司。

 

授课风格:

尹智老师的课程深入浅出,视野宏大,案例研究丰富,分析精彩,讲解幽默风趣,用企业和政府的语言,把抽象的人工智能和元宇宙理论知识与产业转化、政府数字化变革融会贯通,讲得通俗易懂,看得见,摸得着,用得上,深受好评。

尹智老师的讲课自我要求:“不讲正确的废话”,“所有听众都要听得懂”,“内容原创”,“不仅讲“What”,更讲“Why”和“How””



培训课程 / Training courses

《通用人工智能曙光:ChatGPT和AI大模型的源起,发展和落地应用》

AI大模型赋能的5G+ 元宇宙产业应用》

《人工智能时代的企业大数据技术和架构》

AI大模型时代的金融数字化转型和人工智能赋能应用》

《深入浅出数字化战略和企业架构:框架和应用》

《数字新基建:智能计算中心承载的人工智能模型和应用》

《人工智能时代的数字科技在双碳全生命周期管理中的应用模式和实践》

《元宇宙+ 电竞:人工智能时代的数实融合新形态虚拟体育》

《人工智能和AI大模型落地工作坊:从业务分析到技术架构落地设计》



代表性客户 / PART OF TRAINED COMPANIES INCLUDED BUT NOT LIMITED TO

甲骨文、商汤科技、惠普、中国银行,宁波银行,汇丰银行,瑞士银行、广东电信、江西移动、广西移动、湖北移动、湖南电信、苏宁云商、慧聪网、汇医在线等

院校,科研机构:复旦大学、清华大学、上海交通大学、上海人工智能研究院、上海理工大学、上海体育学院、中国传媒大学、同济大学、武汉大学、浙江大学等。

政企集团:上海市经信局、湖畔创研中心、广东机场集团、阿里云创新中心、临港集团、成都新经济局、江西省政府、扬州市政府、合肥市政府、中南建筑设计院、银川市政府、云南市政府、深圳交管局、成都金牛区、武汉洪山区、中石油、云南中烟、北汽集团、上海铁路局、南京大数据局、河南能源集团、神华集团、平安集团、中国国航等


服务流程

Service Procedure

  • 提交需求
  • 沟通诊断
  • 项目调研
  • 方案设计
  • 达成共识
  • 项目实施
  • 持续跟踪
  • 效果评估

服务优势

Service Advantages

  • 对行业特性的深刻理解

    我们拥有几百家各类企业的项目咨询基础、多行业数据库、多年的行业经验,并对企业进行深度研究和剖析,总结出一系列深入的观点和经验。

  • 丰富的案例库及落地方案

    我们的咨询方案的设计过程秉承“知行合一”的理念,既具备理论知识,又重视项目的实操性。经过多年的经验,我们积累了丰富的案例库,涉及18个领域,近千个案例,并将案例与咨询项目完美结合。

  • 经验深厚的咨询团队

    我们的咨询团队分布于各大领域,拥有多年的业内从业经验,具备丰富的企业管理实操经验。在定制咨询方案前,我们会为客户匹配多位业内咨询师,供客户进行比对选择,根据客户需求及问题,定制化地设计咨询方案,确保项目的顺利进行。

关于珀菲特顾问

ABOUT PERFECT CONSULTANT

我们是?人才培养与智能制造解决方案提供商。

We are? Talent training and intelligent manufacturing solutions provider.

我们做什么?承接组织绩效提升与人才学习发展业务。

What we do ?Provide organizational performance improvement and talent learning development business.

服务的客户:世界五百强企业、合资工厂、国有企业、快速发展的民营企业、行业领头企业。

Customers:Each year, we serves more than 1000 enterprises (including fortune 500 enterprises, joint venture factories, state-owned enterprises, rapidly developing private enterprises and industry-leading enterprises).

  • 2011年成立

    10年更懂你

  • 6000+

    中大型企业共同选择

  • 600000+

    累计培训学员

  • 1500+

    现有公开课

  • 10000+

    现有内训课

  • 800+

    现有在线课程

  • 20+

    辐射城市

线下业务

OFFLINE BUSINESS

  • 内训课

    高层团队引导工作坊

    中层管理内训

    基层管理内训

  • 项目咨询

    人才梯队建设咨询项目

    工厂运营咨询项目

    TTT内训师咨询项目

  • 公开课

    领导力公开课

    精益智造公开课

    个人效能公开课

视频资讯

Video Information

【见证企业成长每一步】
AI效能提升 × HR实战干货 × 领导力精要,前沿管理智慧每周更新,
关注视频号获取全场景管理解决方案,让卓越触手可及!


企业视频号


官网电话:400-008-4600;手机号:13382173255(Karen郑老师);网站:www.perfectpx.com

培训的客户涵盖多个行业的知名企业

PART OF TRAINED COMPANIES INCLUDED BUT NOT LIMITED TO

数字化搭建企业学习平台,加速人才培养

专属云大学,一键部署,智能配课,千人千面

1.点击下面按钮复制微信号

13382173255

点击复制微信号

珀菲特企业管理
Karen /郑老师