1. 全球背景 BACKGROUND 全球：医疗数字化转型势不可挡，各国相继出台政策加速数字医疗产业发展 2023年《健康经济走廊计划》/世界级医疗旅游中心泰国 2024年《欧洲健康数据空间（EHDS）》达成临时协议 中国与全球协同，例如： 2021年制定的《中国-拉共体成员国重点领域合作共同行动计划(2022—2024)》，在数字基 建、通信设备、5G、大数据、云计算、人工智能等领域开展合作，支持成员国公共卫生基础 设施建设，助力医疗等领域数字化转型。 2024~2030年联邦卫生IT战略计划草案 2025年1月美国卫生与公众服务部（HHS） 发布《卫生、人类服务和公共卫生领域人 工智能战略计划》 *数据来源与参考：2023-2027全球数字医疗产业经验发展蓝皮书 2024年《卫生健康行业人工智能应用场景参考指引》 数字医疗（Digital Health）：是将物联网、大数据和人工智能等现代信息技术集成应用于医疗过程的一种新型的现代化医疗方式，可以实现健康医疗服务的数据化、标准化和 智能化，是公共医疗的发展方向和管理目标。
Knowldge Treasure KP重 要合 该板可是用来播绘企亚两商业较式，以硬叠理著和段资著更好地了丽 企业的运营方式和商业逻辑。 可参加作为个人发展的模式画布 个人商业模式画布 （仅供参考，个人职业规划可参考579职业规划画布！！） 。 作 KA关 键业务 VP价 值主张 CR客户关系 Cs客 户细分 如何建立联系?谁能帮助我? 我要做什么? 提供什么价值? 我能服务谁? ☆ 家 人 ☆ 提 供产品 ☆ 提 供服务 ☆ 提 供平台 ☆ 物 美价廉 ☆ 性能改善 ☆ 优 化服务 ☆ 创新需求 ☆ 节约成本 ☆ 风险控制 ☆ 情 绪价值 ☆ 提 高效率 ☆ 节约时间 ☆ 与人协作 ☆ 私 人服务 ☆ 自动服务 ☆ 企 业组织 ☆ 单 身贵族 ☆ 家 庭主妇 ☆ 三 口之家 ☆ 职场新人 ☆ 老 年群体 ☆ 毕 业学生 ☆ 都市白领 ☆ 城市中产 ☆ 朋友 ☆ 同 学 ☆ 同 事 ☆ 同 行 KR核 心资源 CH渠道通路☆ 老 师 … … 我该如何宣传?我 拥有什么? … … … … ☆ 信 息技术 ☆ 特 长技能 ☆ 资本资金 ☆ 人 脉渠道 ☆ 各大平台 ☆ 公域私域 ☆ 线 下本店 ☆ 销 售渠道 …… Cs成 本结构 我要付出什么? RS收 入来源 我能得到什么? ☆商品销售收人 ☆技术服务收人 ☆广 告&租赁收入 ☆ 专利使用许可收入 ☆ 时间&精力 ☆ 资金&人脉 ☆ 人力&物资 … … … …
目 录 前言 第1章 新时代的曙光——人工智能与大模型 1.1 人工智能：思维与实践的融合 1.1.1 人工智能的历史与未来 1.1.2 深度学习与人工智能 1.1.3 选择PyTorch 2.0实战框架 1.2 大模型开启人工智能的新时代 1.2.1 大模型带来的变革 1.2.2 最强的中文大模型——清华大学ChatGLM介绍 1.2.3 近在咫尺的未来——大模型的应用前景 1.3 本章小结 第2章 PyTorch 2.0深度学习环境搭建 2.1 环境搭建1：安装Python 2.1.1 Miniconda的下载与安装 2.1.2 PyCharm的下载与安装 2.1.3 Python代码小练习：计算Softmax函数 2.2 环境搭建2：安装PyTorch 2.0 2.2.1 Nvidia 10/20/30/40系列显卡选择的GPU版本 2.2.2 PyTorch 2.0 GPU Nvidia运行库的安装 2.2.3 PyTorch 2.0小练习：Hello PyTorch 2.3 生成式模型实战：古诗词的生成 2.4 图像降噪：手把手实战第一个深度学习模型 2.4.1 MNIST数据集的准备 2.4.2 MNIST数据集的特征和标签介绍 2.4.3 模型的准备和介绍 2.4.4 对目标的逼近——模型的损失函数与优化函数 2.4.5 基于深度学习的模型训练 2.5 本章小结 第3章 从零开始学习PyTorch 2.0 3.1 实战MNIST手写体识别 3.1.1 数据图像的获取与标签的说明 3.1.2 实战基于PyTorch 2.0的手写体识别模型 3.1.3 基于Netron库的PyTorch 2.0模型可视化
2 总顾问： 刘 勤 专家顾问：赵燕锡 韩向东 陈 虎 付建华 魏代森 沈雁冰 曾 超 发起人： 杨 寅 吕晓雷 执笔人： 杨 寅 宛 涛 李 彤 孙彦丛 方高林 孔 冰 刘 峰 史瑞超 陈 昊 吕晓雷 研究团队：上海国家会计学院 金蝶集团 元年科技 中兴新云 用友公司 浪潮通软 汉得信息 久其软件 主办中心：智能财务关键技术（会计科技 AccTech）与系统平台研究室（中心） 学术支持：上海国家会计学院 基金支持：国家社会科学基金项目“人工智能对会计工作影响与会计职能转变研究”（20BGL083） 撰写团队：杨 寅 吕晓雷 宛 涛 刘丹彤 肖远明 李 彤 张亚东 鲁 湘 孙彦丛 宁 燕 张 蓓 方高林 张 伟 付立波 孔 冰 莫小娟 杨 智 刘 峰 赵 鹤 贾晓蕊 史瑞超 王 站 姜文杰 陈 昊 内容审定：刘 勤 杨 寅 发布日期：2024 年 9 月 联系交流：yangyin@snai.edu 研究院公众号二维码
目 录 第一篇 算法原理 第1章 Transformer模型 第2章 GPT系列模型 第3章 深度生成模型 第4章 预训练模型 第二篇 应用实战 第5章 文本生成应用实战：利用ChatPDF与文件对话 第6章 文本生成算法实战：DeepSpeed-Chat 第7章 图像生成算法实战：Stable Diffusion微调 第8章 代码生成算法实战：Code Llama微调 第9章 综合应用实战：构建“漫画家”生成多模态
1 01 大白话大模型Transformer架构 - 基于自注意力机制的神经网络结构 02大白话大模型自注意力（Self-Attention） - 序列内部元素关联计算 03大白话大模型多头注意力（Multi-Head Attention） - 并行多组注意力机制 04大白话大模型位置编码（Positional Encoding） - 注入序列位置信息 05大白话大模型词嵌入（Word Embedding） - 词语的向量化表示 06注意力机制（Attention） - 动态权重分配技术 07大白话大模型参数规模（Parameter Scale） - 模型可训练参数总量 08大白话大模型预训练（Pre-training） - 大规模无监督学习阶段 09大白话大模型微调（Fine-tuning） - 特定任务的有监督训练 10大白话大模型零样本学习（Zero-shot Learning） - 无示例直接推理 11大白话大模型少样本学习（Few-shot Learning） - 少量示例引导推理 12大白话大模型提示工程（Prompt Engineering） - 设计优化输入提示 13大白话大模型思维链（Chain-of-Thought） - 分步推理提示技术 14大白话大模型指令微调（Instruction Tuning） - 指令响应优化训练 15大白话大模型人类反馈强化学习（RLHF） - 基于人类偏好的优化 16大白话大模型 困惑度（Perplexity） - 语言模型评估指标 17大白话大模型生成式AI（Generative AI） - 内容生成类模型 18大白话大模型解码策略（Decoding Strategy） - 文本生成采样方法 19大白话大模型温度参数（Temperature） - 控制生成随机性 20大白话大模型Top-k采样 - 限制候选词范围的生成
第1章 大语言模型：辩论、争议与未来发展方向 大语言模型（Large Language Model，LLM）可以说是过去10年中最重要的机器学习（Machine Learning，ML）创新。新一代的大语言模型，如ChatGPT和GPT-4模型（OpenAI， 2023b），已经发展为极具影响的产品，以其前所未有的能力在世界范围内掀起了一场风暴，它可以生成类似人类的文本、对话，在某些情况下还可以进行类似人类的推理。 LLM有广泛的潜在应用，可以提高各种行业的效率。例如，在医疗保健领域中，GPT-4模型和其他LLM可以分析大量的医疗数据，为诊断和治疗提供更明智的决策；在金融领 域中，LLM可以通过分析市场趋势和预测股票价值发挥作用；在市场营销领域中，像GPT-4模型这样的LLM可以提供个性化的建议和广告素材；在教育领域中，GPT-4模型可以 为学生量身定制学习计划。 LLM的另一个重要应用是解释蛋白质的氨基酸序列，这有助于加深我们对这些基本生物成分的理解。LLM在理解DNA和化学结构方面也有帮助。此外，LLM还被整合到机器人 技术中，为软件开发人员提供帮助。例如，DeepMind的Gato（Reed et al，2022）——一个基于LLM的模型，通过对600多个独特任务的训练，让机械臂学会了如何堆积木。这种 多功能性使LLM能够在游戏或聊天机器人动画等不同的环境中有效运行。LLM是一种多功能的工具，可以自动执行各种任务，包括数据录入、内容创建和客户服务等。通过这 种方式，员工可以得到解放，从而专注更高层次的职责，最终提高使用LLM的企业的效率和生产力。 LLM正在迅速地向前发展。GPT-4模型是这一领域的新发展成果之一，它拥有一系列有别于之前的模型的新颖功能。由于GPT-4模型具有从文本、图像和音频等不同输入中学习 的能力，因此它具有高度的适应性和全面性。凭借先进的推理和逻
目 录 预 备 篇 第 1 章 了解大模型与 RAG ································································· 3 1.1 初识大模型 ·········································································· 3 1.1.1 大模型时代：生成式 AI 应用的爆发 ·································· 3 1.1.2 大模型应用的持续进化 ·················································· 4 1.1.3 大模型是无所不能的吗 ·················································· 7 1.2 了解 RAG ··········································································· 11 1.2.1 为什么需要 RAG ························································· 11 1.2.2 一个简单的 RAG 场景 ·················································· 12 1.3 RAG 应用的技术架构 ···························································· 14 1.3.1 RAG 应用的经典架构与流程 ·········································· 14 1.3.2 RAG
目录 第 1章 语言模型基础 1 1.1 基于统计方法的语言模型 . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.1.1 n-grams语言模型 . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.1.2 n-grams的统计学原理 . . . . . . . . . . . . . . . . . . . . . . 4 1.2 基于 RNN的语言模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2.1 循环神经网络 RNN . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2.2 基于 RNN的语言模型 . . . . . . . . . . . . . . . . . . . . . . 10 1.3 基于 Transformer的语言模型 . . . . . . . . . . . . . . . . . . . . . . . 13 1.3.1 Transformer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 1.3.2 基于 Transformer的语言模型 . . . . . . . . . . . . . . . . . . . 17 1.4 语言模型的采样方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.4.1 概率最大化方法 . . . . . . . . . . . . . . . . . . . . . . . . . . 19 1.4.2 随机采样方法 . .
面向审计行业DeepSeek大模型操作指南 版本 1.0 | 适用对象：审计从业人员 南京审计大学 计算机学院大模型团队提供 2025年 2月 8日
第 1 章 初识 GPT-4 和 ChatGPT 1.1 LLM 概述 1.1.1 探索语言模型和 NLP 的基础 1.1.2 理解 Transformer 架构及其在 LLM 中的作用 1.1.3 解密 GPT 模型的标记化和预测步骤 1.2 GPT 模型简史：从 GPT-1 到 GPT-4 1.2.1 GPT-1 1.2.2 GPT-2 1.2.3 GPT-3 1.2.4 从 GPT-3 到 InstructGPT 1.2.5 GPT-3.5、Codex 和 ChatGPT 1.2.6 GPT-4 1.3 LLM 用例和示例产品 1.3.1 Be My Eyes 1.3.2 摩根士丹利 1.3.3 可汗学院 1.3.4 多邻国 1.3.5 Yabble 1.3.6 Waymark 1.3.7 Inworld AI 1.4 警惕 AI 幻觉：限制与考虑 1.5 使用插件和微调优化 GPT 模型 1.6 小结 第 2 章 深入了解 GPT-4 和 ChatGPT 的 API 2.1 基本概念 2.2 OpenAI API 提供的可用模型 2.3 在 OpenAI Playground 中使用 GPT 模型 2.4 开始使用 OpenAI Python 库 2.4.1 OpenAI 访问权限和 API 密钥 2.4.2 Hello World 示例程序 2.5 使用 GPT-4 和 ChatGPT 2.5.1 ChatCompletion 端点的输入选项 2.5.2 ChatCompletion 端点的输出格式 2.5.3 从文本补全到函数 2.6 使用其他文本补全模型 2.6.1 Completion 端点的输入选项 2.6.2 Completion 端点的输出格式 2.7 考虑因素 2.7.1 定价和标记限制 2.7.2 安全和隐私 2.8 其他 OpenAI API 和
