大語言模型技術-原理與實踐3天(1)

  培訓講師：葉梓

講師背景：
葉梓老師葉梓，工學博士，高級工程師。現某大型上市企業(yè)資深技術專家。2005年上海交通大學計算機專業(yè)博士畢業(yè)，在校期間的主研方向為數據挖掘、機器學習、人工智能。畢業(yè)后即進入軟件行業(yè)從事信息化技術相關工作；負責或參與了多項、省市級人工智能及大數 詳細>>

葉梓
    課程咨詢電話：

大語言模型技術-原理與實踐3天(1)詳細內容

大語言模型技術-原理與實踐3天(1)

大語言模型技術原理與實踐
【課程簡介】
本課程旨在通過實際案例展示ChatGPT、ChatGLM、Langchain等相關大語言模型的具體應用場景及實踐技巧，從而幫助學習者深入了解和掌握大語言模型的概念和更廣泛的應用，深入理解其工作方式，包括其基礎知識、核心算法和實現方式，掌握其在各行業(yè)領域中的應用情況等。
該課程適合于對大語言模型技術感興趣的學習者，從初學者到進階者均可受益。經過本課程的學習，獲得相關技術實戰(zhàn)經驗，通過一系列的實踐案例提高利用大模型解決實際問題能力。
【課程時長】
3天（6小時/天）
【課程對象】
理工科本科及以上，且至少了解一門編程語言。
【課程大綱】（培訓內容可根據客戶需求調整）
時間
內容
案例實踐與練習
Day1上午
Transformer基礎
1、你需要的僅僅是“注意力”
2、Transformer中的block
3、自注意力機制
4、多頭注意力
5、位置編碼（拋棄RNN）
6、Batch Norm與Layer Norm
7、解碼器的構造
初代GPT
“獨角獸”的威力
GPT的內部架構
基于Transformer的改造
自注意力機制的改進
GPT的演進
1、GPT-2
2、GPT-3
3、GPT-3.5
4、GPT-4
Day1下午
強化學習基礎
馬爾科夫獎勵/決策過程
狀態(tài)行為值函數
Bellman方程
DP、MC、TD三者的關系
策略梯度方法
信賴域系方法背景
PPO方法
chatGPT的原理介紹
1、指示學習與InstructGPT
2、相關數據集
3、有監(jiān)督微調（SFT）
4、從人類反饋中RL的思路
5、獎勵建模（RM）
6、運用PPO改進
Day2上午
ChatGLM部署
1、ChatGLM3-6B介紹
2、ChatGLM3搭建流程
3、應用場景（工具調用、代碼執(zhí)行）
4、權重量化
ChatGLM3原理
1、Code Interpreter
2、多模態(tài)CogVLM
3、WebGLM搜索增強
微調大模型
1、基于chatGLM的微調
2、LoRA
3、Prefix Tuning
4、P-Tuning
5、Prompt Tuning
6、freeze
7、構建訓練數據集
Day2下午
其他開源大模型
1、LLaMA系列
2、通義千問（qwen）
3、零一萬物（Yi）
llama-factory微調大模型
1、工具的主要功能
2、支持的模型
3、數據集準備
4、微調策略（LoRA, QLoRA, PEFT）
Day3上午
學習LangChain所需的知識儲備
1、詞嵌入與語義空間
2、高維向量的快速模糊匹配
3、局部敏感哈希（LSH）
4、向量數據庫
LangChain的原理
1、大模型利用的難點與痛點
2、Langchain的基本思路
3、關鍵組件
Day3下午
LangChain的實操
1、環(huán)境搭建
2、知識庫向量化與存儲
3、問句向量化與初步匹配
4、合成prompt（提示詞）
5、提交給LLM生成答案
大語言模型的其他應用
1、kimi chat
2、coze
3、文心一格與通義萬相

 

葉梓老師的其它課程

DeepSeek輔助日常工作培訓提綱一、引言介紹大模型領域的競爭態(tài)勢強調DeepSeek的獨特優(yōu)勢二、DeepSeek概述DeepSeek的發(fā)展背景與定位DeepSeek各版本的特點與區(qū)別三、DeepSeek部署本地單機部署DeepSeek蒸餾版的硬件要求本地單機部署DeepSeek（量化）滿血版的配置與性能本地單機多卡部署DeepSeek（量化）滿血版的策

 講師：葉梓詳情

知識圖譜的Python實現【課程簡介】本課程包含知識圖譜的基本概念及常用算法，并實現了一個基于知識圖譜的對話機器人。通過1天的系統(tǒng)學習、案例講解和動手實踐，讓學員能初步了解知識圖譜的的相關知識與技術?！菊n程對象】理工科本科以上，或至少了解一種編程語言。知識圖譜基礎知識圖譜存儲知識圖譜基礎概念知識推理本體推理方法本體推理工具語義搜索RDF與RDFSOWL與OW

 講師：葉梓詳情

智能醫(yī)療技術與ChatGPT臨床應用三日深度培訓第一天：人工智能基礎與Python編程入門上午：人工智能在醫(yī)療領域的應用概述Python編程基礎環(huán)境搭建、數據類型、流程控制Python環(huán)境搭建Python數據類型與流程控制Python函數的應用Python面向對象編程?文件讀寫和目錄操作異常處理機器學習概述數據探索性分析：智能化數據分析特征工程：數據準備、數

 講師：葉梓詳情

人工智能“最強模型”transformer詳解【課程簡介】Transformer是迄今為止人工智能領域的最新和最強大的模型類別之一。它幾乎正在憑借一己之力來推動深度學習的又一波重大進步。Transformer模型充分運用了稱為注意力和自注意力機制，以檢測系列（或圖像）中元素相互影響和相互依賴的微妙關系。本課程通過2天時間的詳細介紹，可使學習者初步了解Tran

 講師：葉梓詳情

||1.人工智能概述||第一節(jié)：人工智能與機器學習基礎|2.機器學習概述|||3.機器學習算法應用分析|||1.一元線性回歸|||2.代價函數|||3.梯度下降法||第二節(jié)：回歸算法|4.sklearn一元線性回歸應用|||5.多元線性回歸|||6.sklearn多元線性回歸應用|||案例：葡萄酒質量和時間的關系|||1.KNN分類算法介紹|||2.KNN分

 講師：葉梓詳情

人工智能技術詳解【課程內容】本課程包含大數據、機器學習、深度學習、知識圖譜、強化學習與深度強化學習的相關知識?！菊n程時長】7天（7小時/天）【課程對象】理工科本科及以上，且至少了解一門編程語言。【課程大綱】（培訓內容可根據客戶需求調整）時間內容案例實踐與練習Day1上午準備工作準備工作1.概念與術語2.Python（Anaconda）的安裝3.Pycharm

 講師：葉梓詳情

人工智能與深度學習第一天：人工智能概念與經典算法人工智能概念綜述（第一天——1）從一些術語辨析人工智能人工智能之連接主義的興衰史這次AI的熱潮是怎么來的？圖像處理領域的最新熱點（第一天——2）分類、目標檢測與實例分割風格遷移自動駕駛人體姿態(tài)識別超分辨率圖像生成語言處理領域的最新熱點（第一天——3）Attention機制自動構建知識圖譜看圖說話預訓練機制三大經

 講師：葉梓詳情

人工智能之最新自然語言處理技術與實戰(zhàn)課程介紹：自然語言處理(簡稱NLP)是計算機科學和人工智能研究的一個重要方向，研究計算機和理解和運用人類語言進行交互的問題，它是集語言學、機器學習、統(tǒng)計學、大數據于一體的綜合學科。本課程主要介紹了NLP中的常用知識點：分詞、詞法分析、句法分析、向量化方法、經典的NLP機器學習算法，還重點介紹了NLP中最近兩年來基于大規(guī)模語

 講師：葉梓詳情

第一天上午：統(tǒng)計分析原理從最簡單的案例開始統(tǒng)計基礎描述性統(tǒng)計用SPSS實現描述性統(tǒng)計的案例回歸分析：線性回歸回歸分析：logistics回歸用SPSS實現回歸分析的案例可視化工具第一天下午：數據庫與數據倉庫介紹數據庫概述SQL（基本的增、刪、改、查）SQL（稍復雜的子句或嵌套）基于MySQL的上機操作SQL語言數據倉庫：度量與維度數據倉庫：星型模型、雪花模型

 講師：葉梓詳情

計算機視覺【課程時長】3天（7小時/天）【課程對象】理工科本科及以上，且至少了解一門編程語言?！菊n程大綱】（培訓內容可根據客戶需求調整）時間內容案例實踐與練習Day1上午準備工作準備工作決策樹準備工作（1）概念與術語Python（Anaconda）的安裝Pycharm的安裝與使用JupyterNotebook的安裝與使用Tensorflow與pytorch的

 講師：葉梓詳情

COPYRIGT @ 2001-2018 HTTP://www.musicmediasoft.com INC. ALL RIGHTS RESERVED. 管理資源網 版權所有