Python、知識(shí)圖譜與深度學(xué)習(xí)培訓(xùn)_8天

Python、知識(shí)圖譜與深度學(xué)習(xí)培訓(xùn)
【課程時(shí)長】
8天（6小時(shí)/天）
【課程簡介】
人工智能的浪潮正在席卷全球，各種培訓(xùn)課程應(yīng)運(yùn)而生，但真正能讓學(xué)員系統(tǒng)、全面掌握知識(shí)點(diǎn)，并且能學(xué)以致用的實(shí)戰(zhàn)課程并不多見。本課程包含基于python的數(shù)據(jù)分析、深度學(xué)習(xí)、知識(shí)圖譜和的重要概念及常用算法（決策樹、關(guān)聯(lián)規(guī)則、聚類、貝葉斯網(wǎng)絡(luò)、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、隱馬爾科夫模型、遺傳算法、CNN、RNN、GAN等），以及人工智能領(lǐng)域當(dāng)前的熱點(diǎn)。通過8天的系統(tǒng)學(xué)習(xí)、案例講解和動(dòng)手實(shí)踐，讓學(xué)員能初步邁入機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和知識(shí)圖譜的知識(shí)殿堂。
【課程收益】
掌握Python開發(fā)技能；
掌握深度學(xué)習(xí)工具：TensorFlow、Keras、pytorch等；
掌握基于python的數(shù)據(jù)分析知識(shí)；
掌握數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)進(jìn)階知識(shí)；
掌握深度學(xué)習(xí)的理論與實(shí)踐；
掌握知識(shí)圖譜基本知識(shí)；
為學(xué)員的后續(xù)項(xiàng)目應(yīng)用提供針對性的建議。
【課程特點(diǎn)】
本課程力圖理論結(jié)合實(shí)踐，強(qiáng)調(diào)從零開始，重視動(dòng)手實(shí)踐；課程內(nèi)容以原理講解為根本，以應(yīng)用落地為目標(biāo)。課程通過大量形象的比喻和手算示例來解釋復(fù)雜的機(jī)器學(xué)習(xí)理論，既能將原理充分講懂講透，也避免了繁復(fù)而枯燥的公式推導(dǎo)。
【課程對象】
計(jì)算機(jī)相關(guān)專業(yè)本科；或理工科本科，且至少熟悉一門編程語言。
【主講專家】
葉梓，博士、高級工程師。2005年上海交通大學(xué)計(jì)算機(jī)專業(yè)博士畢業(yè)，主研方向?yàn)閿?shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、人工智能等?，F(xiàn)為某大型上市軟件企業(yè)的人工智能團(tuán)隊(duì)技術(shù)負(fù)責(zé)人。曾主持設(shè)計(jì)并搭建上海市衛(wèi)計(jì)委衛(wèi)生大數(shù)據(jù)平臺(tái)、無錫市衛(wèi)生大數(shù)據(jù)平臺(tái)，在大數(shù)據(jù)、人工智能應(yīng)用等方面有著豐富的工程實(shí)踐經(jīng)驗(yàn)。先后在SCI或EI期刊上發(fā)表論文4篇，在中文核心期刊上發(fā)表論文近20篇，并被百度學(xué)術(shù)收錄。2011年獲中國醫(yī)院協(xié)會(huì)科技創(chuàng)新一等獎(jiǎng)。
【學(xué)員基礎(chǔ)】
具備初步的IT基礎(chǔ)知識(shí)
【課程大綱】（培訓(xùn)內(nèi)容可根據(jù)客戶需求調(diào)整）
時(shí)間
內(nèi)容
案例實(shí)踐與練習(xí)
Day1上午
基于python的實(shí)驗(yàn)環(huán)境
實(shí)驗(yàn)環(huán)境搭建
anaconda包的安裝
pip install的技巧
通過anaconda配置多個(gè)環(huán)境
Jupyter Notebook的使用
繪圖工具包matplotlib
opencv的安裝
Tensorflow的安裝
Pytorch的安裝
paddlepaddle的安裝
案例實(shí)踐：
python安裝
opencv安裝與驗(yàn)證
Tensorflow安裝與驗(yàn)證
Pytorch安裝與驗(yàn)證
paddlepaddle安裝與驗(yàn)證
Day1下午
Python基礎(chǔ)
Python開發(fā)概述
Python的基本語法
引入外部包
常用的數(shù)據(jù)結(jié)構(gòu)
定義函數(shù)
Python中的面向?qū)ο缶幊?br /> 文件讀寫
訪問數(shù)據(jù)庫
數(shù)據(jù)預(yù)處理
數(shù)據(jù)清理
規(guī)范化
模糊集
粗糙集
無標(biāo)簽時(shí)：PCA
有標(biāo)簽時(shí)：Fisher線性判別
數(shù)據(jù)壓縮（DFT、小波變換）
回歸與時(shí)序分析
線性回歸
非線性回歸
logistics回歸
案例實(shí)踐：
PCA的實(shí)驗(yàn)
DFT的實(shí)驗(yàn)
回歸的實(shí)驗(yàn)
Day2上午
基于python的數(shù)據(jù)分析
決策樹模型
分類和預(yù)測
熵減過程與貪心法
ID3
C4.5
其他改進(jìn)方法
決策樹剪枝
聚類
監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)
K-means與k-medoids
層次的方法
基于密度的方法
基于網(wǎng)格的方法
孤立點(diǎn)分析
案例實(shí)踐：
決策樹的實(shí)驗(yàn)
鳶尾花數(shù)據(jù)的聚類
手肘法分析NBA球隊(duì)的最佳聚類個(gè)數(shù)
各種聚類方式的圖形化展示
Day2下午
基于python實(shí)現(xiàn)的經(jīng)典算法
關(guān)聯(lián)規(guī)則
頻繁項(xiàng)集
支持度與置信度
提升度
Apriori性質(zhì)
連接與剪枝
性能評價(jià)指標(biāo)（5）
精確率；
P、R與F1
ROC與AUC
對數(shù)損失
泛化性能評價(jià)：k折驗(yàn)證驗(yàn)證
案例實(shí)踐：
超市購物籃——關(guān)聯(lián)規(guī)則分析
樸素貝葉斯案例：皮馬印第安人患糖尿病的風(fēng)險(xiǎn)
Day3上午
知識(shí)圖譜概念
知識(shí)圖譜綜述
自然語言處理概念回顧
知識(shí)表示與知識(shí)抽取
面向非結(jié)構(gòu)化的數(shù)據(jù)知識(shí)抽取
實(shí)體消歧與鏈接
圖數(shù)據(jù)庫介紹
實(shí)體對齊方法
知識(shí)融合
知識(shí)推理、搜索與知識(shí)問答
早期知識(shí)圖譜概念
知識(shí)推理
本體推理方法
本體推理工具
語義搜索
RDF與RDFS
OWL與OWL2
SPARQL
實(shí)踐：
Neo4j的安裝
知識(shí)推理模型
Day3下午
知識(shí)圖譜存儲(chǔ)
知識(shí)圖譜存儲(chǔ)
知識(shí)存儲(chǔ)模型
圖數(shù)據(jù)庫選型
Neo4j開發(fā)環(huán)境部署
Neo4j-可視化操作
Neo4j-CQL語法基礎(chǔ)
Neo4j-完整案例操作實(shí)戰(zhàn)
Neo4j系統(tǒng)管理
Python與Neo4j的集成
實(shí)踐：
Neo4j的安裝
Neo4j的基本操作
基于Neo4j的查詢
Python與Neo4j的集成
Day4上午
知識(shí)圖譜自動(dòng)抽取
知識(shí)圖譜自動(dòng)抽取
面向文本的知識(shí)抽取
DeepDive關(guān)系抽取實(shí)踐
開放域關(guān)系抽取
實(shí)體消歧與鏈接
知識(shí)規(guī)則挖掘
知識(shí)圖譜表示學(xué)習(xí)
基于DL的知識(shí)圖譜自動(dòng)抽取
基于深度學(xué)習(xí)的實(shí)體識(shí)別
基于深度學(xué)習(xí)的屬性鏈接
實(shí)踐：
基于百科數(shù)據(jù)的知識(shí)抽取
知識(shí)抽取的DL模型
Day4下午
KBQA完整體系
KBQA完整體系
知識(shí)問答系統(tǒng)
知識(shí)問答系統(tǒng)基本流程
知識(shí)問答系統(tǒng)主流方法
開源的問答系統(tǒng)
基于知識(shí)圖譜問答系統(tǒng)
綜合案例
完整的基于KG的問答系統(tǒng)（KBQA）
Day5上午
深度學(xué)習(xí)基礎(chǔ)
BP神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)元及感知機(jī)模型
Sigmoid激活函數(shù)
前向神經(jīng)網(wǎng)絡(luò)的架構(gòu)
梯度下降
誤差反向傳播詳解
支持向量機(jī)
“雙螺旋”問題
基本模型與懲罰項(xiàng)
求解對偶問題
核函數(shù)：映射到高維
從二分類到多分類
用于連續(xù)值預(yù)測的支持向量機(jī)
案例實(shí)踐：
皮馬印第安人糖尿病風(fēng)險(xiǎn)：驗(yàn)證多種模型
繪制ROC并計(jì)算AUC
手算神經(jīng)網(wǎng)絡(luò)BP算法
只用numpy，手推BPNN
Day5下午
深度學(xué)習(xí)基礎(chǔ)與CNN
深度學(xué)習(xí)基礎(chǔ)
連接主義的興衰
深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)的區(qū)別與聯(lián)系
目標(biāo)函數(shù)與激勵(lì)函數(shù)
學(xué)習(xí)步長
權(quán)重初始化
權(quán)重衰減（Weight Decay）
梯度下降的方法：Adagrad \ RMSprop \ Adam
避免過適應(yīng)
圖像分類CNN
圖像分類概述
AlexNet與ZF-Net
卷積層的誤差反向傳播
池化層的誤差反向傳播
VGG（5層變?yōu)?組）
遷移學(xué)習(xí)
GoogLenet和Inception模塊
模型退化與ResNet
DenseNet（充分利用特征）
最新的efficientnet
案例實(shí)踐：
SVM實(shí)現(xiàn)人臉識(shí)別應(yīng)用
通過深度BP網(wǎng)絡(luò)實(shí)現(xiàn)手寫數(shù)字的識(shí)別
各種梯度下降方法的實(shí)戰(zhàn)效果
Batch normalization的實(shí)戰(zhàn)效果
案例實(shí)踐：
VGG各層的可視化展現(xiàn)
遷移學(xué)習(xí)：識(shí)別貓和狗
Resnet用于圖像分類
Day6上午
目標(biāo)檢測
二階段目標(biāo)檢測
目標(biāo)檢測項(xiàng)目介紹
R-CNN
SPPNET（全圖卷積、SPP層）
Fast-RCNN（多任務(wù)）
Faster-RCNN（RPN）
R-FCN
一階段目標(biāo)檢測（2）
SSD
YOLO-v1（一切都是回歸）
YOLO -v2（9000）
YOLO -v3（多尺度）
YOLO -v4
YOLO -v5
案例實(shí)踐：
基于Faster-RCNN的通用目標(biāo)檢測示例
改造成“血細(xì)胞識(shí)別”系統(tǒng)
Day6下午
圖像分割與NLP初步
圖像分割（3）
全卷積網(wǎng)絡(luò)（FCN）
上采樣的三種實(shí)現(xiàn)方式
膨脹卷積
CRF
DeepLab V1~V3
自然語言處理初步（2）
語言模型
Bi-Gram與N-Gram
機(jī)械分詞與統(tǒng)計(jì)分詞
詞性標(biāo)注
命名實(shí)體識(shí)別
情感分析；
案例實(shí)踐：
基于YOLO v3的通用目標(biāo)快速檢測示例
基于YOLO v3的視頻檢測
基于YOLO v5的目標(biāo)檢測
DeepLab的示例
Day7上午
RNN與W2V
循環(huán)神經(jīng)網(wǎng)絡(luò)（1）
RNN基本原理
LSTM、GRU
雙向循環(huán)神經(jīng)網(wǎng)絡(luò)
編碼器與解碼器結(jié)構(gòu)
seq2seq模型
Attention
NIC模型
詞向量（3）
W2V:CBOW
W2V:skip-gram
W2V:Hierachical Softmax
W2V:Negative Sampling
案例實(shí)踐：
股票交易數(shù)據(jù)的預(yù)測；
藏頭詩生成；
《絕代雙驕》中，誰和小魚兒最相似？
SnowNLP：褒義的中性詞
Word2vec代碼解讀
Day7下午
預(yù)訓(xùn)練模型基礎(chǔ)
Transformer
所有你需要的僅僅是“注意力”
Transformer中的block
自注意力機(jī)制
多頭注意力
位置編碼（拋棄RNN）
Batch Norm與Layer Norm
解碼器的構(gòu)造
BERT
BERT整體架構(gòu)
Masked-LM
Next Sentence Prediction
改造下游任務(wù)
WordPiece作為輸入
哪些改進(jìn)起作用？
案例實(shí)踐：
手推Transformer
BERT代碼解讀
BERT下游任務(wù)的改造
Day8上午
GPT、GAN
GPT
“獨(dú)角獸”的威力
GPT的內(nèi)部架構(gòu)
基于Transformer的改造
自注意力機(jī)制的改進(jìn)
GPT的應(yīng)用場景
最新的GPT-3
GAN
生成對抗網(wǎng)絡(luò)（GAN）
KL散度與JS散度
改進(jìn)的GAN：DCGAN
加上約束：infoGAN
根本上解決：Wasserstein GAN
案例實(shí)踐：
實(shí)現(xiàn)一個(gè)對話機(jī)器人
讓GPT寫一篇散文
案例實(shí)踐：
計(jì)算機(jī)想象的數(shù)字
特朗普的孩子
Day8下午
強(qiáng)化學(xué)習(xí)
強(qiáng)化學(xué)習(xí)初步
agent的屬性
馬爾科夫獎(jiǎng)勵(lì)/決策過程
exploration and exploitation
狀態(tài)行為值函數(shù)
Bellman期望方程
最優(yōu)策略
策略迭代與價(jià)值迭代
蒙特卡洛
時(shí)序差分法
深度強(qiáng)化學(xué)習(xí)
值函數(shù)的參數(shù)化表示
值函數(shù)的估計(jì)過程
深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)的結(jié)合
基礎(chǔ)的DQN 方法
Double DQN
Prioritized Replay
Dueling Network
案例實(shí)踐：
格子世界
機(jī)器人走迷宮
谷底的小車
倒立擺
笨鳥先飛：DQN
【授課環(huán)境】
講課環(huán)境要能上網(wǎng)

葉梓老師的其它課程