課程描述INTRODUCTION
· 高層管理者· 中層領(lǐng)導(dǎo)· 其他人員
日程安排SCHEDULE
課程大綱Syllabus
AI大模型公開(kāi)課
一、培訓(xùn)特色
1.理論與實(shí)踐相結(jié)合、案例分析與實(shí)驗(yàn)穿插進(jìn)行;
2.專(zhuān)家精彩內(nèi)容解析、學(xué)員專(zhuān)題討論、分組研究;
3.通過(guò)全面知識(shí)理解、專(zhuān)題技能掌握和安全實(shí)踐增強(qiáng)的授課方式。
二、培訓(xùn)目標(biāo)
1.整體掌握大模型理論知識(shí);
2.了解自注意力機(jī)制、Transformer模型、BERT模型;
3.掌握GPT1、GPT2、GPT3、chatGPT原理與實(shí)戰(zhàn);
4.了解LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring;
5.了解國(guó)產(chǎn)大模型ChatGLM;
6.了解Sora大模型技術(shù)優(yōu)勢(shì);
7.掌握語(yǔ)言理解與字幕生成及其應(yīng)用;
8.掌握?qǐng)D像生成和應(yīng)用實(shí)操;
9.了解應(yīng)用場(chǎng)景與潛力分析;
10.了解大模型企業(yè)商用項(xiàng)目實(shí)戰(zhàn)。
三、日程安排
第一天
預(yù)備知識(shí)
第一節(jié):大模型理論知識(shí)
1、初探大模型:起源與發(fā)展
2、GPT模型家族:從始至今
3、大模型_GPT_ChatGPT的對(duì)比介紹
4、大模型實(shí)戰(zhàn)-大模型2種學(xué)習(xí)路線的講解
5、 大模型最核心的三項(xiàng)技術(shù):模型、微調(diào)和開(kāi)發(fā)框架
6、 0penAl GPT系列在線大模型技術(shù)生態(tài)
7、0penAl文本模型A、B、C、D四大模型引擎簡(jiǎn)介
8、0penAl語(yǔ)音模型Whisper與圖像型DALL·E模型介紹
9、最強(qiáng)Embedding大模型text-embedding-ada模型介紹
10、全球開(kāi)源大模型性能評(píng)估榜單
11、中文大模型生態(tài)介紹與GLM 130B模型介紹
12、ChatGLM模型介紹與部署門(mén)檻
13、ChatGLM開(kāi)源生態(tài):微調(diào)、多模態(tài),WebUI等項(xiàng)目簡(jiǎn)介
預(yù)備知識(shí)
第二節(jié):自注意力機(jī)制、Transformer模型、BERT模型RNN-LSTM-GRU等基本概念
編碼器、解碼器
自注意力機(jī)制詳解
Transformer
Mask Multi-Head Attention
位置編碼
特定于任務(wù)的輸入轉(zhuǎn)換
無(wú)監(jiān)督預(yù)訓(xùn)練、有監(jiān)督 Fine-tuning
BERT思路的理解
BERT模型下游任務(wù)的網(wǎng)絡(luò)層設(shè)計(jì)
BERT的訓(xùn)練
HuggingFace中BERT模型的推斷
基于上下文的學(xué)習(xí)
代碼和案例實(shí)踐:
基本問(wèn)答系統(tǒng)的代碼實(shí)現(xiàn)
深入閱讀理解的代碼實(shí)現(xiàn)
段落相關(guān)性代碼實(shí)現(xiàn)
第一節(jié):
GPT1、GPT2、GPT3、chatGPT原理與實(shí)戰(zhàn)監(jiān)督微調(diào)(SFT)模型、
指示學(xué)習(xí)和提示學(xué)習(xí)
簡(jiǎn)單提示、小樣本提示、基于用戶(hù)的提示
指令微調(diào)
RLLHF技術(shù)詳解(從人類(lèi)的反饋中學(xué)習(xí))
聚合問(wèn)答數(shù)據(jù)訓(xùn)練獎(jiǎng)勵(lì)模型(RM)
強(qiáng)化學(xué)習(xí)微調(diào)、PPO、
InstructGPT遵循用戶(hù)意圖使用強(qiáng)化學(xué)習(xí)方案
Instruct Learning vs. Prompt Learning
ChatGPT增加增加了Chat屬性
AI 系統(tǒng)的新范式
GPT1-GPT2-GPT3-InstructGPT的-chatGPT的技術(shù)關(guān)系
代碼和案例實(shí)踐:
使用chatGPT打造你的私人聊天助理
演示提示詞技巧,翻譯器潤(rùn)色器、JavaScript 控制臺(tái)?、Excel Sheet
網(wǎng)站定制chatgpt-web
第二節(jié):
Embedding模型實(shí)戰(zhàn)大模型技術(shù)浪潮下的Embedding技術(shù)定位
Embedding技術(shù)入門(mén)介紹
從Ono-hot到Embedding
Embedding文本衡量與相似度計(jì)算
OpenAl Embedding模型與開(kāi)源Embedding框架
兩代OpenAl Embedding模型介紹
text-embedding-ada-002模型調(diào)用方法詳解
text-embedding-ada-002模型參數(shù)詳解與優(yōu)化策略
借助Embedding進(jìn)行特征編碼
Embedding結(jié)果的可視化展示與結(jié)果分析
【實(shí)戰(zhàn)】借助Embedding特征編碼完成有監(jiān)督預(yù)測(cè)
【實(shí)戰(zhàn)】借助Embedding進(jìn)行推薦系統(tǒng)冷啟動(dòng)
【實(shí)戰(zhàn)】借助Embedding進(jìn)行零樣本分類(lèi)與文本搜索
Embedding模型結(jié)構(gòu)微調(diào)優(yōu)化
借助CNN進(jìn)行Embedding結(jié)果優(yōu)化
【企業(yè)級(jí)實(shí)戰(zhàn)】海量文本的Embedding高效匹配
第三節(jié):
LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring設(shè)計(jì)模式:上下文學(xué)習(xí)
數(shù)據(jù)預(yù)處理/嵌入
提示構(gòu)建/檢索
提示執(zhí)行/推理
數(shù)據(jù)預(yù)處理/嵌入
Weaviate、Vespa 和 Qdrant等開(kāi)源系統(tǒng)
Chroma 和 Faiss 等本地向量管理庫(kù)
pgvector 等OLTP 擴(kuò)展
提示構(gòu)建/檢索
提示執(zhí)行/推理
新興的大語(yǔ)言(LLM)技術(shù)棧
數(shù)據(jù)預(yù)處理管道(data preprocessing pipeline)
嵌入終端(embeddings endpoint )+向量存儲(chǔ)(vector store)
LLM 終端(LLM endpoints)
LLM 編程框架(LLM programming framework)
LangChain的主要功能及模塊
Prompts: 這包括提示管理、提示優(yōu)化和提示序列化。
LLMs: 這包括所有LLMs的通用接口,以及常用的LLMs工具。
Document Loaders: 這包括加載文檔的標(biāo)準(zhǔn)接口,以及與各種文本數(shù)據(jù)源的集成。
Utils: 語(yǔ)言模型在與其他知識(shí)或計(jì)算源的交互
Python REPLs、嵌入、搜索引擎等
LangChain提供的常用工具
Indexes:語(yǔ)言模型結(jié)合自定義文本數(shù)據(jù)
Agents:動(dòng)作執(zhí)行、觀測(cè)結(jié)果,
LangChain的代理標(biāo)準(zhǔn)接口、可供選擇的代理、端到端代理示例
Chat:Chat模型處理消息
代碼和案例實(shí)踐:
LLM大模型的使用
Prompts的設(shè)計(jì)和使用
第二天
第四節(jié):LangChain的使用構(gòu)建垂直領(lǐng)域大模型的通用思路和方法
(1) 大模型+知識(shí)庫(kù)
(2) PEFT(參數(shù)高效的微調(diào))
(3) 全量微調(diào)
(4) 從預(yù)訓(xùn)練開(kāi)始定制
LangChain介紹
LangChain模塊學(xué)習(xí)-LLMs 和 Prompts
LangChain之Chains模塊
LangChain之Agents模塊
LangChain之Callback模塊
Embedding嵌入
自定義知識(shí)庫(kù)
知識(shí)沖突的處理方式
向量化計(jì)算可采用的方式
文檔加載器模塊
向量數(shù)據(jù)庫(kù)問(wèn)答的設(shè)計(jì)
Lanchain競(jìng)品調(diào)研和分析
Dust.tt/Semantic-kernel/Fixie.ai/Cognosis/GPT-Index
LlamaIndex介紹
LlamaIndex索引
動(dòng)手實(shí)現(xiàn)知識(shí)問(wèn)答系統(tǒng)
代碼和案例實(shí)踐:
動(dòng)手實(shí)現(xiàn)知識(shí)問(wèn)答機(jī)器人
LangChain文本摘要
PDF文本閱讀問(wèn)答
第五節(jié):
國(guó)產(chǎn)大模型ChatGLM新一代GLM-4模型入門(mén)介紹
智譜Al Mass開(kāi)放平臺(tái)使用方法03GLM在線大模型生態(tài)介紹
CharGLM、CogView. Embedding模型介紹
GLM在線知識(shí)庫(kù)使用及模型計(jì)費(fèi)說(shuō)明
GLM模型API一KEY獲取與賬戶(hù)管理方法
GLM模型SDK調(diào)用與三種運(yùn)行方法
GLM4調(diào)用函數(shù)全參數(shù)詳解
GLM4 Message消息格式與身份設(shè)置方法
GLM4 tools外部工具調(diào)用方法
GLM4 Function calling函數(shù)封裝12GLM4接入在線知識(shí)庫(kù)retrieval流程
GLM4接入互聯(lián)網(wǎng)web_search方法
【實(shí)戰(zhàn)】基于GLM4打造自動(dòng)數(shù)據(jù)分析Agent
【實(shí)戰(zhàn)】基于GLM4的自然語(yǔ)言編程實(shí)戰(zhàn)
【實(shí)戰(zhàn)】基于GLM4 Function call的用戶(hù)意圖識(shí)別
【實(shí)戰(zhàn)】基于GLM4的長(zhǎng)文本讀取與優(yōu)化
第六節(jié):
Sora大模型技術(shù)優(yōu)勢(shì)什么是Sora
Sora視頻生成能力
Sora技術(shù)獨(dú)特之處
統(tǒng)一的視覺(jué)數(shù)據(jù)表示
視頻壓縮網(wǎng)絡(luò)
擴(kuò)散型變換器模型
視頻壓縮與潛在空間
第七節(jié):
語(yǔ)言理解與字幕生成及其應(yīng)用使用圖像和視頻作為提示詞
動(dòng)畫(huà)DALL·E圖像
擴(kuò)展生成的視頻
視頻到視頻編輯
連接視頻
字幕生成
重字幕技術(shù)
GPT技術(shù)應(yīng)用
第三天
第八節(jié):
圖像生成和應(yīng)用實(shí)操新興的仿真功能
長(zhǎng)期連續(xù)性和物體持久性
角色和物體的一致性
視頻內(nèi)容的連貫性
與世界互動(dòng)
簡(jiǎn)單影響行為模擬
模擬數(shù)字世界
第九節(jié):
應(yīng)用場(chǎng)景與潛力分析電影與娛樂(lè)產(chǎn)業(yè)
游戲開(kāi)發(fā)
教育與培訓(xùn)
廣告與營(yíng)銷(xiāo)
科學(xué)研究與模擬
生成數(shù)據(jù)
畢業(yè)生職位分類(lèi)案例研究
提示函數(shù)
FunctionCalling
提示工程在模型上的應(yīng)用
AI聊天社交應(yīng)用
CallAnnie
NewBing
AI輔助文章創(chuàng)作
迅捷AI寫(xiě)作
ChibiAI
AI辦公智能助手
GrammaAI
AI藝術(shù)領(lǐng)域創(chuàng)作
第十節(jié):
大模型企業(yè)商用項(xiàng)目實(shí)戰(zhàn)講解使用大模型實(shí)現(xiàn)推薦系統(tǒng)(商用案例)
使用大模型實(shí)現(xiàn)汽車(chē)在線銷(xiāo)售系統(tǒng)
企業(yè)自然語(yǔ)言sql生成(企業(yè)內(nèi)部系統(tǒng)使用)
AI大模型公開(kāi)課
轉(zhuǎn)載:http://szsxbj.com/gkk_detail/299782.html