培訓背景
隨著AI技術(shù)深度融入各行業(yè),大模型、智能識別系統(tǒng)、AI供應(yīng)鏈等面臨對抗樣本攻擊、數(shù)據(jù)泄露、模型劫持等新型安全風險。傳統(tǒng)安全防護手段已無法應(yīng)對AI特有的攻擊路徑,亟需掌握AI大模型安全攻防核心技能的專業(yè)人才。
本課程聚焦大模型漏洞挖掘、數(shù)據(jù)隱私保護、對抗攻擊防御等前沿領(lǐng)域,結(jié)合真實案例與實驗演練,助力學員構(gòu)建AI安全全棧能力。
課程簡介
當前,人工智能蓬勃發(fā)展,AI大模型已成為推動各行業(yè)變革的關(guān)鍵力量,然而其安全隱患也隨之浮出水面。中培偉業(yè)特邀行業(yè)專家,精心打造了《AI大模型安全攻防實戰(zhàn)》課程,并在全國實施培訓,課程深入剖析AI大模型的架構(gòu)原理,幫助學員透徹理解模型運作機制,進而系統(tǒng)梳理數(shù)據(jù)隱私泄露、模型竊取、對抗樣本攻擊等各類安全威脅及其背后原理。學員不僅能學習構(gòu)造對抗樣本、實施模型竊取和數(shù)據(jù)投毒攻擊等實操技術(shù),還將全面掌握數(shù)據(jù)加密、模型加固以及檢測對抗樣本等全流程防御策略,切實提升應(yīng)對AI大模型安全挑戰(zhàn)的實戰(zhàn)能力。
參加培訓并通過考試學員,由中國信息化培訓中心頒發(fā)《AI安全攻防專家》職業(yè)技能培訓證書。該證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級和晉升職務(wù)的重要依據(jù)。
培訓對象
Ø 網(wǎng)絡(luò)安全專業(yè)人員
Ø 滲透測試人員
Ø 安全運維人員
Ø AI研發(fā)工程師
Ø AI系統(tǒng)運維人員
Ø 安全顧問和管理人員
Ø 算法工程師
Ø 數(shù)據(jù)科學家等
培訓收益
ü 掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應(yīng)鏈攻擊等前沿風險。
ü 攻防實戰(zhàn)能力提升:
通過實驗復(fù)現(xiàn)主流攻擊(如對抗樣本生成、模型逆向工程),設(shè)計針對性防御方案。
ü 合規(guī)與隱私保護:
學習AI數(shù)據(jù)脫敏、聯(lián)邦學習、差分隱私等技術(shù),滿足GDPR等法規(guī)要求。
ü 紅藍對抗思維:
通過分組演練,模擬真實場景下AI系統(tǒng)攻防對抗,提升應(yīng)急響應(yīng)能力。
中培優(yōu)勢
課程大綱
日程 | 主題 | 內(nèi)容 |
第一天 AI安全基礎(chǔ)攻防 |
AI與AI安全基礎(chǔ) | Ø 人工智能概述與AI安全基本概念 Ø 人工智能的定義與發(fā)展歷程 Ø AI的應(yīng)用領(lǐng)域 Ø AI的分類與技術(shù)框架 Ø AI在網(wǎng)絡(luò)安全中的角色與安全挑戰(zhàn) Ø AI技術(shù)演變與安全技術(shù)融合 Ø AI驅(qū)動的安全技術(shù)創(chuàng)新 Ø 國內(nèi)主流大模型(DS、QWEN、九天)技術(shù)架構(gòu)與安全風險對比 Ø 9.MaaS平臺(如百度AI、阿里云MaaS)安全架構(gòu)設(shè)計案例 Ø 10.MaaS平臺(模型即服務(wù))安全架構(gòu)設(shè)計原則 |
AI越獄與安全性分析 | Ø AI模型與算法安全性分析: Ø (1) 對抗樣本攻擊 Ø (2) 模型竊取攻擊 Ø (3) 數(shù)據(jù)投毒攻擊 Ø (4) 模型解釋性和透明性 Ø 數(shù)據(jù)隱私保護與安全措施 Ø AI越獄實操演示 Ø (1) 基于DS/QWEN模型的越獄攻擊實操(如Prompt注入、模型濫用) Ø MCP三大核心-拆解Resources、Tools、Prompts如何讓大語言模型從空談家變身實干派 Ø (1) MCP框架拆解:結(jié)合DS模型演示Resources/Tools/Prompts的攻防博弈 |
|
大模型提示詞漏洞攻防 | Ø 理論:Prompt Injection分類(直接/間接/多模態(tài)) Ø 實驗:構(gòu)造惡意提示詞注入,觸發(fā)模型輸出敏感內(nèi)容 Ø 實驗:多模態(tài)提示詞(文本+圖像)繞過OCR檢測 |
|
AI模型的安全風險 | Ø 大模型的安全風險概述 Ø (1)數(shù)據(jù)隱私問題 Ø (2)模型濫用 Ø (3)可解釋性問題 Ø (4)資源濫用 Ø 典型攻擊與應(yīng)對策略 Ø (1) 國內(nèi)某金融大模型提示攻擊事件復(fù)盤(攻擊路徑、損失、修復(fù)方案) Ø (2) 對抗攻擊實戰(zhàn):使用具體工具生成對抗樣本并測試模型魯棒性 Ø 大模型面臨的特殊挑戰(zhàn) Ø (1)模型復(fù)雜性與安全性之間的權(quán)衡 Ø (2)實時防御與響應(yīng)機制 Ø (3)MaaS平臺跨領(lǐng)域安全協(xié)同問題 Ø (4)多方協(xié)作與監(jiān)管問題 |
|
第二天供應(yīng)鏈漏洞與進階攻擊 | 敏感信息泄露與防護 | Ø 理論:模型元數(shù)據(jù)泄露原理(gguf/metadata解析) Ø 案例:System Prompt Leakage復(fù)現(xiàn) Ø 實驗:利用工具提取模型元數(shù)據(jù) Ø 實驗:設(shè)計防護策略封堵泄露漏洞 |
大模型供應(yīng)鏈漏洞分析 | Ø 理論:供應(yīng)鏈攻擊路徑(Ollama/Ray/Deepseek) Ø 案例:開源框架未授權(quán)漏洞導致模型劫持 Ø 實驗:利用Ollama漏洞植入后門模型 Ø 實驗:Deepseek未授權(quán)訪問漏洞復(fù)現(xiàn) |
|
梯度泄露與對抗防御 | Ø 理論:梯度反推攻擊原理與數(shù)據(jù)逆向工程 Ø 案例:通過訓練梯度泄露用戶隱私數(shù)據(jù) Ø 實驗:生成對抗樣本繞過AI檢測系統(tǒng) Ø 實驗:設(shè)計梯度噪聲干擾防御方案 |
|
AI安全防御與應(yīng)對機制 | Ø 對抗防御技術(shù) Ø (1)對抗訓練 Ø (2)對抗檢測與修復(fù) Ø (3)基于生成模型的防御 Ø (4)輸入數(shù)據(jù)的驗證與修正 Ø (5)基于AI的實時防御系統(tǒng)架構(gòu) Ø 模型驗證與檢測 Ø (1)模型的穩(wěn)健性驗證與工具 Ø (2)模型可解釋性與透明性 Ø (3)使用模型審計工具(AI Fairness 360)檢測模型偏見 Ø 實時安全監(jiān)控與風險評估 Ø (1)政企AI安全風險評估框架 Ø (2)模型行為監(jiān)控 Ø (3)異常檢測與響應(yīng) Ø AI安全法律與合規(guī)分析 Ø (1)算法公平性與歧視 Ø (2)AI透明性與可解釋性 Ø (3)國內(nèi)AI倫理審查機制與案例 |
|
AI安全標準與實踐案例 | Ø AI安全框架與成熟度模型介紹 Ø AI安全標準建設(shè)與認證實踐 Ø 國內(nèi)AI安全標準對比(《網(wǎng)絡(luò)安全標準實踐指南—生成式AI服務(wù)安全要求》) Ø 現(xiàn)實世界中的AI安全問題深度分析與解決方案 Ø AI倫理道德挑戰(zhàn)與倫理框架構(gòu)建 Ø AI安全技術(shù)未來發(fā)展方向 Ø 政策與法規(guī)的未來演變趨勢 |
|
AI安全治理與全生命周期管理 | Ø AI安全治理框架核心要素 Ø AI安全治理框架安全策略 Ø AI安全治理框架與數(shù)據(jù)安全 Ø AI安全對抗性攻擊防護 Ø AI安全生命周期管理:DevSecOps與安全需求分析與實際運用方法 Ø AI滲透測試技術(shù)與方法 Ø (1)對抗性樣本攻擊 Ø (2)數(shù)據(jù)投毒攻擊 Ø (3)模型反向工程 Ø (4)API濫用測試 Ø A基于DS模型的DevSecOps流水線設(shè)計(從需求分析到上線監(jiān)控) Ø 滲透測試實操:針對MaaS平臺的API濫用測試(如參數(shù)篡改、越權(quán)訪問) |
|
第三天綜合攻防與真實場景實戰(zhàn) | 第三方大模型安全性評估 | Ø 評估框架:模型安全性、運營服務(wù)安全性、合規(guī)性三維評估體系 Ø 實操工具:使用自動化工具(Model Card)評估DS/QWEN/等 Ø 上架前評估:安全測試流程方法與合規(guī)檢查清單 Ø MaaS平臺安全設(shè)計 Ø 架構(gòu)設(shè)計:軟硬件安全隔離、模型沙箱、API網(wǎng)關(guān)防護部署方法 Ø 國內(nèi)實踐:某云廠商MaaS平臺安全設(shè)計方案解析 |
RealWorld偽造攻擊 | Ø 理論:DeepFace/DeepVoice偽造技術(shù)原理 Ø 案例:生成高仿真人臉/語音欺騙身份驗證系統(tǒng) Ø 實驗:使用DeepFace生成虛假人臉 Ø 實驗:合成語音繞過聲紋識別系統(tǒng) |
|
IoT與AI融合漏洞利用 | Ø 理論:智能設(shè)備固件漏洞與AI模型聯(lián)動風險 Ø 案例:通過OCR漏洞劫持IoT設(shè)備控制權(quán) |
|
紅藍對抗演練 | Ø 綜合實驗:分組模擬攻擊鏈(如多模態(tài)注入+供應(yīng)鏈投毒) Ø 防御設(shè)計:制定全鏈路防護方案并驗證有效性 |
講師團隊
方老師 勒索治理領(lǐng)域?qū)<?/strong>
多年一線工作經(jīng)驗,疫情期間協(xié)助近千家單位、醫(yī)院、教育、能源、金融、政企單位等處理勒索應(yīng)急事例、協(xié)助數(shù)據(jù)恢復(fù),擅長交流分析、擁有解決任何網(wǎng)絡(luò)安全事故難點的能力,且自研一整套體系數(shù)據(jù)安全/勒索防范了類產(chǎn)品,具備一整套安全 全領(lǐng)域體系課程材料和具備從 0-1的安全體系化建設(shè)與行業(yè)前景風險分析能力,指導過包含政企、廠商、在校學生、自由職業(yè)者等在內(nèi)的百余位學生完成行業(yè)人生職業(yè)規(guī)劃。基于國企央企客戶資源和廣泛的商業(yè)網(wǎng)絡(luò),曾經(jīng)與多家國內(nèi)知名企業(yè)如華潤集團、電信集團、院校、醫(yī)院、政府部門等建立了長期穩(wěn)定的合作關(guān)系且深入了解客戶需求,尤其是數(shù)據(jù)安全方向,善于通過技術(shù)角度提供量身定制的解決方案,并通過優(yōu)質(zhì)的產(chǎn)品和服務(wù)贏得了客戶的信任和支持。
梁老師 資深網(wǎng)絡(luò)安全專家
十余年網(wǎng)絡(luò)安全行業(yè)經(jīng)驗,自2007年投身IT與網(wǎng)絡(luò)安全領(lǐng)域以來,長期專注于網(wǎng)絡(luò)安全研究、實戰(zhàn)攻防、安全建設(shè)與改造、安全培訓交流及應(yīng)急事件處理等核心工作。職業(yè)生涯早期深耕安全滲透測試與網(wǎng)站漏洞挖掘,積累了豐富的實戰(zhàn)經(jīng)驗。2019年后,工作重心轉(zhuǎn)向網(wǎng)絡(luò)安全服務(wù),網(wǎng)絡(luò)安全建設(shè)改造項目,網(wǎng)絡(luò)安全技術(shù)培訓,網(wǎng)絡(luò)安全意識培訓,安全服務(wù)咨詢等工作。長期為各類企業(yè)、政府、廠商及培訓機構(gòu)提供高質(zhì)量的培訓與咨詢服務(wù)。
高老師 CTO/資深技術(shù)顧問/信息安全專家
近十年IT互聯(lián)網(wǎng)運維服務(wù)管理與信息安全領(lǐng)域研究與從業(yè)經(jīng)驗,主要從事運維服務(wù)管理規(guī)劃、運維架構(gòu)、自動化體系建立和實施、信息安全風險評估、信息安全管理體系建立和實施等方面工作,具備豐富的IT服務(wù)管理和信息安全管理咨詢實踐經(jīng)驗,尤其在金融、運營商、政府行業(yè)有豐富的項目實施經(jīng)驗。目前主要專業(yè)領(lǐng)域集中于IT服務(wù)管理、IT風險管理與控制、信息安全等方面,曾服務(wù)的主要客戶有:中國金幣總公司、千方集團、行園汽車、德法利集團、中彩網(wǎng)等。