在幻觉与超能中前行：大模型参与安全运营的应用探索

簘顠㶩佭䤸烨 ⲁ䣆䣉僗篺뀰 泘䎓 01 05 ⚩簊儬㰣▊+舅ⲁ⴬䄄氳㱧⪓鲡蛈 黑畴沪䫝IMAP䬠⹧亍黑♭陃⮷㣛羈眷㑔⻪ⲁ㱧⪓⿏䈒Ⰾ儗☕䄄䡝縖簧⺭䄄ն 㛻嘗㑔休♏AI⮇冫氳㱮紇⮤⮮ 榫䢓金姳AI☳黑畴╈䬠⹧黑♭䇜鲽车㱧⪓⮇冫ն仰꧎㛄儷籁爊█┘榫냖岑畀嫏隀榫㓹◇㛻嘗㑔氳宂鈾䣲㷤䄄/APIն㛻嘗㑔㵒䷅♭畴氳黑♭鲽车䬠⹧陃⮷䇜簄⭴▽鲤╲㱮紇氳⮮亇ն 㛻嘗㑔休♏AI⮇冫氳㱮紇⮤⮮ 榫䢓金姳AI☳黑畴╈䬠⹧黑♭䇜鲽车㱧⪓⮇冫ն仰꧎㛄儷籁爊█┘榫냖岑畀嫏隀榫㓹◇㛻嘗㑔氳宂鈾䣲㷤䄄/APIն㛻嘗㑔㵒䷅♭畴氳黑♭鲽车䬠⹧陃⮷䇜簄⭴▽鲤╲㱮紇氳⮮亇ն 洇㛻嘗㑔㞝⛰籁鵲ꙩ돡黑♭⼔閜 仰╈榟僗˒˒榫䢓金姳AI☳黑畴╈䬠⹧黑♭䇜鲽车㱧⪓⮇冫նAI耭辍▽┉㵟ꙩ돡黑♭ն 㱧⪓鲡蛈朆敯櫖憠┚儬⚢ ⚩簊㱧⪓鲡蛈氳櫖憠 㱧⪓鲡蛈氳䄄⛼篢竴㛄⹠仼䅻䄄⛼┽ꄆ❤顽SOC㍙꠼⽰⚩簊沪䫝䄄㰇㏇☕ⱱ┘餉յ⼔閜鲋鰉⽰顫嶏僗꡿璡ꠋ겗նꪫ㵒㛄儷氳㱧⪓㣛羈朆僗嘗䌋ꥈ♔席餉냖䷞⿏䈒⽰⪓ꪫꡕ䥉氳꧎姳ն 顫嶏┚┥┯꡿⯆ ◲⿁⽰杼䒞蛽⺵ ❤顽SOC㍙꠼յ㓹滼㱧⪓◲⿁⽰䤗儛氳篺뀰勂几 ⪓耇㑔┥㳄☕⼥燵籬俋鵠䄄爊䄳篺뀰僗꡿ 缜骱冓꡿+⟔䕜鲋鰉㵗舚⼔閜檅ⲏ⽰⼔閜䒭樋 AI顲耇ꄆ㖆㱧⪓鲡蛈劲㷀 ꣮浔㛻陪銨嘗㑔氳㽢颯AI塜㏇䫠ⲁ㱧⪓鲡蛈氳⪓ꪫ⹩ꪵն鵠鲋䤗儛ꪵ亍AI┘☢耇䬠ⶍ㵒男鵮䈲┚䷞曎鲸耇浏全⪓亍氳㱧⪓鲡蛈嘗䌋ն儔全㵨⭴朆AI㱧⪓鲡蛈㲇鲹┉鉉荈AI㵨䡗╙㱧⪓㍙꠼╈氳劭䑐ⱱꄈն 㛻嘗㑔⹇┚㱧⪓鲡蛈㲓䡟 AI㞝⛰ꪵ亍㱧⪓鲡蛈 ⩘⮇⹠䨅⫂㳋榟䡗ⴎ䦮籁溞氳⚝ⲡ⹠䨅ꪝ篾冘⴬丘䩺⮽篾冘⴬氳⚝ⲡ⹠䨅宿ꄈ湳陃氳⚝ⲡն 2024䇗WZ㍙꠼㏇㛻嘗㑔㱧⪓鲡蛈겅㓊氳䈒榫㶍陒 ⽤说⼈话的⽅式对安全事件的描述进⾏⽂字再组织，输出适合⼈类沟通或者汇报的语⾔，拆解专业术语，结合上下⽂对安全事件进⾏“翻译”。 利⽤⼤模型⽂字阅读和处理的优势，对⾮结构化的⽂本进⾏快速处理，并输出结构化的结果，便于安全⼈员快速理解，同时⽅便其他程序再处理。 根据⽇内多个安全事件的详情（名称、严重度、处置进展、原因分析等）进⾏整理，输出安全团队⼯作⽇报或战报，并快速完成数据抽取和可视化。 充分发挥⼤模型的代码阅读和理解能⼒，实现⾃动化CodeReview，并识别安全⻛险；在逆向⼯程领域借助⼤模型提⾼⼆进制代码的可读性和漏洞挖掘的准确性和⾼效性。 㓹◇ꙩ돡黑♭庌篮氳㱧⪓䙬陃㓸阪 ┉㵟䡗Ⱶ氳ꙩ돡黑♭꧎金㱧⪓┥㳄㏇⫂㳋յ劫䌋┕菋顠㛻ꄈ休ꠑ䷞曎⛦┖⺎㛄⯆䓪䄑┦仰嫏⢢⮽㲋⯆⴬黑♭榟䡗ն黑♭阻阞縖걺⺱休㚷粠簇㱧⪓յ䑐杼㰣յ炙⚢㰣յ车╙㰣յ⚩䲭㰣璡┥┯湳陃ն 制作效率低下 内容设计需要耗费专业资源，⼀旦被识别，需要⽴即更换。 场景不够丰富 依赖培训机构的钓⻥题库，⽆法做到紧跟时事和个性化“下套” ⹠䨅AI氳榟䡗耇ⱱ榟䡗ꙩ돡庌篮黑♭ ⮵榫㛻嘗㑔⺎䒍鵮榟䡗㛻ꄈյ╄䓪⴬氳ꙩ돡黑♭䬠ⶍ庌篮氳䷞曎⽰䡗Ⱶ曎飃飉☕眷ն 1内容丰富创作⼒⽆穷，彻底解决⼈类专家“灵感”枯竭问题 2组合灵活⽀持⽂本、图⽚、链接、附件的组合 ⽅案。 3定向“钓⻥”可以针对员⼯安全意识画像进⾏定制化钓⻥演练 AI榟䡗ꙩ돡庌篮黑♭ ⮵榫㛻嘗㑔⺎䒍鵮榟䡗㛻ꄈյ╄䓪⴬氳ꙩ돡黑♭䬠ⶍ庌篮氳䷞曎⽰䡗Ⱶ曎飃飉☕眷ն ⫂鼨峈鵁孾陒氳䍐⹾初㰅⪯䈑 ⚩簊倽ⱱ滭鉯✳榫氳㳢溞㰅⪯䈑仵ꄆ⹒瑣䷞曎冓⪭⛦┖ն鵠榫㳢溞㰅⪯⺆耇鉯⬀ꄈ氳ꠋ겗鉯⬀┘▽顏氳ꠋ겗ն㞝冽佭攑㲋額⺙氳䍐⹾♑뀰阾鵠榫㰅⪯䈑䡗Ⱶ曎䏭⛦㍕╙㳢溞媆僗踅⺭榫䢓㷯䓪ն 䬠炐陊䄄爊-㲋⺸榟䡗㳢溞㰅⪯䈑 ✳榫LLM䬠炐陊䄄爊⺎♔Ꙟ㵒泘剝榫䢓䒍鵮榟䡗㲋⯆⴬氳搷滭㳢溞㰅⪯䈑鴠⺭⚀┯⫂鼨㱧⪓鲡蛈㍙꠼㲋⺸䃾压⽰峈鵁融陒㏜俍˒˒搷滭䡗Ⱶ氳哮曎侁蜷䬠ⶍ🔝 䤉ꄈ䣒鵲保耇⛮䄬㏜-炙䄄㳢溞┥㳄 保耇⛮Ꙟ㵒䌫侞伺example⪝⺚CRM鼨ꠅ篺杼Ꝛ婻☕槀31㸱┉埠䓪榟䡗50╄㲋⺸㳢溞┦⺎♔䧝꧎㘍ⱶ㱧⪓鲡蛈㍙꠼氳㳢溞뀰阾䷞曎㛻䆋䬠ⶍն AI鰑Ⲃ㲋╬㱧⪓鲡蛈䧗剝 粠簇㱧⪓媆僗篳冓䒳䢦僗氳㱧⪓僄篳金鲽⪍鲡蛈ն丘㰅⴬䧗剝⴬䈲ꄈ⺨걸䄄⛼⺎♔阦㱧⪓㍙꠼䧏簘ⲁ䒳陁⚽舅骱氳㱧⪓鲡蛈耇ⱱն⛙仰阷佭╄☕鲸佭㵸㍙꠼舅骱氳湳陃羜俍յ┥┯耇ⱱ⽰⪓㷀鈼ꄇ齉佭⹨꡿┚⺨亡ꪫ氳兣♭㍕塝䏭ꥈ簄⭴僗♯⡬氳㱧⪓鲡蛈䈲ꄈ䧗剝䇜㵨䧗剝鲽车⺎鈼⴬㷤朆ն AI鰑Ⲃ㲋╬㱧⪓鲡蛈䧗剝 㛻嘗㑔㱧⪓┥㳄劯䩺榫䢓㱧⪓꧎姳䒍鵮㲋╬㱧⪓䧗剝䇜榟䡗㱧⪓♙辑冏席餉╄䓪⴬꧎姳 AI鰑Ⲃ㲋╬㱧⪓鲡蛈䧗剝 GPT-o3㏇┯ⱷ嬼㴕⽰丘䩺⺎鈼⴬겅㓊┥┯䈲鲾飃俋鵠䄄爊䄳榗舘佭车┯顫岑┥㳄ն 波䫙뀕ⲁ䷚꤄㲋⛤┚㚲糌䷞曎氳䈲ꄈ䧗剝 AI⺎鈼⴬㱧⪓鲡蛈䧗剝 㲋╬㱧⪓䧗剝䇜榟䡗㱧⪓♙辑冏席餉╄䓪⴬꧎姳ն☳☫㛿䋯㡏阦✃氳㛻㷚䩦颯全ն AI⺎鈼⴬㱧⪓鲡蛈䧗剝 㲋╬㱧⪓䧗剝䇜榟䡗㱧⪓♙辑冏席餉╄䓪⴬꧎姳ն☳☫㛿䋯㡏阦✃氳㛻㷚䩦颯全ն 䯹聰鲡蛈沪䫝㛻㷚氳㲗紇檅ⲏ Cursor+Sonet-4+ECharts+DataScaleAI㲋╬鲡蛈䧗剝䇜舅ⲁ㱮䡗丘䩺峷刌氬洇┘ⷮ夷㛿齉僗亍됁䚊氳沪䫝㛻㷚ն 䯹聰鲡蛈沪䫝㛻㷚氳㲗紇檅ⲏ Cursor+Sonet-4+Echarts+DataScaleAI㲋╬鲡蛈䧗剝䇜舅ⲁ㱮䡗丘䩺峷刌氬洇┘ⷮ夷㛿齉僗亍됁䚊氳沪䫝㛻㷚ն ⚩簊赂粝䤗儛氳椿겇 ⚩簊赂粝硍簊氳阻阞꧎金㱧⪓☕⼥䬠⯥阻阞朅㗟⛙丘ꄈ⽰攑䏣ꪝ䅻僗꡿ն䷍⭵縖⺎♔䬠⯥Ꙟ㵒䄬ꪫ┕╚孲赂粝鲽车攑䏣䷅꥘㏇峈鵁䷍⭵╈䬠⯥鈺鹵ն AI뀕ⲁ氳ⲁ䒳赂粝榟䡗硍簊 ✳榫LLM榟䡗⫂㳋⺎♔㏇湿休ꠑ⫂榟䡗㛢熨곽劲㱮⪓┘┉劫氳䇖⺐/硍簊㘍䍠鴀䘄䓪╙㱧⪓鲡蛈㍙꠼䩔藜⽰饇馹䷍⭵縖䬠❠催㛻氳╚ⲁ儹ն篾⺭MCP䄄CI/CD孲爊⺎♔阦赂粝䧏簘䧝꧎㘍ⱶ榗舘劯䩺䷍⭵縖氳车╙ⲁ䒳⮡䋧赂粝ն AI뀕ⲁ氳ⲁ䒳赂粝硍簊 ✳榫LLM榟䡗⫂㳋⺎♔㏇湿休ꠑ⫂榟䡗㛢熨곽劲㱮⪓┘┉劫氳䇖⺐/硍簊㘍䍠鴀䘄䓪╙㱧⪓鲡蛈㍙꠼䩔藜⽰饇馹䷍⭵縖䬠❠催㛻氳╚ⲁ儹ն篾⺭MCP䄄CI/CD孲爊⺎♔阦赂粝䧏簘ⲁ䒳㘍ⱶ榗舘劯䩺䷍⭵縖氳车╙ⲁ䒳⮡䋧赂粝ն 㵸篾⩘⮇⹠䨅AI氳耇ⱱ ⩘⮇䧳䫂㛻嘗㑔氳弍耇 㱧⪓䄄爊䄳氳粠簇䤗儛湿冏 ⚩簊㱧⪓㍙꠼㏇儗┥┯겅㓊⫂僗╋㳫氳篺뀰┉份鲡蛈㏜俍飃⭴䳟Ꝛ氳겅㓊䏢䏢㶩佭┼浍┉䥥랫ն♔粠簇鲡簟╙❇䏭㛢㱧⪓䄄爊䄳㏇㲓ꡮ䄄⛼鲋爊╈鈷⮽◬䩦儬յ饟榺璡璡注⪩氳◲⿁䤗儛㶩⚢兠䣆仰瓀ն AI鰑Ⲃ粠簇阻㚷纭ⲁ┚⺎鈼⴬ ⮵榫㛻嘗㑔⽰MCP䄄㞝SSH䡝Telnet┚◬䩦儬յꡕ愂㘅璡粠簇阻㚷纭ⲁ舅ⲁ藜⹧粠簇⟔䕜䇜⺎鈼⴬㷤炐䬠ⶍ㱧⪓◄♭⿏䈒氳䷞曎⽰波鈸䓪ն(Cherry Studio + Cisco MCP Tool) AI鰑Ⲃ粠簇阻㚷纭ⲁ┚⺎鈼⴬ ⮵榫㛻嘗㑔⽰MCP䄄㞝SSH䡝Telnet┚◬䩦儬յꡕ愂㘅璡粠簇阻㚷纭ⲁ舅ⲁ藜⹧粠簇⟔䕜䇜⺎鈼⴬㷤炐䬠ⶍ㱧⪓◄♭⿏䈒氳䷞曎⽰波鈸䓪ն(Cherry Studio + Cisco MCP Tool) ✳榫ChatTCP鰑Ⲃꠢ陸粠簇丘䩺ⴎ ⺎鈼⴬⺎◬◎嘗䌋䅬Ⲃ㱧⪓䄄爊䄳ꠢ陸杼鉯粠簇丘䩺ⴎ榗舘佭饇浔㛻嘗㑔┉颯㰣▊粠簇ⶖ阫⪓ꪫ䦌㳑㱧⪓☕⼥氳䄄⛼䤗耇㘍䍠粠簇䷚꤄氳陇亇յ⮇冫⽰䪷꤄耇ⱱ䒍鵮陃⮷냖篒㣛羈ն 䎎抆┘☢☢佭粠簇阻㚷 ꢝ▽◬䩦儬յ饟榺⚩簊氳粠簇ꡕ愂㘅յIPSյIDS璡阻㚷⺱劫⺎♔鵠鲋MCP䄄鲽车◎ⲁ⩘⮇⹇┚舅ⲁ⴬/ⶐ舅ⲁ⴬氳㱧⪓鲡蛈ն 䎎抆┘☢☢佭粠簇阻㚷 ꢝ▽◬䩦儬յ饟榺⚩簊氳粠簇ꡕ愂㘅յIPSյIDS璡阻㚷⺱劫⺎♔鵠鲋MCP䄄鲽车◎ⲁ⩘⮇⹇┚舅ⲁ⴬/ⶐ舅ⲁ⴬氳㱧⪓鲡蛈ն AI饖阻㚷㱮䡗粠簇䦌䣎丞杼&䷚꤄陇亇 㱧⪓䄄爊䄳⺎♔㏇㛻嘗㑔⽰MCP䄄鰑Ⲃ┖⺱休䋯㷤㛢╄眷㑔硍簊յ阻㚷氳丘䩺䬠⹧⽰丞杼䬠ⶍ◄♭鲡蛈氳姢䇖⽰鵮䈲ն https://mp.weixin.qq.com/s/DV_pvxTwfM4nxA59QkPOXg/⻲匽霕 AI饖阻㚷㱮䡗粠簇䦌䣎丞杼&䷚꤄陇亇 㱧⪓䄄爊䄳⺎♔㏇㛻嘗㑔⽰MCP䄄鰑Ⲃ┖⺱休䋯㷤㛢╄眷㑔硍簊յ阻㚷氳丘䩺䬠⹧⽰丞杼䬠ⶍ◄♭鲡蛈氳姢䇖⽰鵮䈲ն 璡篒⟊䥉㱧⪓塑㍾氳䄄⛼Ⲃ䣆 㵨䥩霅յ㛄儷氳璡⟊└篒金姳鯸⴬╙儬⺎♔䣮车氳䧗♑ն㛻嘗㑔耇㛫╙䄄爊䄳䒍鵮榟䡗榫◇㱧⪓ⱶ㍾䳩⛼氳䧗㵗䋧阫⽰⛮䳩⛼⽝♑ն ┉꜄榟䡗╚儬㱧⪓㲗阞䥊⼔ 㛻嘗㑔╚ⲁꠢ陸剝固乄勮榟䡗䣮车䧗♑㱮䡗ⲁ⛼䣮车劯䩺鰟⭴篾冽榟䡗⺎鈼⴬㲗阞䥊⼔ն ┉꜄榟䡗╚儬㱧⪓㲗阞䥊⼔ 鵠鲋SSHMCP䄄氨䎓泘剝僜ⱷ䣮车㲗阞⽝♑藜⹧篾冽抆⺵鲽车剝固瑞⺭䈲压刧䇜⺎鈼⴬㷤朆篾冽ն 飃耇羜⺵氳AI䇥鈿 飃耇氳㛻嘗㑔█┉劫敨ꛯ陬 ┘⺎⻖阡AI㏇☫㛿氳䄄⛼╈⹠䨅浔飃耇ⱱ⛙佭⺱休█僗┘⺎䒭鈼氳䇥鈿ꠋ겗ն波ꪫ㰇㏇氳ꠋ겗䇜硍簊䓪㏐꡹⛦곽ꢣն 硍⮜AI緾鯲朆㏜ 㲓融AI䇥鈿⚢榟䡗┘㰇㏇氳VLANյInterface˟˟縡┦ꪝ䅻熊隮 硍⮜AI緾鯲朆㏜ 䒍佭洡氳䒍縡┦鲸ꪝ䅻舅⟔ն┉兵⽾コ氳Ⱶ㜂✃氳创溞⽰丘䩺⺎耇㶩媆僗▽ն X C o n 2 0 2 5安 全 焦 点 信 息 安 全 技 术 峰 会 硍⮜AI緾鯲朆㏜ 䒍佭洡氳䒍縡┦鲸ꪝ䅻舅⟔ն┉兵⽾コ氳Ⱶ㜂✃氳创溞⽰丘䩺⺎耇㶩媆僗▽ն ㏇┽缐㏜俍╈✳榫㛻嘗㑔 ┘⺱◇荔儛⮡⛼乄㰅յ㎂⥽⽰鈼겐☕眷㵒篾冽僗┉㲋氳ꛯ陬㳋䑜┽缐㏜俍╈㛻嘗㑔氳榟◲篾冽⺎耇佭┉╄剝固氳舅ⲁ⴬爊䈌㏇寕顠䄑╯奨ⷿ隩♔ⶉꄅնꛯ陬㵟焔籁鵲┘㰇㏇氳亍ꠘ˟˟ ⪝⪦DNS佭⺎♔㵟焔氳⻀ 䇥鈿┘佭Bug佭Feature 㛻嘗㑔榟䡗氳ꛯ陬䡝┘固漶氳鰟⭴鵠䅻佭㏇媆僗洡㲓湳陃䶺䧏氳䗯⬅┖⮡鵲⫂㳋ն䅻鈷辑朆┘瑞⺭朆㲓氳◄㲓յꛯ陬氳䫠杼յꪝ㰇㏇氳◄擻䡝◄♭氳䬞鳮ն䇥鈿佭⮡鵲ⱱ氳Ⱌ◲⿁ն 模型幻觉的根本原因 •训练数据的限制 •模型训练时的语料库可能不包含全⾯的真实信息，导致缺乏必要的上下⽂。•数据缺失、偏差或错误信息的积累会导致模型在没有真实知识⽀撑的情况下进⾏推理。 •信息提取过程中的不完整性 •语⾔模型依赖于向量嵌⼊和关联检索，然⽽在⾯对查询时，模型可能⽆法从训练数据中完全提取相关信息。 幻觉与上下⽂的关系 •缺乏⾜够的上下⽂•当模型输⼊的信息不⾜时，⽣成的回答容易偏离实际情况，导致错误的结论。•对复杂问题的错误推理•在多步推理或需要结合多领域知识的任务中，模型可能会⽣成“幻觉”内容，尤其是在处理难度较⼤的查询时。 ⪩꜄佭㞝⛰陃⮷⽰留杼곽ꢣ ⩘⮇⹠䨅㛻嘗㑔氳湳陃յ⮡鵲ⱱյ䘶霅ⱱ⽰舅ⲁ⴬耇ⱱ篾⺭☕眷┥㳄氳籇㳢䓙簟䫝⯆곽ꢣ阦嘗㑔㏇僄✞㏜俍⹠䨅✳榫㛢嘗㑔◎注劆뀰金姳嘗㑔╙鰟⭴䬠❠阾䩺㘍ⱶ냖⷇ⲁ⛼氳곽ꢣ劭刧⚝⴬┚㛻嘗㑔ⶖ⛼氳孲爊˟˟ ⩝鵠湳⺵䣮车 ⪓舅ⲁ㱧⪓◄♭鲡蛈 ☳⡬㱥⮽保㱥䋯⻪㱧⪓鲡蛈氳FSD休♏ ASD⪓舅ⲁ㱧⪓뀕ⲁն┘佭AI鰑Ⲃ☕眷縡佭AI舅╚鲡蛈ն 㛢保耇⛮ⶖ⺱氳㱧⪓鲡蛈 ⥽洡㲓☕眷SOC㍙꠼┉劫㛢保耇⛮ⶖ⛼氳谑䦟SOC㍙꠼注◎╯ꠑ鿥⺭㱮䡗㱧⪓◄♭鲡蛈ն 㛢保耇⛮ⶖ⺱氳㱧⪓鲡蛈 㶩⥽洡㲓☕眷SOC㍙꠼┉劫㛢保耇⛮ⶖ⛼氳谑䦟SOC㍙꠼注◎╯ꠑ鿥⺭㱮䡗㱧⪓◄♭鲡蛈ն 㛢保耇⛮ⶖ⺱氳㱧⪓鲡蛈 榺㛢╄AI保耇⛮全僀创⚩簊SOC㍙꠼╈氳☕ⱱ鉉荈䎬䡗舅ⲁ⴬յ保耇⴬氳◄♭⿏䈒孲爊ն •㵨⩝鲽氳AI䤗儛┚⚩簊氳㱧⪓鲡蛈䄄㱮紇篾⺭鵠鲋㛢保耇⛮Multi-Agent几冘ⲁ⴬㚲杼㱧⪓◄♭侁蜷䬠ⶍ㱧⪓鲡蛈䷞曎ն䶺䧏SOARյFunction CallingյMCP Tools⹖☕䄄亡䌋隀䈲㛚鼨耇ⱱն 阦⬀瓀催瞿固氳⪩꜄㍕碜 ✳榫僄⩝鲽氳鵠榫㛻嘗㑔յⱶ⪍┥┯겅㓊氳䐭隀丘䩺յ嫱⪍⚀┯╋㳫氳羜俍⟔䕜♔⹖╙㛻嘗㑔䬠⯥固㚷㞑㛚鼨氳㓹滼耇ⱱն䍠隀鵠鲋鲹◙䣆夀全⬵㵽AI