1|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 2|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 湡䔶1. 灇瑕薴㔵㹁⛐1 2. 㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞ⴔ區4 3. 色(休)霉⠮䴓潇僤莽8 4. Ⰶ鷥霆⛼14 Ⱒ✵昶ⴔ區15 灇瑕♸ᅢ霧剪⸉16 岁䖒㡮僈17 3|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 灇瑕薴㔵㹁⛐ 1|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 1. 灇瑕薴㔵㹁⛐㣐垷㘗僽䭷鸑鵂㖈嵳ꆀ侨䰘♳⣜䩯䔂㣐皾⸂餴彂鵳遤雲絅た腊模䧭㣐ꆀ♶ず♴康⟣⸉涸垷㘗կ2023䎃⟄勻ChatGPT䒸旘Ⰼ椕㣐垷㘗䋑㖞կ㕂ⰻ⠍㢴㣐垷㘗⯓たⰖ崵⠍㢴✽翫緸곭ⱙ罏䫏魧㣐垷㘗✲⚌⢪䖤㣐垷㘗䋑㖞鵳Ⰶ涰㔙㣐䧶꣌媯2023䎃䧭⚹Ⱆ雩涸㣐垷㘗⯋䎃կ⟱⚌欽䨪倰꬗㣐垷㘗涸䎾欽鸟䏞⛓䘯馄⛖䟝韌կ2023䎃ⴲ⟱⚌盗椚㽻㼆㣐垷㘗涸霢곿鵮⨢殆㖈㣐垷㘗僽➊⛎僽♶僽嚋䙁拯⡲կ瀊瀊巾䎃㣐垷㘗䊺絑➢껎た靍餴饥ぢ衅㖑䎾欽կ㣐⟱⚌盗椚㽻⟌䋞劅✫鍒ⵌ㣐垷㘗腊⚹⟱⚌〄㾝䌄勻ㆭ❈」ꬠ㣐垷㘗涸䎾欽騟䖈僽➊⛎㥵⡦䲿巛㣐垷㘗涸䫏餴㔐䫣桧⟄⿺䎾霪⚹䭆䫵㣐垷㘗⨞ㆭ❈ⲥ㢊կ罜⚂㣐垷㘗エ䒸涸➃纈⛲䠁〄䎛岌♶➑エ䒸CIOծCTO瘝䪮助盗椚罏涸Ⱒ岤CEOծCMO瘝ꬋ䪮助碫盗椚罏ず呋劍䖉㣐垷㘗㖈⚌⸉务〄䮦⟟⧩կ鵯❈鲮」邍僈㣐垷㘗涸」ꬠ⛓⸂姻傈渤䖤ⵌ❡⚌歲涸雩〳կ鸑鵂㼆䋑㖞錞垷侨䰘涸ⴔ區腊鳅⚹湬錜㖑⡤梡ⴀ⟱⚌㼆㣐垷㘗䎾欽衅㖑涸掚䞔կ昶ⴔ區侨䰘儑爙2023䎃务㕂㣐垷㘗䋑㖞錞垷紨⚹50➉⯋➃字䋏♴ずկ2023䎃⟱⚌㖈㣐垷㘗倰꬗涸ꅷ餝暵挿僽雿霆㢴ծꅷ餝㼱ぐ⟱⚌雦够㖈2024䎃䒓㨤㣐ꆀꅺ佞㣐垷㘗곫皾㔔姼䋑㖞錞垷㼜㣐䌴㟞Ɤ곫雦鴪ⵌ120➉⯋կ昶ⴔ區雩⚹㣐垷㘗䋑㖞➢䪮助卹匬錭䏞〳⟄够ⴔ⚹㛇炄㽻ծ垷㘗㽻ծ务ꢂ㽻ㄤ䎾欽㽻կ㛇炄㽻僽䭷⚹㣐垷㘗雲絅䲀椚罜䲿⣘涸㛇炄梠㞯⺫䭍廩➩♧⡤ծぢꆀ侨䰘䎽ծ兰皾务䗱ծ㣐垷㘗㸝Ⰼ崨鸑䎂〵瘝կ垷㘗㽻僽䭷㛇炄㣐垷㘗⟄⿺䗎靈た涸㣐垷㘗⺫䭍鸑欽㣐垷㘗ծ遤⚌㣐垷㘗ծ곭㚖㣐垷㘗ㄤ⟱⚌㣐垷㘗կ务ꢂ㽻僽垷㘗㽻ㄤ䎾欽㽻⛓ꢂ涸咕咿剣ⵄ✵㣐垷㘗㖈ぐ猫㹊꣢㖞兞䘯鸟衅㖑⺫䭍㣐垷㘗䎾欽䒓〄䊨ⰨծLLMOps䊨Ⱘ瘝կ䎾欽㽻僽䭷㣐垷㘗䎾欽ㄤ鍒Ɀ倰呩⺫䭍濼霋䎽꡼瘷ծ兰腊㹐剪ծ侨䰘ⴔ區瘝կ㣐垷㘗䋑㖞够ⴔ霫錛♴㕃կ 2|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 劥霉⠮䫣デ翸送㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞昶ⴔ區黺鷥ⴀⰨ㢊䧭擿鍒Ɀ倰呩ㄤ䧭⸆呩⢾涸色(休)⣘⟱⚌⨞色(休)鷥㘗傞䲿⣘⿬罌կず傞㖈霪䋑㖞♴昶ⴔ區ꅾ挿鷥》✫㣐垷㘗㸝Ⰼ崨鸑䎂〵色(休)䴓潇僤莽鵳遤腊⸂霉⠮կ 3|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞ⴔ區 4|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 2. 㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞ⴔ區䋑㖞㹁⛐㣐垷㘗㸝Ⰼ崨鸑䎂〵僽䭷銻渷㣐垷㘗䒓〄⿺䎾欽Ⰼ崨玐㼆侨䰘ծ垷㘗ծ⿬侨䲿⣘㸝Ⰼ꣈䫡⚹㣐垷㘗欰䙖涸㢴倰⿬♸罏䲿⣘ⵄ渤ⴔꂁ佅䭯涸䎂〵կ歌倰絊畮欽䨪⟱⚌㣐侨䰘鿈꡶ㄤ⚌⸉鿈꡶ծ㣐垷㘗色(休)ծ㣐垷㘗䎾欽色(休)歌倰呍䗱꨽宠⟱⚌㼆㣐垷㘗㸝Ⰼ崨鸑䎂〵涸꨽宠⡤梡㖈Ⰼ崨玐㸝Ⰼծⵄ渤ⴔ碫佅䭯ㄤ⟟⧩⡤禹♲⚡倰꬗կ♧僽⟱⚌꨽銳㣐垷㘗㸝Ⰼ崨鸑䎂〵銻渷㣐垷㘗䒓〄⿺䎾欽Ⰼ崨玐㼆侨䰘ծ垷㘗ծ⿬侨䲿⣘㸝Ⰼ꣈䫡կ✳僽⟱⚌꨽銳㣐垷㘗㸝Ⰼ崨鸑䎂〵⚹ⵄ渤ⴔꂁ䲿⣘佅䭯կ♲僽⟱⚌꨽銳ꢞ僈㣐垷㘗崨鸑䎂〵⟟⧩⤛鵳㣐垷㘗欰䙖ぐ倰鴪䧭ざ⡲կl ⟱⚌꨽銳㣐垷㘗㸝Ⰼ崨鸑䎂〵銻渷㣐垷㘗䒓〄⿺䎾欽Ⰼ崨玐㼆 侨 䰘 ծ垷 㘗 ծ⿬ 侨 䲿 ⣘ 㸝 Ⰼ ꣈䫡կ㣐垷㘗雲絅⿺䎾欽Ⰼ崨玐〳㣐荝ⴔ⚹侨䰘屛椚ծ곫雲絅ծ䗎靈ծ䎾欽㔋⚡梠蒜嫦⚡梠蒜㖲剣㸝Ⰼ꨽宠կⰌ崨玐㸝Ⰼ僽㣐垷㘗⿺Ⱖ銳稇넞佪崨鸑涸䗳銳勵⟝⛓♧կ 图 1 大模型开发及应用全流程 㣐垷㘗䒓〄⿺䎾欽Ⰼ崨玐⚺銳覆⿺⟱⚌㣐侨䰘鿈꡶ծ㣐垷㘗色(休)ծ㣐垷㘗䎾欽色(休)ծ⟱⚌⚌⸉鿈꡶瘝㔋碫⿬♸⚺⡤կ㸐⟌㖈ざ⡲鵂玐务꨽銳鍒Ɀ⥌⟣⿺ꥧ猙㸝Ⰼ⥂䫡꡼곿կ⟱⚌㣐侨䰘鿈꡶꬗⚰侨䰘鄄⢪欽鵂玐务涸ぐ碫♶㸝Ⰼ㔔稇կ㣐垷㘗色(休)꬗⚰㛇炄垷㘗❡勉鄄瑷》굥ꤗ暵ⵆ僽 5|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 㼆✵ⴲ⴯⟱⚌罜鎊㣐垷㘗僽Ⱆ぀涸呍䗱餴❡կ㣐垷㘗䎾欽色(休)꬗⚰侨䰘〳鍘鴪䚍⟄⿺靈⠏䧭卓麰㣟굥ꤗկ⟱⚌⚌⸉鿈꡶Ⱒ禹呍䗱⚌⸉侨䰘涸屧怩굥ꤗկl ⟱⚌꨽銳㣐垷㘗㸝Ⰼ崨鸑䎂〵⚹ⵄ渤ⴔꂁ䲿⣘佅䭯կ㣐垷㘗䒓〄⿺䎾欽鵂玐务䌢꬗⚰ⵄ渤ⴔꂁ㔮㞯⚺銳㖈✵ꦼ⟄邂ꆀぐ倰餑柄桧կ㥵卓剣ざ椚涸ⵄ渤ⴔꂁ劼ⵖ㣐垷㘗欰䙖涸ぐ⿬♸倰腊㢿鴪䧭刿⸈넞佪⚂㸝Ⰼ㖑弓⡲⸈䘯䲀⸓㣐垷㘗涸䪮助鵳姿ㄤ❡⚌衅㖑կ㣐垷㘗㸝Ⰼ崨鸑䎂〵涸⢪ㄐ㖈✵⸈䘯㣐垷㘗⿺Ⱖ銳稇涸崨鸑㔔姼鄄⟱⚌㺕✮阜劅䋞劅䲿⣘湱Ⱒ涸垷㗌䧴⸆腊կl ⟱⚌꨽銳ꢞ僈㣐垷㘗崨鸑䎂〵⟟⧩⤛鵳㣐垷㘗欰䙖ぐ倰鴪䧭ざ⡲կ㣐垷㘗ⴀ㕕佪䎾儑衼雽㢴⟱⚌넞盗邍鴪ⴀ㼆㣐垷㘗⿺Ⱖ䎾欽涸崽阜Ⱓ馰կ告➢㹊꣢用고䞔ⲃ勻溏㣐垷㘗고湡用고䎇♶곡ⵄկ⚺銳韭㔔㖈✵CEO瘝⟱⚌♧䪾䩛䋞劅溏ⵌ㣐垷㘗涸⚌⸉⟟⧩罜鳅㢴IT餏餓➃ꦼ⟄邍鴪幡嘽կⰨ⡤ⵌ㣐垷㘗㸝Ⰼ崨鸑䎂〵고湡用고ⴭ刿⚹㔮ꦼկ♧僽霪䋑㖞⴮⴮Ⱓ饰䋑㖞侅肫妁緃䲀⸓用고涸鍒ꅺ䧭劥嫱鳅넞կ✳僽㣐垷㘗㸝Ⰼ崨鸑䎂〵고湡꨽銳㢴倰弓⡲IT餏餓➃♶➑꨽銳霹剪⟱⚌ⰻ鿈盗椚罏鵮꨽銳霹剪⟱⚌㢪鿈涸ざ⡲⠑⠶ꦼ䏞⦔㟞կ色(休)腊⸂銳宠⟱⚌㛇✵㼆㣐垷㘗㸝Ⰼ崨鸑䎂〵涸꨽宠ぢ色(休)䲿ⴀ㢴고腊⸂銳宠կ♧僽㣐垷㘗㸝Ⰼ崨鸑䎂〵꨽銳䲿⣘剣㣐垷㘗傞➿暵蒀涸⥂䫡腊⸂կ✳僽㣐垷㘗㸝Ⰼ崨鸑䎂〵꨽銳⟄♶〳睔佖倰䒭絡雦䎇㶸⪰餴❡䱇勉雵䔶♸䲀椚剪⸉涸靈欽ꆀկ♲僽色(休)꨽銳䒊用㣐垷㘗㸝Ⰼ崨鸑䎂〵涸⟟⧩⡤禹կl 㣐垷㘗㸝Ⰼ崨鸑䎂〵꨽銳䲿⣘剣㣐垷㘗傞➿暵蒀涸⥂䫡腊⸂կ㣐垷㘗傞➿♶ず✵⠛絡AI傞➿⟱⚌㖈㸝Ⰼ꣈䫡倰꬗䲿ⴀ倝銳宠կ⠛絡AI垷㘗⿬侨ꆀ⨊㼭鿈縭鵂玐务鳅㼱罌贊꧋纈⻊⸈㺙垷䒭կ罜㣐垷㘗⿬侨ꆀ儑衼䲿巛雲絅䲀椚鵂玐务꨽銳䔂㣐涸皾⸂㛇炄կ㔔姼㢴〵剪⸉㐼翫ざ䊨⡲䧭⚹䌢䙖կ㥵卓➠䭽撑⠛絡倰䒭鵳遤⸈㺙㺂僒❡欰㸝Ⰼ굥ꤗկ⢾㥵余ⴁ罏㖈♧⚡꧋纈务⸈Ⰶ✫♧⚡⧺余ⴁ蒜挿㼜ꦼ⟄鄄〄梡կ〥㢪㼆✵AI⟱⚌罜鎊䌢⠔⢪欽➿瀦幊巭倰䒭勻⸈㺙垷㘗告垷㘗㖈鵘遤鵂玐务➠⠔鷳ꪪ⥌䜂կ♶➑㥵姼AI⟱⚌䖃䖃〫岤ꅾ炽渹⸈㺙䙐殜ⰻ㶸⸈㺙告ⰻ㶸务涸侨䰘⛲剣鄄瑷》涸굥ꤗկl 㣐垷㘗㸝Ⰼ崨鸑䎂〵꨽銳⟄♶〳睔佖倰䒭絡雦䎇㶸⪰餴❡䱇勉雵䔶♸䲀椚剪⸉涸靈欽ꆀկ㣐垷㘗㸝Ⰼ崨鸑䎂〵㼿♶Ⱘ㢊湬䱹䲿⣘佅䭯ⵄ渤ⴔꂁ涸模侮垷㗌䧴⸆腊⟄♶〳睔佖倰䒭絡雦䎇㶸⪰餴❡䱇勉雵䔶♸䲀椚剪⸉涸靈欽ꆀ僽䔲⵸〳⟄㹊梡涸♧猫鍒Ɀ倰呩〳⟄⚹ⵄ渤ⴔꂁ䲿⣘ 6|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 鿈ⴔ佅䭯կ㣐垷㘗欰䙖ぐ⿬♸倰〳㛇✵餴❡䱇勉雵䔶♸䲀椚剪⸉涸靈欽ꆀ絕ざ餴彂ꅾ銳䚍ծ獺緃䚍瘝Ⱖ➭Ⱏ霋㹊梡(休)⚌佐渤涸Ⱆ䎂ⴔꂁկl 色(休)꨽銳䒊用㣐垷㘗㸝Ⰼ崨鸑䎂〵涸⟟⧩⡤禹կ㼆✵⟱⚌㣐侨䰘鿈꡶罜鎊呍䗱⟟⧩㖈✵⥂䫡侨䰘㸝Ⰼ㼆✵㣐垷㘗色(休)罜鎊ⴭ僽⥂䫡垷㘗㸝Ⰼ㼆✵㣐垷㘗䎾欽色(休)罜鎊ⴭ僽⥂䫡靈⠏䧭卓㼆✵⟱⚌⚌⸉鿈꡶罜鎊ⴭ僽꣈姺⚌⸉侨䰘屧ꪪկ㣐垷㘗㸝Ⰼ崨鸑䎂〵色(休)꨽銳䒊用♳鶣呍䗱⟟⧩♸㹐䨪⟱⚌䧶殜湡叻⛓ꢂ涸Ⱒ翫䚍匬䒊⟟⧩⡤禹⤛鵳用고կⰆ鷥叻ⲥ霹僈1.痗ざ㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞ⴔ區涸色(休)腊⸂銳宠2.鵛♧䎃色(休)㖈霪䋑㖞荛㼱剪⸉1㹻⟱⚌ゎPOCկ 7|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 色(休)霉⠮䴓潇僤莽 userid:414195,docid:150981,date:2024-01-10,sgpjbg.com 8|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 3. 色(休)霉⠮䴓潇僤莽色(休)➝絏䴓潇僤莽Lanrui-ai僽➃䊨兰腊⟱⚌缽倰⨴侨侨䰘ㄤ雦皾✽翫緸务涸AI〳⥌雦皾蒜挿⚁岤✵㣐垷㘗傞➿涸AI皾⸂ծ皾岁♸侨䰘涸㸝Ⰼ〳⥌崨鸑կ剪⸉⺫䭍⟄劼㺙〳⥌雦皾梠㞯僤莽·㺙倰⚹❡ᄩ⚺⡤涸䴓潇㣐垷㘗崨鸑鍒Ɀ倰呩ծ䲿⣘넞꣡⸈⧩涸䲀椚剪⸉僤莽·䲀椚涸䴓潇㣐垷㘗䎾欽䒓〄䎂〵瘝կ❡ᄩ剪⸉➝絏꬗ぢ㣐垷㘗곭㚖䴓潇僤莽䲀ⴀ䴓潇㣐垷㘗䎾欽䒓〄䎂〵♸䴓潇㣐垷㘗崨鸑鍒Ɀ倰呩傋㖈⚹㣐垷㘗䎾欽䒓〄♸衅㖑㹊騨䲿⣘㸝Ⰼ〳⥌涸㛇炄霃倶կ䴓潇㣐垷㘗䎾欽䒓〄䎂〵䲿⣘♧畀䒭㣐垷㘗䎾欽䒓〄倰岁ծ皾⸂ㄤ梠㞯佅䭯⚹AI䎾欽䒓〄罏䲿⣘皍⤑ծ넞佪ծ身崞涸AIServerless䊨Ⱘ䎂〵ⰻ縨僤莽·叻ⲥ䲀椚剪⸉♸僤莽·荈⸔䲀椚剪⸉佅䭯䭽撑靈欽ꆀ䧴⢪欽傞ꢂ雦餩կ䴓潇㣐垷㘗崨鸑鍒Ɀ倰呩⟄劼㺙〳⥌雦皾꧋纈僤莽·㺙倰⚹呍䗱絕ざ皾⸂靈䏞ծ皾岁綘䱗瘝䪮助⿺䒓盲示欽涸AI䊨Ⱘ⚹AI䎾欽衅㖑䲿⣘Ⰼ崨玐㸝Ⰼ⥂䫡կ䎂〵ⰻ䨾匬䒊涸劼㺙〳⥌皾⸂⚁勹雮欽䨪腊㢿♧ꝶ模䧭劼㺙〳⥌䊨⡲瑟ꢂ涸䵨䒊䨾剣鵘遤㖈ⰻ㶸涸侨䰘鿪絑鵂CPU炽⟝垷㗌⸈㺙㢅椚䊨⡲瑟ꢂ涸㶸⪰侨䰘랾雩歋僤莽·㺙倰ⰻ縨KMS㺙ꛬ盗椚剪⸉盗椚涸♶ⴀ㚖㺙ꛬ鵳遤⸈㺙示⢪僽炽⟝♸鲱⟝涸盗椚プ⛲偽岁鵳Ⰶ䊨⡲瑟ꢂⰻ鿈䧴鸑鵂炽⟝蜦》欽䨪侨䰘կ⢪㣐垷㘗衅㖑ぐ碫⿬♸罏㖈ざ岁ざ錞ծ劥倰餴❡「⥂䫡涸⵸䲿♴䕎䧭ざ⡲կ 9|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 图 2 一站式AI服务平台和AI应用生态揽睿星舟架构图 色(休)霉⠮揽睿大模型流通解决方案主要赋能四类参与主体，包括：数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门。在能力方面，该方案支持客户一键构建安全开发环境，为大模型各参与方提供全方位的安全保护。在算力方面，相较于自建计算中心或采购大型云厂商算力，揽睿星舟可以为客户提供高性价比算力支持。此外，方案通过不可篡改的方式保留数据授权记录与模型调用记录，进而解决商业收益分配问题，加速大模型生态共建。在服务经验方面，揽睿星舟AI客户众多，拥有丰富的服务经验，深刻了解用户需求。 l 赋能大模型生态各方，为要素流通保驾护航。大模型开发及应用全流程主要涉及数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门等四类参与主体。在大模型应用落地过程中，四类参与主体通常缺一不可，合作过程中需要解决信任及隐私安全保护问题，其中包含：数据提供方面临数据被使用过程中的各类不安全因素；基础大模型 10|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 开发者面临基础模型产权被窃取风险；参数调优服务方面临数据可触达性以及调优成果遗失风险；业务方面临事关核心商业竞争力的业务数据泄漏危险。揽睿大模型流通解决方案集成了多项技术能力，从机密可信计算到跨云算力调度、数据编排等，可以为各类参与主体提供模型、数据集与服务有效安全串联，实现数据和模型的保护。 图 3 揽睿大模型流通解决方案示例 在解决方案的保护下，大模型生态的各类参与主体都能够在合法合规、保护本方数据、产权与权益的前提下安全、高效地协作，同时也满足用户对于模型专业化的需求，赋能大模型技术进步和产业落地。 l 提供集群运行环境的全方位可信安全保护。揽睿大模型流通解决方案的安全核心是自研的机密可信计算产品“星舟·密方”。“星舟·密方”是基于TEE和TPM硬件构建的云原生可信机密计算集群，为揽睿大模型流通解决方案提供通用、安全、高效的“零信任”计算环境。“星舟·密方”利用机密计算硬件的能力，确保整个计算环境中的任何一方，包括数据中心管理 11|㣐垷㘗㸝Ⰼ崨鸑䎂〵䋑㖞色(休)霉⠮-䴓潇僤莽 员、云平台管理员在内，都必须经授权才能够访问计算集群，或通过计算环境的基础设施进行其他类型的攻击。相较传统仅支持进程级别、虚拟机级别的安全防护方案，“星舟·密方”在提供运维及迁移便利性的基础上为用户增强了整个集群