您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [上海人工智能实验室]:通用型AI智能体L1–L5分级安全框架白皮书 - 发现报告

通用型AI智能体L1–L5分级安全框架白皮书

信息技术 2026-07-13 - 上海人工智能实验室 淘金 曹艳平
报告封面

揉䣬⭳"*㩐咸⍋-盥ǐ-盩◺剥⽫╠㰚㮊䩁䩲≞珿䘏琀 揉䣬⭳"*㩐咸⍋-盥ǐ-盩◺剥⽫╠㰚㮊䩁䩲≞ ㉑㫝 㙃寻㠰崲 䯗丶咉㩅 喤㉑ⴊ徟嶲㷴⭳珿-BSHF -BOHVBHF .PEFM  --.琀⟅㍴乁䯶⋝㬹球⊲㇅㩐咸珿"SUJ现DJBM*OUFMMJHFODF "*琀㼴⋆盳䣣㗬㋬㇅皓直掿䇟䋡掊∲盳喤∳寻⚜∳⍋直ѩ⋝ⴊ徟嶲㷴⭳⍔∲㞀䟊∆▩伖㰌㎠䩈㩐咸⍋珿"HFOU琀球咸ⴂ㓻䮨䝵ⱨѨ嵵☆憜㍡Ѩ徵䣬㇅皓Ѩ⏕㛙形㎣球⬐㫞槾⊲倹䪕䬧∃喤∳⽮㗬⳽㼶湍䩈⳰㬖⋳⚕ѩ㉑⋝㬹球㩐咸⍋䩈㥇敾⡺咸⚏⠶㛙劫ⲃ椮㏝⚳球㉱䣬⬢㩅⡺⟀〶嵵㷴∅㦄㙅ⴊ球∲✵寻䩂−䩈⟀〶㞨⎓㇈ⴊ䩈惺咸⋯␴ѩ䓿友球∆溂揎⟀〶䩈㩐咸⍋㙜㬃䪼⌬䩈㨆㦼䪎◭㨕䩈⽫╠㛩㗴ѩ掀㫳⫥╼⳹氺⟀䩈㩐咸⍋⽫╠⊃⋮球⋝➹㤗伖䤐⡺⽈㬃䤐䪼劥⟀㇢䩈⽫╠汷樗㞨䳻⬯尗㧥球㙜㬃䋡掊∆⽫╠䂍䟊≃榢⼺⬐㨕堎䩈㧍榢㇎ѩ 䪲♁球╠䟇∳崲㇡⬢⿼㫾㌿㗬劝⇸䩈㩐咸⍋䂍䟊㷴㋬球⌾⬯㋝ⶭ⿨╮嵷∲✬☟⊆⌘劝"*傹劝䩈㦇⭳䂍䟊⿛怓球⫝̸劓╮咸⚏䀆㉐⡺汷樗㍎⢻⾀㦔◺剥䂍䟊球㼴掿䇟㗬∲╠䟇㩐咸⍋䂍䟊䩈╩彸ѩ⽈㬃䤐⡺㇅−䤐㇒㫞䩈◺剥㰚㮊⳽吘䓯⊆㩐咸⍋䩈咸⚏◺剥球灂⿳⿛⟲咸⚏伉剥⿛㉱䩈汷樗⡺⽫╠㞂㦔掊寻⽮㥋◺㭤ѩ㬀㰚㮊⬐㇒㫞䯗丶⡺⾀憢䩈⯡䰂∂球⋝盳喤∳㐃直⍔∲咸⚏◺剥∳挡 ⿨㩐咸⍋◺∲⊌剥珿-盥ǐ-盩琀球◺㭤樼䬄喤∳㐃伉剥䩈㞨✹⡺彰当捿寻嚽⫝̸䩈㙅㋽球⟲∳崲㤝橉汷樗䩈䋡掊憜㍡⡺溂喤∳㐃伉剥珿-盧ǐ-盩琀檭敼䒂╫䂹䩈䊲䣬⡺ⴔ㝿汷樗球㉓㞨◯䪼㉱䩈⽫╠槠㚀⡺劺⟶䂍䟊㞂㦔㋗彠球徇⫦∲㩐咸⍋㋝⟀叄Ѩ⍷䣬叄⡺䯗丶∆彶䄜叄㞨⎓⇸ⴺ⟝➱参Ѩ⟝⿛㯛䩈◺剥⽫╠䂍䟊嚽㋬ѩ 䯗丶榜汁Ѩ⿛怓⡺䪲䩈 ⽈㬃䤐⡺㇅−䤐㦹㫞䩈㩐咸⍋咸⚏◺剥⡺汷樗◺㭤㰚㮊球∲㬀䯗丶㋗事≾嘩ⵟ䩈⯡䰂ѩ㬀㰚㮊⬐㦹㫞䯗丶䩈⯡䰂∂球⚏䀔傹劝⫇伔⋝∃∁∢㰌㎠榜汁盡珿⇸琀ⵤ⍍⿛揉䣬⭳"*㩐咸⍋⋝喤∳㐃掊寻◺剥盢珿⊄琀樼䬄喤∳㐃伉剥㞨✹球汷樗⿨⌒ⵤ⍍䋡掊球溂喤∳㐃伉剥⟝咸⊟䣣⣗⊓㦇╬汷樗盢珿∁琀㉱彰匭⣗⊓∆⟲伉剥汷樗䪼✫擼䩈⽫╠槠㚀㞂㦔ѩ 㬀㰚㮊吘䓯⬐㥇⼹∎䤐捿寻䩈揉䣬⭳"*㩐咸⍋珿(FOFSBM1VSQPTF"*"HFOU琀球❢㋗事⬐揉䣬⭳⊲㇅㩐咸㷴⭳珿(FOFSBM1VSQPTF "* .PEFM  (1"*琀⯡䰂∂球皓⳪㨕堎揉䣬咸⚏球咸⬐㉜䂭⳰㬖⋳⚕∥喤∳㗲✼喤∳㓻䮨Ѩ嵵☆Ѩ▩伖∆寻⚜球㉓⽮㗬㦹⽼䪲㯛䩈"*傹劝球╯⭳㌿㏝⛷㛄揉䣬"*⚝㘧∆合ⴌ⭳㩐咸⍋Ѩ⫦㌿䣬㘓䤐欎珿(6*琀㩐咸⍋⡺勔䷋㩐咸⍋ѩ䘏㰚㮊⊽样⿛❆㩐咸 揉䣬⭳"*㩐咸⍋-盥ǐ-盩◺剥⽫╠㰚㮊䩁䩲≞珿䘏琀 ⍋傹劝珿⛷⠙⯡䰂㷴⭳⡺)BSOFTT琀䩈喤∳㐃咸⚏⡺汷樗掊寻♊㭤球吘䓯╮⟝咸⊟䣣䩈揉䣬汷樗 ㉓劗◯揉䣬⽫╠㞂㦔㋗彠ѩ ∆≃䪼⿛球㬀㰚㮊∅䆆䪚⊽⬐❆⇸⬢㩅∃捿寻䩈∋䣬㩐咸⍋珿ⵤ✭䥛㩐咸⍋Ѩ䂧㍨㩐咸⍋琀 ⊞∅䆆䪚⬐䘰䟊∎䤐∥捿寻䩈皓托㩐咸⍋珿ⵤ喤⚜渧渟挓挳Ѩ㦷⊲㬎Ѩ㬎玨⊲琀ѩ䘏㰚㮊㩘∅䅚➹⳽㩐咸⍋⊜⊊⟝咸㈅㬹䩈汷樗球≗∅⿛皓⍋㉱䣬⬢㩅珿ⵤ斀嬾Ѩ✭䥛伉琀掊寻样⿛㐃汷樗彸☟⡺⽫╠㞂㦔㋗彠盢㩐咸⍋㋝⟀㦐⡺撗匱㦐檭劑⟶皓⍋撗匱⬢㩅➹䪼╫寻−䩈䂧㍨䂧嵵崲䀔球⟔寻㋝〶⽫╠㞂㦔彰当ѩ 㬀䯗丶揉捶㋗事欎⟿揉䣬⭳㩐咸⍋䩈◺剥⽫╠㰚㮊球⚏⫦∲㩐咸⍋㋝⟀叄Ѩ㩐咸⍋㉐⟞⡺劂⋮㞨⎓叄Ѩ⋹−⡺∢⊲䣬㘓⋝➹们∁㦐䯗丶∆彶䄜㬎㭘球㞨⎓⟝➱参Ѩ⟝⿛㯛䩈◺剥汷樗⫦忣⡺⽫╠㞂㦔㋗彠球䎋⟀♁䂑徏汁彚彬➹䪼╫䶒䯗⡺⾀憢㝺僠ѩ 㬀䯗丶䩈㦐䂧彬敶䣬盳㥞䛴劺掟Ǒ㰚㮊㭘㋗Ǒ∋⾘彶彠Ǒ䀙㐗㗬㥞直⫄㼶䄒䷋球∋⾘彶彠䝵嘼⠦剱≾⫥╼♁䂑"*⾀渵⾆Ѩ㦇⭳䯗⟀㬎㭘⡺⽈㬃㬎㭘䩈⳽挛➼洱㋗彠ѩ 㰌㎠崲僞 㬀㰚㮊䣵⫄氢䪼⊊╫吒䩈㰌㎠崲僞㭘㗬盡 1.喤∳㐃◺剥珿们⊄撗◺琀盡⋝㩐咸⍋䩈盳喤∳㐃䀆㉐直⍔∲咸⚏◺剥∳挡球㞨◯-盥ǐ-盩⊌剥◺剥球㉓⿨喤∳㐃◺嶕∲▩伖喤∳㊃⡺槻樗喤∳㊃∜∢劲㊃球傹劝◺㭤⟲喤∳㐃伉剥⬐授∜∢劲㊃∂䩈咸⚏䙀㍞球⋝➹⊲倹䣬㘓⡺㩐咸⍋䩈嶄嘬◺㇅ѩ-盨ǐ-盩娰㩘㦷䝶⾀⾀⎃球⌾⎕䓿剱╝㬀㰚㮊掊寻♁䭾㐃◺㭤球搮╅㫾㬹喤∳㐃乁䯶⟼䩈槠㚀㞂㦔䫣为ѩ 2.汷樗彸☟珿们∁撗◺琀盡⯡⊆⫥╼⳹㇒㫞汷樗◺倹㰚㮊球㞨◯⟲伉剥㩐咸⍋䩈揉䣬⯡剽汷樗球♊㭤喤∳㐃㞨✹⿛∳崲汷樗䩈⍔䣬㬎䟊⡺䋡✈捶䷋球㉓敼䒂㞨䳻溂喤∳㐃伉剥珿-盧ǐ-盩琀⬐䊲䣬⡺∳⚜ⴔ㝿氯⯆⟝咸◯䝶䩈㦇╬汷樗ѩ得撗◺⊽⿛⟲伉剥⟝咸⟀䣣䩈╯⭳汷樗掊寻彸☟球∲⟼㥞汷樗䂍䟊㞨⎓䪲㯛次䒂ѩ 3.⽫╠槠㚀㞂㦔珿们⫄撗◺琀盡样⿛㇒彸☟◯䩈⟲伉剥⯡剽汷樗㞨◯揉䣬㝿☪⯡剽球㉓劑⟶⟲喤∳㐃伉剥䩈汷樗䋡掊⡺溂喤∳㐃伉剥䩈㦇╬汷樗球掿⇸㞨◯样⿛㐃⽫╠槠㚀㞂㦔㋗彠ѩ 4.劺⟶䂍䟊㞂㦔珿们⊌撗◺琀盡⬐㙜㬃槠㚀㞂㦔䩈⯡䰂∂球掊⇸㼶㞨◯㩐咸⍋㋝⟀叄⬐⊟⢯彰当㧍㉱搤㎇䩈剠剽∆㞀圊㐃䂍䟊➎☍球㉓〓㩐咸⍋䣣㏝梭∥䩈⊌ⴊ惒⋳∳⍋䩈⿛╼䂍䟊⡺⿛⳹掾㧥㞂㦔㞨◯样⿛㐃㋗彠ѩ 掱䣬⿛怓⡺⍷䣬㦐䂧 㬀㰚㮊徇⫦∲⋝∃⫄倹∳⍋㞨⎓➱参盡珿⇸琀㩐咸⍋㋝⟀叄盢珿⊄琀㩐咸⍋㉐⟞⡺劂⋮㞨⎓叄盢珿∁琀∃䈅⋹−⡺∢⊲䣬㘓盢珿⫄琀们∁㦐䯗丶⡺彶䄜㬎㭘ѩ⟲∳⍋⟝㛡⋝∃憜㍡⍷䣬㬀㰚㮊盡 1.㩐咸⍋㋝⟀叄⟝⎕㝆们⊄撗◺⿛喤㫞⊟⢯掊寻喤∳㐃伉剥彶⌨⡺彰当球劑⟶们∁撗◺彸☟䪼㉱䩈⽫╠汷樗⡺ⴔ㤠㷴㋬球㉓劑⟶撗匱⬢㩅♁䭾㐃╫䂹⟝咸䩈䊲䣬⡺ⴔ㝿汷樗ѩ⟺㧍球⟝⎕㝆们⫄撗◺㋗事∆喤∳㐃伉剥䪼✫擼䩈⽫╠槠㚀㞂㦔球㉓➱参们⊌撗◺⽮⥱劂劅䂍䟊Ѩ汷樗佡䟊⡺㛙劫䪕䄜⍋傹球∲㞨✹㩐咸⍋䩈⽫╠㐃∆⟝㝿㐃㞨⎓☪㊃⏕橉ѩ 2.㩐咸⍋㉐⟞⡺劂⋮㞨⎓叄⟝➱参们⊄撗◺球䟊嶕∅⟺喤∳㐃伉剥㩐咸⍋⿛⯡䰂咸⚏Ѩ捿寻䝵ⱨ➹㬗槾䩈崲䀔球㉓劑⟶们∁撗◺彸☟㷴⭳Ѩ㇅皓Ѩ㞪⋮Ѩ.$1㫢⚕伉⟝咸㋲╝䩈⎓㉱梭Ѩ㬗槾⡺捿寻㧍汷樗ѩ⟺㧍球⟝⎕㝆们⫄撗◺㋗事⽫╠牼彖擼匭Ѩ⟝⏙劂⋮䂍䟊Ѩ㬗槾佡䟊⡺捿寻䪕䄜㬎☪球∲∃䈅㋝⟀叄㞨⎓㫊⚔⽫╠⟝欌䩈⯡䰂彰㦔㤇㡩球槻⍆㩐咸⍋傹劝⬐撗匱⡺捿寻捶䷋∥䩈㥋⍋汷樗ѩ 3.∃䈅⋹−⡺∢⊲䣬㘓⟝➱参们⊄撗◺☘㦄㚷撗匱㩐咸⍋䩈喤∳㐃伉剥Ѩ咸⚏捨䤐∆⊲㬎惒⋳◺㚠球㉓劑⟶们∁撗◺彸☟╮⬐−⚕䄒䷋⡺⾀槳⬢㩅∥⟝咸㈅㬹䩈⽫╠Ѩ樽䶂Ѩ⟶嵵⡺捿埜汷樗ѩ⟺㧍球⟝⎕㝆们⫄撗◺㋗事䪼㉱䩈㝠㬗佡䟊Ѩ捿寻䪕䄜Ѩ⊲㇅㉏氭⡺㉱㐁⳧匭㬎☪球〟敾䰰⏕㩐咸⍋⬐⟝㝿嚽⫝̸╼捿寻球槻⍆䌨⬐㜷ⴔ⡺惒⋳汷樗ѩ 4.们∁㦐䯗丶⡺彶䄜㬎㭘⟝➱参们⊄撗◺䩈喤∳㐃伉剥☆◺球㋝〶样⿛∅⟺伉剥㩐咸⍋䩈䚳事彶䄜⡺咸⚏渵彳ѩ⟺㧍球⟝⎕㝆们∁撗◺䩈汷樗彸☟㰚㮊⡺们⫄撗◺䩈⽫╠槠㚀㞂㦔崲䀔球㋝⟀㫊⚔傹劝✈䩈彶䄜⍋傹Ѩ䄜徇㦐䂧⡺槠㚀㙜㬃嶕▩㦐㰜球∲寻−㞨⎓⾄嵳Ѩ⟝⏙䩈⽫╠彶⌨㤇㛙ѩ 揉䣬⭳"*㩐咸⍋-盥ǐ-盩◺剥⽫╠㰚㮊䩁䩲≞珿䘏琀 惐䛴∆單忔 㬀㚁⠸䩈∳崲惐䛴叄 ⽫掋"*盡䷋掋珿∳崲㢈▐⊲琀Ѩ忔㧒㇫Ѩ㦐⊦Ѩ䝑⌗▦Ѩ㾇橲㥞Ѩ䝑斀㗤∂䅈⊲㇅㩐咸⾀渵⾆盡摤⹉Ѩ㍭䣶Ѩ㋽㭄䇔❀ⴊ⽈㩐咸⊟−䯗丶樐盡㬢┻㧼Ѩ尰⽾㰶❀∲盡呔⊒▒Ѩ化⏂Ѩ☌䅈▒Ѩ㬢㏹寻 單忔 尦㎠㓻忔䇔❀ⴊ⽈㩐咸⊟−䯗丶樐☏ⶭ樐椮㋽⊒玥樐ⳏ⬐氢䪲⠝⚜≃槳劗⊀䩈㗴䤩㐃㦐⟿㋗彠∆⽿惤状⚥ѩ㓻忔∂䅈⊲㇅㩐咸⾀渵⾆∳⋳⚝䟊Ѩ氯▒䶒⽈⾘咜⎘㤱㝠∲㬀㰚㮊劗⊀䩈ⴊ⚏㤇㛙ѩ㓻忔槭敻㇔㇔橳⫋㩐咸⍋溂剥⽫╠∋⾘㬼⿱噭Ѩ㫝≃㩭欎⽫╠㙜㬃惎惒⊲渕栚⽩Ѩ⼹嘼憠⚜"*⊟⢯溂剥䂧㍨氧榜⍍氿徉⿛㬀㰚㮊㞨◯䩈⽿惤㋗彠ѩ㓻忔⽫掋"*⌑⌬㬢㎠⽣Ѩ⽁㉣⇸Ѩ㱕⾘梜⬐㬀㰚㮊㗬㥞捶䷋∥⑑◯䩈乁◯惐䛴ѩ 䘏㬀∆㫊㦇当☆ 㬀㰚㮊䘏㬀⟥∲W盥盤球洿㻲⟀㇢⊆∎䤐⊲㇅㩐咸ⴊ⌒珿8"*$琀 ㋗彠㋲䣬㰐㋬ ⽫掋"*Ѩ∂䅈⊲㇅㩐咸⾀渵⾆Ѩ䇔❀ⴊ⽈㩐咸⊟−䯗丶樐Ѩ❀∲球ѱ揉䣬⭳"*㩐咸⍋-盥ǐ-盩◺剥⽫╠㰚㮊䩁䩲≞Ѳ珿䘏琀球 䪲㌲ 们⇸撗◺ѧ劺掟盡㩐咸⍋⽫╠䂍䟊欎∬䩈㰌㎠㛩㗴  㩐咸⍋䩈㙜㬃䋡掊∆⟀〶嵵㷴 ⽫╠⊃⋮∆㥋⍋汷樗㏝⚳⟲⫥㩐咸⍋⽫╠䂍䟊掊〶4⿱劑盡⋆㙜㬃䋡掊☤䂍䟊檭䀔 们⊄撗◺ѧ㩐咸⍋喤∳㐃◺剥㰚㮊  ㇒㫞咸⚏◺剥㰚㮊劺掟 㬀㰚㮊䩈◺剥㏹憜⡺㰌㎠◺剥崲僞 ⟲喤∳㐃伉剥⇸嵹尗 ⟲伉剥⯡剽㤝橉汷樗喤∳㐃㞨✹⿛㤝橉汷樗䩈⍔䣬㬎䟊➹⟲伉剥汷樗䋡掊 溂喤∳㐃伉剥䩈䊲䣬∆ⴔ㝿氯⯆㦇╬汷樗㞨䳻 3 们⫄撗◺ѧ⽫╠槠㚀㞂㦔㋗彠  ◺剥槠㚀彰当➎☍⡺揉䣬㝿☪⯡剽 ㉱⿛⟲喤∳㐃伉剥㤝橉汷樗䋡掊䩈㞂㦔㋗彠㉱⿛䊲䣬∆ⴔ㝿氯⯆㦇╬汷樗䩈㞂㦔㋗彠  们⊌撗◺ѧ劺⟶䂍䟊㞂㦔㋗彠  剠剽∆㞀圊㐃䂍䟊➎☍