趋势科技解析OpenAI最新ChatGPT AI代理功能及其资安风险

OpenAI最新推出的ChatGPT AI代理具有自主行动的能力，可以代表用户执行各种操作，如管理行事历、发送电子邮件、执行代码，并与外部应用互动。这标志着AI系统能力的一次重要转变，从被动回答问题或生成内容，转变为主动行动。

功能与特点：

• 自主性（A2）：新代理在最少监督下管理任务，无需持续指令。
• 任务复杂度（A3）：能代表用户采取具体行动，部分可能造成不可逆后果。
• 计划与逻辑推论（C1）：能跨不熟悉领域进行规划与推论。
• 深入理解使用者（C2）：通过互动持续学习，检测用户行为与偏好模式。
• 生态系统整合（C3）：原生结合多个信息来源于单一工作流程中。

风险分析：

• 自主性提升风险：恶意攻击者可能操纵代理行为，用户未必能立即察觉。
• 任务复杂度风险：可能造成不可逆后果，如误删文件、寄信给错的人。
• 计划与逻辑推论风险：易受提示注入与其他微妙操纵影响，改变决策。
• 深入理解使用者风险：可能泄露对使用者的了解，暴露敏感信息。
• 生态系统整合风险：遭駭可能暴露连接账号与已登录网站的高度敏感信息。

应对措施：

• 严格的人工监督：确保安全，检测异常情况。
• 隐私控管：用户可清除浏览记录并登出对话，避免存储敏感信息输入。
• 限制存取权限：只开放真正必要的部分，在便利与掌控之间取得平衡。

结论： ChatGPT AI代理的推出带来了显著的进步，但也引入了新的风险。随着功能的扩展，代理可能成为用户数字生活中值得信赖的伙伴，但小幅的功能增强也可能引入新的风险，重新塑造我们与DAs的互动方式。企业应保持严谨的人工监督，特别是处理敏感信息或流程操作时。趋势科技的Digital Assistant Framework为理解AI新崛起的能力与其伴随风险提供了重要视角。