Exabeam增强Agent Behavior Analytics功能,加强企业内部AI代理行为监控
Exabeam近期宣布对其Agent Behavior Analytics功能进行扩展,以监测AI代理在企业内部的行为模式。在继续支持现有的Google Gemini的同时,此次更新将监测范围扩展到了OpenAI ChatGPT和Microsoft Copilot。这次更新将AI助手视为自主数字员工,它们能够执行身份验证、访问系统并执行业务任务,因此安全团队需要深入的行为基准和实时风险信号来识别微小的异常行为。
本次发布包括五项集成能力,旨在增强威胁检测、调查和响应:行为基准化、提示与模型滥用检测、身份与权限监控、代理生命周期监控,以及针对智能AI代理的OWASP Top 10覆盖。这些能力旨在降低企业在规模化应用AI过程中面临的风险。
重要亮点
AI行为基准化:动态配置文件追踪请求量、令牌使用量、工具调用、会话和出站活动;一旦行为偏离基准,系统将在事态升级前触发警报。
提示与模型滥用检测:检测提示注入、模型操纵和工具利用行为;扩展的检测规则库在入口点即进行风险筛查。
身份与权限监控:监控AI平台角色、用户和权限;标记首次角色分配、权限提升及异常变更。
代理生命周期监控:提供AI代理创建、修改和使用的完整可见性;将首次代理创建和调用事件作为可审计信号呈现。
智能AI代理的OWASP Top 10覆盖:依据OWASP Top 10标准监控代理行为,为企业AI代理建立治理基准。
重要性
通过将AI代理视为企业的重要组成部分,此次更新帮助安全团队建立行为基准,并快速发现可能表明滥用或入侵的异常活动。随着企业大规模部署AI助手,治理与可见性对于平衡AI驱动的快速工作流程与风险控制变得至关重要。五项功能协同工作,提供持续监控、可审计信号和符合策略的防护措施,使团队能够在负责任地扩展AI使用的同时,有效保护数字员工。
后续关注点
五项新功能在ABA平台及相关平台上的部署与客户采用情况。
对OpenAI ChatGPT、Microsoft Copilot和Google Gemini监测覆盖的扩展。
Exabeam New-Scale与LogRhythm平台中管理员和安全分析师工作流程的改进。
Exabeam扩展ABA功能至OpenAI和Copilot以监测AI代理
Exabeam将行为检测与响应能力延伸至OpenAI ChatGPT和Microsoft Copilot,以应对AI内部威胁。通过对数字员工进行行为画像与分析,该方案为安全团队提供了用户与AI代理在整个企业内交互方式的完整可见性。
作为智能企业行为分析领域的领导者,Exabeam今日宣布对其Agent Behavior Analytics功能进行重大扩展。若无法直接了解员工如何使用AI助手——查询内容、共享数据、交互频率及来源——企业将无法建立正常的AI行为基准,调查可能的滥用行为,或检测新兴的智能内部威胁。
新增的对OpenAI ChatGPT和Microsoft Copilot中代理行为的检测支持,连同对Google Gemini的现有可见性,将这些智能服务转化为丰富的行为遥测数据源,直接输入Exabeam的威胁检测、调查与响应工作流。
Exabeam首席AI与产品官表示:“AI代理正从简单的聊天机器人演变为自主的数字员工。它们进行身份验证、访问系统并执行业务流程。一旦被入侵,其活动往往看起来是合法的。旨在捕捉提示注入或幻觉的护栏无法应对此类风险。保护数字员工需要深入了解其基准行为,并具备在细微偏差演变为实质事件前将其检测出来的能力。”
Exabeam首席执行官补充道:“AI正在迅速重塑组织的运营、竞争和发展方式,创造出一个帮助他们快速、规模化运作的数字化员工队伍。随着这一转型加速,领导者必须了解这些系统在企业内部的运作情况。我们扩展Agent Behavior Analytics功能,旨在帮助组织在自信采用AI、并确保在企业内推广这些能力所需的监督与问责的同时,防范新兴风险。”
应对新威胁的五项核心能力
AI行为基准化:Exabeam为用户及其AI代理构建动态行为档案,追踪请求量、令牌使用、工具调用、网络会话和出站活动的模式。当行为偏离既定规范时,例如API调用或令牌消耗量突然激增,系统会标记异常,帮助安全团队在事态升级前发现滥用行为。
提示与模型滥用检测:Exabeam在攻击升级前检测提示注入、模型操纵和工具利用行为。新版检测规则库规模是之前版本的五倍,覆盖完整的威胁谱系,包括提示操纵和影子AI活动。所有检测均在入口点进行,而非损害发生后。
身份与权限监控:行为基准化追踪代理的行为方式,而身份与权限监控则管理其被允许执行的操作。Exabeam检测AI平台角色、用户和权限中的异常,包括首次角色分配、意外权限提升和异常权限变更,确保AI身份受到与传统企业身份同等严格的管控。
代理生命周期监控:Exabeam提供AI代理创建、修改和使用的完整可见性,将首次代理创建和调用事件作为独立的可审计信号呈现。安全团队现在可以追踪环境中每个代理的完整生命周期,弥补了此前导致大多数组织对代理活动不可见的治理空白。智能AI代理的OWASP Top 10覆盖:Exabeam依据针对智能AI代理的OWASP Top 10标准监控代理行为,为这一此前缺乏明确框架的威胁类别提供可量化的覆盖。这种对标为企业内AI代理的治理和防御建立了基准。某公司全球网络安全副总裁评论道:“随着我们深入智能时代,AI代理的快速采用正在改变风险格局。安全团队现在所处的世界,人类和自主代理都在大规模地与系统和数据交互。传统的检测模型并非为此现实而构建。我们需要的是清晰的行为可见性和量化风险的简单方法。Exabeam提供了这种清晰度——帮助我们关注真正重要的风险,并使我们能够在持续推动全业务AI创新的同时,设置正确的护栏。”
这些新功能伴随着Exabeam New-Scale和LogRhythm平台的一系列广泛增强,旨在改善管理员和安全分析师的日常体验,同时继续提供深入的可见性和自动化响应,帮助团队简化工作流程、减少警报疲劳并加速威胁检测。
佳佳币资讯站