全新的集成解决方案确保企业以安全、负责任的方式应用AI智能体及其他生成式AI技术。
借助以上工具，企业可以对智能体执行“红队测试”和审计，并检测“影子智能体”等安全威胁。
随着越来越多的企业开始推动AI智能体的规模应用，
IBM于近日推出业内首款整合了AI安全与AI治理、并提供企业风险态势统一视图的软件。
该产品的新功能增强并集成了watsonx.governance和Guardium AI
Security的能力，旨在帮助客户以安全且负责任的方式，实现AI技术（包括智能体）的规模应用。watsonx.governance是IBM的端到端AI治理工具，Guardium AI Security软件则用于保护AI模型、数据和应用的安全。
IBM数据和AI业务总经理Ritika Gunnar表示：“AI智能体有能力重塑企业的生产力，但其优势也会带来挑战。如果这些自主的系统得不到妥善的治理或保护，可能会带来严重的后果。”
本次发布的新产品包括：
AI智能体安全的集成和自动化
IBM不断增强IBM Guardium AI Security与watsonx.governance的集成，为企业提供业内首发的统一解决方案，可同时管理与AI用例相关的安全风险和治理风险。该集成支持用户根据12种不同框架（包括《欧盟人工智能法案》和ISO
42001）验证其合规标准的流程。
IBM还与AllTrue.ai合作为Guardium AI Security打造新功能，包括能够检测云环境、代码库和
嵌入式系统中新的AI用例，以及为去中心化的AI生态提供全面的可视性与保护。一旦发现安全隐患，IBM Guardium AI Security可自动触发watsonx.governance中相应的治理流程。
IBM Guardium AI Security的更新还包括自动化的“红队测试”功能，旨在帮助企业检测和修复AI用例中的漏洞和错误配置。为了消除代码注入、敏感数据暴露和数据泄露等风险，该功能可帮助用户量身定制安全策略，同时对输入和输出提示进行分析。上述功能已在IBM Guardium AI Security正式上线，它们与watsonx.governance的集成将在今年晚些时候陆续推出。
IBM安全和Runtime产品副总裁Suja Viswesan表示：“AI的未来取决于我们如何确保其安全。安力的构建应该从AI应用的第一步就开始，这对于企业保护数据安全、满足合规要求以及建立持久信任至关重要。”
IDC安全与信任团队研究总监Jennifer Glenn表示：“企业安全团队面临的挑战之一，就是将安全事件与违规行为转变成可量化的业务风险，AI和AI智能体的快速引用进一步加剧了这一挑战。将AI治理与AI安全统一起来，为企业提供必要的背景信息，这将帮助他们轻松发现风险并确定优先级，更直观地看到忽略风险可能带来的严重后果。“
增强的AI智能体评估和全生命周期治理
IBM watsonx.governance可监控和管理AI智能体从开发到部署的整个生命周期，并直接在智能体中构建评估节点，监控回答相关性、上下文相关性和忠诚度等指标，并帮助用户找出表现不佳的根因。智能体上线的风险评估、智能体审计跟踪和智能体工具目录等新功能，预计将于6月27日推出。
即刻可用的合规能力
IBM watsonx.governance Compliance Accelerators预置了全球各地的部分法规、标准和框架，帮助用户了解相关义务，从而调整自己的AI用例。这些内容涵盖了《欧盟人工智能法案》、美联储SR 11-7文件以及纽约市第144号地方法律等重要法规，以及ISO/IEC 42001等全球标准和NI
ST AI RMF等框架。watsonx.governance Compliance Accelerators已作为watsonx.governance的附加组件正式上线。
为了向AWS（亚马逊云科技）客户提供更多价值和便利，watsonx.governance已支持在印度的AWS数据中心使用，包含增强的模型监控功能。
此次推出的新功能和集成工具为企业提供了制胜AI智能体时代所需的全面治理和安力。这些创新成果还与IBM更广泛的watsonx AI解决方案联动，帮助企业以负责任和安全的方式加速生成式AI的规模应用。
