蚂蚁集团发布AI安全检测平台“蚁鉴2.0”
【资料图】
7月7日,在世界人工智能大会(WAIC)“聚焦·大模型时代AIGC新浪潮—可信AI”论坛举行,蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。
蚁鉴2.0可实现用生成式AI能力检测生成式AI模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型。据了解,该产品还入选了本届大会的“镇馆之宝”。
AIGC安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰在论坛主题演讲中提及,“不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。”
蚂蚁集团同时宣布“蚁鉴2.0”全面开放,面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。
据了解,“蚁鉴2.0”的两项能力,一是实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全三大类,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并会生成检测报告,帮助大模型更加有针对性地持续优化。
蚂蚁集团大安全事业群技术部总裁李俊奎表示,“生成式大模型是一种‘深黑盒’技术,‘蚁鉴2.0’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现「生成式机器人」对「AIGC生成式模型」的诱导式检测计算,很像一个24小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。这种AI对AI的评测,也是教学相长。好比生成式考官考核生成式运动员,在对抗中双方能力互相提升,进一步提高整个行业的AI安全水位。”
另一项能力是,“蚁鉴2.0”融入了可解释性检测工具。综合AI技术和专家先验知识,通过可视化、逻辑推理、因果推断等技术,从完整性、准确性、稳定性等7个维度及20余项评估指标,对AI系统的解释质量量化分析,帮助用户更清晰验证与优化可解释方案。
此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起的《AIGC可信倡议》。论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编纂的《可信AI技术和应用进展白皮书(2023)》。
关键词:
您可能也感兴趣:
为您推荐
知乎宣布将下线“匿名功能”
反映南京大屠杀史实的有声读物上线 以声音传递历史记忆
中国驻澳大利亚使馆提醒中国公民防范各类型电信诈骗
排行
最近更新
- 蚂蚁集团发布AI安全检测平台“蚁鉴2.0”
- “跨品类”创新,荣耀Magic V2即将带领折叠屏迈进主流
- 为抢险“加油”
- 丰田LandCruiser70系列升级宣布
- 澳门“艺文荟澳2023”7月至10月精彩纷呈
- 广西体育中心加快学青会场地改造优质工程建设
- 罗伯特·英格兰德透露谁应该执导新《榆树街噩梦》电影
- 有的项目已经在融“C++++”轮了?
- 川内55所高校暑假时间安排来了!
- 李玟13年黑粉发文道歉:过眼云烟,也烟消云散
- 横店东磁预计上半年实现归母净利11.8亿元至12.6亿元 光伏产...
- 信披违规 名臣健康收深交所监管函
- 掌趣科技旗下《饥饿鲨:进化》APP存在过度索取权限等问题被工...
- 手机续航大问题解决方法 三个实用的手机功能关闭
- 重庆:巫镇高速建设忙 预计年内通车
- [快讯]捷捷微电:江苏捷捷微电子股份有限公司募集资金投资项目延期
- 全球最大养老基金日本GPIF实现季度盈利 资产创历史新高
- 小鹏G6,想活成哈弗H6的样子
- 让高品质文化生活触手可及 福田区文化空间“星罗棋布”计划发布
- 电影《雪豹和她的朋友们》发布最新预告和角色海报
- 《老龄经济学》:将人口老龄化问题纳入经济学框架
- *ST爱迪(002740.SZ):拟将运营公司上述无法确权中的原值约912...
- 镜观中国丨双面“绣”姑苏
- “量贩零食”热潮袭来:真风口还是假繁荣?
- 香港6月底官方外汇储备资产为4173亿美元
- 四川省红十字会调拨一批救灾物资驰援重庆万州
- 行业首例!太平洋保险与OceanBase完成全险种核心迁至国产数据库
- IPO参考:美好置业退市 新亚电缆、信通电子冲刺深市主板
- 山东改革中医药价格和医保政策 加快建设综合改革示范区
- 田淳_关于田淳介绍
今日要闻
- “量贩零食”热潮袭来:真风口还是假繁荣?
- 横店东磁预计上半年实现归母净利11.8亿元至12.6亿元 光伏产业盈利同比实现翻番以上增长
- 让高品质文化生活触手可及 福田区文化空间“星罗棋布”计划发布
- 瑞银(UBS.US)接手烂摊子后又遇挑战 日本公司就Greensill事件起诉瑞信
- 孙志彪原型是谁_孙志彪原型
- 区领导调研小学生爱心暑托班办班情况
- 荣耀最强平板!MagicPad真机首度揭晓:超大屏幕 万元内天花板
- 新一代数字地球技术平台“星图地球智脑引擎”发布
- 关系代词whose的用法(whose的用法)
- 恒邦股份(002237.SZ):拟使用募集资金不超12.2亿元向威海恒邦提供借款,以实施“含金多金属矿有价元素综合回收技术改造项目”