CN
CN EN

爱游戏app人工智能安全检测平台全面解决

来源:爱游戏app 日期:2022-09-24 点击量:123344

9月24日下午,爱游戏app人工智能会议-可信人工智能论坛现场,中国信息通信研究所、清华大学、蚂蚁集团联合发布人工智能安全检测平台蚂蚁,为人工智能模型开发者提供从模型对抗测试到防御加固一站式评价解决方案,帮助开发者识别和挖掘模型漏洞,创造更安全可靠的人工智能。记者了解到,这也是该行业第一个面向工业场景的全数据类型的人工智能安全测试产品。该平台基于蚂蚁多年的风险对抗实践,集成了1000多项可信的人工智能专利,整合了自主研发的智能游戏对抗技术,可实现文本、图像、表格、序列等不同数据类型的自动测试、定量评分和安全增强。在世界人工智能大会可信人工智能论坛上,中国信通院、清华大学、蚂蚁集团发布了人工智能安全检测平台蚂。


蚂蚁集团大安全技术部总裁介绍,爱游戏app该平台嵌入了自主研发的人工智能安全计算引擎,计算性能提高了数十倍;内置了40多种国内外主流和自主研发的攻击算法模型。通过模拟黑色生产和自动进化攻击手段,可以有效发现人工智能模型的漏洞,降低系统性风险;此外,该平台涵盖了随机噪声、迁移攻击等攻击样本,更符合工业应用的攻击评价基准。


说,该平台支持零代码评估,用户上传待测模型。在选择攻击算法后,该平台可以自动评估人工智能安全风险,并全面加强模型算法。该平台现已开放人工智能模型鲁棒评估,未来将继续增加模型可解释性、算法公平性、隐私保护等检测服务在线下载。


据介绍,爱游戏app人工智能安全检测平台的技术能力在蚂蚁交易安全、核心安全、内容安全等场景中得到了有效的应用和实践。例如,在垃圾账户管理场景中,通过基于深度神经网络的平台游戏攻防模型,模拟黑产品攻击手段提前防御,风险账户泄漏减少20%以上;在内容安全文本场景中,基于文本对抗训练模型,风险泄漏减少38%;在凭证认证场景中,根据平台提前发现的模型问题和对抗训练增强方案,消除了23%的潜在黑产品攻击威胁最新版下载。


中国信息技术研究院云计算与大数据研究所内容科技部副主任表示app下载,人工智能技术与制造、医疗、能源、交通、城市建设等领域深度融合,人工智能算法问题不断出现。算法黑箱、算法设计缺陷、数据依赖、对抗样本攻击等问题给智能技术的工业应用带来了巨大的安全风险。人工智能应用于工业场景的大规模应用,以实现整个环节的安全和可信度,并继续加强模型。


清华大学副教授李琦说,人工智能算法的通用自动检测是研究和解决人工智能安全问题的核心。人工智能安全检测平台首次全面解决了不同场景下人工智能算法的系统和自动评价,提供了人工智能工业应用的安全定量评价指标,有助于为工业界人工智能算法的大规模应用提供安全保障。


公开资料显示,今年8月,爱游戏app人工智能安全检测平台荣获信息技术研究所2022年可信人工智能实践案例基准案例。自2015年起,蚂蚁集团投资于可信人工智能技术研究,拥有世界上最多的人工智能安全可信关键技术专利,已在反欺诈、反洗钱、反盗用、企业联合风险控制、数据隐私保护等场景中实施。


爱游戏app