银河718yhcom

当前位置: 首页  >  学术动态  >  正文
我院博士生刘家伟在ACM CCS发文探讨信息检索安全
发布时间:2022-09-26  点击数:

通讯员程齐凯)近日,第29届ACM计算机与通信安全会议(ACM Conference on Computer and Communications Security, CCS 2022)官方发布了论文录用结果。我院2020级博士研究生刘家伟以第一作者身份撰写的论文被录用。

该论文题目为“Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models”(《有序-无序:针对黑盒神经排序模型的模仿对抗攻击》),银河718yhcom为第一单位,指导教师为我院陆伟教授(通讯作者)、美国伍斯特理工学院刘晓钟副教授(共同通讯作者)、美国印第安纳大学Xiaofeng Wang教授,阿里巴巴达摩院算法专家康杨杨、宋凯嵩、孙常龙,印第安纳大学博士后Di Tang参与论文相关工作。

随着基于Transformer的BERT等预训练模型的提出和广泛应用,经过深度预训练和微调的Transformer在众多文本排序任务中取得了最优越的性能。然而,神经排序模型继承了神经网络的对抗性弱点,即一个小的故意的扰动(例如,图像上的一些像素变化、文本中几个字符的改变)可能会引发预测结果的极大变化,这种弱点可能被用作搜索引擎毒化、观点引导等。先前的对抗排序攻击主要集中在基于深度图像排序系统、文本分类和机器翻译系统上,而深度文本排序模型的漏洞尚未得到较多探索。此外,真实场景下的排序系统禁止任何形式的白盒访问,黑盒攻击更能揭示贴近实际的排序系统漏洞。

该论文利用不同神经网络之间的对抗样本的可转移特性,提出了一种针对深度文本排序系统的新型黑盒攻击方法,揭示了深度文本排序模型存在的安全漏洞。通过采样目标排序模型的结果列表,无需任何白盒访问权限,训练一个模仿模型来替代目标排序模型,基于替代模型生成对抗攻击文本,然后迁移到目标排序模型上验证攻击效果。大量的自动检测和人工评测证明,该方法能够以黑盒方式有效实现攻击目标。

ACM CCS已有近30年的历史,在系统及网络安全领域享有崇高的声誉,一直引领国际信息安全研究的潮流,谷歌H-5指数为98,为计算机安全与密码学领域期刊会议最高,同时被中国计算机学会(CCF)认定为网络安全A类国际学术会议,与IEEE S&P、USENIX Security、NDSS被业界并称为网络安全领域“四大顶级会议”。

2021年,刘家伟曾在人工智能领域顶级会议AAAI(CCF-A类)发表论文“Time to Transfer: Predicting and Evaluating Machine-Human Chatting Handoff”。这是我院首次在CCS和AAAI发表论文。(责编雷婷

论文录用列表:https://www.sigsac.org/ccs/CCS2022/program/accepted-papers.html

论文预印版链接:https://arxiv.org/abs/2209.06506

银河718yhcom(湖南)电子商行官网