Talk預告 | 幾何的魅力: 黑盒攻擊新策略

本期爲TechBeat人工智能社區第468期線上Talk ！

北京時間1月4日(週三)20:00，清華大學軟件工程專業博士——馬晨的Talk將準時在TechBeat人工智能社區開播！

他與大家分享的主題是:“幾何的魅力：黑盒攻擊新策略”， 屆時 將介紹如何巧妙藉助幾何方法優化基於決策的黑盒攻擊。

Talk·信息

主題：幾何的魅力：黑盒攻擊新策略

嘉賓：清華大學軟件工程專業博士 馬晨

時間：北京時間1月4日 (週三) 20:00

地點：TechBeat人工智能社區

http://www.techbeat.net/

Talk·介紹

儘管深度學習系統被廣泛應用到人臉識別、目標檢測、自動駕駛等領域中，但是無論是基於卷積神經網絡還是基於Transformer的分類系統都存在嚴重的缺陷：一個小小的基於像素的對抗擾動就可以使其分類判斷錯誤，從而引發更嚴重的後果！基於決策的攻擊（又稱硬標籤攻擊或hard-label攻擊）是一種無需分類器的分類概率，僅用分類器輸出的分類標籤就可以對圖像分類器進行攻擊的方法，是最具安全威脅的對抗攻擊類型之一。

本Talk介紹NeurIPS大會上發表的一篇論文，如何利用幾何方法優化hard-label attack這種攻擊！以往的硬標籤攻擊使用的對抗樣本搜索方向往往是啓發性的方向，例如HopSkipJumpAttack（HSJA）和QEBA中的近似梯度方向，Boundary Attack所使用的方向，但是從幾何角度講，如果在決策邊界的對抗樣本週圍構造一個虛擬的半球體，就可以通過幾何手段直接找到最優更新點：最優切點！利用這種方式就可以構造最優的對抗樣本搜索方向，從而利用幾何方法進一步優化硬標籤攻擊的對抗樣本失真度和查詢複雜度。

該論文在ImageNet和CIFAR-10數據集上做了廣泛的實驗，驗證了其有效性，其成果已發表在NeurIPS 2021大會上。

Talk大綱如下：

1. 黑盒對抗攻擊簡介；

2. 基於決策的黑盒對抗攻擊的研究現狀；

3. Tangent Attack攻擊方法介紹；

4. 總結

Talk·預習資料

https://arxiv.org/abs/2111.07492

https://github.com/machanic/TangentAttack

Talk·提問交流

在Talk界面下的【交流區】參與互動！留下你的打call和問題，和更多小夥伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻，我們都會給予你相應的i豆積分，還會有驚喜獎勵哦！

Talk·嘉賓介紹

馬晨

清華大學軟件工程專業博士

馬晨，清華大學軟件工程專業博士。主要研究方向爲深度神經網絡的黑盒對抗攻擊（對抗樣本）與防禦，專注於研究如何構造針對深度神經網絡的黑盒攻擊，如何檢測並防禦新型對抗攻擊，最終致力於構建更魯棒、更安全的深度學習系統。其研究成果發表在CVPR、NeurIPS、ACM MM、Neurocomputing等國際頂級會議和期刊上。馬晨博士早年著有《LDA漫遊指南》一書，詳細講解了LDA主題模型的方方面面，指引了很多人入門主題模型。

個人主頁：https://github.com/machanic

-The End-

如果你也想成爲講者

自薦 / 推薦

單人Talk | 團隊專場 | 錄播or直播 | 閉門交流

多種方式任你選擇！

推薦講者成功也有獎勵哦~

關於TechBeat人工智能社區

TechBeat(www.techbeat.net)隸屬於將門創投，是一個薈聚全球華人AI精英的成長社區。

我們希望爲AI人才打造更專業的服務和體驗，加速並陪伴其學習成長。

期待這裡可以成爲你學習AI前沿知識的高地，分享自己最新工作的沃土，在AI進階之路上的升級打怪的根據地！

更多詳細介紹>>

⤵一鍵送你進入Talk頁面