Adversary and Harmony, the Evolution of AI in Security
08/18 – 08/19
中央研究院 人文社會科學館
關於年會主題
隨著世界對人工智慧(AI)的依賴越來越深,資訊安全的世界也正在快速演變。AI 的應用在資訊安全領域為攻擊和防禦創造了新的機會並加速攻與防之間的競賽。AI 與資安的關係同時可為互相對抗亦可為和平共生。攻擊者可以利用 AI 進行惡意攻擊,例如挖掘漏洞、進行滲透測試或是社交工程,但 AI 也同時可以應用於防禦方的日常任務,從入侵檢測、威脅狩獵甚至到惡意程式的逆向分析。在這持續演進的資訊安全時代中,如何與 AI 同時互相對抗抑或是與其和平共生,其相關應用都至關重要。
為了更全面地掌握這個議題,我們認為可以分為「利用 AI 進行攻擊」以及「攻擊 AI 系統」兩個概念去深入探討。在利用 AI 進行攻擊這層面,為了提高攻擊效果,可能會涉及使用機器學習和 AI 將攻擊過程自動化。例如生成假內容、挖掘新漏洞,甚至是自動化的進行滲透攻擊。在另一層面我們想要探討,駭客如何對基於機器學習與 AI 的系統進行攻擊。例如說,駭客可以使用對抗性攻擊,以控制使用者輸入或是訓練資料到 AI 系統中,導致不正確的預測或資訊洩漏。隨著 AI 的不斷進步,我們相信這兩個技術方向將成為在持續演進的資訊安全時代生存的重要關鍵。
隨著世界對人工智慧(AI)的依賴越來越深,資訊安全的世界也正在快速演變。AI 的應用在資訊安全領域為攻擊和防禦創造了新的機會並加速攻與防之間的競賽。AI 與資安的關係同時可為互相對抗亦可為和平共生。攻擊者可以利用 AI 進行惡意攻擊,例如挖掘漏洞、進行滲透測試或是社交工程,但 AI 也同時可以應用於防禦方的日常任務,從入侵檢測、威脅狩獵甚至到惡意程式的逆向分析。在這持續演進的資訊安全時代中,如何與 AI 同時互相對抗抑或是與其和平共生,其相關應用都至關重要。
為了更全面地掌握這個議題,我們認為可以分為「利用 AI 進行攻擊」以及「攻擊 AI 系統」兩個概念去深入探討。在利用 AI 進行攻擊這層面,為了提高攻擊效果,可能會涉及使用機器學習和 AI 將攻擊過程自動化。例如生成假內容、挖掘新漏洞,甚至是自動化的進行滲透攻擊。在另一層面我們想要探討,駭客如何對基於機器學習與 AI 的系統進行攻擊。例如說,駭客可以使用對抗性攻擊,以控制使用者輸入或是訓練資料到 AI 系統中,導致不正確的預測或資訊洩漏。隨著 AI 的不斷進步,我們相信這兩個技術方向將成為在持續演進的資訊安全時代生存的重要關鍵。