논문 리뷰 (2) 썸네일형 리스트형 Explainable Security 1. Introduction eXplainable AI는 2017년 DARPA의 XAI 프로그램에 의해 시작된 새로운 인공지능 기술 관련 연구 비인가된 요청에 대한 설명을 제공. 어떤 권한이 추가적으로 필요한지를 설명하는 모델 연구 Expalination이 가져야 할 Transparancy와 Justification에 대해 논의함. 2. Who? Explainable Security를 사용할 수 있는 사람들은 다음과 같다. Designer / Developer: 보안 특성을 보장하도록 디자인/개발하는 사람. User / Client: 선량하며 전문적인 지식을 가지지 않은 이용자. 시스템의 취약점을 만들 수 있음. Attacker: 시스템의 익스플로잇 혹은 취약점을 찾는 사람. Analyst: 디자인할 때.. Explainable Intrusion Detection Systems (X-IDS): A Survey of Current Methods, Challenges, and Opportunities 1. Explainable Artificial Intelligence 1.1. Notions of Explainability 1.1.1. Local Explainability 하나의 예측이나 결정을 설명하는 방법론 LIME, SHAP가 대표적인 예시 1.1.2. Global Explainability 모델의 결정과정 전체를 설명하는 방법론 도출될 수 있는 결과를 더 쉽게 설명하는 방법론 SP-LIME, CAV, GIRP 등이 대표적인 예시 1.1.3. Model-Specific Interpretability 한정된 모델에 한해서 설명할 수 있는 방법론 1.1.4. Model-Agnostic Interpretability 모델에 상관 없이 설명할 수 있는 방법론 인공 신경망(ANN)을 해석하는데 사용되며,.. 이전 1 다음
