All about Machine-Learning/논문 리뷰

(2)
Decomposing Convolutional Neural Networks into Reusableand Replaceable Modules 리뷰 Pan, R., & Rajan, H. (2021). Decomposing Convolutional Neural Networks into Reusable and Replaceable Modules 용어 설명 1. CNNs (Convolutional Neural Networks): 이미지 인식과 프로세싱에 사용되는 주요한 심층 신경망(Deep neural network)의 종류이며, 컨볼루션 레이어(convolutional layers)를 사용하는 것이 특징이다. 2. Modularization: 하나의 모델이 단일 구조 모델(monolithic model)이라고 가정할 때 더 작은 functional modules로 분해하는 일련의 과정을 의미한다. 3. ResNet: CNN의 일종으로 잔여 신경망(res..
(Review) On Decomposing a Deep Neural Network into Modules ABSTRACT ① 딥러닝은 많은 최신 소프트웨어에 사용되고 있다. ② 일반적으로 DNN(Deep Neural Network)은 훈련 데이터를 이용해 신경망을 학습 시킨 후 예측에 사용한다. ③ 모델의 레이어를 관측할 수 있지만, 딥러닝 모델은 하나의 유기적인 요소로 다뤄진다. ④ 모델에 적용된 로직을 변경하기 위해서는 몇 가지 과정이 필요하다. ㉠ 학습 데이터의 변경 요구 : 어떤 로직을 추가/제거하기 위해서는 특정 클래스에 속한 훈련 데이터를 추가/제거해야 한다. ㉡ 모델의 재학습 요구: 모델이 변경된 학습 데이터를 다시 학습해야 하기 때문에 계산 리소스와 시간이 많이 요구된다. ⑤ 이 논문에서는 DNN 모델을 DNN 모듈로 분해하는 방법을 제안한다. ㉠ MNIST, EMNIST, FMNIST, KM..