딥러닝의 정규화 및 비정규화 이해

딥러닝의 맥락에서 정규화는 평균이 0이고 표준편차가 1이 되도록 입력 데이터의 크기를 조정하는 프로세스를 의미합니다. 이는 일반적으로 모델이 입력 데이터의 크기에 민감해지는 것을 방지하기 위해 수행됩니다. 새로운 데이터에 대한 모델의 일반화를 개선합니다.

비정규화는 입력 데이터에 적용된 정규화 변환을 실행 취소하는 프로세스입니다. 이는 일반적으로 모델의 순방향 전달 후에 수행되므로 모델의 출력은 입력과 동일한 규모가 됩니다.

예를 들어 이미지를 입력으로 사용하고 특징 맵을 출력하는 모델이 있는 경우 평균을 빼고 표준편차로 나누어 입력 이미지에 정규화를 적용합니다. 순방향 전달 후에는 평균을 더하고 표준편차를 곱하여 출력 특징 맵을 비정규화합니다. 이렇게 하면 출력 특성 맵이 입력 이미지와 동일한 크기를 갖게 됩니다. 모델. 또한 결과에 영향을 미치는 입력 규모에 대해 걱정할 필요 없이 여러 모델에 동일한 입력 데이터를 사용할 수 있습니다.