-
셔플 연산과 Conv 1x1의 공통점딥러닝/기본 연산들 2022. 6. 3. 19:52
셔플넷 (ShuffleNet)의 셔플 연산과 컨볼루션 1x1 연산간에는 공통점과 차이점이 있다는 점 알고 계신가요? 이 둘의 공통점은 채널 차원으로 엘리먼트들을 섞는다는 점입니다. 차이점도 알아보도록 하겠습니다.
셔플과 1x1 컨볼루션은 모두 채널 별로 뉴런들을 섞는 공통점이 있습니다. 채널 단위로 뉴런들을 섞습니다.
셔플은 특히 XY 평면 상에서는 뉴런의 움직임이 없습니다.
1x1 컨볼루션은 컨볼루션 정의 상 어쩔 수 없이 XY 평면 방향에서 보았을 때도 뉴런 값의 변형이 일어납니다.
그래서 XY 평면 상의 정보를 보존하고 싶을 때는 셔플을 사용하여 채널 별로 섞는 것이 바람직해 보입니다. 그리고 단순히 채널 별 정돈이 안되어 있는 경우에 적절히 섞어서 정돈만 하고 싶으면 셔플을 쓰는 것도 좋은 방법입니다.
'딥러닝 > 기본 연산들' 카테고리의 다른 글
CNN 파라미터 수 계산 방법 (0) 2022.06.04 컨볼루션의 패딩 적용 (0) 2022.06.03 Group Conv 그룹 컨볼루션 (0) 2022.06.03 딥러닝 컨볼루션 conv 이란? (0) 2022.06.03 딥러닝 셔플 Shuffle 연산으로 채널 차원을 섞어주세요. (0) 2022.06.03