Analyzing the Performance of GCN Inferences with respect to Sparsity of Graph Features

GCN kernel structure

Abstract

Graph Convolutional Neural Network (GCN)은 그래프 구조를 이용한 인공 신경망 중의 하나로 소셜 네트워크 분석 및 소비자 성향 분석 등 여러 응용 분야에 이용될 수 있다. GCN 커널은 크게 aggregation 과 combination 의 두 종류로 나눌 수 있다. Combination 은 일반 행렬 연산과 유사하여 GPU 에서 높은 성능을 낼 수 있다. 하지만 aggregation 커널은 불규칙적인 메모리 접근을 유발하는 간접 메모리접근을 많이 포함하고 있어서 GPU 구조에 적합하지 않다. 이러한 문제점을 다루기 위해 여러 가속기 연구에서는 aggregation 커널을 최적화하고 있지만 그래프 구조의 희소성에만 집중하고 있다. 이번 연구에서는 그래프 특성 벡터의 밀집도에 따른 GCN 커널의 성능 분석을 진행하여 특성 벡터 또한 압축된 희소행렬방식으로 처리하였을 때, 2 중 간접주소 접근이 발생함에도 불구하고 sparse feature 에서 더 잘 동작하는 것을 확인했다. 또한 이번 연구에서 GCN 커널의 특성을 분석하여 GCN 커널을 GPU 에서 실행할 때의 성능 저하 요소를 밝히고 커널의 수행 시간을 줄일 수 있는 방법을 제시하고자 한다.

Publication
Korea Software Congress
Inje Kim
Inje Kim
Master Student
Gunjae Koo
Gunjae Koo
Assistant Professor