국내 연구진이 인공지능 학습 시간을 획기적으로 단축하는 컴퓨팅 기술을 개발했습니다. 한국전자통신연구원(ETRI)은 '립러닝 분산 학습'에 최적화된 고속 처리 기술을 개발했다고 밝혔는데요. 이 기술 덕분에 국내 인공지능 컴퓨팅 인프라가 향상되고 인공지능(AI) 모델을 개발하거나 서비스를 구현하는 데 큰 도움이 될 전망입니다.
분산학습 기술, 통신 병목현상 발생해
딥러닝은 컴퓨터가 사람처럼 생각하고 배울 수 있도록 하는 기술인데요. 컴퓨터 역시 대규모의 영상이나 이미지, 음성 등의 데이터나 모델을 학습하는 데 많은 시간이 걸립니다. 이때 대규모 데이터를 처리하기 위해서는 여러 대의 컴퓨터를 활용해 학습 시간을 줄이는 '분산 학습' 기술이 사용됩니다. 컴퓨터 하나로만 공부하지 않고 여러대의 컴퓨터로 동시에 진행해 학습 분량을 분담하는 방식으로 시간을 단축합니다.
하지만 분산 학습 기술도 대용량 모델을 여러 컴퓨터에 동시 실행하면 통신 병목현상이 발생하기 마련입니다. 컴퓨터 간 통신량이 많다 보니 특정 지점에서 성능이나 용량이 저하되는 현상이 나타납니다. 이를 해결하려면 컴퓨터의 계산 및 처리 능력을 담당하는 중앙처리장치(CPU) 혹은 그래픽처리장치(GPU)의 성능을 높여야 합니다. 하지만 이 방법은 장비를 계속 업그레이드 해야 하기 때문에 비용 부담이 큽니다.
최대 4배 효율 내는 '메모리 박스'
그런데 이번에 한국전자통신연구원(ETRI)에서는 '메모리 박스(Memory BoxTM)'라 불리는 공유기억장치를 개발해 분산 학습 시 통신 병목현상을 해소했습니다. 그 결과 학습 시간을 크게 단축시켰습니다. 연구진이 개발한 기술을 적용하면 학습하는 데 일주일 걸리던 인공지능 모델을 같은 환경에서 단 1~2일 만에 학습할 수 있다고 하는데요. 최대 4배의 효율을 내는 셈입니다.
연구팀은 1,000가지 종류의 이미지 128만 장을 분류하는 모델을 1만 번 반복 학습하는 실험을 진행했습니다. 그 결과 기존 서버 방식이 16분 23초 걸리던 작업을 7분 31초까지 단축시켰습니다.
메모리 박스는 컴퓨터들 중간에 자리해 각 컴퓨터들이 학습한 대상을 서로 공유하도록 돕고 통신량을 줄여주는 일종의 가상 공유 메모리 역할을 수행합니다. 따라서 연구진의 기술을 이용하면 대대적인 장비 교체 없이 최소한의 투자로 동일한 환경에서 딥러닝 학습 시간을 대폭 줄여줍니다. 특히 하드웨어(HW)와 소프트웨어(SW) 형태를 모두 제공할 수 있어 수요자 맞춤형 기술 이전이 가능하다는 게 장점입니다.
'딥러닝 대시보드'도 개발했다
그동안 아마존, 구글, MS 등 글로벌 IT 기업들은 자사의 소스코드를 공개하거나 대규모 컴퓨팅 자원을 클라우드 형태로 제공해 개발자들을 유인했습니다. 이를 통해 인공지능 컴퓨팅 인프라 시장의 점유율을 높여왔습니다. 이로 인해 인공지능을 연구하는 국내 기업이나 기관들은 외국 기업들의 서비스에 의존하거나 많은 비용을 들여 자체 서버를 구축해야 했습니다.
이에 한국전자통신연구원(ETRI) 연구진은 국내 개발자들이 손쉽게 딥러닝 연구를 진행할 수 있는 인공지능 컴퓨팅 환경을 제공하고자 노력 중입니다. 그중 딥러닝 대시보드도 개발했습니다. 연구진이 개발한 대시보드는 그래픽 기반의 개발 환경을 제공하기 때문에 개발자들이 코드를 하나하나 입력할 필요가 없다고 하는데요. 이 덕분에 학습시간은 물론 모델 개발 시간을 단축하는 데 도움을 줍니다.
또한 인공지능 개발에 주로 쓰이는 도구들도 지원해 대시보드에서 개발한 그래픽 모델을 학습할 수 있습니다. 본 기술은 해상도가 높은 의료영상 분석이나 방대한 이미지 분석 등 딥러닝 및 인공지능이 필요한 다양한 산업 분야에서 활용이 가능합니다.
