빅데이터 1,000배 빠르게 분석하는 방법은?
빅데이터 1,000배 빠르게 분석하는 방법은?
  • 송승현
  • 승인 2018.05.28 11:24
  • 조회수 833
  • 댓글 0
이 기사를 공유합니다

DGIST는 정보통신융합전공 김민수 교수팀이 빅데이터 패턴을 초고속으로 분석할 수 있는 '지마이너(GMiner)' 기술을 개발했다고 28일 밝혔습니다. 지마이너 기술은 기존의 세계 최고 패턴 마이닝 기술보다 최대 1,000배 더 우수한 성능을 나타냈다고 합니다.

 

패턴 마이닝 기술은 대형마트의 상품 구매, 은행의 거래, 네트워크 패킷, 소셜 네트워크 등 다양한 분야의 빅데이터에서 반복적으로 나타나는 중요 패턴들을 모두 찾아내는 기술입니다. 이 기술을 활용해 대형마트 진열대의 상품 위치를 결정하고, 연령별 소비자의 이용 패턴에 맞는 신용카드를 추천하는 등 산업 분야에서 광범위하게 사용되고 있죠.

 

점차 증가하는 패턴 마이닝의 중요성으로 지난 20여 년간 수천 가지의 패턴 마이닝 기술들이 개발됐지만, 빅데이터 패턴의 길이가 증가함에 따라 분석 가능한 패턴의 가짓수가 기하급수적으로 증가해 수십 기가바이트(GB)가 넘는 빅데이터에 대해서는 컴퓨터 메모리 부족으로 분석에 실패하거나 시간이 너무 많이 소요돼 사용하는데 한계가 있었습니다.

 

기존의 패턴 마이닝 기술들은 중간 길이의 패턴들을 구한 후 메모리에 저장해두고, 중간 길이보다 더 긴 패턴을 구할 때 저장해둔 중간 길이의 패턴과 대조해 최종 패턴을 찾는 방식이었습니다. 

 

하지만 김민수 교수팀이 개발한 지마이너 기술은 GPU(그래픽처리장치)의 수천 개 코어를 사용해 임시로 계산한 중간 길이의 패턴들을 조합하고, 최종 길이의 패턴을 구하는 반(反)직관적인 기법을 제안함으로써 기존 기술들의 문제를 근본적으로 해결하는데 성공할 수 있었습니다.

 

지마이너(GMiner) 기술 및 처리 절차 흐름도. 출처: DGIST
지마이너(GMiner) 기술 및 처리 절차 흐름도. 출처: DGIST

또, 지마이너 기술은 기하급수적 개수의 중간 길이 패턴들을 메모리에 전혀 저장하지 않음으로써 기존 기술들이 고질적으로 가졌던 메모리 부족 문제를 완전히 해결했다고 합니다. 아울러, 데이터를 메인 메모리에서 GPU로 스트리밍하는 것과 동시에 GPU의 높은 계산 성능을 이용해 패턴을 구함으로써 느린 속도 문제도 해결했죠.

 

이 기술은 GPU 한 개가 장착된 일반 가정용 컴퓨터 1대 만으로 최대 수십 대의 컴퓨터를 사용해 데이터를 분석했던 기존의 분산 및 병렬 기술들보다 작게는 10배에서 최대 1,000배 빠른 분석 성능을 나타냈으며 기존 기술들이 분석 가능했던 데이터보다 더 큰 규모의 빅데이터를 분석할 수 있습니다. 또한, GPU 개수와 비례해 성능이 향상되는 우수한 확장 성능을 가졌죠.

 

DGIST 정보통신융합전공 김민수 교수는 "다양한 산업 분야에서 축적되고 있는 빅데이터에 대해 메모리 문제없이 초고속으로 빅데이터 패턴을 분석할 수 있는 원천 기술을 확보했다"며 "메모리 부족과 느린 속도 때문에 패턴 마이닝 기술을 빅데이터에 제대로 적용하지 못했던 문제를 해결함으로써 금융, 유통, IT, 바이오 등 여러 분야의 빅데이터 패턴을 분석해 기업의 효율적인 의사결정을 돕는데 활용할 수 있을 것"이라고 말했습니다.

 

이번 연구 결과는 정보과학 분야 최고 권위의 국제학술지 '인포메이션 사이언스(Information Sciences) 5월호'에 게재됐습니다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 충청남도 보령시 큰오랏3길
  • 법인명 : 이웃집과학자 주식회사
  • 제호 : 이웃집과학자
  • 청소년보호책임자 : 정병진
  • 등록번호 : 보령 바 00002
  • 등록일 : 2016-02-12
  • 발행일 : 2016-02-12
  • 발행인 : 김정환
  • 편집인 : 정병진
  • 이웃집과학자 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2016-2019 이웃집과학자. All rights reserved. mail to contact@scientist.town
ND소프트