엎드린 사람 '4족 짐승' 인식하던 AI, 조금 더 똑똑해진다
엎드린 사람 '4족 짐승' 인식하던 AI, 조금 더 똑똑해진다
  • 이민환
  • 승인 2022.08.28 16:48
  • 조회수 1271
  • 댓글 0
이 기사를 공유합니다

납득할 만한 이유를 보여줄 수 있는 AI. 이미지 출처: Adobe stock
납득할 만한 이유를 보여줄 수 있는 AI. 이미지 출처: Adobe stock

설명 가능 인공지능이란 사람이 이해할 수 있고 신뢰할 수 있는 설명을 제공할 수 있는 인공지능 기법입니다. 기존의 수학적 알고리즘으로 학습되는 인공지능은 학습 예제에 편향돼 신뢰할 수 없거나, 수천억개의 매개변수를 사람이 이해할 수 없다는 점을 해결하기 위해 고안됐습니다. 즉, 왜 인공지능이 특정 결과를 추론했는지 판단 근거를 설명 가능하도록 개발된 것입니다. 설명 가능한 인공지능은 어떤 변인이 인공지능의 의사결정에 큰 영향을 주었는지 설명할 수 있다는 점에서 기존의 인공지능보다 정확성, 공정성, 신뢰성을 보장합니다.

이런 가운데 KAIST 전기및전자공학부 윤찬현, 김주영 교수 연구팀이 설명 가능한 인공지능(eXplainable AI, XAI) 기법을 처리하기 위한 노이즈(잡음)에 강한 다중 피라미드 활성화 맵 기반 주의집중 구조가 탑재된 인공지능 칩을 설계했습니다. 나아가 삼성전자 DS부문의 지원으로 설명 가능 뉴로프로세싱 유닛(이하 EPU, Explainable neuro-Processing Unit)을 개발했습니다.

공동연구팀은 다중 규모 및 다중물체의 특징 추출 구조인 피라미드형 신경망 구조에서 추론 결과에 영향을 주는 인공지능 내부의 신경층별 활성화되는 정도를 복합적으로 해석할 수 있는 인공지능 모델을 구현했습니다. 이를 가속 처리에 특화된 채널 방향으로 합성곱 연산 및 정확도를 유지하는 EPU칩까지 만들었습니다.

다중 규모 및 다중물체 특징 추출에 특화된 피라미드형 인공지능 모델에서 설명 시각화 구현을 위해서는 추론 과정의 역방향으로 모든 합성곱 층별 활성화 맵에서 모델 파라미터의 변화도를 추출할 수 있는 구조가 필요합니다.

그러나 역전파 계산 과정은 기존의 추론처리 가속을 위한 인공지능 칩 설계와 달리 이전 파라미터 및 상태를 기억해야 하며 이는 한정된 온 칩 메모리 크기 및 인공지능 모델 전체를 특정한 용도에 맞게 주문 제작(ASIC; Application Specific Integrated Circuit)해 구현하기에는 물리적으로 한계가 있습니다.

또한, 피라미드형 구조의 설명 가능한 인공지능 모델은 설명성 보장을 위한 N개 층의 활성화 맵으로부터 기울기 기반의 클래스 활성 맵핑 시각화 처리 각각 필요해 더 복잡해집니다. 입력의 매우 작은 노이즈에도 클래스 활성화 맵핑 시각화 설명이 완전히 달라지는데요. 바로 이런 허들 때문에 설명 가능한 인공지능 모델의 신뢰도가 떨어졌습니다.

뉴로프로세싱 유닛의 내부구조 및 기능
뉴로프로세싱 유닛의 내부구조 및 기능

KAIST 전기및전자공학부 윤찬현 교수 연구팀은 이 문제를 해결하기 위해 설명 가능한 인공지능의 다중 활성화 맵 고유의 특성 정보를 융합해 전역 주의 집중 맵을 생성하는 네트워크 구조와 입력 이미지 노이즈에 강건한 모델 생성을 위한 상호학습 방법을 개발했습니다. 이를 통해 단일 활성화 맵 기반 주의집중 맵 생성 기술에 비해 설명성 지표를 최대 6배가량 높였습니다. 

또한, 다중 스케일의 다양한 주의집중 맵들의 상호 보완적인 특성을 일원화된 주의집중 맵으로 정교하게 재구성함으로써 사람이 해석 가능한 수준의 정밀한 설명이 가능토록 만들었습니다. 이번 연구 성과를 통해 위성 영상과 같이 객체 크기 변화가 큰 이미지 분석에서 인공지능 모델의 설명성을 크게 향상할 수 있을 것으로 기대된다고 연구팀 관계자는 설명했다.

 

다양한 연산 작업을 유연하게! 출처: KAIST

KAIST 전기및전자공학부 김주영 교수 연구팀은 제안된 설명 가능한 인공지능 모델을 가속하기 위해 기존 모델의 추론과 역전파 과정에 더해 활성화 맵 생성까지 처리할 수 있는 XAI 코어를 개발했습니다. 동시에 다양한 연산 태스크를 유연하게 분할해 동시에 처리할 수 있는 멀티 데이터 플로우 방식을 제안했다.

많은 0 값을 포함하는 활성화 맵의 특성을 활용해 연속된 0을 건너뛸 수 있는 새로운 데이터 압축 포맷을 제안하고 이를 지원하는 가속 유닛을 개발해 최대 10배 이상의 활성화 맵을 칩 내부에서 처리할 수 있도록 조치했습니다.

KAIST 연구팀이 개발한 EPU 칩은 광학 위성, 전천후 관측 영상레이더(Synthetic Aperture Radar) 위성 등 특수 목적과 고정밀 인공지능 영상처리시스템에 적용할 수 있습니다. 저지연‧저전력으로 인공지능 시스템의 판단 근거에 대한 설명성을 획기적으로 높일 수 있을 것으로 기대됩니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 충청남도 보령시 큰오랏3길
  • 법인명 : 이웃집과학자 주식회사
  • 제호 : 이웃집과학자
  • 청소년보호책임자 : 정병진
  • 등록번호 : 보령 바 00002
  • 등록일 : 2016-02-12
  • 발행일 : 2016-02-12
  • 발행인 : 김정환
  • 편집인 : 정병진
  • 이웃집과학자 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2016-2022 이웃집과학자. All rights reserved. mail to contact@scientist.town
ND소프트