복잡한 인간의 감정, 실시간으로 인식할 수 있을까?
복잡한 인간의 감정, 실시간으로 인식할 수 있을까?
  • 이웃집과학자
  • 승인 2024.01.29 12:33
  • 조회수 823
  • 댓글 0
이 기사를 공유합니다

본문 내용과 관련 없음. Adobe Stock
본문 내용과 관련 없음. Adobe Stock

다양한 기계 및 시스템과 인간의 상호작용(Human-Machine Interface)기반 기술들이 활발하게 연구되고 있습니다. 관련 산업들이 발전됨에 따라 성능을 향상시키기 위해 감정, 기분, 느낌과 같은 인간의 정서가 점점 더 많이 고려돼죠. 하지만 본질적으로 추상적이고 모호한 특성으로 인해 감정 정보를 정확하게 추출하고 활용하기 어려웠습니다.

 

이러한 한계를 극복하기 위해 기존에는 영상, 음성, 생체신호(Biomedical signal)와 같이 감정표현시 발현되는 표정, 발화, 신체 반응 등을 감지하는 방법들을 활용했는데요. 이러한 방법으로 정밀하게 분석을 하여 어느 정도 높은 정확도로 감정 인식을 할 수 있습니다. 하지만, 기존의 방법으로 정밀한 분석을 하기 위해 많은 장치 및 인력이 필요하다는 단점이 있기 때문에 여전히 휴대용 장치에 적용하게 어려웠습니다. 따라서, 실시간으로 간단하고 휴대 가능한 특성을 갖는 감정인식 장치를 개발하는 것은 여전히 어려운 과제였죠.

 

그런데, 최근 인간의 감정을 실시간으로 인식할 수 있는 기술이 개발됐습니다. 감정을 기반으로 서비스를 제공하는 차세대 착용형 시스템 등 다양하게 응용될 것으로 기대된다고 하는데요. UNIST 신소재공학과 김지윤 교수팀은 실시간으로 감정인식을 할 수 있는 ‘착용형 인간 감정인식 기술’을 세계 최초로 개발했습니다. 

 

감정은 한 종류의 데이터로만은 정의하기 어렵고, 다양한 데이터를 취합해 분석해야 한다고 합니다. 이번 연구에서는 얼굴 근육의 변형과 음성을 동시에 감지하는 ‘멀티모달’ 데이터를 무선으로 전송하고 인공지능을 활용해 감정 정보로 바꿨습니다. 착용형 기기이기 때문에 어떤 환경에서든 감정을 분석하고 적재적소에 사용할 수 있습니다.

멀티모달 정보 기반 개인 맞춤형 감정 인식 무선 안면 인터페이스 개념도(a) 개인 맞춤형 무선 안면 인터페이스 제작 및 머신러닝을 통한 멀티모달 기반 감정인식 과정 모식도와 (b) 마찰대전 기반 멀티모달 센싱 작동 원리. (c) 마찰대전센서 소자 구성도 및 (d) 구성 재료별 미세구조 모습.출처 : UNIST
멀티모달 정보 기반 개인 맞춤형 감정 인식 무선 안면 인터페이스 개념도(a) 개인 맞춤형 무선 안면 인터페이스 제작 및 머신러닝을 통한 멀티모달 기반 감정인식 과정 모식도와 (b) 마찰대전 기반 멀티모달 센싱 작동 원리. (c) 마찰대전센서 소자 구성도 및 (d) 구성 재료별 미세구조 모습.출처 : UNIST

개발된 시스템은 두 물체가 마찰 후 분리될 때 각각 양과 음의 전하로 분리되는 ‘마찰 대전’현상을 기반으로 제작됐는데요. 자가 발전 또한 가능해 데이터를 인식할 때 추가적인 외부전원이나 복잡한 측정장치가 필요하지 않습니다.

 

김지윤 교수는 “이러한 기술을 토대로 개인에게 맞춤형으로 제공 가능한 피부통합 얼굴 인터페이스(PSiFI) 시스템을 개발했다”고 덧붙였습니다.

 

연구팀은 말랑말랑한 고체상태를 유지하는 반경화 기법을 활용했습니다. 이 기법으로 높은 투명도를 가진 전도체를 제작해 마찰 대전 소자의 전극에 사용했습니다. 다각도 촬영기법으로 개인 맞춤형 마스크도 제작했다고 합니다. 자가 발전이 가능하고 유연성과 신축성, 투명성을 모두 갖춘 시스템을 만든 것입니다.

연구팀은 얼굴 근육의 변형과 성대 진동을 동시에 감지하고 이 정보들을 통합하여 실시간으로 감정을 인식을 할 수 있도록 시스템화했습니다. 이렇게 얻어진 정보를 이용해 사용자의 감정을 기반으로 맞춤 서비스를 제공할 수 있는 가상현실 ‘디지털 컨시어지’에 활용이 가능합니다.

실시간 감정 스피치 인식(a) 마찰대전기반 변형 및 진동센서를 포함하는 피부통합형 안면 인터페이스 소자 실제 사진 (b) 소자 실착용 전·측면 사진 (c) 무선 센싱 데이터 전달을 위한 셋업 모식도 (d) 다양한 감정 표현시 안면근 움직임과 성대 진동을 다채널 멀티모달 센싱한 데이터. (e) 인공지능 기반 감정 분류 및 전이 학습을 통한 개인화 과정 모식도. (f) 감정표현에 따른 안면근 움직임 및 성대 진동 데이터 패턴 감정 인식 정확도 그래프 및 실시간 감정 인식 과정 사진출처 : UNIST
실시간 감정 스피치 인식(a) 마찰대전기반 변형 및 진동센서를 포함하는 피부통합형 안면 인터페이스 소자 실제 사진 (b) 소자 실착용 전·측면 사진 (c) 무선 센싱 데이터 전달을 위한 셋업 모식도 (d) 다양한 감정 표현시 안면근 움직임과 성대 진동을 다채널 멀티모달 센싱한 데이터. (e) 인공지능 기반 감정 분류 및 전이 학습을 통한 개인화 과정 모식도. (f) 감정표현에 따른 안면근 움직임 및 성대 진동 데이터 패턴 감정 인식 정확도 그래프 및 실시간 감정 인식 과정 사진출처 : UNIST

제1 저자 이진표 박사후 연구원은 “이번에 개발한 시스템으로 복잡한 측정 장비 없이 몇 번의 학습만으로 실시간 감정인식을 구현하는게 가능하다”며 “앞으로 휴대형 감정인식 장치 및 차세대 감정 기반 디지털 플랫폼 서비스 부품에 적용될 가능성을 보여줬다”고 말했습니다.

 

연구팀은 개발한 시스템으로 '실시간 감정 인식' 실험을 진행했습니다. 얼굴 근육의 변형과 목소리와 같은 멀티모달 데이터들을 수집하는 것뿐 아니라 수집된 데이터를 활용할 수 있는 ‘전이 학습’도 가능했죠.

 

개발된 시스템은 몇 번의 학습만으로도 높은 감정 인식도를 보여줬습니다. 개인 맞춤형으로 제작되고 무선으로 사용할 수 있어 착용성과 편리함도 확보했습니다.

 

연구팀은 시스템을 VR 환경에도 적용해 '디지털 컨시어지'로 활용했습니다. 스마트홈, 개인 영화관, 스마트 오피스 등 다양한 상황을 연출했습니다. 상황별 개인의 감정을 파악해 음악이나 영화, 책 등을 추천해줄 수 있는 사용자 맞춤형 서비스가 가능함을 한 번 더 확인했습니다.

 

김지윤 신소재공학과 교수는 “사람과 기계가 높은 수준의 상호작용을 하기 위해서는 HMI 디바이스 역시 다양한 종류의 데이터들을 수집해 복잡하고 통합적인 정보를 다룰 수 있어야 한다”며 “본 연구는 차세대 착용형 시스템을 활용해 사람이 가지고 있는 아주 복잡한 형태의 정보인 감정 역시 활용이 가능하다는 것을 보여주는 하나의 예시가 될 것”이라고 전했습니다.

연구 결과는 국제학술지 '네이처 커뮤니케이션즈 (Nature Communications)'에 1월 15일 온라인 게재됐습니다.

논문명: Encoding of multi-modal emotional information via personalized skin-integrated wireless facial interface


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 충청남도 보령시 큰오랏3길
  • 법인명 : 이웃집과학자 주식회사
  • 제호 : 이웃집과학자
  • 청소년보호책임자 : 정병진
  • 등록번호 : 보령 바 00002
  • 등록일 : 2016-02-12
  • 발행일 : 2016-02-12
  • 발행인 : 김정환
  • 편집인 : 정병진
  • 이웃집과학자 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2016-2024 이웃집과학자. All rights reserved. mail to contact@scientist.town
ND소프트