청각장애인에게 촉각 통한 소리 전달 성공
청각장애인에게 촉각 통한 소리 전달 성공
  • 함예솔
  • 승인 2020.05.08 17:45
  • 조회수 821
  • 댓글 0
이 기사를 공유합니다

요약

 

청각장애인을 위한 촉각으로 소리 인식이 가능한 기술을 개발했습니다. 청각장애인이 보다 정확한 음을 내며 원하는 목소리와 노래를 부를 수 있게 될 전망입니다. 

한국전자통신연구원(ETRI)은 주위 소리와 자신 목소리의 음높이(Pitch)를 분석해 촉각 패턴으로 변환해주는 '촉각 피치 시스템'을 개발했다고 밝혔습니다. 

연구진이 개발한 촉각 피치 시스템의 장갑형 버전과 밴드형 버전 장비 모습. 출처: ETRI
연구진이 개발한 촉각 피치 시스템의 장갑형 버전과 밴드형 버전 장비 모습. 출처: ETRI

청각이 아닌 촉각 신경 이용

 

청각장애인들도 청신경에 전기 자극을 주어 소리를 들을 수 있게 해주는 장치인 '인공와우' 수술을 받으면 일반인과 원활한 구어 대화가 가능할 정도로 의료와 ICT의 발전이 이뤄졌습니다. 그러나 아직까지는 의사소통에 필요한 소리의 의미를 파악할 수 있는 정도이며 음의 높낮이를 구분하는 데 한계가 있습니다. 이로 인해 청각장애인들이 음악을 감상하거나 노래를 부르는 활동에 많은 제약이 있었습니다.

 

이를 해결하기 위해 ETRI가 청각이 아닌 촉각 신경을 통해 소리를 들을 수 있는 기술을 개발했습니다. 음악이나 소리 등 청각 정보로부터 소리의 주파수 신호를 뽑아내 음을 인식한 뒤, 촉각 패턴으로 만들어 착용자의 피부에 전달하는 사용자 인터페이스(UI) 기술입니다.

피치에 따른 촉각 패턴 설계. 출처: ETRI
피치에 따른 촉각 패턴 설계. 출처: ETRI

본 기술을 활용하면 주변 소리나 자신의 목소리에서 나오는 음의 높이를 피부로 느낄 수 있습니다. 연구진이 고안한 방법은 주변에서 4옥타브 계이름 '도'소리가 들리면 사용자가 왼손에 낀 장갑을 통해 검지 첫째 마디에 진동이 느껴지도록 하는 방식입니다. 이처럼 손의 구조와 인지 용이성을 설계에 반영해 한 손에 3개 옥타브 범위(3옥타브 '도'에서 5옥타브 '시'까지)에 해당하는 반음 포함 36개의 음계를 촉각 패턴으로 표현했습니다. 손 부위별 진동 위치에 따라 음의 높낮이를 파악할 수 있기에 주변 소리와 내 목소리의 높낮이를 촉각으로 익히는 훈련이 한 달가량 필요합니다.

 

나아가 함께 개발된 학습 방법 및 훈련 과정을 거치면 자신의 목소리를 원하는 음에 맞춰 낼 수도 있습니다. 청각장애인뿐 아니라 고령인 등도 언어 및 음향 학습 보조수단으로 활용할 수 있습니다. 연구진은 촉각 피치 시스템의 효과를 관찰하기 위해 강남대학교와 위탁 연구를 수행했습니다. 임상연구에는 인공와우 수술을 받은 청각장애인 2명이 참여했습니다.

실험 후 발성 음역 해상도 및 정확도 변화. 출처:ETRI
실험 후 발성 음역 해상도 및 정확도 변화. 출처:ETRI

참가자들은 약 한 달간 15시간 훈련을 통해 촉각을 이용, 음을 이해하고 자신의 목소리로 원하는 음을 낼 수 있는 능력이 약 3배 향상됐습니다. 뿐만 아니라 촉각으로 훈련한 노래를 정확한 음으로 낼 수 있게 됐습니다.

실험 후 노래 시 음 정확도 변화. 출처: ETRI
실험 후 노래 시 음 정확도 변화. 출처: ETRI

촉각으로 정보를 전달한다?! 

 

기존에도 미국의 스탠포드대(Stanford), 라이스대(Rice), 페이스북(Facebook) 등 여러 기관에서 음성, 텍스트 정보를 촉각으로 전달하는 연구들이 다수 진행됐습니다. 하지만 모든 정보를 촉각을 통해서만 전달할 수 있을 정도로 상용화 하기엔 아직 많은 후속 연구가 필요한 상황이었습니다.

 

ETRI 촉각 피치 시스템은 인공와우 및 보청기 사용자들이 모든 정보가 아니라 음 높낮이라도 파악하기를 원한다는 실제 요구사항을 토대로 개발한 시스템입니다. 덕분에 사용자 환경에 바로 적용할 수 있다는 장점이 있으며 임상을 통해 증명한 연구 중 최초 사례입니다. 

연구진이 개발한 촉각 피치 시스템으로 진동을 통해 정확한 음정을 파악하는 훈련 과정을 시연하는 모습(신승용 선임연구원, 정승은 선임연구원). 출처:  ETRI
연구진이 개발한 촉각 피치 시스템으로 진동을 통해 정확한 음정을 파악하는 훈련 과정을 시연하는 모습(신승용 선임연구원, 정승은 선임연구원). 출처: ETRI

한편, 언어 재활 훈련 과정 중 음악 활동을 병행하면 음성 언어 및 소리에 관한 이해력 발전에 도움이 된다는 기존 연구가 있습니다. 연구진은 본 기술로 단순히 청각장애인의 음악 활동뿐만 아니라 의사소통을 개선하는데도 크게 도움을 줄 수 있을 것으로 보고 있습니다. 이렇게 촉각 피치 시스템과 언어 재활 훈련법 병행 연구를 발전시켜나가면 청각장애인들이 언어뿐 아니라 음악 활동도 동일하게 즐길 수 있을 것으로 기대됩니다. 연구진은 시스템의 착용성 및 완성도를 개선 시키고 보다 효과적인 특수교육법 및 훈련 기법 표준안을 만들기 위해 관련 협회 및 단체와도 협력을 진행할 예정입니다.

 

연구책임자인 ETRI 신형철 휴먼증강연구실장은 "기술을 위한 기술이 아닌 우리 사회 소수자들이 정말로 필요로 하는 적정(適正)을 개발하기 위해 노력했다"며 "본 기술이 실질적으로 여러 사람들을 도울 수 있는 따뜻한 복지 ICT로 많이 활용되었으면 한다"고 밝혔습니다. 강남대학교 사회복지학부 이준우 교수도 "일반적으로 청각장애인이 낼 수 있는 소리의 범위가 있다"며 "본 훈련을 통해 그동안 내기 어려웠던 소리 영역 부분을 낼 수 있다는 자체가 획기적이라 생각한다"고 말했습니다.

연구진이 개발중인 촉각 피치 시스템의 다양한 웨어러블 시제품 (손목밴드, 암밴드, 장갑). 출처: ETRI
연구진이 개발중인 촉각 피치 시스템의 다양한 웨어러블 시제품(손목밴드, 암밴드, 장갑). 출처: ETRI

연구진은 향후 더욱 쉽게 훈련을 진행하고 편한 착용이 이뤄질 수 있도록 손목ㆍ암배드 등 웨어러블 형태로 장비를 개발할 계획입니다. 또한 한국전자통신연구원(ETRI)는 이외에도 화재 알람이나 교통 신호 등 위험 상황을 알리는 소리를 어느 방향, 위치에서 발생했는지 파악해 웨어러블 기기 등을 통해 촉각으로 전달하는 기술을 개발 중이며 청각장애인 대상 필드 테스트를 준비 중이라고 합니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 충청남도 보령시 큰오랏3길
  • 법인명 : 이웃집과학자 주식회사
  • 제호 : 이웃집과학자
  • 청소년보호책임자 : 정병진
  • 등록번호 : 보령 바 00002
  • 등록일 : 2016-02-12
  • 발행일 : 2016-02-12
  • 발행인 : 김정환
  • 편집인 : 정병진
  • 이웃집과학자 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2016-2020 이웃집과학자. All rights reserved. mail to contact@scientist.town
ND소프트