인공지능 폭주 막을 '기억 삭제' 도구 나온다
인공지능 폭주 막을 '기억 삭제' 도구 나온다
  • 박연수
  • 승인 2017.12.11 18:02
  • 조회수 3307
  • 댓글 0
이 기사를 공유합니다

<맨 인 블랙>이라는 영화 보셨나요? 배우 윌 스미스와 토미 리 존스 비밀요원이 지구에 있는 외계인을 잡으러 다니는 내용이죠. 이들은 외계인을 만난 일반인들의 기억을 '삭제'합니다. 본인들은 선글라스를 쓰고 불빛을 번쩍이는데요.

 

이 도구의 정체는 불빛을 한 번 쏘는 것 만으로 기억을 삭제하는 '뉴럴라이저(Neuralyzer)'입니다. 뉴럴라이저라는 명칭은 신경계를 의미하는 '뉴로(Neuro)'와 마비시키다 라는 뜻의 '패럴라이즈(paralyze)'를 합성시킨 표현입니다. 아래 사진에서 윌 스미스가 들고 있는 도구입니다.

 

빨간 불빛을 터뜨려 외계인을 본 사람들의 기억을 지운다. 출처: 소니 픽쳐스
빨간 불빛을 터뜨려 외계인을 본 사람들의 기억을 지운다. 출처: 소니 픽쳐스

참 신기한 도구인데요. 이 도구가 영화적 상상이 아니라 실제가 될 수 있다고 합니다. 도구의 사용 대상은 사람은 아니고 로봇이라고 하는데요. 

 

최근 스위스 과학자들이 인공지능 로봇들을 대상으로 한 기억 삭제 도구를 개발 중이래요.

 

주요 기능은 그대로 남긴 채 기계의 메모리를 삭제한다?! 출처: Pixabay
주요 기능은 그대로 남긴 채 기계의 메모리를 삭제한다?! 출처: Pixabay

인공지능을 연구하는 스위스 로잔 공과대학의 연구진은 최근 로봇이 자가 학습을 멈추지 못할 상황을 대비해 주요한 기능은 손상시키지 않고, 단기 메모리만 삭제시키는 도구를 개발하고 있습니다.

 

'안전 중단' 시스템

 

인공지능은 피드백을 수집해 자가 학습할 수 있는데요. 잘못된 데이터를 가지고 학습할 경우 추후 문제가 생길 수 있습니다.

 

로잔 공대 라시드 게라위(Rachid Guerraoui) 교수는 "AI가 사람의 조종에서 벗어나 멈출 수 없게 되는 상황이 올 수 있다"면서 "로봇을 아예 멈추게 하는 것이 아니라, 전반적인 자가 학습 기능은 유지한 채 좋은 데이터만 수집할 수 있게 살짝 프로그래밍 해야 한다"고 말했습니다. 

 

구글의 자율 주행 자동차 시제품. 출처: 구글
구글의 자율 주행 자동차 시제품. 출처: 구글

예를 들어 자율 주행차의 경우 한 운전자가 브레이크를 자주 밟으면 이 같은 패턴이 학습돼 자동차가 언제 브레이크를 밝는 것이 최적화 된 것인지 혼동한다는 겁니다. 

 

이런 문제를 해결하기 위해 연구진은 '안전 중단' 시스템을 개발했습니다. 이 시스템을 사용하면 인간이 AI의 자가 학습을 중단시킬 수가 있습니다. 인공지능이 잘못된 학습으로 폭주하거나 인명 피해가 우려될 경우를 대비해 이런 장치가 필수라는 전문가들의 지적이 점차 현실화되는 모양새입니다.

 

'안전 중단' 시스템으로 이상한 걸 학습하는 로봇의 학습 기능은 중단! 출처: Pixabay
'안전 중단' 시스템으로 이상한 걸 학습하는 로봇의 학습 기능은 중단! 출처: Pixabay

공동 연구자인 엘 마흐디 엘 맘디 El Mahdi El Mhamdi)는 "우리는 '망각' 매커니즘을 학습 알고리즘에 추가해 기계의 메모리를 삭제할 수 있게 했다"며 "이는 마치 <맨 인 블랙>에 나오는 뉴럴라이저와 비슷하다"고 밝혔습니다. 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 충청남도 보령시 큰오랏3길
  • 법인명 : 이웃집과학자 주식회사
  • 제호 : 이웃집과학자
  • 청소년보호책임자 : 정병진
  • 등록번호 : 보령 바 00002
  • 등록일 : 2016-02-12
  • 발행일 : 2016-02-12
  • 발행인 : 김정환
  • 편집인 : 정병진
  • 이웃집과학자 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2016-2019 이웃집과학자. All rights reserved. mail to contact@scientist.town
ND소프트