구글이 미국 국방부의 군사 프로젝트에 도움을 줬다는 사실이 알려져 파장이 일고 있습니다. 구체적으로 구글은 미군이 이라크에서 드론으로 수집한 영상을 분석하는데 도움을 줬는데요. '프로젝트 메이븐(Project Maven)'이라고 불리는 이 작업은 드론이 촬영한 대량의 영상을 분석해 사람의 얼굴을 식별하고 의심스러운 활동을 감시하는 게 목표입니다.
지난해 4월 시작된 이 프로젝트는 드론이 수집한 수백만 건의 영상을 기계 학습을 활용해 약 38개의 카테고리로 자동 분류하는 작업이 핵심입니다.
이 프로젝트는 이미 상용화 돼서 지난해 말 이슬람국가(IS)를 상대로 군사 작전을 벌일 때 이용했다고 하네요. 이 작업에 참여한 전문가들은 드론이 촬영한 영상 데이터의 양이 어마어마해서 압도될 정도였다고 하는데요.
구글은 이 엄청난 양의 영상 데이터 분류를 위해 자사 기계 학습 라이브러리인 '텐서플로우(TensorFlow)'를 제공했다고 합니다. 텐서플로우를 이용하면 사람이 파일을 일일이 보지 않고도 컴퓨터가 비슷한 이미지끼리 분류하도록 설계할 수 있습니다.
이러한 사실은 2018년 3월 프로젝트 메이븐에 대한 정보가 구글 사내 메일링 리스트에 공유되면서 실체가 드러났고 최근 미국 IT매체 <Gizmodo>의 보도로 대중에 공개됐습니다.
구글 내부 구성원 중 일부는 군에 기술을 제공하지 말자며 반대하기도 했는데요. 구글은 프로젝트 메이븐이 전투용이나 살상 무기용으로 쓰이지 않을 것이라고 반복적으로 직원들을 설득했다고 합니다. 그러나 전투용이 아니라 하더라도 인공지능이나 빅데이터를 활용한 프로젝트가 부작용을 일으킨 사례가 있다는 지적이 나왔는데요.
빅데이터 스타트업 Palantir Technologies는 미국 내 공공기관들과 협력해 범죄들이 일어날 만한 지역이나 범죄를 저지를 것 같은 사람들을 예측하는 AI를 개발했습니다. 그런데 인종 편향적 결과를 내놓아 큰 비난을 받은 적이 있습니다. 과거의 데이터만 가지고 예측을 하면서 특정 인종이나 그들이 있는 지역에 대한 편향적 시각이 반영됐기 때문입니다.
인공지능 기술 사용에 관해 이같은 우려들이 제기되자 구글 관계자는 "내부적으로 이에 대해 충분히 토론을 하고 있으며 향후 기계학습 기술의 사용과 관련해 정책과 안전장치들을 지속적으로 개발할 것"이라고 밝혔습니다.
