[서평] 인공지능 이해를 위한 필수 교양서적 : 김명주, 『AI는 양심이 없다』(헤이북스, 2022)

 

책 목자

1장 '죽음'을 흔드는 AI
2장 '존재'를 흔드는 AI
3장 '신뢰'를 흔드는 AI
4장 흔들림 너머 AI 바로보기

 

팟캐스트에서 우연히 알게 된 인공지능 관련 서적. 출판일은 22. 5. 2. 따끈따끈한 신간이다. 도서관에 있길래 얼른 빌려서 봤다. 내용은 꽤 흥미롭다. 최근 4차 산업혁명에 대해 이것저것 공부하고 있는데, 인공지능 관련 책으로는 필수 교양서적으로 봐도 무방할 듯.

 

책 저자가 서울여자대학교 교수인데 대중용 서적으로 이해하기 쉽게 쓰기도 했고, 내용도 꽤 흥미롭다. 그리고 개념에 대한 설명을 중간중간 잘해주어서 체계적으로 이해하기 좋은 책이다. 

 

한 예로 MZ 세대에 대한 용어 정의를 해주는데, 이는 M세대와 Z세대의 합성어이고, M세대는 80년대생 이후의 '디지털 이주민'세대인 반면 Z세대는 95년 생 이후의 '디지털 원주민'세대라는 것이다. 대강 MZ세대가 어떤 의미인지는 알고 있었지만 이렇게 개념을 명확히 정의해주면 그다음 이야기들을 이해하는데 훨씬 수월하다. 

 

이 책 도입부에는 꽤 흥미로운 질문들을 여러 개 던진다. 특히 사후 디지털 고용과 명예훼손, 디지털 부활, AI 가수, 인플루언서, 아나운서 등의 주제들은 앞으로 다가올, 아니 벌써 다가온 근미래에 대해 우리 사회가 꽤 심도 있게 고민해야 할 질문들을 던진다. 그리고 그 예시로 드는 것들이 굉장히 트렌디한 것들이어서 젊은 세대가 읽기에도 흥미로울 듯하다.

넷플릭스의 '블랙 미러'에서부터 메타버스와 관련해서는 여러 게임들을 예로 들기도 한다. 

기억에 남는 질문들 중에는 'AI 가수의 등장이 팬들에게 좋은 것인가? 그리고 연습생들에게 어떤 영향이 있을 것인가?' 것도 있다. 몇 년 전 병으로 세상을 떠난 거북이라는 그룹의 멤버 '터틀맨'을 AI로 부활시켜 다른 멤버와 함께 무대에 선 적이 있다. 당시에는 그냥 디지털로 복원해서 보여주는 정도로만 생각했는데 그게 아니라 기존 자료들을 AI에게 학습시켜 AI터틀맨이 기존에 부른 적 없는 새로운 노래를 부르게 했다는 것이 중요한 부분이었다. 작가는 이러한 AI가수들의 등장에 대해 우리 사회가 깊게 고민해야 할 부분들이 있다고 이야기한다. 

고인이 된 가수를 다시 보게 된다면 처음에는 신기하고 놀라울 수 있지만 단지 예전 영상을 반복해서 재생하는 수준이 아닌 새로운 노래를 발매하고 공연을 하기 시작한다면 이는 완전히 다른 문제이다. 우선 새로운 노래를 AI가수가 부르는 것을 좋아하는 기존 팬도 있겠지만 싫어하는 팬도 있을 수 있다. 특히 기존 불렀던 노래와 결이나 음악성이 완전히 다른 노래를 단지 경제적인 계산만으로 부르게 할 수도 있기 때문이다. 그러면 기존 가수의 이미지가 망가지는 경우도 생길 수 있다. 또 AI가수로 만들어지는 고인들은 기존 팬덤이 크고 가창력과 영향력이 어느 정도 입증된 사람들이기 때문에 이들이 또다시 새로운 노래들을 발매하게 되면 이제 막 가수가 되기 위해 진입하는 신인가수나 연습생들에게는 현재 왕성하게 활동하는 선배 가수들 뿐 아니라 고인이 된 가수들과도 경쟁해야 하는 상황에 놓이게 된다. 

물론 이에 대한 사람들의 생각은 각자 다를 수 있고 매우 다양한 견해가 나올 것으로 생각된다. 작가는 이러한 사회적 논의와 합의가 시작되어야 하는 시점이라고 화두를 던지고 있다. 

 

작가는 이어서 여러 흥미로운 이야기들을 들려주고 나서 인공지능 윤리에 대한 이야기를 꺼낸다. 작가인 김명주 교수는 우리나라에서 인공지능 윤리 가이드라인을 최초로 제시한 분이고 이러한 인공지능에 대한 윤리적 기준을 공학도의 입장에서 고민하고 논의를 이끌어 가는 대표적인 학자이다. 그래서 이 책의 핵심 주제는 이러한 윤리 가이드라인으로 자연스럽게 흘러가는 듯하다. Seoul PACT로 소개되는 우리나라의 인공지능 가이드라인의 핵심 원칙은 1. 공공성 2. 책무성 3. 통제성 4. 투명성이다. 책에서는 각 해당 원칙들에 대한 설명도 자세히 하고 있으니 관심 있는 분들은 일독을 권합니다. 

 

다만 여기서 책무성과 투명성에 대한 설명이 약간 이해가 안 되는 부분이 있었다. 보통 책무성(Accountability)라고 하면 책임(Responsibility)과 비교하지만 이 둘의 차이를 어떤 것이 더 크냐는 개념보다는 접근 방법으로 바라봐야 한다. 책임은 의무에 대비되는 개념이고 문제가 발생하거나 했을 때 수동적으로 이에 대한 책임을 지는 부분으로 이해해야 한다면 책무성은 어떠한 권리, 의무, 권한이든 이에 대한 설명할 책임을 뜻한다고 보는 것이 옳다. 그래서 왜 그러한 것들을 해야 하는지에 대한 적극적, 능동적 개념에 가깝다. 

이 책에서는 이러한 책무성의 설명할 책임을 투명성에서 설명하고 책무성이란 책임보다 더 확장된 개념이라고만 설명하는 부분에서 개념 정의에 대한 부분을 다시 한번 살펴볼 필요가 있지 않을까 하는 생각이 들었다. 

 

아무튼 좋은 책이고 4차 산업혁명, 그리고 인공지능에 대해 우리 사회가 고민해야 할 문제들에  대해 관심 있는 분들에게는 굉장히 좋은 책이 될 것이다. 

 

책구매 링크

---

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."