메뉴 바로가기 검색 및 카테고리 바로가기 본문 바로가기

한빛출판네트워크

기계의 반칙

위대한 AI 석학이 해설하는 인공지능에 대한 오해와 진실

한빛미디어

번역서

판매중

  • 저자 : 넬로 크리스티아니니
  • 번역 : 김정민
  • 출간 : 2023-11-30
  • 페이지 : 256 쪽
  • ISBN : 9791169211727
  • 물류코드 :11172
  • 초급 초중급 중급 중고급 고급
4.7점 (26명)
좋아요 : 1

격동의 인공지능 시대,

지능형 기계와 공존하기 위한 실용적 조언

 

25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작해, 주요 사건 사례들을 바탕으로 인공지능의 성장 과정을 살펴보고, 인간의 문화와 사회에 미치는 영향까지 조망한다. 특히 현재 인간의 삶과 인프라에 (치트키를 써서) 빠르고 깊게 침투 중인 지능형 기계의 무분별한 활용이 초래하는 의도치 않은 결과들을 객관적 시선으로 바라보며 강력하게 경고한다. 나아가 인간은 어떤 부분을 어떤 이유로 경계해야 하는지, 인공지능과 안전하게 공존하려면 지금부터 무엇을 해야 할지에 관한 다양한 아이디어를 제시한다.

 

기계의 반칙(700).jpg

넬로 크리스티아니니 저자

넬로 크리스티아니니

머신러닝 및 인공지능 분야에 20년 이상 종사하고 있는 저명한 연구자다. 바스 대학교에서 인공지능 학과 교수로 재직 중이며, 그 전에는 브리스틀 대학교, 캘리포니아 대학교 데이비스(UCD), 로열 홀러웨이 런던 대학교에서 일했다. 머신러닝 분야 연구로 ‘왕립학회 울프슨 우수연구상(Royal Society Wolfson Research Merit Award)’과 ‘유럽연구위원회 경력연구원 장학금(ERC Advanced Grant)’을 받았다. 머신러닝 분야의 영향력 있는 저서를 집필했으며 인공지능에서 과학철학, 디지털 인문학에서 자연어 처리, 사회학에서 생물학에 이르기까지 다양한 분야의 학술지에 게재된 학술 논문 수십 건의 공동 저자이기도 하다. 2017년에는 유럽의회의 유럽기술영향평가국(STOA)에서 인공지능의 사회적 영향을 주제로 연례 강연했으며, 이는 현재도 크리스티아니니가 열심히 연구하는 주제다. 트리에스테 대학교에서 물리학 학위를, 계산지능(computational intelligence)으로 런던 대학교에서 석사 학위를, 브리스틀 대학교에서 박사 학위를 받았다.

 

김정민 역자

김정민

서울대학교 컴퓨터공학과를 졸업하고 SK텔레콤에서 소프트웨어 엔지니어로 근무했다. 변호사 자격을 취득하고 현대자동차, 헬스케어 회사, 블록체인 회사 등을 거쳐 특허, 저작권, 영업비밀, 개인정보, 기술전략, 규제대응 그 외 폭넓은 영역에서 다양한 기술 및 법률자문을 제공하고 있다. 옮긴 책으로는 『기계는 어떻게 생각하고 학습하는가』(한빛미디어, 2018), 『컴퓨터 프로그램의 구조와 해석』(인사이트, 2016 ), 『소프트웨어 개발의 지혜』(야스미디어, 2004) 등 10여 권이 있다. 현재 법무법인 인헌의 파트너 변호사로서 좋은 책이 더 많은 사람에게 알려지도록 노력한다.

 

1장. 지능의 탐구

기대치 관리 

지능 정의 

규칙에 따르는 세계

생존 기법의 깜짝주머니

외계 지능

코페르니쿠스적 전환

 

2장. 치트키

“언어전문가를 해고하라”

고전적 인공지능

주기 순환: 호황, 거품붕괴 그리고 겨울

시애틀에서의 갈등

패러다임 전환

인공지능 역사에 등장한 세 가지 치트키

새로운 인공지능으로

바프닉의 법칙과 새로운 사고방식

새로운 레시피

 

3장. 세계의 질서를 찾아서

지능, 패턴 그리고 질서 있는 세계

지식의 한계

패턴과 인지 편향

기계가 할 수 있는 것

인간의 피조물 이해하기

 

4장. 러브레이스는 틀렸다

백작부인과 기계 이야기: 주석 G에서 37번째 수까지

학습하는 기계

학습하는 기계에 관한 아이디어

초인간: 알파고와 그 제국

창조자를 능가하는 피조물

 

5장. 의도를 벗어난 행동

원숭이 발

개별 위험 평가의 예

규제 영역과 보호받는 특성 

민감한 정보 유출

아슬아슬한 순간, 오발령 경보, 실제 피해

현실에서 온 편향

다시, 원숭이 발

 

6장. 마이크로타기팅과 대중 설득

함부르크에서의 하루

함부르크로 가는 길

로제타 스톤 방식

인간의 자율성에 대하여

완전한 원

 

7장. 피드백 루프

최초로 대중화된 에이전트

개인화 요약 추천 에이전트

행동경제학과 영향력 있는 행동

제어 시스템으로서의 추천 에이전트

두 가지 수준의 효과

2차 효과에 대하여

피드백

 

8장. 결함

결함 이야기

설득 게임

하인인가, 조종자인가?

밤잠 설치게 하는 걱정거리

 

9장. 소셜 머신

초능력 게임

목적이 있는 게임

소셜 머신

자율적 소셜 머신

목표 중심 소셜 머신

소셜 머신으로서의 추천 시스템

평판 관리 시스템과 알고리즘형 규제

개미탑 아줌마 이야기

보이지 않는 손과 원숭이 발

 

10장. 금지가 아닌 규제

전원코드를 뽑을 수 있을까?

대융합

매체와 게이트키퍼

지능형 기계와 함께 살아가기

금지가 아닌 규제

AI 시대 생존 전략: 우리는 앞으로 어디로 나아가야 하는가?

 

‘머신’이나 ‘기계’라고 하면 반짝이는 금속과 톱니바퀴, 오일 냄새 등을 반사적으로 연상하지만, 어원이나 단어의 의미상 반드시 ‘기계’가 금속으로 이루어져 있을 필요는 없다. 정교하게 구성된 생명체도 기계가 될 수 있고, 체계적으로 작동하는 소프트웨어도 기계가 될 수 있으며, 이 책에서도 언급하듯이 인간으로 구성된 소셜 플랫폼조차 기계가 될 수 있다.

 

이러한 ‘기계’가 인간의 창조물이라 해도 반드시 인간과 닮아 있어야 할 이유는 없다. 심지어 반드시 인간에게 익숙한 방식으로 작동해야 할 이유도 없다. 그리고 실제로 기계가 ‘인간이 이해할 수 없는’ 방식으로 작동하는 것은 일종의 치트키가 될 만큼 강력한 기술적 돌파구가 된 아이디어였으며 현대 인공지능 기계의 핵심적 특징이 되었다. 

 

그러나 이것은 현재 인공지능 분야에서 발생하고 있는 오남용 및 규제 등의 문제를 해결해야 하는 인간이 처한 딜레마의 원인이기도 하다. 이 책은 현대 인공지능 기계의 특성, 문제 그리고 이를 해결할 방법에 대한 아이디어를 매우 심도 있는 논의와 함께 제시한다.

_ ‘옮긴이의 말’ 중에서

스크린샷 2024-01-06 오후 11.47.58.png

 

이 책은 인공지능에 대해 기초적인 개념과 어떻게 우리들에게 영향을 미치고 있는지 설명하고 있습니다

인공지능은 인간의 지능을 인공적으로 구현한 기술로 알려져 있습니다. 여기서의 지능은 인간의 지적 능력이라고 생각한다면 인간을 능력을 흉내내서 구현되는 인공지능은 인류에게 기회와 위협이 될 수 있습니다.

하지만, 이 책을 읽으면서 이런 전제가 어쩌면 틀렸을 수도 있다는 생각이 들었습니다. 지금까지 '지능'의 의미는 우리들의 기준에서 정의한 것이기 때문에 인공지능은에대 우리는 편견을 가질 수 있습니다. 이런 편견은 인공지능으로 인해 인류 멸종의 가능성도 제기되고 있습니다.

하지만, 이런 '지능'의 의미를 이 책에서 비공식적으로 정의한 '새로운 상황을 포함한 다양한 국면에서 효과적으로 행동할 수 있는 능력'이라고 생각하다면 '인공지능'을 새로운 시각으로 바라볼 수 있게 됩니다.

오히려 인공지능의 편향이나 결함으로 인한 의도를 벗어난 행동를 윤리적 규범을 마련해서 통제하고 인공지능을 책임감있게 사용한다면 인류에게 도움이 되는 창조물이지 않을까 싶습니다.

이런 지능에 대한 개념 뿐만 아니라 '소셜 머신' 이라는 부분도 신선했습니다. 어쩌면 우리는 큰 목푤를 위해 다른 목표를 수행하하고 있는 또다른 개념의 인공지능의 한 부분으로 살아가고 있을 지도 모릅니다.

'인공지능에 대한 오해와 진실'이라는 이 책의 부제처럼 이 책을 통해 저는 인공지능에 대해 새로운 시각을 갖게 되었습니다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

여기서 말하는 "기계"는 금속으로 된 하드웨어 장치가 아니다. 이것은 어떤 기구나 장치, 소프트웨어, 혹은 어떤 생명체도 될 수 있다. 그리고 이 책은 현대 인공지능 기계에 대한 이야기를 다룬다. 인공지능에 대한 이야기를 너무 낙관적이지도 너무 비관적이지도 않게 풀어내며 인공지능 시대에 어떻게 살아가야 하는지에 대해 이야기하는 책이다. 

인공지능이 어떤 데이터와 어떤 기술을 가지고 어떤 판단을 하는지, 그리고 그것이 어떻게 문제가 될 수 있는지 객관적인 시선으로 살펴본다. 관련 이슈들을 언급하며 문제를 제기하거나 생각해 볼 거리를 던져주기도 한다. 책에서 언급되는 다양한 논의들을 함께 생각해가며 읽는다면 보다 유의미한 독서가 될 것이다.

인공지능과 관련된 이슈를 철학적으로 다루면서 이에 대한 답을 제시하기 보다는 독자로 하여금 생각하게 만든다. 인공지능의 역사와 추이를 핵심적인 기술과 사건 위주로 살펴보며 독자의 시야를 넓힌다. 적절히 사용되는 통계와 사례를 통해 독자의 관심을 끌며 객관성을 높인다. 그 속에서 우리는 인공지능에 대한 유의미한 지식을 얻고 시야를 넓혀갈 수 있다.

궁극적으로는 인공지능과 함께 살아가는 앞으로의 사회에서 어떻게 인공지능과 효과적으로 공생할 수 있을 것인가에 대한 논의를 한다. 과거 인터넷이 처음 보급되며 우리의 일상 속에 녹아든 것을 언급하며, 이미 어느 정도 스며들고 있는 인공지능 또한 그렇게 될 것을 암시한다.

인공지능의 역사와 패러다임의 변화, 그리고 기술 외적인 인공지능 용어들이 궁금한 사람에게 추천한다. 인공지능에 대한 전반적이고 폭넓은 지식을 얻을 수 있을 것이다.

인공지능이 더 이상 낯설지 않게 되어버린 현재, 앞으로 인공지능과 함께 어떻게 살아갈 것인지 답을 찾고자 하는 이에게는 이 책이 답을 내려줄 수는 없지만 좋은 길잡이가 될 것으로 보인다.

 

한빛미디어 〈나는 리뷰어다〉 활동을 위해서 책을 제공받아 작성된 서평입니다.

오랜만에 기술을 이야기 하지만 기술서적이 아닌 책이었다. 인공지능의 역사를 현대에서 과거로 다시 현대로 넘어오면서 시발점부터 변곡점을 지나 어떻게 인간의 지능과 인공의 지능이 다른 길을 걷게 되었는지 이야기한다. 

 

어떻게 해야 기술을 잘 다룰 수 있고, 인공지능 분야의 엔지니어로 성공할 수 있다고 이야기 하지 않는다. 기술이 어떻게 쓰이고 있고, 갈등들이 생기며 봉합되어 가는 과정을 담담히 적어 내려갈 뿐이다. 알파고 쇼크 이후 우리는 인공지능을 생활에서 점점 자주 접하게 되었고, 2020년 ChatGPT-3 등장 이후 개발자들 사이에서나 유명했어던 OpenAI의 GPT는 초등학생도 과제에 쓰면서 뉴스에서 사회 문제로 다룰 정도로 당연한 기술이 되어버렸다. 

 

`메타`가 무분별한 정보 수집으로 타겟 광고를 한 일도 인공지능 기술의 힘이 컷고, 미술대회에서 생성 모델이 만든 그림이 상을 타고, 할리우드 작가 협회가 인공지능으로 자리를 잃을 위기에 처해 영화 산업이 일시 중단 되는 등 이제는 더 이상 인공지능과 우리의 삶이 분리되기 힘든 시점이 도래했다.

 

`원숭이 발`처럼 인공지능은 우리의 기대와 전혀 다른 방향으로 문제를 해결 할 수도 있는 순간이 되어버렸다. 자율주행이 이슈 일 당시에는 윤리문제가 단순히 개발자 집단에서만 다룰 문제가 아니게 되었듯 다양한 분야의 협의가 필요한 시점이다. 

 

우리가 자동차 없이 현대 사회를 상상할 수 없고 여러 규약들로 안전을 담보해 나가듯, 인공지능과 작별을 고하기엔 너무 깊이 침투해있는 이 새 친구와 안전하게 걸어갈 방법에 대한 고민을 던져주는 책이다. 

 

---

한빛미디어 `2023 도서 서평단 "나는 리뷰어다"`의 일원으로 도서를 제공받아 작성한 리뷰입니다.

 

이 책의 원문 제목은 "The Shortcut: Why Intelligent Machines Do Not Think Like Us" 이다.

원문 제목처럼 책은 현재의 인공지능이 인간과 다르게 동작하는 이유에 관해서 배경부터 동작 원리, 앞으로의 발생하게될 미래예측까지 자세히 설명하고 있다.

"기계의 반칙"이란 제목은 아마도 인공지능 기계(소프트웨어)가 치트키를 사용하여 인간이 설계한 이상으로 동작하기 때문에 지어졌으리라 짐작한다.

 

한글로 되어 있음에도 읽는데, 꽤나 고생하였다.

우리가 아는 흔한 교수(위대한 석학)님 특유의 철학, 생물학, 심리학, 언어학을 넘나드는 전문 용어와 예시들이 평생 공대생인 제가 한번에 읽고 이해하기에는 무리가 있었다. 처음 읽었는데, 세번은 읽은 듯한 느낌이다. ㅎㅎ

 

그럼에도, 이 책은 현 시대를 살고 있는 성인이라면 꼭 읽었으면 한다.

만약, 당신이 사용하는 유튜브나 페이스북, 쇼핑몰(아마존, 쿠팡)의 추천이 어떻게 이뤄지는지, 휴대폰에서 무심코 누른 "좋아요"를 소셜 인공지능 프로그램이 어떻게 활용하는지? 궁금하다면, 이 책이 궁금증을 해결할 수 있다.

또한, "SF 영화에서나 보게 되는 인공지능의 공격이 이제 현실이 될 날이 얼마 되지 않았구나"하는 두려움도 함께 느낄 수 있으니, 이 점도 가만하고 읽어야 한다. 그런 세상이 온다면 우린 모두 공범이니까~

 

책의 구성은 전체 10개 장으로 되어 있는데,

1장. "지능의 탐구"에서는 지능에 대한 해석을 새롭게 정의한다. 인간적인 특성을 완전히 배제하고 효과적으로 문제를 해결하는 것에 집중한다.

2장. "치트키"는 이전의 인공지능이 이제는 인간이 대적할 수 없을 정도로 발전하게 된 세 가지 치트키에 대해서 설명한다. 첫번째는 인공지능 능력을 이론이 아닌 데이터의 패턴에서 찾은 것이고, 두번째는 매일 매일 생산되는 어마어마한 데이터이며, 마지막으로 사용자의 피드백(댓글, 좋아요, 유튜브 시청시간)이 그것이다.

3장. "세계의 질서를 찾아서"에서는 규칙이 존재하는 인간의 행동과 오직 관찰한대로 행동하는 인공지능의 동작 원리를 설명하고

4장. "러브레이스는 틀렸다"는 오늘날의 머신러닝이 경험을 통해 자율적으로 학습할 수 있는 능력으로 인해 인간이 할 수 없거나 이해할 수 조차 없는 일들을 쉽게 해낼 수 있는 원리를 설명한다.

5장. "의도를 벗어난 행동"에서는 2장에서 설명한 치트키로 인간이 만든 근본적인 사회 규범(인간적인)조차 무시하고 작업을 할 수 있는 부분에 관해 고민한다.

6장. "마이크로타기팅과 대중 설득"은 인공지능이 인간의 경험을 바탕으로 의도적으로 앞으로의 인간의 행동에까지 영향을 미칠 수 있는 과정을 설명한다.

7장. "피드백 루프"에서는 우리가 일상적으로 사용하는 SNS를 인공지능이 어떻게 활용하는지에 관해 설명하고,

8장. "결함"은 초인간적인 인공지능의 결함(잘못된 행동, 예상치 못한 행동)이 어떻게 발생할 수 있는지 설명한다.

9장. "소셜 머신"에서는 SNS와 인간을 분리하지 않고, 인간과 함께 만들어 내는 거대한 인공지능(소셜 머신)이라는 관점에서 인공지능을 살펴보고,

마지막 10장. "금지가 아닌 규제"는 현대 인공지능 특성과, 문제 그리고 이를 해결할 방법에 대한 아이디어를 알아본다. 

 

20231230_221802.jpg

 

 

 

엄청난 정보의 쓰나미속에서 인공지능이 없는 세상은 상상도 할 수 없으며, 이미 우리 깊숙히 들어와 있다.

가만히 있으면, 내가 관심가질만한 주제나 제품을 알아서 추천해주는데, 그 수많은 정보를 일일이 찾는 방식으로 누가 되돌아 가겠는가?

 

하지만, 오픈AI 인공지능 전문가들이 경고하는 인공지능이 인간의 통제를 벗어나지 않도록 방지하는 방법을 모색하는 것과 AI 대부 제프리 힌턴 교수가 우려하는 인공지능이 곧 인간을 넘어설 수 있다는 경고가 단순한 경고가 아님을 잊어서는 안되겠다.

 

인공지능의 금지는 이미 늦었으며, 현실적으로 불가능하다.

지금이라도 인간과 인공지능이 선을 넘지 않고 슬기롭게 공존할 수 있는 적절한 법과 규제를 찾아서 후세에 찬란한 문화 유산으로 넘겨주어야 되지 않을까?

 

 

마지막 지금의 인공지능을 바라보는 현실적인 방법에 관한 저자의 말로 마무리한다.

 

인공지능이 이미 없어서는 안 되는 도구가 된 만큼 현실적으로 인공지능 사용을 중단할 수가 없다는 사실이며, 이것이 바로 우리가 다양한 형태로 사용되는 지능형 에이전트들과 함께 안전하게 살아가는 방법을 배워야 하는 이유이기도 하다.

 

10장 금지가 아닌 규제, p235

 

"YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다"

 

 

이번달에 접하게 된 책은 '기계의 반칙' 이라는 제목의 책입니다.

이 책은 인공지능에 대한 다양한 이야기를 전달하고 있습니다.

요즘 저의 삶에 있어서 인공지능은 함께하는 친구같은 존재가 되었는데요.

그래서 더욱 흥미를 가지고 읽어볼 수 있었습니다.

 

 

 

책에서는 인공지능에 대한 저자만의 생각과 통찰을 얻을 수 있었습니다.

책의 초반부에서는 기계에 대한 특성과 개념을 짚어가면서 시작하고 철학적인 내용을 다양하게 담고 있습니다.

책의 후반부에서는 인공지능과 사람이 어떻게 공생할 수 있는지에 대한 고찰과 함께합니다.

 

이 책을 읽으면서 우리의 일상에 함께하는 인공지능이란 것이 무엇이고

어떻게 생각하고 함께해야 하는지에 대한 생각을 스스로 해볼 수 있었습니다.

인공지능은 앞으로 우리의 삶을 어떻게 바꿔나갈 것인지가 기대되면서도

잘못된 방향으로 나아가지 않도록 많은 주의를 기울여야 된다고 생각합니다.

 

 "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

 

기계의 반칙이란 제목보다는 '위대한 AI석학이 해설하는 인공지능에 대한 오해와 진실'이라는 부제가 더 와닿는 책입니다.

 

인공지능하면 어떤 것들이 떠오르나요.

저는 챗GPT와 알파고가 우선 생각납니다.

 

이 책에서도 알파고에 대한 이야기를 볼 수 있습니다.

 

알파고가 등장하여 바둑 대결을 펼친 것이 2016년 쯤입니다.

 

이 때만해도 AI라는게 일상과 밀접하단 느낌은 아니었던 것 같은데 불과 5~6년 사이에 많은게 변한 것 같습니다.

 

챗GPT, 각종 인공지능 비서, AI가 그려낸 그림 등.

오늘날 AI라는 표현은 일상 속에 자연스럽게 파고든 상태입니다.

 

물론 알파고 이전에도 인공지능이란 표현은 존재했습니다.

심지어 처음 인공지능이라는 단어가 등장한 시기는 1956년 입니다.

 

이미 오래전부터 있던 개념이 더디게 개발되어오다가 기술 발전이라는 급물살을 타면서 더더욱 성장하는 중이라고 볼 수 있습니다. 그리고 그 성장은 아직도 끝나지 않고, 계속되고 있는 중 입니다.

 

그리고 역사에서 증명하듯 발전이라는 행위는 언제나 긍정과 부정의 양면적인 결과를 동반합니다.

인공지능이라고 그 범주에서 벗어날 수는 없습니다.

 

만약 인공지능을 통해 채용을 진행한다면 인공지능의 판단은 무조건 옳다고 할 수 있을까요.

 

인공지능 기반으로 한 의사결정 시스템은 여전히 오류를 범할 가능성을 가지고 있습니다.

심지어 알고리즘이 완벽해도 인공지능이 습득하는 날 것, 즉 야생의 데이터 자체가 잘못되어 나타날 수도 있습니다.

 

이 외에도 다양한 위험성과 실험 사례들을 볼 수 있었습니다.

 

작가는 이러한 사례들을 소개하며 인공지능의 위험성을 강조한다기보다는 위험을 바로 알고, 지능형 기계와 공존할 수 있는 방법을 제시하려 합니다.

 

급격하게 발전하고 있는 인공지능에 대해 경각심을 일깨워주는 한편, 어떠한 관점으로 이를 받아들여야하는지를 생각해보게 해준 책이었습니다.

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

인공지능 분야의 석학이 20년 이상 AI를 연구하는 과정에서 겪어 온 철학적, 기술적 고찰의 기록

첫장을 열면서부터 시기적으로 이르게 깜짝 놀랐다. 세간에 알려진 AI에 대한 생각 또는 접근방식과는 달리 저자만의 독특한 시각과 깊이 있는 인사이트를 느낄 수 있었기 때문이다.

오랫동안 과학, 좁게는 AI의 영역에 있어 칼 세이건이나 엘런 튜링과 같은 저명한 과학자의 위상은 범접할 수 없는 신과 같은 존재였다. 튜링테스트는 말할 것도 없고 외계 지능체 탐사를 위해 공헌한 칼세이건의 노력에 흠집을 내려는 시도는 저명한 이들조차 엄두를 내지 못하는 영역이었다.

그럼에도 저자는 그들에게 선전포고하는 것으로 본 도서의 시작을 열었다.

칼 세이건의 주장에 따르면 외계 지능체는 3차원의 31^3 비트 시퀀스이자 포름알데히드 분자를 형상화한 이미지를 표현한 무선 신호만으로도 우리의 존재를 인식할 수 있음을 주장했다.

이러한 가설은 외계 생명체 역시 우리와 같은 우주에서 진화했고 같은 물리법칙의 지배를 받았을 것이기에 이러한 개념을 이해할 수 있다는 점에 기인한다.

가설을 테스트 하는 과정에 있어 물리학 박사 과정의 학생 네 명이 부분적으로나마 메시지를 해독할 수 있었다는 점은 긍정적이었지만 저자의 테스트에서 칼 세이건의 가설은 통과하지 못한다.

저자의 고양이들에게 금속판과 무선 시퀀스를 활용하여 테스트를 진행했지만 고양이로 부터 어떤 답장도 받을 수 없었기 때문이다.

인간 판정단이 대화 중 상대방이 인간이라고 생각할 수 있는지의 여부를 테스트하는 튜링 테스트 또한 마찬가지이다. 인간인지 아닌지 판단한다는 기준 자체가 지극히 인간 중심적이다.

이를 통해 저자가 주장하는 바는 코페르니쿠스적 전환의 강조이다. 지구가 세상의 중심이 아니듯, 지능이라는 것을 정의 내리는 것에 있어 그 중심에 인간이 있어서는 안된다는 것이다.코페르니쿠스적 전환

무언가를 정의라는 내린다는 것은 어찌보면 단순한 행위일지도 모른다. 하지만 이 정의 하나에 외계 생명체를 발견하는 방식 및 가능성이 뒤집힐 수 있고 뒷 장에 이어질 기계 및 AI를 이해하는 정도와 방식이 뒤집힐 수 있음을 책을 읽는 내내 지속하여 경계할 수 밖에 없었다.

이어지는 장은 저자가 AI를 연구해오며 등장했던 굵직한 사건들의 기록들이 담겨있다. 한국인이라면 모르기 힘든 이세돌과 알파고의 접전에서부터 데이터에 조그만 관심이라도 가진 이라면 들어봄직한 추천 시스템을 통해 어느 아빠가 어린나이에 딸이 임신한 사실을 알게 된 일화 등이 대표적이다.레시피

AI의 태생에 결정적 기여를 한 접근방식을 치트키라 표현하며 소개하는가 하면 기계 학습의 패턴 속에서 질서를 찾아내는 고찰 그리고 부분적으로 인간의 지능을 뛰어넘는 기계 지능에 대한 저자의 견해는 소개된 주제 하나하나에도 책 한권 분량의 리뷰를 작성할 수 있을 정도로 거대한 철학의 향연이다.

책의 후반부로 진입할수록 기계와의 공생 방법에 대한 고찰로 이어진다. 로봇을 금지가 아닌 규제하는 방식으로 우리 삶에 받아들이는 방법이라든가 의도를 벗어난 행동 즉, 윤리적인 측면의 고민 그리고 소셜 머신과 같이 우리 사회에 이들이 영향을 미치는 정도와 우리 삶에 침투하는 방식 등에 저자의 인사이트를 엿볼 수 있다.

AI의 역사는 짧지만 사건의 분량은 적지 않다. 하루에도 수없이 쏟아져 나오는 AI의 논문 홍수 속에서 새로운 기술이나 인사이트를 쫓는데도 급급한 요즘이다.

상황이 이러할 진데 한가롭게 AI의 본질과 윤리 혹은 인류의 미래에 공생할 수 있는 방법을 찾는데 기울일 수 있는 시간은 얼마나 될까?

하지만 이런 신기한 기술의 일부를 쫓는데 급급하여 정작 중요한 본질적인 부분, 즉, 우리의 미래 그리고 기계와의 공생에 대한 인문학적인 고찰은 기술의 발전 속도를 어느정도 따라가고 있는지에 대한 고민이 끊임없이 이어졌다.

책을 읽으며 가장 강렬히 느낀 것은 지금이 매우 중요한 시점인 것 같다는 생각이다. AI 연구자 혹은 업계 종사자라면 더 중요한 본질을 놓치고 있지는 않은지 각성이 필요해보인다.

AI에 직접적인 관련이 없는 독자들 또한 마찬가지다. 이것이 우리 삶에 침투하여 어떤 미래를 선사할 것인지 그 안에서 나의 역할은 무엇일지 고찰할 시간이 필요하다. 이러한 이유에 기인하여 이 책의 존재 가치는 더욱 빛난다고 말할 수 있을 것 이다.


OpenAI의 chatGPT, Google의 Gemini 이를 활용한 Bard나 Facebook의 LLAMA같은 모델 또는 서비스들을 보면정말 지능이 있는 생물과 소통하는 느낌이 듭니다. 인공지능의 기술은 급속도로 발전하고 있고 이미 우리 삶 전반에 특히 개발자라면 요즘 사용안하는 개발자가 있으까 싶은 생각이 들 정도로 삶 전반에 많은 영향을 미치고 있는 상황입니다.앞으로 이러한 영향력은 더욱커질 것이고 AI의 발전과 사회 변화에 대한 이해는 필수라고 생각되는데 한빛미디어에서 출간한 기계의 반칙(넬로 크리스티아니니 지음)은 이러한 물음에 다양한 이해를 다룬 책입니다.이 책은 현대 AI의 발전과 그에 따른 사회 변화에 대한 이해를 돕는 데 유용한 책이라고 생각됩니다.

책 제목: 『기계의 반칙』 위대한 AI 석학이 해설하는 인공지능에 대한 오해와 진실

내용: IT, 컴퓨터, 인공지능, 철학, AGI, AI

출판사: 한빛미디어

저자: 넬로 크리스티아니니 저자(글) · 김정민 번역

출간일 : 2023년 11월 30일

 

 

기계의 반칙 | 넬로 크리스티아니니 - 교보문고

기계의 반칙 | 격동의 인공지능 시대, 지능형 기계와 공존하기 위한 실용적 조언25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작

product.kyobobook.co.kr

 

 

 

인공지능, 기계의 지능과 인간의 대응에 대해 고찰하고 앞으로 나아갈 길을 제시하는 철학이 담긴 책

책의 전반적인 내용을 살펴보기 전에 간단하게 평을 하자면, 이 책은 정말 어렵습니다. 철학적이면서도 인공지능에 대한 많은 내용을 담고 있습니다. 과거로부터 인공지능의 발전 과정을 훑어보면서 현재 어떻게 도달했는지를 살펴보는 과정도 포함되어 있으나 개발자라면 들어봤을 수 있는 인공지능과 관련된 개론 수업에서 들었던 내용과는 결이 완전히 다릅니다. 거기에 이 "지능" 이란 것이 무엇인지 우리 세대는 인공지능을 어떻게 대해야 할 것인지를 철학적으로 다루기 때문에 시중에 존재하는 많은 책들과 결이 다르다는 것을 알고 보면 좋습니다. 굳이 분류하자면 인문학에 가깝다고 볼 수 있겠습니다.

 

 

저자 넬로 크리스티아니니는 인공지능 분야에 20년 이상 종사 중인 바스 대학교의 인공지능 학과 교수로서 그의 전문적인 지식에 있어서는 의심할 여지가 거의 없습니다. 인공지능 연구자이자 교수로서 이런 인문학적인 내용을 담은 책을 펴냈다는 것이 오히려 놀랍고 그 깊이가 상당함을 느낄 수 있었습니다.

 

 

책의 차례는 "1장. 지능의 탐구"로부터 시작해서 책 전반적으로 다룰 내용들에 대한 용어와 특정 언어에 대한 정의를 먼저 시작합니다. "2장. 치트키" 는 고전적 인공지능과 패러다임의 변화가 무엇인지, 현재 인공지능이 우리 세대에서 어떤 패러다임의 변화를 주고 있는지를 서술합니다. 특히 재미있는 부분은 "4장. 러브레이스는 틀렸다"였습니다. 컴퓨터학개론에서만 들었던 러브레이스를 오랜만에 만나 반가우면서 그녀가 남긴 말이 현재까지도 영향을 주고 있었다는 것에 또 놀라웠습니다.

 

 

이후 인공지능에 대한 본격적인 철학적 내용과 정책, 대응 그리고 규제 등에 대해서도 이야기하는 단원들이 이어집니다. 특히 이 7장 이후의 단원들은 개발자들이 봤을 때도 중요하지만 정책입안자나 행정, 경영을 하는 사람들이 봤을 때 더 많은 아이디어를 얻지 않을까 생각됩니다.

 

 

이 책의 장점이자 어느 책에서도 이런 방식은 꼭 배웠으면 하는 것은 특정 단어를 먼저 정의하고 시작한다는 것입니다. 이 책은 아주 일반적인 용어일 수 있는 "지능"과 같은 단어도 꼭 정의하고 넘어갑니다. 이 정의는 책의 전반에 걸쳐 이야기를 이끌어가는데 중요한 역할을 합니다.

 

 

또 하나의 장점은 레퍼런스를 이용할 때 간략한 요약과 함께 현재 단원에서 이야기하는 점을 잘 연결하기 위해 자연스럽게 설명한다는 것입니다. 패러다임에 대해 설명하기 위해 토머스 쿤을 끌고 왔듯이 대가들과 역사적인 사건들을 가져와 현재를 정말 멋지게 설명합니다.

 

 

처음에도 이야기 했듯이 러브레이스의 말을 인용한 단원은 정말 재미있었습니다. 

러브레이스는 주석에 이렇게 썼다고 합니다.

 

"해석 기관은 어떤 것을 독창적으로 만들어낼 수 있다고 자처하지 않는다. 다만 우리가 그렇게 하도록 명령할 방법을 아는 그 어떤 일이든 수행할 수 있다."

 

이 말은 후대에 걸쳐서도 영향을 미쳤는데, 현재의 인공지능은 이 말이 틀렸다는 것을 입증하고 있다고 합니다. 자세한 내용은 책을 통해 살펴보면 정말 재밌게 공감하며 볼 수 있을 것 같습니다.

 

 

실리콘 벨리의 일화 "40가지의 조금씩 다른 파란색"과 같은 재미있는 내용을 이용해서 인공지능 추천 시스템과 제어 시스템 등을 설명하는 부분도 정말 재밌습니다. 우리의 삶이 현재와 같이 만들어진 부분을 이런 방식으로 설명할 수 있다는 것이 놀랍습니다. 모든 내용의 기반은 인문학과 철학이 깔려있습니다. 단순히 기술만 배웠다면 이런 식으로 해석하기는 정말 어려울 것이라고 생각합니다.

 

 

이 책을 모두 읽는데 상당한 시간이 걸렸고 다시 한 번 읽고 있습니다.

가능하면 모든 내용을 이해하고 싶어지는 오랜만에 정말 심오하고 재밌는 철학 책이자 인문학 그리고 기술 서적이었습니다. 개발자가 아닌 사람들은 읽는데 어려움이 많이 있을 것이라고 생각합니다만 미래에 인공지능 사회를 살아가는 우리 모두가 꼭 읽었으면 하는 책이라 생각되어 강력히 추천합니다.

 

끝.

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

한빛미디어의 "기계의 반칙"은 현대 인공지능과 미래의 발전에 대한 AI 석학의 탐구를 담은 도서로, 다양한 관점에서 지능과 기술의 발전을 다루고 있습니다.

이 도서는 현대 인공지능의 핵심적인 주제들을 체계적으로 다루면서도, 독자들에게 폭넓은 시야를 제공합니다. 각 장마다 다양한 주제를 다루면서도 통일된 주제에 대한 연결성을 강조하며, 기술의 한계와 도전, 미래에 대한 예측 등을 다루어 현대 사회에 미치는 인공지능의 영향에 대한 통찰을 제공합니다.

 

 

IMG_9895.JPG

 

다음은 각 장의 내용과 특징에 대한 서평입니다.

 

1장. 지능의 탐구

도서의 첫 장에서는 지능의 다양한 측면을 탐구한다. 기대치 관리, 지능 정의, 규칙에 따른 세계, 생존 기법의 깜짝 주머니, 외계 지능, 코페르니쿠스적 전환 등의 주제를 다뤄 독자들에게 지능에 대한 깊은 이해를 제공한다.

2장. 치트키

여기에선 현대 인공지능의 '치트키'를 밝혀낸다. 언어 전문가 해고부터 시작해 고전적 인공지능, 주기 순환의 역사, 패러다임 전환, 그리고 바프닉의 법칙과 새로운 사고방식에 이르기까지, 독자들은 현대 인공지능의 핵심을 파악할 수 있다.

 

 

3장. 세계의 질서를 찾아서

세 번째 장에서는 지능, 패턴, 그리고 질서 있는 세계의 연결성에 대한 심오한 토론이 이어진다. 지능의 한계와 패턴에 대한 인지 편향, 기계의 능력, 인간의 피조물에 대한 깊은 고찰이 펼쳐진다.

4장. 러브레이스는 틀렸다

네 번째 장에서는 러브레이스의 오류와 백작부인, 기계의 이야기를 통해 학습하는 기계와 초인간적인 존재에 대한 아이디어를 제시한다. 알파고와 창조자를 능가하는 피조물의 미래에 대한 전망이 독자들을 매료시킨다.

5장. 의도를 벗어난 행동

다섯 번째 장에서는 의도를 벗어난 행동과 그로 인한 위험에 대한 이야기를 다룬다. 원숭이 발과 관련된 에피소드와 규제, 민감한 정보 유출에 대한 현실적인 문제들이 다루어져, 독자들에게 현대 인공지능의 도전과 과제에 대한 이해를 제공한다.

6장. 마이크로타기팅과 대중 설득

 

여섯 번째 장에서는 마이크로타기팅과 대중 설득에 대한 이야기를 풀어낸다. 함부르크에서의 일상과 로제타 스톤 방식을 통해 인간의 자율성과 완전한 원을 탐구한다.

 

 

7장. 피드백 루프

 

일곱 번째 장에서는 최초로 대중화된 에이전트와 피드백 루프의 역할에 대한 심도 있는 논의가 전개된다. 개인화된 요약과 추천 에이전트, 행동경제학과의 연계 등을 통해 독자들은 인공지능이 현대 사회에 미치는 영향을 심도 있게 이해할 수 있다.

8장. 결함

여덟 번째 장에서는 결함에 대한 이야기를 전한다. 설득 게임과 하인 또는 조종자에 대한 고민, 밤잠 설치게 하는 걱정거리 등이 다뤄져 독자들에게 현대 기술의 한계와 도전에 대한 인식을 증폭시킨다.

9장. 소셜 머신

아홉 번째 장에서는 초능력 게임과 소셜 머신의 도입에 대한 이야기를 전한다. 목적이 있는 게임과 소셜 머신의 다양한 측면, 그리고 평판 관리 시스템과 알고리즘형 규제에 대한 고찰이 독자들에게 제시된다.

 

 

10장. 금지가 아닌 규제

마지막 장에서는 금지가 아닌 규제에 대한 독특한 시각을 제시한다. 전원코드를 뽑을 수 있는 미래, 매체와 게이트키퍼, 지능형 기계와의 동거, 그리고 금지가 아닌 규제에 대한 전망을 다루어 독자들에게 기술과 사회의 교차로에서의 미래를 생각케 한다.

 

지루하지 않고 흥미로운 내용으로 독자들을 끌어들이면서, 동시에 철저한 연구를 토대로 신뢰성 있는 정보를 전달한다. "기계의 반칙"은 기계와 이를 제작하는 인간과의 관계와 인공지능과 미래의 결합에 대한 안내서로 느껴졌습니다. 인공 지능에 대한 오해를 벗어나 앞으로 우리의 삶에 지대한 영향을 줄 인공 지능이 어떻게 생성되고 사용될 수 있을지에 대해 의미 있는 그리고 근거 있는 내용을 제시합니다.

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

기계의 반칙

 

 "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

그래서 최대한 책을 펼쳐놓은 형태로 리뷰를 하고자 합니다. 보시고, 관심이 있으시면 선택해서 보시면 될것 같습니다. ^^

 

1. 다루는 내용 

현대 인공지능 기계의 특성, 문제 그리고 이를 해결할 방법에 대한 아이디어를 매우 심도 있는 논의와 함께 제시한다. 

인공지능의 기초 개념과 인공 지능이 어떻게 사회를 바꾸고 있는지 설명한다.

인공지능을 쉽고 자세하게 설명하며, 최근 격동의 시기에 일어난 여러 사건을 연결하고 이해할 수 있는 새로운 서사를 부여하고, 앞으로 우리가 나아갈 길을 냉철하게 판단할 수 있도록 도와준다. 

 

2. 대상 독자 

인공지능에 관심을 가진 학생, 인공지능에 대한 규제를 연구하는 정책전문가 및 학자. 

인공지능 분야에서 일하는 전문가, 인공지능에 대한 막연한 공포감이 있는 사람.

인공지능에 대한 막연한 낙관을 가진 사람 

 

3. 책의 구성

1장 지능의 탐구

2장 치트키

3장 세계의 질서를 찾아서 

4장 러브레이스는 틀렸다

5장 의도를 벗어난 행동 

6장 마이크로타기팅과 대중 설득 

7장 피드백 루프

8장 결함

9장 소셜 머신 

10장 금지가 아닌 규제

 

4. 소감

이 책에서는 지능을 인간 중심적인 것이 아닌 객관적인 것으로 판단해 보려고 한다.

이론적 모델을 데이터에서 발견한 패턴으로 대체하는 것이 첫번 째 치트키라고 이야기 하고 있고 

두 번째 치트키는 아마존에서 어떤 책들이 서로 유사한지 발견하기 위해 판매 데이터 세트의 용도를 재정의할 때 사용했던 방법이고

세 번째 치트키는 사용자의 행동을 관찰하고 그로부터 의도와 선호도를 추론하는 방식이라고 한다.   

이 책을 보면 개인화된 뉴스 피드를 보여주는 추천시스템을 통한 피드백 루프가 과연 사용자들에게 장기간 노출되었을때 어떻게 되는지에 대해서도 생각해볼 필요가 있는 것 같다. 

초인간적 수준의 성능까지 발휘하는 지능형 에이전트를 만들어냈지만 인간에게 알려지지 않은 자신의 환경적 속성을 이용하여 우리 삶의 민감한 부분에 예상치 못한 일이 일어날 수 있음을 인지해야 할 것 같다. 

인간이 만들어낸 소셜 머신의 경우에 그 소셜 머신이 이루고자 하는 목표와 사람이 그 소셜 머신을 사용하는 이유가 다르지만 소셜 머신이 의도하는대로 사람이 제어될 수 있으며, 그 제어를 사람이 바꿀 방법이 없을 수도 있음에 대해서도 이야기 하고 있다. 

인공지능이 없는 세상으로 돌아가는 건 현실적으로 불가능한 만큼, 인공지능과 함께 안전하게 살아갈 방법을 찾아야 한다는 이야기도 하고 있다. 

인공지능에 대한 원리와 동작방식, 우리가 어떻게 대처해야 하는지에 대한 각 장마다의 예시와 방법들을 통해 생각해보게 하고 있다. 인공지능 시대에, 어차피 바뀔 수 없는 시대의 흐름이라면 따라가면서 내가 어떻게 그것을 사용할지를 생각하고 행동해야 하지 않을까? 라는 생각을 하게 하는 책인 것 같다. 

인공지능에 대해 어떻게 생각하고 선택하고 살아가야 할지를 고민하는데 도움이 되는 책인 것 같다. 

 

 

 

 

KakaoTalk_20231225_220759650.jpg

 

KakaoTalk_20231225_220759650_01.jpg

 

이번에 리뷰할 서적은 한빛미디어에서 출판된 "기계의 반칙" 입니다.

책 표지에는 "위대한AI 석학이 해설하는 인공지능에 대한 오해와 진실"라고 이야기하고 있는 이 도서는 인공지능 시대에 살고 있는 현대인들에게

지능형기계와 공존하기 위한 내용을 담고 있습니다.

 

도서는 256 페이지를 할애하여, 인공지능의 기초 개념과 인공지능이 어떻게 사회를 바꾸고 있는지 설명하고 있습니다.

 

아래는 각 장의 주요 내용을 간략하게 정리한 것입니다:

 

1장. 지능의 탐구

 

이 장에서는 지능의 본질을 탐구하며, 기대치 관리, 지능의 정의, 규칙에 따르는 세계, 생존 기법 등 다양한 주제를 다룹니다. 

저자는 독자들에게 지능에 대한 기대와 현실 간의 괴리를 관리하라고 권고하며, 외계 지능과 코페르니쿠스적 전환에 대한 흥미로운 이야기를 전합니다.

 

2장. 치트키

 

언어전문가를 해고하는 과감한 주장으로 시작하여 고전적 인공지능부터 주기 순환과 패러다임 전환까지를 살펴봅니다. 

인공지능 역사의 세 가지 "치트키"를 제시하며, 바프닉의 법칙과 새로운 사고방식, 새로운 레시피 등을 소개합니다. 

이 장은 현존하는 기술에 대한 독자들의 관점을 혁신적으로 변화시킬 수 있는 내용을 담고 있습니다.

 

3장. 세계의 질서를 찾아서

 

세계의 질서와 지능, 패턴에 대한 고찰로 시작하여 지식의 한계, 패턴과 인지 편향, 기계와 인간의 상호작용에 대한 이해를 높입니다. 

어떻게 기계가 세계를 이해하고, 인간과 기계 간의 피조물적 이해를 추구하는지에 대한 질문을 다루며, 독자들에게 인공지능의 한계를 깨닫게 합니다.

 

4장. 러브레이스는 틀렸다

 

백작부인과 기계의 이야기를 통해 학습하는 기계, 초인간적 존재인 알파고, 그리고 창조자를 능가하는 피조물에 대한 새로운 시각을 제시합니다. 

주석 G에서 37번째 수까지의 이야기는 기계 학습의 본질과 윤리적 고민에 독자들을 몰입시킵니다.

 

5장. 의도를 벗어난 행동

 

원숭이 발과 관련하여 개별 위험 평가, 규제 영역과 보호, 민감한 정보 유출 등의 문제에 대한 사례를 제시합니다. 

현실에서 발생한 편향과 오인에 대한 경고를 통해 인간의 의도와 기계의 행동 간의 갈등을 다루며, 원숭이 발의 개념을 재고합니다.

 

6장. 마이크로타기팅과 대중 설득

 

함부르크에서의 경험을 통해 마이크로타기팅과 대중 설득에 대한 실제 사례를 제시하며, 인간의 자율성에 대한 미래적인 고찰을 펼칩니다. 

완전한 원을 향해 나아가는 길과 그에 따른 도전에 대한 통찰을 제공합니다.

 

7장. 피드백 루프

 

최초로 대중화된 에이전트와 그에 따른 피드백 루프의 중요성을 강조합니다. 

개인화된 추천 에이전트의 역할, 행동경제학의 영향, 제어 시스템으로서의 추천 에이전트의 이점 등을 다루면서, 미래의 기술이 어떻게 우리의 선택에 영향을 미칠지에 대해 고찰합니다.

 

8장. 결함

 

이 장은 결함에 관한 다양한 이야기를 통해 설득 게임, 하인과 조종자의 역할, 그리고 인공지능 사용에 따른 걱정거리를 다룹니다. 

기술적 결함과 윤리적 결함을 함께 살펴보며, 인간과 기계 간의 상호작용에서 발생하는 미묘한 교착 상태를 다룹니다.

 

9장. 소셜 머신

 

초능력 게임, 목적이 있는 게임, 소셜 머신에 대한 내용을 다루며, 자율적 소셜 머신과 목표 중심 소셜 머신의 특징을 비교하고 있습니다. 

소셜 머신으로서의 추천 시스템과 평판 관리 시스템이 어떻게 우리의 의사결정에 영향을 미치는지에 대한 이야기를 풀어냅니다.

 

10장. 금지가 아닌 규제

 

전원코드를 뽑을 수 있는가, 대융합, 매체와 게이트키퍼, 지능형 기계와의 공존에 대한 규제에 대한 고민을 다룹니다. 

금지가 아닌 규제의 중요성과 미래 기술의 발전에 대응하는 방향을 탐구합니다.

 

 

인공지능의 시대에 살고 있는 우리에게 기존에는 인공지능하면 기억나는 몇가지 사건들로 인해 우리에게는 아직은 체험하지 못했던 어떠한 영역에서의 최신 기술로 여겨졌지만, 

2023년 등장한 ChapGPT로 인하여 우리가 이제는 흔하게 접하고, 인공지능 AI를 현 생활에 활용하여 새로운 경험을 할 수 있게 변화된 시점에서 이 서적은 인공지능의 기계적인

개념과 소프트웨어적인 개념에 대해 잘 설명해주고 있고 여러 에피소드를 통해서 우리에게 인공지능의 시대에 어떻게 살아가야 하는지를 제시 해주고 있습니다.

이책을 통해서 인공지능의 작동원리와 그것을 통해 무엇을 해야 하는지 알고 싶은 독자에게 큰 도움이 되리라 생각됩니다.

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

> 진행에 앞서

2차 산업혁명이 시작된 이래로 기계는 사람과의 관계를 뗄레야 뗄 수 없는 존재가 되어가고 있다.

어느순간부터 그 움직임이 정형화되었다고 느꼈으나, 그 형태가 조금씩 다른 부분으로 변화되고 있다.

기계가 진화하고 있다는 표현이 맞는 것 같다.

당연히 기계는 가장 기계답게 만들어야겠다는 생각을 했을 때가 있었겠지만,

언제부터인지, 인간은 기계를 가장 사람답게 사람과 유사하게 만들어야겠다는 생각을 하기 시작한 것 같다.


그런 기계의 움직임에 큰 방향을 제시한 것이 AI이다.

현재는 그런 AI를 product화 하여 이미 실생활에 녹아들게 사용하는 사례도 많다.

이미지 자동생성에 쉽게 사용되는 Stable Diffusion.

원하는 답을 자연어로 쉽게 물어볼 수 있는 ChatGPT 등이 그러하다.

 

> 책에 대한 간단한 정보

이 책은 기계의 반칙이라는 책이다.

원제는 어떤 것일까 궁금해서 살펴보니 THE SHORTCUT이다.


이 책에서 정확한 의미를 찾을 수 는 없었지만, AI를 기계의 미래로 향해 가는 지름길의 의미로 사용하지 않았나 싶다.

기계가 linear하게 변화해야 하는 것을 단번에 큰 걸음을 걷는 데 AI를 사용했다고 생각한다.

 

> 인상깊은 부분들

들어가며

머릿말에 저자가 언급한 기계의 발전이 놀랍다.

처음 기계에 질문을 입력하고 답을 도출하는 과정에서는 전혀 사람의 도움이 없이는 그저 고철덩어리에 불과한 수준이었다.

물론 사람의 도움을 주면 딱 그만큼만 똑똑해질 수 있는 것이다.


하지만, 현재는 많은 사람들이 이용하는 '시리'라는 AI를 통해 쉽게 어떠한 질문이든 던지면, 그것은 현재 시점에서 최선의 답변을 제공한다.

이런 놀라움으로 이 책은 시작하고 있다.


언어를 받아들이는 부분

인공지능은 언어를 받아들이는 데 있어서 놀랍다.

정형화된 주어+동사+목적어로 정확한 단어의 나열이 아니어도 받아들이게 된다.

비문의 경우는 당연히 스킵할 수 있다는 것이다.

이런 것도 현재는 ChatGPT로 충분히 커버 가능하다는 것을 알 수 있는 현재이 되었다.


원숭이 발

영국 작가 윌리엄 위마크 제이콥스의 아주 짧은 소설인 '원숭이 발'의 앞부분이다.

전체 이야기를 인용하지는 않았지만, 200파운드를 얻게되는 과정을 보면서 기계는 목표 자체에 무서울만큼 정직하다는 점을 상기하게 된다. 목표를 이룰수만 있다면, 그 사이에 다른 더 큰 가치가 사라진다 하더라도 그것을 중요하게 인지하고 피하려 하지 않는다는 점이 중요하다. 사람이라면 할 수 없는 선택이겠지만, 기계는 그럴 수 있기에 위험하다는 것이다.


AI를 발전시킨 구글의 이야기

초능력 게임은 신선했다.

같은 이미지를 보고 다른 두 사람이 어떤 것을 상상하게 되는지 무작위로 데이터를 수집하는 좋은 방법이다.

여기에 나온 것은 아니지만 이것과 비슷한 이야기로는 구글의 캡챠 서비스 이야기가 생각났다.

어떤 이미지에 대한 학습을 하고 그것을 판단하기 위해 사람들의 집단지성을 로그인서비스와 연계에서 사용한다는 점이다.

이런 것들로 AI를 학습하기도 하지만, 다른 서비스(게임, 인증 등)와 연계에서 사용한다는 점에서 구글은 참 놀랍다는 생각이 들었다.


전원코드 뽑기

문제가 되는 것이 발견되었다면, 그 근처에 있는 사람이 전원코드를 뽑으면 된다.

그런데 그것을 과연 할 수 있을까.

왜냐면 그것을 뽑는다면, 그것으로 인해 편리해진 다른 좋은것들도 같이 끊어내야 하기 때문이다.

 

인간은 갈수록 기계에 의존적이 되어가고 있고, 그것이 설령 잘못되었다는 것을 인지하였다 하더라도 그것을 되돌리기에는 매우 어려운 결정과 행동이 필요하다. 이 내용이 이 책의 거의 마지막 부분에 위치한다.

과연 기계는 이렇게 빠르게 발전해 가는 반칙(혹은 Shortcut)이 있는게 좋은 것일까. 생각해보게 한다.


뒷표지

인공지능에 대해 고찰을 하게 하는 책인만큼 그에 대한 추천사가 전부이다. 깔끔하다.

그리고 가격은 요즘 식사 한끼만 아끼면 살 수 있는 수준이다. 부담이 없다.


> 괜찮은 부분

1. 인공지능에 대해 깊게 생각할 수 있는 단초를 제공한다.

우리가 무분별하게 받아들이는 가치는 여러 종류가 있는데 기술발전은 대표적인 그런 가치 중 하나이다.

왜냐면 기술 자체는 가치 중립적인 부분이 크다고 생각되는 영역이기 때문에, 발전하면 할수록 여러 방면으로 활용하기에 좋다고 여겨지기 때문이다. 하지만, 이것이 단지 기술로만 남겨두는 것이 아니라 인간의 영역에 적용해야하는 부분인만큼, 그 영향력을 무시할 수는 없고, 인공지능은 그 속도를 인간이 제어하기 힘들정도로 빠르기 때문에 지금은 어떠한 가치를 지니고 있는 것인지 충분히 고민해야하는 시점이라고 생각한다. 그런 지점을 제공하는 책이라고 생각한다.


2. 중요한 생각의 지점에서는 예화나 생각의 실마리를 제공한다.

이 책에는 수많은 인물과 사건에 대한 인용이 있다. 그렇기 때문에 각각을 생각하다보면 한 페이지 넘기기가 쉽지는 않다. 그래서 환기시키는 용도로 몇가지 예화들을 소개하고 있다. 그래서 흥미를 유발하고 있는데 이런 방법은 이 책의 윤활유 역할을 한다고 생각한다.


 

> 아쉬운 부분

1. 얇고 짧은 책이지만 쉽게만 읽혀지지는 않는다.

어려운 책이라고 느껴질 수 있기 때문에 이 부분이 어떻게 보면 장점이 될 수도, 단점이 될 수도 있다. 하지만 이것을 굳이 아쉬운점에 꼽은 이유는 이 책의 분량만보고 쉽게 접근한다면 한페이지를 넘기는데 어려움을 느껴서 책을 놓게 만들 수도 있기 때문이다. 내가 그 편에 속했던 것 같다. 핸드북처럼 들고다니면 쉽게 보겠다고 생각했으나 생각할 수 있는 시간이 충분히 필요했고, 그래서 틈틈히 읽는 것에는 실패했다.충분한 시간적, 지식적인 여유를 가지고 본다면 해결될 부분이기는 하다.(좀 더 쉽게 쓰여졌다면 하는 생각의 아쉬움이다.)


 

> 추천 독자

AI에 관심이 있는 모든 사람

AI를 조금이라도 활용하는 모든 사람

개발자

 

> 개인적인 평점

- 가격: 9 / 10

- 내용: 8 / 10

- 디자인: 8 / 10

- 구성: 7 / 10

 

> 정보

저자: 넬로 크리스티아니니

옮긴이: 김정민

출판사: 한빛미디어

가격: 17,500원

전체 페이지: 256페이지

 

** 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

'기계의 반칙'은 AI 석학인 넬로 크리스티아니니가 쓴 인공지능에 대한 전반적인 이야기를 다룬 책입니다. AI 석학이 집필해서인지 내용이 풍부하고 생각할 거리가 많아 책을 모두 읽고 난 후에 다양한 생각을 하였습니다. 인공지능가 도대체 무엇인지, 인공지능은 어떻게 발전해 왔는지, 그리고 우리는 어떻게 대비를 해야할 수 있을지 알고 싶다면 '기계의 반역'을 추천합니다. '기계의 반칙'의 저자인 넬로 크리스티아니니는 20년 이상 머신러닝 및 인공지능 분야를 연구한 영국 바스대학교 인공지능 학과 교수입니다. 영국과 유럽에서 주로 연구해서인지 이번에 책을 읽으면서 처음 알았던 분이지만 검색해 보니 인공지능 분야에서는 유명한 분 같습니다. 넬로 크리스티아니니는 2017년 인공지능의 사회적 영향을 주제로 강의하였고 현재도 연구하고 있다고 합니다. 그래서인지 '기계의 반칙'에서 깊이 있는 이야기를 다룰 수 있었던 것 같습니다. '기계의 반칙'은 인공지능에 대해 포괄적인 내용을 다루고 있습니다. 인공지능이 인간에게 미치는 영향을 깊게 다루면서 인공지능의 역사부터 개념, 컴퓨터의 전반적인 역사와 인공지능이 발전하던 당시의 역사적 상황까지 모두 다루고 있어 인공지능에 대해 깊이 이해하고 싶은 사람들에게 많은 도움이 될 것 같습니다. 인공지능을 나름대로 공부했다고 생각했지만 '기계의 반칙'을 읽으면서 처음 알았던 사실들이 많았습니다. 인공지능의 개념이 언제 시작되었고 어떻게 발전했는지 다양한 에피소드와 함께 다루고 있어서 매우 흥미로웠습니다. 가장 흥미로웠던 것은 인간의 관점으로 인공지능을 보아서는 안된다는 점이었습니다. 많은 사람들과 학자들이 지능의 개념을 인간의 관점으로 파악하고 있기에 파생되는 오류를 지적하면서 지능의 개념부터 정의합니다. 특히 인상 깊었던 부분은 개미탑 아줌마에 대한 이야기였습니다. 동화책의 내용을 인용하여 인공지능의 개념을 개미탑 아줌마에 비유하여 인공지능과 인간의 관계를 묘사하였습니다. 이 점은 평소에 생각했던 인공지능에 대한 생각과 비슷하여 흥미진진하게 읽을 수 있었습니다. '기계의 반칙'에서 관심 있게 다루는 인공지능 분야는 추천시스템입니다. 추천시스템을 이용하여 점차 개인화된 마케팅 기법이 발전되고 있는 현실 속에서 인간은 이에 어떻게 대처해야 할지 고민할 수 있었습니다. 이런 현실을 알고 있는 사람과 모르는 사람은 분명히 삶에 큰 영향을 미치는 인공지능에 다르게 반응하고 삶 또한 다르게 진행될 것입니다. 저자는 인공지능을 무조건 금지하거나 두려워하지 말고, 어떻게 하면 현명하게 규제하고 공존하며 살아갈 것인가를 다루며 '기계의 반칙'을 마무리합니다. '기계의 반칙'은 매 장마다 해당 장의 내용을 요약해 줍니다. 읽었어도 이해가 잘 안 되는 부분은 요약된 부분을 읽으면서 다시 어떤 내용이었는지 상기할 수 있어서 좋았습니다. 또한 인공지능과 컴퓨터, 마케팅 등 다양한 분야의 에피소드와 비유가 많았던 점이 좋았습니다. 역사적인 사실을 나열했다면 와닿지 않았을 부분을 상세한 표현으로 그 당시에 있었던 일을 파악할 수 있어서 각 에피소드가 기억에 오래 남았고, 어려운 개념은 동화로 비유하여 의미를 파악하는데 도움이 되었습니다. '기계의 반칙'에서 가장 아쉬웠던 것은 번역입니다. 번역이 매끄럽지 않아 처음부터 잘 읽히지 않았습니다. 억지로 읽으려고 노력했지만 책을 읽을수록 직역한 부분이 많이 보아 힘들었습니다. 그래서 책을 읽는 내내 문장 하나하나를 뜯어가면서 무슨 의미인지 고민해야 했습니다. 결국 전체적인 의미는 이해했지만 번역으로 인해 놓친 부분이 많은 것 같아 아쉬움이 많이 남습니다. 나중에 시간이 될 때 원서로 꼭 읽어보고 싶습니다. 또 하나 아쉬운 것은 그림이나 사진 등과 같은 자료가 없었다는 점입니다. 아마 원서에서 그림이나 사진이 포함되어 있지 않았기에 번역본에도 동일하게 구성하였겠지만, 그림이나 사진으로 글의 내용을 보완할 수 있었다면 훨씬 이해하기 쉽지 않았을까 싶습니다. 위와 같은 몇 가지 아쉬운 점이 있지만 내용이 매우 알차고 심도 깊은 이야기가 많아서 '기계의 반칙'은 옆에 두고 여러 번 읽기에 좋은 책입니다. 인공지능에 대해 폭넓게 이해하고 싶은 사람이라면 '기계의 반칙'을 추천합니다.

AI의 시대.  어딜가도, 어떤 곳에서도 이젠 모두 AI를 논하는 시대.

이 시대에 걸맞는 책이 아닌가 싶다.

 

인간처럼 사고하고 인간처럼 움직이는 기계

하지만, 인간이 할 수 있는 한계를 뛰어넘는

인공지능 기계를 인간이 잘 제어해야

인간들에게 도움이 될수 있는

인간이 기계를 이용하면서 생기는 

딜레마에 대해 생각해 볼 수 있는 좋은 기회를 제공한다.

 

 

기계의반칙.jpg

 

지능, 인공 지능, 기계

기초 개념부터 하나 하나 짚어보면서

기계의 특성과 기계와 함께 하며 생길 수 있는 문제들도 알아보고

이를 해결하기 위한 다양한 아이디어들을 제시한다.

 

자극에 대한 반응, 무의식적인 반사, 학습된 반응

계산된 행동, 경험으로 생긴 변화가 가능해지는

기계의 지능.  새로운 시대에, 새로운 환경에서

다양하게 생길 수 있는 이슈들

 

AI와 함께 살아가는 세상에서

간과할 수 없는 것들을

남용되지 않도록 규칙을 정하고 

관리해야 하는 필요와 이해를 높이는 시간이었다.

 

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

 

 

 

KakaoTalk_20231225_210442467.jpg

 

이번에는 AI 관련 에세이 책을 받아봤다. 지능형 에이전트에 대해서 먼저 정의내리고 역사를 기반으로 어떤 필요에 의해 기술이 발전되었고 어떤 기술들이 인공지능을 발전시켰는지가 적혀있다. 결론적으로 저자는 오늘날 발전된 이 강력한 인공지능을 위해서, 컴퓨터과학자 만의 노력으로는 불가능 하다는 것과 각종 사회, 인문, 과학 분야와 같이 협의되어야 안전하게 발전할 수 있음을 말하고 있는 것 같다.

 

그냥 썰풀이라고 생각하고 읽다보면 그럭저럭 읽을만 했다. 

 

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

	

 

KakaoTalk_20231225_182501415.jpg

 

KakaoTalk_20231225_182501415_01.jpg

 

 

 

 

"기계의 반칙"은 넬로 크리스티아니니 에 의해 쓰인 책으로, 인간과 인공지능의 상호작용, 도덕적 고민, 그리고 미래

기술에 대한 이야기를 담고 있습니다.


주요 내용

 

책은 10개의 장으로 구성되어 있으며, 각 장에서는 인공지능에 관련된 중요한 문제를 다루고 있습니다.

이를 통해 독자들은 인공지능의 핵심 개념을 쉽게 이해하고, 사회적 영향에 대한 깊은 고민을 할 수 있습니다.

 

책에서는 "인간 작업자가 원칙을 이해하지 못한다면, 데이터에서 의미 없는 관계성의 환상을 보는 기계가 나올 수도 있다"는

문제를 제기하며, 기계와 인간 간의 상호작용에서의 도덕적인 고민을 다룹니다.

저자는 애매한 단어나 불필요한 추상적 표현을 최소화하여 책을 구성했습니다. 또한,

"언어 전문가를 해고할 때마다 시스템 성능이 향상되었다"라는 예시를 통해, 기계가 인간의

규칙보다는 자체 규칙으로 학습하는 효과를 강조하고 있습니다.


책의 서두에서부터 "지능"에 대한 인간을 벗어나지 못하는 테두리를 경고하며,

현대 사회에서 인공지능이 가지는 중요한 의미와 도전에 대한 내용을 다룹니다.

"인공지능은 '인간과 달라짐'으로써 발전했지만, 이제 인간은 '인간이 이해할 수 없는'

인공지능을 통제해야하는 어려운 과제를 부여받게 되었다"는 주장은 특히 강조할 만합니다.


결론


"기계의 반칙"은 독자들에게 쉽게 다가가는 언어로 쓰여져 있으면서도,

깊은 사유와 고민을 전하는 책으로 평가받고 있습니다. 이 책을 통해 독자들은 기술의 발전과 도덕적 고민,

그리고 미래 사회에 대한 생각을 할 수 있게 되며, 인공지능의 역설적인 세계에 대한 흥미로운 여정을 떠날 것입니다.

 

 

인공지능의 기초 개념과 인공지능이 어떻게 사회를 바꾸고 있는지를 가능한 쉽고 자세하게 설명하며, 앞으로 우리가 나아갈 길을 냉철하게 판단할 수 있도록 도와준다.

각 10개의 장으로 구성되어 인공지능에 중요한 문제를 하나씩 파고들어간다.

 

 

최근 머신러닝, 딥러닝 등 인공지능 관련 서적이 많이 나오고 있는데 따라하기만 하면 된다! 라는 식의 책의 제목도 많이 보인다.

그런데 여기서 치명적인 문제점을 이 책에서 볼 수 있다.

"인간 작업자가 원칙을 이해하지 못한다면, 여전히 데이터에서 의미 없는 관계성의 환상을 보는 기계가 나올 수도 있다."

또한 "인간은 본능적으로 세상에서 패턴을 찾으려는 경향이 있기 때문이다."

스스로가 이해하지 못한 상태에서 예측하는 것에 위험성과 인간이 가진 패턴을 찾으려는 경향이 장점과 동시에 단점이 되는 사례를 보여준다.

 

 

책 저자는 애매한 단어나 불필요한 추상적 표현은 되도록 사용하지 않도록 했다.

 

오랫만에 정말 많은 생각을 하게 만든 책 있었습니다.

그리고 읽기에 쉬운 책도 아니었습니다.

밑줄 그어가며 일주일 넘게 제 머리를 아프게(?) 했던 책 이었습니다.

바로 이 책!

기계의 반칙입니다.

 

z.jpg

 

최근 너무나도 많은 인공지능, 머신러닝 관련 책들이 나왔고

저 역시 나름 많은 책을 봤는데요.

머신러닝에 대한 기술서적 그리고 chatGPT, bard 등

나날이 새롭게 발전되는 기술에 대한 내용이거나

이를 활용하기 위한 방법에 대한 책들이었습니다.

하지만 기계의 반칙은 다릅니다.

기계의 반칙에서는 좀 더 근본적인 이야기를 하고 있습니다.

이 책은 총 10개의 장으로 이루어져 있습니다.

--------------------------------------------------------------------

 

1장은 지능의 탐구에 대한 역사적 고찰을 통해 인공지능의 개념과 목표를 설명합니다.

2장은 인공지능의 발전을 이끌어온 주요 기술들을 소개하고

3장은 인공지능의 발전이 초래한 윤리적 딜레마들을 살펴봅니다.

4장부터 9장까지는 인공지능이 다양한 분야에서 어떻게 활용되고 있는지, 그리고 그 과정에서 발생한 문제점들을 구체적으로 다룹니다.

10장은 인공지능과 안전하게 공존하기 위한 방법들을 제시합니다.

 

bard AI

--------------------------------------------------------------------

 

1~9장 까지의 내용은 이미 신문에서 또는 다른 책에서 어느정도 접할 수 있는 내용이었습니다.

우리가 이 책을 읽어야 하는 이유는 바로 마지막 10장에 있다고 생각합니다.

"금지가 아닌 규제"

솔직히 지능형 에이전트를 두려워하지 않고 인간을 위해 잘 통제하기 위해서,

 

인간의 이해력을 앞지를 가능성에 대처하는 방법으로

y.jpg

이 방법이 최선의 답이라고 생각해왔는데

이미 전 미국 대통령 버락 오바마가 말씀을 하셨더라구요.

시간이 지날 수록 AI 기술은 더욱 더 발전할 것입니다.

우리 생활에 없어서는 안되는 그런 기술이 되어

우리의 생활 모든 분야에 스며들게 될 것입니다.

그렇기 때문에 AI를 안전하게 사용하기 위한 방법에 대해 진지한 논의 과정이 있어야 합니다.

저자는 "이에 대한 해결책은 이것입니다." 라고 답을 내려주지는 않습니다.

하지만 무조건 무서워하며 달리는 기차를 세우기 위해 전전긍긍 하지 말고

그렇다고 브레이크가 고장난 폭주하는 기차처럼 만들어서는 안된다고 이야기 합니다.

 

x.jpg

 

지능형 기계의 역할과 관련한 모든 미래의 결정을 판단하는 기준은 바로 "인간의 존엄성"이라는 것입니다.

저자의 위트로 재미있게 읽었지만

한편으로는 참 쉽기 읽을 수 없는 책 이었습니다.

하지만 발전하는 과학기술, 특히 AI의 사회적, 윤리적 측면에 대해 진지하게 고민하게 만드는 책이었습니다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

 

기계의 반칙 

위대한 AI 석학이 해설하는 인공지능에 대한 오해와 진실 

20231220_기계의 반칙.jpg

 


 

넬로크리스티아니니 /김정민  한빛미디어 

 

포켓북으로 심플하게 구성되고

격동의 인공지능 시대,
지능형 기계와 공존하기 위한 실용적 조언

저자 넬로 크리스티아니니는
25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작해, 주요 사건 사례들을 바탕으로 인공지능의 성장 과정을 살펴보고, 인간의문화와 사회에 미치는 영향까지 조망한다.

특히 현재 인간의 삶과 인프라에 (치트키를 써서) 빠르고 깊게 침투 중인 지능형 기계의 무분별한 활용이 초래하는 의도치 않은 결과들을 객관적 시선으로 바라보며강력하게 경고한다.

나아가 인간은 어떤 부분을 어떤 이유로 경계해야 하는지, 인공지능과안전하게 공존하려면 지금부터 무엇을 해야 할지에 관한 다양한 아이디어를 제시한다.

 

AI 시대 생존 전략: 우리는앞으로 어디로 나아가야 하는가?

이 답을 찾기위한 모든 분들께 좋은 통찰력을 주지 않을까?

일독을 권한다.


 인공지능에 관심이 있는 학생
 인공지능 분야에서 일하는 전문가
 인공지능에 대한 규제를 연구하는 정책전문가 및 학자
 인공지능에 대해 막연하게 낙관하는 사람 또는 불확실한 공포를 느끼는 사람

 

금지가 아닌 규제

 

2016년 인공지능이 인간의 이해를 뛰어넘을 위험과 관련한 오바마전 미국대통령의 농담이었던 그저 전원코드 근처에 누군가를 두기만 하면 됩니다라는 표현은 재미있기도 하지만, 한편으로는 다음과같은 여러 이유로 복잡한 심경을 불러일으켰다.

첫 번째는 인공지능이 이미 없어서는 안되는 도구가 된 만큼 현실적으로 인공지능 사용을 중단할 수가 없다는 사실이며, 이것이 바로 우리가다양한 형태로 사용되는 지능형 에이전트들과 함께 안전하게 살아가는 방법을 배워야 하는 이유이기도 하다.

두 번째는 이 농담이 지능형 에이전트가어떤 선을 넘는 것을 확인했을 때 인간이 결정할 수 있는 부분이 있다는 생각을 내포하지만, 실제로는그렇게 쉬운 일이 아닐 거라는 점이다.

우리가 잘못된 지점에서 지능을 찾고 있었을 수도 있기 때문이다. 인공지능은지각 있는 로봇의 형태가 아닌, 인간을 위해, 인간에 관하여, 인간이 진정으로 이해할 수 없는 기준으로 중요한 결정을 내리는 소셜 머신과 같은 학습하는 인프라의 형태로 등장한다. 이러한 인공지능의 행동은 인간 데이터에서 찾은 통계적 패턴에 의해 형성되며 목표를 추구하도록 설계된다.

이러한 유형의 지능형 에이전트를 규제하는 것이 이를 금지하는 것보다 훨씬 더 중요할 것이며, 이러한 규제를 만들어내는 프로젝트를 위해서는 자연과학, 사회과학, 인문과학 간의 접점에서 상당한 수준의 연구가 필요하다. 이것이 바로인공지능의 다음 문화적 도전이 될 것이다.

 

저자의 주장에 깊은 동의를 보낸다.

새로운 도전이 인류사회에 도움이 될 것으로 믿지만

항상 사고를 치는 부류가 있다는 사실을 대비해야 한다는 점을 강조하고 싶다.

 

 

"한빛미디어 <나는 리뷰어다활동을 위해서 책을 제공받아 작성된 서평입니다."

 

12-1.jpg

 

 

얼마 전 챗GPT를 출시해 글로벌 테크 업계 스타로 떠오른 샘 올트먼이 해고된 후 사무실에 서 복귀 논의를 벌이다 결국 마이크로소프트로 가기로 했다는 기사가 나왔다. 최종적으로 해고를 결정한 이사회를 다시 구성하고 올트먼이 다시 복귀하는 형태로 마무리되었다. 이러한 일이 일어난 궁극적인 이유는 빠른 인공지능 개발에 대한 우려때문으로 생각된다. 즉 현재의 빠른 인공지능의 개발이 언젠가는 인간을 넘어서는 인공지능의 개발로 이어지고 이는 인간이 제어하지 못하는 형태로 이어질 수 있다는 것이다. 즉 인공지능의 발전이 인류에 야기할 수 있는 윤리 및 도덕적 문제에 대한 근본적인 인식 차이를 보여준다고 볼 수 있다. 이러한 시점에서 우리는 인공지능에 대해 근본적인 질문과 이해를 할 필요가 있어 보인다.

 

이 책은 현재와 같은 인공지능의 급성장 시기에 인공지능과 공존하기 위한 조언을 제시한다. 책의 시작은 지능에 대한 정의로부터 시작한다. 지능이란 인간적인 것에 대한 문제가 아니라 새로운 상황에서 효과적으로 행동할 수 있는 능력의 문제이다. 이전에는 지능을 인간 위주로 해석헀다면 이제는 지능을 두뇌가 아닌 식물, 개미 군체, 소프트웨어에서 지능을 찾아볼 수 있다는 점이다. 이러한 인식의 전환을 통해 인공지능에 대한 패러다임이 전환되고 획기적으로 발전될 수 있었다고 본다.

 

이런 과정을 거쳐 점점 인공지능은 논리와 추론의 언어가 아닌 확률과 수학적 최적화로 발전했으며,  규칙성을 파악하고 규칙적인 환경을 갖추는 것이 지능형 행동의 전제 조건이 된다는 것을 이해할 수 있다. 규칙성으로 부터 데이터를 학습한 인공지능이 아무런 문제를 발생시키지 않을 것이라고 기대하는 것은 불가능하다. 이는 인공지능의 미래를 언급할 때 종종 야기되는 인공지능의 반란(?)으로 이어지며 인간을 위협하는 과정으로 이어질 수 있다. 이러한 상황을 만들지 않고 인간이 만든 기계가 지시받은 일을 그대로 수행함으로써 근본적인 사회 규범을 위반하지 않도록 하려면 어떻게 해야 할지 많은 고민이 필요하다.

 

어찌되었던 이제 인공지능이 배제된 세상은 상상하기 힘든 시대가 되었다. 따라서 인공지능과 함께 안전하게 살아갈 방법을 찾아야 하며, 이를 위핸 많은 연구자들이 인공지능이 준수해야 할 원칙의 목록을 중요하게 여기고 있다. 이를 통해 인공지능에 대한 감사를 가능하게 하며, 안정성, 공공성, 개인정보보호, 투명성 등 중요한 요구사항을 준수할 수 있도록 개선해 나갈 필요가 있다.

 

주위를 보면 인공지능의 발전 속도가 무섭게 느껴진다. 예상하지 못한 형태의 서비스가 속속 출현하고 있으며 전에는 생각하지도 못한 다양한 정보를 제공하고 있다. 현 시점에서 인공지능에 대한 발전 과정을 살펴보고 현재 일어나고 있는 다양한 기술적, 윤리적 이슈를 생각해 봄으로써 인공지능에 대해 다시 생각해볼 필요가 있을 것 같다.

 

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.



 

이번에 리뷰하게 된 책은 '기계의 반칙'  인공지능에 관련한 책이다.

시간이 지나면 지날수록 우리 생활에 인공지능이 점점 가까워지는 것을 몸소 느끼고 있다. 


GPT를 시작으로, 구글의 Bard.

국내에서는 네이버의 Cue, 하이퍼클로바X 등 다양한 인공지능 관련 서비스들이 지속적으로 나오고 있다.

책을 읽고 나서

이 책은 인공지능의 성장과정을 살펴보기도 하고, 인공지능이 문화와 사회에 미치는 영향에 대해서도 다루고 있다.

가볍게 볼 수 있는 책이면서도 생각을 하면서 봐야하는 책이기도 했다.


책 내용의 일부에는 인공지능과 함께 하기 위해서는 신뢰가 필요하고, 신뢰를 위해서는 안정성, 존중, 투명성, 공정성, 개인정보보호 등 다양한 문제를 해결해야 한다고 말하고 있다. 이런 요구 사항들 조차도 일부 차원이고 많은 사람들이 각 항목에 대해서 연구를 진행하고 있다고 말한다.


인공지능이 문화에 들어오기 위해서는 조금 더 많은 시간이 필요하다고 생각한다. 앞서 말한것처럼 신뢰가 필요하기 때문일 것이다. 


인공지능에 대해서 기술적인 내용 뿐 아니라 무분별한 사용이 가져오는 결과들에 대해서도 다양한 시각과 그로 인해 발생하는딜레마 등의 문제에 대해서 생각해볼 수 있는 기회를 추는 책이다.

"언어 전문가를 한 명 해고할 때마다 시스템 성능이 향상되었습니다."

인간의 규칙으로 컴퓨터를 학습시키고자 했기 때문에 그다지 좋은 효율을 보여주지 못했다. 컴퓨터만의 규칙으로 학습 시키는 것이 훨씬 더 좋은 결과를 가져온다는 내용이다.

책의 서두에서부터 "지능"에 대한 인간을 벗어나지 못하는 테두리를 경고하는데, 적절한 내용이 아닐까 싶다.

"인공지능은 '인간과 달라짐'으로써 발전했지만, 이제 인간은 '인간이 이해할 수 없는' 인공지능을 통제해야하는 어려운 과제를 부여받게 되었다."

GPT의 뛰어능 성능과 함께 많은 사람들에게 충격을 주고 있는 지금의 시대에 가장 어울리는 문장이라 생각한다.

예제들이 흥미롭고 재미있으니 꼭 읽어보길 추천하고 싶다.

 

2023년 12월의 마지막 책은 한빛미디어의 "기계의 반칙" 입니다. 이 책 원서의 제목은 "THE SHORTCUT" 인데 번역서의 표지보다, 원서의 표지가 더 인상 깊습니다.

 

2023-12-20 15 50 48.png

 

미로 길 따위는 무시하고 그냥 직진이니까 지름길이 맞는데, "미로의 오른손 법칙" 따위는 무시하고, 무작정 직진이라니, 정말 치트키가 아닌가 싶습니다.

 

책을 읽다가 인간의 사고방식과는 다른 내용이 종종 읽혔는데, 프레더릭 옐리네크의 명언 중 "언어전문가를 한 명 해고할 때마다 시스템 성능이 향상되었습니다." 라는 말이었다. 이 말인 즉 컴퓨터에게 인간의 규칙을 주입해서 따르게 하는 것 보다, 컴퓨터만의 규칙을 찾아서 학습 시키는 것이 더 나은 결과를 가져온다는 것 이었습니다.

 

 

이 책이 흥미로운 이야기는 단순히 인공지능과 딥러닝을 이야기하면서 우리가 흔히 쓰는 신경망, CNN, GPU에 대한 이야기로 시작하는 것이 아니라, 좀 더 심층적으로, "지능이 무엇인가?" "우리는 무엇으로 판단하는가?" 에 대한 궁극적인 질문으로 부터 시작합니다. 

 

KakaoTalk_20231221_174942145.jpg

 

 

그렇게 '지능의 탐구'를 시작으로 인류 제 1호 프로그래머라고 말 할 수 있는 에이다 러브레이스의 주석 G를 반박합니다.

 

해석 기관은 어떤 것을 독창적으로 만들어낼 수 있다고 자처하지 않는다. 다만 우리가 그렇게 하도록 명령할 방법을 아는 그 어떤 일이든 수행 할 수 있다.  - Ada Lovelace's Note G

 

하지만 현대 사회에서 이제 더 이상 기계가 독창적이지 않거나, 창의적이지 않다고 감히 말할 수 있는 사람은 단지 그 사실을 믿기 싫어하는 사람일 것 입니다. 단순한 텍스트뿐만 아니라 작곡과 그림까지, 이제 남은 일은 chatGPT와 로봇의 결합이 남았을 뿐인 것 같습니다. 

 

책의 말미에 웃픈 이야기가 있습니다. AI를 이기는 유일한 방법은 바로 전원코드를 뽑아버리는 것이라고. 

과연 미래사회에서, 아니 당장 몇 일 남지 않은 내년에, 우리는 나 대신 일하는 AI의 전원코드를 뽑을 수 있을지 의문입니다.

 

KakaoTalk_20231221_174942145_01.jpg

 

책의 내용은 가볍게 읽기에도 좋고, 생각하며 읽기에도 좋은 책 입니다.

근처 도서관에 있다면, 추운 겨울 따뜻한 난로에 앉아 사람만이 할 수 있는 그런 독서를 추천합니다.

 

 

 

 

#인공지능 #기계의반칙 #한빛미디어

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

요즘 Chat GPT가 트렌드로 뜨면서 AI 시장이 더 확장되고 있는 추세입니다. 과거 이세돌과 알파고의 바둑 대결 이후에 잠시 주춤하던 AI 시장이 Chat GPT나 나오면서 더 중요한 시대가 되었습니다.이 책은 이러한 AI(인공지능)가 사회의 한부분이 되면서 우리들이 이  인공지능을 사용하는데 있어서 기본적으로 알고 있어야 하는 인공지능에 대한 기초적인 개념과 인공지능이 사회를 과거에서부터 현재까지 어떻게 변화를 시키고 있는지 설명하고 있습니다. 저자는 내용을 쉽게 서술하였다고는 하지만 인공지능에 대해서 잘 알지 못하는 사람이 읽기에는 그리 쉬운 책은 아니었습니다. 적어도 책을 2~3번은 읽어 봐야 책의 내용을 이해할 수 있는 수준의 책입니다. 책은 단순히 개념정도만 설명하는 것이 아닌  시대가 변화 됨에 있어서 사회에서 사람들이 어떻게 대응을 해야하는지와 우리들이 대응해야 하는 방향성도 안내하고 있습니다. 저자가 우리들에게 전달하고자 하는 메시지는 사람이 만든 하나의 도구일 뿐이지만 우리의 삶에 깊게 들어온 인공지능을 어떻게 하면 더 사람들이 유익하게 사용할 수 있는지 설명해주는 책이라는 생각이 들었습니다. 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

결제하기
• 문화비 소득공제 가능
• 배송료 : 2,000원배송료란?

배송료 안내

  • 20,000원 이상 구매시 도서 배송 무료
  • 브론즈, 실버, 골드회원이 주문하신 경우 무료배송

무료배송 상품을 포함하여 주문하신 경우에는 구매금액에 관계없이 무료로 배송해 드립니다.

닫기

리뷰쓰기

닫기
* 도서명 :
기계의 반칙
* 제목 :
* 별점평가
* 내용 :

* 리뷰 작성시 유의사항

글이나 이미지/사진 저작권 등 다른 사람의 권리를 침해하거나 명예를 훼손하는 게시물은 이용약관 및 관련법률에 의해 제재를 받을 수 있습니다.

1. 특히 뉴스/언론사 기사를 전문 또는 부분적으로 '허락없이' 갖고 와서는 안됩니다 (출처를 밝히는 경우에도 안됨).
2. 저작권자의 허락을 받지 않은 콘텐츠의 무단 사용은 저작권자의 권리를 침해하는 행위로, 이에 대한 법적 책임을 지게 될 수 있습니다.

오탈자 등록

닫기
* 도서명 :
기계의 반칙
* 구분 :
* 상품 버전
종이책 PDF ePub
* 페이지 :
* 위치정보 :
* 내용 :

도서 인증

닫기
도서명*
기계의 반칙
구입처*
구입일*
부가기호*
부가기호 안내

* 온라인 또는 오프라인 서점에서 구입한 도서를 인증하면 마일리지 500점을 드립니다.

* 도서인증은 일 3권, 월 10권, 년 50권으로 제한되며 절판도서, eBook 등 일부 도서는 인증이 제한됩니다.

* 구입하지 않고, 허위로 도서 인증을 한 것으로 판단되면 웹사이트 이용이 제한될 수 있습니다.

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?

자료실