상세정보

인간과 인공지능, 그리고 관련 기술인 데이터 과학 및 로봇 기술이 불가분의 관계를 맺는 새로운 생태계가 자유, 평등(불평등), 인종차별, 정의, 민주주의, 기후변화 등 오늘날 주요 정치적 쟁점과 어떻게 연결되는지 톺아본다. 인공지능이 어떻게 인종차별과 불평등 및 불의를 강화하고 가치중립적이지 않은지, 어떻게 인간의 심리를 조정하고 개인의 자유를 침범할 수 있는지, 권력과 결합한다면 어떤 일이 일어날 수 있는지, 민주주의에는 어떤 영향을 주고 어떻게 전체주의의 근원이 될 수 있는지 등을 플라톤, 루소, 한나 아렌트, 미셸 푸코, 마르크스 등 장구한 정치철학과 기술철학 및 윤리학을 결합하여 그 위험성과 가능성을 진단한다.

피터 싱어, 마사 누스바움 등의 포스트휴머니즘과 정치 및 사회이론에 기반하여 동물과 환경(비인간), 로봇의 지위까지 짚어가며 인공지능 시대에 걸맞은 상상력을 발휘한다. 답을 제시하기보다는 질문을 제기하여 더 많은 연구로 이어질 수 있도록 설명하며, 첨단기술기업을 비롯하여 이미 많은 권력을 가진 자들에 의해 남용될 위험성을 막기 위해서라도 인공지능의 정치학에 대한 공개적 논의와 떼래야 뗄 수 없는 정치와 기술을 함께 사고할 것을 제안한다.

이 책은 자유, 인종차별, 노예상태, 정의, 불평등, 민주주의, 권력, 기후변화, 동물권 등 오늘날 정치적으로 쟁점이 되는 가장 중요한 문제를 인공지능과 로봇에 제기되는 문제와 관련지어 다루면서 그 위험성과 가능성을 제기한다.

인공지능은 인간의 행동을 조종하고 자율성을 기만하면서 개인의 자유를 침범한다.
자유에 대한 정치철학의 오랜 논의(소극적 자유와 적극적 자유)와 관련하여, 인공지능이 소비자의 선택을 유도하는 부드러운 개입을 의미하는 자유주의적 넛지가 개인의 자유를 어떻게 박탈하는지 문제 삼는다. 의사 결정까지 인공지능이 대신하는 상황이 장차 어떤 결과를 가져올지 그 가능성도 살펴본다. 인간의 노동을 대체하는 로봇의 사용과 그 위험성을 이야기한다. 표현의 자유와 인공지능에 의한 미디어의 내용조정 문제도 다룬다.

인공지능은 하나부터 열까지 정치적이며, 정치적으로 중립적이지 않다.
평등과 정의 측면에서 인공지능과 데이터 과학, 로봇의 정치적 영향력과 자동화 및 디지털화가 불러일으킬 수 있는 인공지능을 통한 불평등과 불공정 문제, 성차별, 인종차별 등 편향과 차별을 롤스의 긍정적 차별, 마르크스주의, 자본주의, 정체성 정치이론, 반인종차별주의, 반식민주의 사상 등과 연관 지어 설명한다.

인공지능은 민주주의를 위협한다.
“우리는 이미 인공지능을 이용하여 우리를 조종하는 거대 기업에 의해 지배되고 있다고 할 수 있는데, 이런 상황은 주보프가 지적했듯이 민주적 통제를 완전히 벗어나 있다. 이미 우리가 구글, 아마존, 그리고 또 다른 거대 기업의 지배를 받고 있다면 누가 지배해야 하는지는 이론적인 질문일 뿐이다. 이 점에서 인공지능에는 본질적으로 반민주적인 것이 있다.” 민주주의와 관련하여 플라톤식 기술관료주의 개념, 듀이와 하버마스의 참여 및 숙의 민주주의의 이상, 무페와 랑시에르의 경합적·급진적 민주주의를 살펴보고 소셜 미디어와 인공지능이 결합하여 만들어낸 정보 거품과 반향실, 인공지능을 이용한 포퓰리즘 등의 문제들은 다룬다. 기술로 생기는 전체주의의 문제, 아렌트(2006)가 이른바 ‘악의 평범성’이라 불렀던 개념을 가져와 인공지능이 기업 차원의 조작과 관료주의적 인사 관리를 위한 도구로 이용될 때의 위험성을 지적하기도 한다.

규율과 감시, 지식, 권력관계에 관한 푸코 이론을 가져와, 인공지능과 관련지어 그 영향을 살펴본다.
권력이 사회 곳곳에 퍼져 있다는 푸코의 권력 개념을 소개하고 권력과 인공지능의 관계에 대해 생각할 수 있는 개념적 틀을 제공한다. 마르크스주의와 비판이론, 푸코와 버틀러, 수행 중심적 접근 방식이라는 세 가지 권력이론을 통해 인공지능이 유도하는 조작 등을 살펴보고 자본주의 맥락에서 사람들을 평가・분류・감시하는 데이터 과학을 조명한다.

인간만이 정치적으로 중요한 것은 아니다.
비인간을 포함하는 자유, 정의, 민주주의 같은 개념에 대해 다시 생각해야 한다는 주장과 함께, 비인간인 동물과 환경에 미치는 인공지능과 동물, 환경, 인공지능의 정치적 지위에 관해 논하고, 동물권과 환경이론, 인공지능과 로봇 윤리, 전통적 인간 중심의 정치적 관점에 문제를 제기하는 포스트휴머니즘, 인공적인 초지능자들이 인간을 대체할 거라고 주장하는 트랜스휴머니즘이 제기하는 주장들을 연관 지어 살펴본다.

정보제공 :

서론
1장 자유, 인공지능에 의한 조작과 로봇 노예
자유와 현대판 노예에 대한 역사적 선언문
인공지능, 감시, 법 집행, 소극적 자유의 박탈
인공지능과 인간 행동의 조종, 인간의 자율성 기만하기
자기실현과 해방에 대한 위협, 인공지능을 이용한 착취와 로봇 노예의 문제
누가 인공지능에 관한 결정을 내리는가? 참여로서의 자유, 인공지능 선거, 표현의 자유
자유와 또 다른 가치들에 대한 정치적 관념들

2장 평등과 정의, 인공지능에 의한 편향과 차별
평등과 정의에 관한 문제 제기, 편향과 차별에 대해
편향은 왜 문제가 되는가?(1) 영어권 자유주의 정치철학에서의 평등과 정의
편향은 왜 문제가 되는가?(2) 보편주의적 자유주의 사상에 비판적인, 계급과 정체성 이론
정치적으로 중립적이지 않은 인공지능

3장 민주주의, 반향실과 기계 전체주의
민주주의에 대한 위협으로서의 인공지능
민주주의, 지식, 숙의 정치를 위협하는 인공지능
플라톤에서 시작하기, 민주주의와 지식과 전문성
다수결 원칙과 대의제를 넘어서
숙의적･참여적 민주주의와 경합적･급진적 민주주의
정보 거품, 반향실, 그리고 포퓰리즘
더 많은 문제들, 조종과 대체와 책임 그리고 권력
인공지능과 전체주의의 근원, 아렌트로부터 얻은 교훈
인공지능과 전체주의
전체주의의 기원과 악의 평범성에 관한 아렌트의 연구

4장 권력, 데이터에 의한 감시와 자기 규율
정치철학의 주제로서의 권력
권력과 인공지능, 일반적인 개념적 틀
마르크스주의, 기술자본주의를 위한 도구로서의 인공지능
푸코, 인공지능은 어떻게 인간을 종속시키고 주체로 만드는가?
규율과 감시
지식과 권력, 주체와 자아를 형성하고 만든다는 것
기술수행과 권력, 그리고 인공지능
결론과 남은 질문

5장 비인간은 어떻게 되는가? 환경 정치와 포스트휴머니즘
인공지능과 로봇, 인간중심 정치를 넘어서
인간만이 정치적으로 중요한 것은 아니다, 동물과 자연의 정치적 지위
인공지능과 로봇 정치학에 대한 함의
비인간과 자연환경에 인공지능이 미치는 영향의 정치적 함의
인공지능의 정치적 지위란?

6장 정치적 기술
이 책의 역할과 결론
앞으로 해야 할 일, 정치적 기술에 관한 문제

감사의 말
참고문헌
찾아보기