AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다

한상기 저자(글)

한빛미디어 · 2024년 11월 29일

책 소개

“인간보다 뛰어난 존재가 온다!”
인간을 초월한 지능, AGI를 맞이할 준비가 되었는가

이 책은 AGI(인공일반지능)의 시대를 예견하며 기술, 철학, 정책이 교차하는 가장 첨예한 논쟁을 조망한다. 세계적인 AI 석학들의 통찰과 빅테크 기업가들의 비즈니스 관점을 바탕으로 AGI의 본질을 날카롭게 파헤치며, 이를 둘러싼 핵심 쟁점부터 각국의 AI 패권 경쟁까지 AGI와 관련된 뜨거운 논의를 한 권에 담았다. 특히 AGI를 인간 중심으로 설계하기 위한 ‘얼라인먼트’ 기술과 AI 안전 정책의 중요성을 강조하며 기술적 진보와 윤리적 책임의 접점을 제시한다. 인간이 통제할 수 없는 AGI가 등장했을 때 우리는 과연 어떻게 공존할 것인가? 이 질문에 답을 찾고자 한다면 이 책이 그 실마리를 제공할 것이다.

작가정보

저자(글) 한상기

서울대 컴퓨터공학과를 졸업하고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사 학위를 취득했다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략 대표와 일본 법인장을 역임했다. 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다. 현재 기업을 위한 기술 전략 컨설팅, 정부 정책 자문과 연구 수행 그리고 기술과 사회를 주제로 강연하고 있다. 인공지능 윤리를 위한 기술 프레임워크, 신뢰 가능한 인공지능 등에 대한 연구 과제를 수행했으며 슬로우뉴스 등 여러 매체에 기술 관련 칼럼을 기고하고 있다. 공공 영역에서는 인공지능 데이터세트 구축을 위한 AI 데이터 로드맵 총괄기획위원, 인공지능 그랜드 챌린지 기획위원으로 활동했다. 지은 책으로는 『신뢰할 수 있는 인공지능』 『한상기의 소셜미디어 특강』이 있으며 『인공지능은 어떻게 산업의 미래를 바꾸는가』 『4차 산업혁명과 미래사회 Ⅱ』 『초연결시대인간-미디어-문화』에 공동 저자로 참여했다.

목차

• | 1부 | AGI의 시대
  
  1장 논쟁의 중심, AGI
  1.1 AGI의 시작
  1.2 프론티어 모델, AGI, ASI 그리고 ACI
  1.3 AGI가 온다
  1.4 AGI는 당분간 달성하기 어려울 것이라는 사람들
  1.5 AI 전문 연구자와 기업인들의 견해
  1.6 AGI는 어떻게 등장하는가
  1.7 AGI를 레벨로 나누어서 분류하기
  1.8 GPT-4는 튜링 테스트를 통과했는가
  
  2장 AGI의 잠재적 위험
  2.1 문학 작품에 나타난 AGI에 대한 경고
  2.2 AI의 최고 연구자들의 경고
  2.3 AI로 인한 인류 멸종 위기에 대한 논쟁
  2.4 파멸론자, 효과적 이타주의자, 효과적 가속주의자
  2.5 AI 파멸론에 대한 비판
  
  1부를 마치며
  
  | 2부 | 얼라인먼트: 연구와 정책
  
  3장 얼라인먼트 문제란 무엇인가
  3.1 얼라인먼트
  3.2 속임수를 사용하는 AI
  3.3 챗GPT와 트롤리 문제
  
  4장 얼라인먼트 연구의 주요 방향
  4.1 데이터, 학습, 평가 영역에서의 얼라인먼트
  4.2 안전과 얼라인먼트 연구의 근본 과제
  
  5장 얼라인먼트 연구 전문 그룹
  5.1 얼라인먼트 연구 센터와 모델 평가 및 위협 연구
  5.2 데이터 출처 이니셔티브
  5.3 주요 대학과 지역의 얼라인먼트 연구 그룹
  
  6장 얼라인먼트 문제에 대응하는 주요 기업의 접근 방법
  6.1 오픈AI의 접근
  6.2 앤스로픽의 얼라인먼트 기술과 정책
  6.3 구글 딥마인드
  6.4 집단 얼라인먼트
  6.5 해석 가능성을 높이기 위한 연구
  
  2부를 마치며
  
  | 3부 | 정책적 대응
  
  7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력
  7.1 G7 히로시마 AI 프로세스
  7.2 유럽연합의 AI법과 관련 이슈
  7.3 영국 블레츨리 선언과 AI 안전연구소
  7.4 미국 바이든 행정명령과 후속 조치들
  7.5 프랑스, 중국, 캐나다 등 여러 국가의 움직임
  7.6 프론티어 모델 포럼과 AI 얼라이언스
  
  3부를 마치며

추천사

• 이원태 (아주대학교 교수, 전 한국인터넷진흥원 원장)

  이 책은 우리에게 다가온 미래, 즉 인간의 능력을 넘어서는 AGI의 시대를 수많은 과학자, 개발자, 기업 리더의 사상과 논쟁으로 통찰한다. AI 현대사에 대한 계보학적이며 지성사적 고찰로서, AGI 시대에 대한 독자의 이해를 한층 깊고 넓게 확장시키기에 손색이 없다.

• 박태웅 (녹서포럼 의장, 『박태웅의 AI 강의 2025』 저자)

  AGI는 무엇인가? 인류에게 이로운가, 해로운가? 인류는 과연 자신보다 더 똑똑한 AGI를 제어할 수 있을까? 이러한 질문에 대한 답을 찾기 위해 반드시 알아야 할 내용을 담고 있다. 한국어로 출간된 AI 서적 중 단연 압권이다. ‘이런 것도 모르고 정책을 만들어선 안 될 내용’으로 가득하다.

• 하정우 (네이버클라우드 AI Innovation 센터장, 『2025 AI 대전환: 주도권을 선점하라』 저자)

  AGI가 인류의 보편적 가치를 위배하지 않고 인간을 위한 기능을 실현하도록 하는 얼라인먼트 분야 연구는 물론, AGI를 안전하게 운영하기 위한 기술적 그리고 정책적 안전장치를 만들기 위한 각국 정부들의 노력까지 다룬다. 짧게는 5년 길게는 수십 년 내 도래할 AGI 시대에서 AGI를 제대로 이해하고 이 시대의 주역이 되고자 한다면 반드시 읽어야 할 책이다.

출판사 서평

AGI를 이해하기 위해 가장 처음으로 읽어야 할 책!
다가올 ‘AGI의 시대’를 한 권으로 정리하다

“우리는 인간보다 더 똑똑한 사물이 생긴다는 것이 무엇인지 경험해본 적이 없습니다.”

2024년 노벨 물리학을 수상한 제프리 힌턴의 이 말은 우리 사회에 강렬한 경고를 던진다. 인간보다 뛰어난 존재인 AGI가 곧 현실로 다가올 것이며 이에 대한 준비가 부족하다는 사실을 일깨우는 메시지다. AGI의 등장은 단순한 기술 혁신을 넘어, 인간의 가치와 규범 그리고 통제력의 본질을 시험하는 중대한 전환점이 될 것이다.

이 책은 AGI 시대를 준비하기 위해 반드시 알아야 할 핵심 주제를 다룬다. ‘인공일반지능’, 즉 AGI의 정의와 그에 대한 논쟁은 물론 AGI가 가져올 기회와 위협을 균형 있게 소개하며, 이를 안전하게 활용하기 위한 핵심 기술인 ‘얼라인먼트’를 기술 및 기업 전략적 관점에서 분석한다. 또한 각국 정부와 국제기구, 기업들이 AGI 선점을 위해 펼치는 치열한 경쟁과 협력의 현황을 조명한다. 이 책을 덮은 후, 우리는 인공지능을 바라보는 현재의 관점을 새롭게 정립하고 정책적 대응을 명확히 직시하며 다가올 AGI의 시대를 맞이하는 데 필요한 통찰을 얻을 수 있을 것이다.

기본정보

ISBN	9791169213059
발행(출시)일자	2024년 11월 29일
쪽수	312쪽
크기	156 * 226 * 22 mm / 589 g
총권수	1권

Klover 리뷰 (13)

[nd*****]

사업가가 아닌 기술자의 말을 더 신뢰하기

[es******]

새로운 기술 새로운 개념을 배워봅니다

[ja********]

이 책은, 여러 전문가들이 AGI에 대해 개개인의 생각과 의견을 정리한 책임.
누구는 1년안에, 3년안에, 10년안에, 20년안에, 온갖 예측 시기를 말하지만, 중요한건 AGI에 대해 그 누구도 이게 무엇인지 모름. 아직 세상밖으로 나오지 않아서 개념 정립이 없음. 단, AI가 발전하여 AGI가 된 후, 자아를 가지게 될텐데 (현재 AI는 일부 거짓말을 하거나 인간 의도대로 안되는 사례가 있음) 자아를 가지는 순간 정말 위험한 존재가 될것. 우리 인간은 인간보다 똑똑한 존재를 만나본 적이 없음. 똑똑한 존재가 덜 똑똑한 존재의 명령과 말을 들을까?

중요한건, AGI는 언젠간 온다는것이고 그 시기는 누구도 모르며, 현재 진행중이라는것.

밑에 적힌 리뷰들은 뭐 AI로봇이 쓴거여? 사람답지가 않네