메뉴 바로가기 검색 및 카테고리 바로가기 본문 바로가기

한빛출판네트워크

한빛랩스 - 지식에 가능성을 머지하다 / 강의 콘텐츠 무료로 수강하시고 피드백을 남겨주세요. ▶︎

AGI의 시대

인간을 초월한 인공지능, AGI를 논하다

한빛미디어

집필서

판매중

  • 저자 : 한상기
  • 출간 : 2024-11-29
  • 페이지 : 312 쪽
  • ISBN : 9791169213059
  • 물류코드 :11305
  • 초급 초중급 중급 중고급 고급
4.8점 (4명)
좋아요 : 0

“인간보다 뛰어난 존재가 온다!”
인간을 초월한 지능, AGI를 맞이할 준비가 되었는가

 

이 책은 AGI(인공일반지능)의 시대를 예견하며 기술, 철학, 정책이 교차하는 가장 첨예한 논쟁을 조망한다. 세계적인 AI 석학들의 통찰과 빅테크 기업가들의 비즈니스 관점을 바탕으로 AGI의 본질을 날카롭게 파헤치며, 이를 둘러싼 핵심 쟁점부터 각국의 AI 패권 경쟁까지 AGI와 관련된 뜨거운 논의를 한 권에 담았다. 특히 AGI를 인간 중심으로 설계하기 위한 ‘얼라인먼트’ 기술과 AI 안전 정책의 중요성을 강조하며 기술적 진보와 윤리적 책임의 접점을 제시한다. 인간이 통제할 수 없는 AGI가 등장했을 때 우리는 과연 어떻게 공존할 것인가? 이 질문에 답을 찾고자 한다면 이 책이 그 실마리를 제공할 것이다.

 

한상기 저자

한상기

서울대 컴퓨터공학과를 졸업하고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사 학위를 취득했다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략 대표와 일본 법인장을 역임했다. 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다. 현재 기업을 위한 기술 전략 컨설팅, 정부 정책 자문과 연구 수행 그리고 기술과 사회를 주제로 강연하고 있다. 인공지능 윤리를 위한 기술 프레임워크, 신뢰 가능한 인공지능 등에 대한 연구 과제를 수행했으며 슬로우뉴스 등 여러 매체에 기술 관련 칼럼을 기고하고 있다. 공공 영역에서는 인공지능 데이터세트 구축을 위한 AI 데이터 로드맵 총괄기획위원, 인공지능 그랜드 챌린지 기획위원으로 활동했다. 지은 책으로는 『신뢰할 수 있는 인공지능』 『한상기의 소셜미디어 특강』이 있으며 『인공지능은 어떻게 산업의 미래를 바꾸는가』 『4차 산업혁명과 미래사회 Ⅱ』 『초연결시대인간-미디어-문화』에 공동 저자로 참여했다.

 

1부 | AGI의 시대

 

1장 논쟁의 중심, AGI
1.1 AGI의 시작
1.2 프론티어 모델, AGI, ASI 그리고 ACI
1.3 AGI가 온다
1.4 AGI는 당분간 달성하기 어려울 것이라는 사람들
1.5 AI 전문 연구자와 기업인들의 견해
1.6 AGI는 어떻게 등장하는가 
1.7 AGI를 레벨로 나누어서 분류하기
1.8 GPT-4는 튜링 테스트를 통과했는가

 

2장 AGI의 잠재적 위험
2.1 문학 작품에 나타난 AGI에 대한 경고
2.2 AI의 최고 연구자들의 경고
2.3 AI로 인한 인류 멸종 위기에 대한 논쟁
2.4 파멸론자, 효과적 이타주의자, 효과적 가속주의자
2.5 AI 파멸론에 대한 비판

 

1부를 마치며

 

| 2부 | 얼라인먼트: 연구와 정책

 

3장 얼라인먼트 문제란 무엇인가
3.1 얼라인먼트
3.2 속임수를 사용하는 AI
3.3 챗GPT와 트롤리 문제

 

4장 얼라인먼트 연구의 주요 방향
4.1 데이터, 학습, 평가 영역에서의 얼라인먼트
4.2 안전과 얼라인먼트 연구의 근본 과제

 

5장 얼라인먼트 연구 전문 그룹
5.1 얼라인먼트 연구 센터와 모델 평가 및 위협 연구
5.2 데이터 출처 이니셔티브
5.3 주요 대학과 지역의 얼라인먼트 연구 그룹

 

6장 얼라인먼트 문제에 대응하는 주요 기업의 접근 방법
6.1 오픈AI의 접근
6.2 앤스로픽의 얼라인먼트 기술과 정책
6.3 구글 딥마인드
6.4 집단 얼라인먼트
6.5 해석 가능성을 높이기 위한 연구

 

2부를 마치며

 

| 3부 | 정책적 대응

 

7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력
7.1 G7 히로시마 AI 프로세스
7.2 유럽연합의 AI법과 관련 이슈
7.3 영국 블레츨리 선언과 AI 안전연구소
7.4 미국 바이든 행정명령과 후속 조치들
7.5 프랑스, 중국, 캐나다 등 여러 국가의 움직임
7.6 프론티어 모델 포럼과 AI 얼라이언스

 

3부를 마치며

AGI를 이해하기 위해 가장 처음으로 읽어야 할 책!
다가올 ‘AGI의 시대’를 한 권으로 정리하다

 

“우리는 인간보다 더 똑똑한 사물이 생긴다는 것이 무엇인지 경험해본 적이 없습니다.”

 

2024년 노벨 물리학을 수상한 제프리 힌턴의 이 말은 우리 사회에 강렬한 경고를 던진다. 인간보다 뛰어난 존재인 AGI가 곧 현실로 다가올 것이며 이에 대한 준비가 부족하다는 사실을 일깨우는 메시지다. AGI의 등장은 단순한 기술 혁신을 넘어, 인간의 가치와 규범 그리고 통제력의 본질을 시험하는 중대한 전환점이 될 것이다.

 

이 책은 AGI 시대를 준비하기 위해 반드시 알아야 할 핵심 주제를 다룬다. ‘인공일반지능’, 즉 AGI의 정의와 그에 대한 논쟁은 물론 AGI가 가져올 기회와 위협을 균형 있게 소개하며, 이를 안전하게 활용하기 위한 핵심 기술인 ‘얼라인먼트’를 기술 및 기업 전략적 관점에서 분석한다. 또한 각국 정부와 국제기구, 기업들이 AGI 선점을 위해 펼치는 치열한 경쟁과 협력의 현황을 조명한다. 이 책을 덮은 후, 우리는 인공지능을 바라보는 현재의 관점을 새롭게 정립하고 정책적 대응을 명확히 직시하며 다가올 AGI의 시대를 맞이하는 데 필요한 통찰을 얻을 수 있을 것이다.

요즘 AI 신의 가장 뜨거운 주제 중 하나가 AGI(Artificial General Intelligence)라고 한다. AGI에 대한 정의가 여러 기관마다 다르다. 예를 들어 오픈 AI는 "가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템"으로 정의한다. 또 뉴욕 대학교의 게리 마커스 교수는 "유연하고 일반적이며, 인간 지능에 필적하는(또는 그 이상의) 수완과 신뢰성을 갖춘 모든 지능"으로 정의한다. 영화 "아이, 로봇"에서 등장하는 VIKI(Virtual Interactive Kinetic Intelligence)나 "아이언맨"에 등장하는 JARVIS(Just A Rather Very Intelligent System)처럼 ChatGPT, Gemini를 넘는 범용적인 AI가 AGI지 아닐까 싶다.

 

이 책은 AGI의 정의부터 시작해서 연구자, 기업, 국가 등 여러 이해관계자들이 AGI에 대해서 어떤 생각을 가지고 무슨 일을 하고 있는지 등 AGI의 전체적인 현황을 다룬다. 몇 가지 기억에 남는 내용을 정리해 보면....

 

AGI 파멸론자, 효과적 가속주의자, 효과적 이타주의자

AGI가 인류 생존에 위협적인 존재가 될 것인가에 대한 세 가지 관점에 대한 이야기다.

  • 파멸론자: AI 위협이 명확하고 예상보다 그 시기가 빠르게 올 것이기 때문에 개발 속도를 늦추고 중단해야 한다.
  • 효과적 가속주의자: AI 위협은 단순한 걱정이고 인류의 번영을 위해 더 적극적으로 개발해야 한다.
  • 효과적 이타주의자: 위협이 있을 수 있지만 이를 적극적으로 대응하고 극복해서 장점을 취해 유용하게 사용해야 한다.

얼라인먼트

인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들 것인가에 대한 이야기다.

  • AI가 인간의 의도를 이해하고 목적을 달성하게 하는 것이 가능할까?
  • 종이 클립 재앙 - AI에게 "종이 클립 생산을 최대화해 줘"라는 명령을 주면 세상의 모든 자원을 효율적인 종이 클립 생산을 위해 사용하고 방해되는 모든 것을 제거하려 한다.
  • AI 키케로 - 인간은 AI가 하는 속임수를 감지할 수 있을까?, 인간을 속이는 AI를 과연 믿을 수 있을까?
  • 트롤리 문제 - AI는 학습된 데이터를 바탕으로 모델마다 다른 도덕관념을 가지고 있다. 인간 통념에 맞는 도덕관념을 어떤 기준으로 정의하고 이를 적용하는 것이 가능할까?

규제, 감시 집단과 정책적 대응

다가올 AGI 시대를 위해 다양한 목적과 관점 아래에서 여러 가지 법과 표준을 정의하는 집단에 대한 이야기다.

  • G7 히로시마 AI 프로세스 - 국제 거버넌스가 AI 기술의 성장 속도에 따라가지 못하고 있다.
  • EU - 세계 최초로 AI에 관련된 법을 제정했고 4단계로 위험 범주를 정의했다.
  • 영국 AI안전연구소 - 블래츨리 정상회의 이후 공익을 위한 AI 기술에 초점을 맞춰 AI 국제 거버넌스 및 규제를 다루기 위해 설립했다.

저자는 미디어에서 혼란스럽게 떠도는 AGI 이야기를 명확하게 이해하는 것을 돕기 위해 작성했다고 한다. 그리고 이 책은 그 의도를 충분히 달성하는 책이라고 생각한다. ChatGPT에게 "AGI의 역사와 현황에 대해서 책 한 권 정도 분량으로 정리해 줘"라고 하면 이 책이 나오지 않을까 싶을 정도로 전문가, 비전문가 모두에게 유익한 정보를 잘 녹여냈다고 생각한다. AI 문외한인 나도 책을 다 읽고 나니 언젠가 다가올 AGI의 시대와 그 시대를 사는 개인의 역할, 그리고 무엇을 준비해야 할까에 대해서 생각해 볼 기회가 되었다.

 

한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

이번에 리뷰하게 된 책은 'AGI의 시대, 인간을 초월한 인공지능, AGI를 논하다' 입니다.

AGI는 'Artificial General Intelligence', 모든 상황에서 인간을 뛰어넘을 수 있는 AI를 의미합니다.

 

 

책은 3부로 나뉘어져있습니다.

- 1부: AGI의 시대

- 2부: 얼라인먼트: 연구와 정책

- 3부: 정책적 대응

 

 

어느순간 AI가 삶 가까이 다가오는 것을 피부로 느끼고 있습니다. OpenAI의 샘 올트먼의 말처럼 4-5년 내 뒤 AI가 어떻게 발전할 지 더욱 궁금해집니다.

 

가까운 장래에 AGI를 구현할 수 있을 것이라고 주장하는 이들이 가진 근거 중 하나는 '스케일링 법칙'이라고 합니다.

스케일링 법칙이란, 더 많은 양의 연산 능력과 데이터를 사용하여 AI 모델을 학습 시키면 필연적으로 AGI에 도달할 수 있다는 내용입니다.

 

1부에서는 그럼에도 불구하고 해결해야할 문제가 많다고 말하고 있습니다. 계산적인 설명이 아닌 신경생리학적 설명이나 의도적 설명과 어떻게 관련되는지를 밝히는 것이 우선이라고 말합니다.

 

반대로 AGI를 달성하기 어려울 것이라고 이야기하는 사람들도 존재합니다.

대표적으로 얀 르쿤, 스티븐 핑커, 최예진 교수, 게리 마커스 교수 등의 이야기를 다루고 있습니다.

 

 

AGI는 레벨0부터 레벨5로 구분할 수 있습니다.

사진은 딥마인드가 제안한 AGI의 레벨 기준입니다.

 

OpenAI는 다른 방식으로 레벨을 정의하고 있다고 합니다. 현재 기술은 레벨1에 있으며 레벨2 Reasoners를 도달하기 직전이라고 평가합니다.

레벨3 Agents는 액션을 취할 수 있는 시스템, 레벨4 Innovators는 발명을 도와줄 수 있는 혁신가, 레벨5 Organizations 는 조직의 일을 할 수 있는 수준으로 정의하고 있다고 합니다.

 

레벨 5가 되면 AGI가 저를 대신하여 일을 해주는 시대가 되지 않을까 싶습니다.

 

1부의 2장에서는 AGI의 위험에 대해서 이야기 합니다.

장점만 있을 수는 없기에 단점에 대한 내용도 다루고 있습니다.

내용 중에는 'AI로 인한 인류 멸종 위기에 대한 논쟁'도 다루고 있습니다.

 

2부는 얼라인먼트(alignment)에 대한 내용을 다룹니다.

얼라인먼트는 인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들 것인가 하는 문제를 말합니다.

즉, 인간이 원하는 일을 AI가 하도록 만드는 것을 의미합니다.

 

다만 얼라인먼트의 대한 연구는 아직 기초적인 영역에서도 불완전하며, 어떤 ㅜㅁㄴ제를 풀어야 하는지도 다 알지 못한다는 내용으로 마무리하고 있습니다.

 

3부는 AI에 대한 정책에 대한 내용을 다룹니다.

'AI 안전과 통제를 위한 주요 국가의 정책 및 국제협력' 이라는 내용으로 7부를 시작합니다.

캘리포니아 법 SB 1047 및 영국 및 유럽의 협력들을 다루며 이야기 합니다.

 

 

책 내용 전체적으로 AGI를 어떻게 다룰 것인가에 대한 내용을 담고 있습니다.

시간이 지나서 AGI의 시대가 오더라도 그때를 대비하기 위한 움직임들을 말이죠.

 

이 책은 AGI 시대가 와서 우리의 삶이 어떻게 변할지, 우리는 어떤 대비를 해야할 지를 고민해볼 수 있게 해주는 책이었습니다.

 

한빛미디어 < 나는리뷰어다 > 활동을 위해서 책을 제공받아 작성된 서평입니다.

4년 차 프론트엔드 웹개발자의 시각에서 이 책을 읽으며 느낀 점을 공유하고자 합니다.

 

AGI의 개념과 현재 기술과의 비교
AGI는 특정 작업에 국한되지 않고 인간과 유사한 수준의 지능을 갖춘 인공지능을 의미합니다. 현재 우리가 사용하는 AI는 주로 특정 업무에 특화된 '좁은 인공지능(Narrow AI)'으로, 예를 들어 음성 인식, 이미지 분류, 추천 시스템 등이 이에 해당합니다. 반면, AGI는 이러한 특정 업무를 넘어 다양한 문제를 인간처럼 이해하고 해결할 수 있는 능력을 지향합니다. 이러한 AGI의 등장은 기술 산업 전반에 걸쳐 큰 변화를 예고하며, 특히 웹 개발 분야에서도 새로운 도전과 기회를 가져올 것입니다.

 

프론트엔드 개발에 미치는 영향
AGI의 발전은 프론트엔드 개발자에게도 다양한 영향을 미칠 것으로 예상됩니다

 

자동화의 확대: 코드 작성, 디버깅, 최적화 등의 작업이 AGI를 통해 자동화될 수 있습니다. 이는 개발 생산성을 높이는 동시에, 개발자의 역할을 재정립하게 만들 것입니다.

 

사용자 경험의 혁신: AGI를 활용하여 사용자와의 상호작용을 더욱 자연스럽고 직관적으로 설계할 수 있습니다. 예를 들어, 사용자 입력에 대한 실시간 이해와 반응, 개인화된 콘텐츠 제공 등이 가능해질 것입니다.

 

새로운 기술 스택의 등장: AGI와의 통합을 위해 새로운 프레임워크나 라이브러리가 등장할 수 있으며, 이에 대한 학습과 적응이 필요할 것입니다. (React.js, Vue.js의 끝도 언제 날지 모른다는 사실.)

 

윤리적 고려사항
책에서는 AGI의 발전에 따른 윤리적 문제도 강조하고 있습니다. 개발자로서 우리는 기술의 발전이 사용자와 사회에 미치는 영향을 고려해야 하며, 특히 AGI의 경우 그 파급력이 매우 클 것으로 예상됩니다. 따라서 AGI 시스템의 투명성, 공정성, 책임성 등을 고려한 개발이 중요합니다.

개인적인 소감
이 책은 AGI에 대한 기술적 설명뿐만 아니라, 사회적, 윤리적, 철학적 관점에서의 논의도 풍부하게 담고 있어, 기술 개발자로서 시야를 넓히는 데 큰 도움이 되었습니다. 특히, AGI가 가져올 미래에 대한 다양한 시나리오와 그에 따른 준비 사항을 생각해보게 되어 매우 유익했습니다.

결론


『AGI의 시대』는 프론트엔드 개발자를 포함한 모든 기술 종사자들이 미래를 대비하는 데 있어 한 번쯤은 읽어볼만 할 책입니다. AGI의 개념부터 그에 따른 사회적 영향까지 폭넓게 다루고 있어, 기술의 발전 방향을 이해하고, 이에 맞춰 자신의 역량을 개발하는 데 큰 도움이 될 것입니다.

 

이 책을 통해 AGI에 대한 깊은 이해와 함께, 다가올 미래에 대한 준비를 시작하시길 바랍니다.

 

"한빛미디어 <나는리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

AGI(Artificial General Intelligence, 범용 인공지능)는 단순히 기술의 진보로 끝나는 문제가 아니다. AGI의 시대는 그 도래가 불가피한 미래라면, 우리가 어떤 선택을 해야 하는지에 대해 깊이 있는 통찰을 제시한다.

AGI의 가능성과 도전

현재 우리가 사용하는 AI는 특정 작업에 특화된 도구, 즉 좁은 인공지능이다. 하지만 AGI는 다르다. AGI는 인간처럼 새로운 지식을 스스로 학습하고, 다양한 문제를 해결하며, 예상치 못한 상황에서도 창의적인 판단을 내릴 수 있는 능력을 갖춘다.

책은 "AGI가 단순히 더 빠르고 정확한 계산기를 넘어선 존재가 될 수 있는가?"라는 근본적인 질문을 던지며, 이에 따라 과학계와 사회가 직면하게 될 철학적 도전을 상세히 분석한다.

AGI가 그리는 두 가지 미래

밝은 미래

AGI는 인간의 창의성과 생산성을 극대화하며, 새로운 도약의 기회를 제공한다.
질병 치료의 혁신적인 발전, 자원 배분 문제의 해결, 예측하지 못했던 사회적 진보

위험한 미래

하지만 AGI는 동시에 우리가 감당할 수 없는 도전도 함께 가져올 수 있다.
인간의 일자리를 대체, 사회 구조의 붕괴, 잘못된 설계로 인한 돌이킬 수 없는 결과

특히, 책에서 언급된 "싱귤래리티(Singularity)" 개념은 기술이 인간을 초월하는 순간을 뜻한다. 그 시점에서 인간은 AGI를 통제할 수 있을까? 아니면, 통제의 주도권을 잃게 될까?

포용적 인공지능을 향하여

책은 기술적 혁신뿐 아니라 윤리적 책임에 대해서도 강조한다. 인간의 이익을 중심에 두는 AI, 즉 "포용적 인공지능"이 중요한 이유다.
AI 설계와 개발 과정에서 인간의 가치를 최우선으로 고려, 의사결정 과정에서 투명성과 책임성을 강화

AGI는 단순히 "더 똑똑한 기계"가 아니라, 인간과 공존하며 상호작용해야 할 동반자라는 점에서 윤리적 고민은 더욱 절실하다.

우리의 선택이 미래를 결정한다

책은 이렇게 말한다. "AGI의 시대는 이미 시작되었다. 이제 중요한 것은 우리가 무엇을 선택하느냐다."

우리에게 주어진 시간은 길지 않다. AGI의 잠재적 이익과 위험을 이해하고, 기술 개발의 방향을 신중히 설계하지 않는다면, 그 결과는 예측 불가능할 것이다.

AGI의 시대는 우리에게 묻는다. 당신은 어떤 미래를 선택할 것인가?

결제하기
• 문화비 소득공제 가능
• 배송료 : 2,000원배송료란?

배송료 안내

  • 20,000원 이상 구매시 도서 배송 무료
  • 브론즈, 실버, 골드회원 무료배송
닫기

리뷰쓰기

닫기
* 상품명 :
AGI의 시대
* 제목 :
* 별점평가
* 내용 :

* 리뷰 작성시 유의사항

글이나 이미지/사진 저작권 등 다른 사람의 권리를 침해하거나 명예를 훼손하는 게시물은 이용약관 및 관련법률에 의해 제재를 받을 수 있습니다.

1. 특히 뉴스/언론사 기사를 전문 또는 부분적으로 '허락없이' 갖고 와서는 안됩니다 (출처를 밝히는 경우에도 안됨).
2. 저작권자의 허락을 받지 않은 콘텐츠의 무단 사용은 저작권자의 권리를 침해하는 행위로, 이에 대한 법적 책임을 지게 될 수 있습니다.

오탈자 등록

닫기
* 도서명 :
AGI의 시대
* 구분 :
* 상품 버전
종이책 PDF ePub
* 페이지 :
* 위치정보 :
* 내용 :

도서 인증

닫기
도서명*
AGI의 시대
구입처*
구입일*
부가기호*
부가기호 안내

* 온라인 또는 오프라인 서점에서 구입한 도서를 인증하면 마일리지 500점을 드립니다.

* 도서인증은 일 3권, 월 10권, 년 50권으로 제한되며 절판도서, eBook 등 일부 도서는 인증이 제한됩니다.

* 구입하지 않고, 허위로 도서 인증을 한 것으로 판단되면 웹사이트 이용이 제한될 수 있습니다.

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?

자료실

최근 본 상품1