2025년 6월 18일

이번 선정 도서는 "호모 데우스" 입니다.

"인간은 항상 더 낫고 더 크고 더 맛있는 것을 찾는다."

-

자, 계급장 떼고 한 판 붙어보자. 인류는 스스로 획득한 신성이란 계급장을 붙이고 지구의 주인이 되었다. 하지만 진화론으로 보면 다른 포유동물들과 다를 게 없다.

감정과 마음, 동물들도 분명 이것들이 존재한다. 다만 말로써 표현하지 못할 뿐이다. 다른 어떤 동물들이 인간에게 맞서지 못하는 이유는 그들에게 영혼이나 마음이 없어서가 아니고, 그러기 위해 필요한 상상을 할 수 없기 때문이다. 사피엔스는 상상을 공유함으로써 협력할 수 있었기 때문에 지구의 주인이 된 것이지, 신성해서가 아니다.

"우리 신, 우리 나라, 우리의 가치가 허구라는 것을 받아들이고 싶지 않다. 우리 삶에 의미를 부여하기 때문이다. 하지만 사실 사람의 인생은 그들이 서로에게 말하는 이야기의 그물망 안에서만 의미를 가진다."

부분 발췌: 장영도 (2022.05.12) "호모데우스 재독리뷰1", 원본링크

-

호모데우스: 미래의 역사

Homo Deus: A Brief History of Tomorrow

Book by Yuval Noah Harari

김명주 번역

-

모임날짜: 07/14/2025 (월)

모임시간: 8:00 - 10:00PM EST

모임장소: Zoom Meeting

+ 참석을 원하는 분들은 오픈톡에서 RSVP를 부탁드립니다.

+ 온라인모임입니다. 당일 오전에 카카오톡을 통해 개인별로 초대장이 발송되니, 운영자 "재호"와 1:1 대화기록이 없는 분들은, DMV북클럽 오픈챗방에서 아이디 "재호"를 찾아 1:1 Open Chat을 통해 Zoom 링크를 요청해주세요.

+ 자유롭게 대화하는 편안한 형태의 모임입니다. 반대와 찬성을 가르는 논제식 토론이 아니라 소감과 의견을 공유하고 공감하며 열린분들과 책에 대한 인사이트를 나눕니다. 부담없이 참여 부탁드립니다.

-

AI는 우리가 원하는 정보를 제공하는가, 아니면 우리가 믿고 싶어하는 정보를 제공하는가?

AI와 '그럴듯함'의 위험

나는 현재 영자신문 기자로 일하고 있다. 언론의 본질은 진실을 탐구하는 것이다. 그러나 AI 시대에는 진실보다 '그럴듯함'이 더 중요해지는 위험이 있다. 생성형 AI는 사용자의 질문에 대해 반드시 정확한 답변을 내놓지는 않는다. 오히려 질문이 부정확하더라도 언제나 '그럴듯한' 답을 생성해낸다. 이는 기존의 정보 흐름과 근본적으로 다른 패러다임이다.

-과거에는 질문을 던졌을 때 명확한 답을 얻지 못하면, 그 궁금증은 해결되지 않은 상태로 남았다. 확실히 알 수 없다면 모르는 채로 남는 것이 맞다. 하지만 생성형 AI는 어떤 질문이든 어떻게든 답을 만들어낸다. 즉, 우리는 진실을 찾는 것이 아니라, 그럴듯한 답을 소비하는 것에 익숙해지고 있다.

이것이 의미하는 바는 심각하다. AI가 제공하는 정보가 단순히 틀린 것이 문제가 아니다. 오히려 그것이 '진실처럼 보이도록' 설계되어 있다는 점이 문제다. 하라리는 정보 네트워크에는 스스로 오류를 수정하는 자정 장치가 필요하다고 주장한다. 하지만 생성형 AI에는 이러한 기능이 없다. 그렇다면 우리는 AI 시대에 어떤 선택을 해야 할까? 하라리는 이전 책에서 역사학자로서 가장 중요한 교훈을 남겼다 "우리가 자연스럽고 영원하다고 생각하는 것들은 사실 인간이 만든 것이며, 따라서 바뀔 수 있다."

하라리는 AI 윤리와 규제를 확립하는 것이 필수적이라고 강조하고, 나는 크게 동의하는 바이다. 정보 네트워크가 단순히 그럴듯한 답을 제공하는 것이 아니라, 진실을 추구할 수 있도록 강력한 자정 장치를 마련해야 한다. 쉽지 않은 문제다. 하지만 하라리는 역사 속에서 우리가 수많은 도전에 직면했을 때마다 새로운 질서를 만들어온 것처럼, AI 시대에도 우리는 스스로 답을 찾아야 한다고 말한다.

우리는 이미 인터넷의 역사를 통해 중요한 교훈을 얻었다. 기술 혁명이 일어나고 난 뒤, 그 부작용이 사회를 뒤덮고 나서야 문제를 해결하려 했던 것이다. 하지만 AI는 그 규모와 영향력 면에서 과거의 어떤 기술보다도 강력하다. 그렇다면, 이제는 문제를 미리 해결해야 하지 않을까?

AI 시대는 혼란스럽다. 누구를 믿어야 하는지 확신할 수 없는 시대를 살고 있다. 그의 책은 AI 전망서가 아니다. 그는 우리가 묻지 않았던, 하지만 반드시 물어야 할 질문들을 던진다. AI가 가져올 변화의 방향성을 고민하기 전에, AI가 기반하는 '정보'의 본질을 먼저 이해해야 한다는 점을 상기시킨다. 수많은 AI 관련 담론이 즉각적인 해결책이나 피상적인 전망을 내놓는 가운데, 유발 하라리가 그 유혹에 빠지지 않고 더 근본적인 질문을 던져준 덕분에, 정보의 본질과 AI의 역할을 깊이 성찰할 기회를 얻게 되어 진심으로 감사하다.

부분 발췌: 이든 (2025.03.12), "왜 우리는 다시 유발 하라리를 읽어야 하는가? (<넥서스> 유발 하라리 독후감), 북클럽 오리진, 원본링크

-

What gives our lives meaning? And what if one day, whatever gives us meaning went away—what would we do then? I’m still thinking about those weighty questions, the provocative new book by Harari. I don’t agree with everything the author has to say, but he has written a thoughtful look at what may be in store for humanity.

Here is Harari’s most provocative idea: As good as it sounds, achieving the dream of bliss, immortality, and divinity could be bad news for the human race. He foresees a potential future where a small number of elites upgrade themselves through biotechnology and genetic engineering, leaving the masses behind and creating the godlike species of the book’s title; where artificial intelligence “knows us better than we know ourselves”; and where these godlike elites and super-intelligent robots consider the rest of humanity to be superfluous.

Harari does a great job of showing how we might arrive at this grim future. But I am more optimistic than he is that this future is not pre-ordained. I am more interested in what you might call the purpose problem. Assume we maintain control. What if we solved big problems like hunger and disease, and the world kept getting more peaceful: What purpose would humans have then? What challenges would we be inspired to solve? In this version of the future, our biggest worry is not an attack by rebellious robots, but a lack of purpose.

I think of this question in terms of my own life. My family gives my life purpose—being a good husband, father, and friend. Like every parent, I want my children to lead happy, healthy, fulfilling lives. But what if such a life was guaranteed for every child on Earth? How would that change the role parents play?

Harari does the best job I have seen of explaining the purpose problem. And he deserves credit for venturing an answer to it. He suggests that finding a new purpose requires us to develop new religion—using the word in a much broader sense than most people do, something like “organizing principles that direct our lives.”

Unfortunately, I wasn’t satisfied by his answer to the purpose question. Harari talks about a religion he calls Dataism, in which the greatest moral good is to increase the flow of information. Dataism “has nothing against human experiences,” he writes. “It just doesn’t think they have intrinsic value.” The problem is that Dataism doesn’t really help organize people’s lives, because it doesn’t account for the fact that people will always have social needs. Even in a world without war or hunger or disease, we would still value helping, interacting with, and caring for each other.

But don’t let a dissatisfying conclusion dissuade you from reading Homo Deus. It is a deeply engaging book with lots of stimulating ideas and not a lot of jargon. It makes you think about the future, which is another way of saying it makes you think about the present.

부분 발췌: Bill Gates (2017.05.22), "What if people run out of things to do?", 원본링크

-

We’re even smaller and even less significant in the grand scheme of the universe as we previously realized. I find this comforting. We’re probably not on a grand mission that must not go wrong. We just are.

When you take a look at the trends, it’s very tough to disprove Harari here. But is this a groundbreaking realization?

Harari is big on getting us to realize that religion doesn’t play a role anymore and due to globalization, is on its slow way out, even in the traditionally more religious places. He has this brilliant quote, where he starts with Nietzsche’s “God is dead.” but extends it to “God is dead, it just takes a while to get rid of His body.”

Liberalism, as in the pronounced value of individual freedom and autonomy, has clearly killed strict religious practices in most Western and also many Eastern countries. What feels good, is considered good. Communism and collectivism such as radical Islam have nothing more to give to their people, and they are realizing this over time, so the numbers are falling. These ways to organize society are on their way out.

This all seems to be correct and according to what can be witnessed when following the world develop oneself. But now, the captivating part of the book begins.

First, free will. It doesn’t exist. Our brains make our choices before we can even though we then think we chose when in fact the chemical processes and neurons did so milliseconds before. We can measure this. No soul, if you will. The point is, we can’t direct our thoughts, our brain-machines do it for us and lead the way. We’re apparently “just” highly complex machines and there’s nothing unexplainable or God-like within us. You can argue that it’s just another way to view the world, another perspective.

Harari introduces the concept of what he calls Dataism. It’s the new religion we have adapted, he says. These days we value data above all. In fact, we value only things which can be recorded, uploaded, and shared to the giant hive mind we have created. This data will over time provide the basis to allow for us to make decisions it suggests better than we could ourselves. And since humans are algorithms at the most basic level, it might even replace us or absorb us in some way. This could take centuries but we’re on the way there.

Harari paints that in a neutral way but lets it shimmer through that he thinks it’s a dystopia, and many would surely agree. I’m not so sure I would, though. I think there are certainly ways in which we can unite humanism with dataism. Consciousness on a chip, like I stated in my blog post of earlier this year, is a possibility that doesn’t have to go as horrifyingly wrong as most science-fiction I am aware of pictures it. Between the lines, the book ends with the question: Do we want this to happen? I think that’s great. But I feel like he used 450 pages to get us here when the basic idea could have been put down a lot earlier. Was he really working towards that idea or was he just trying to share his many thoughts in related areas? I would have preferred to get introduced to Dataism earlier on and see him discussing it more.

It’s definitely a five out of five stars book and I am happily surprised that I came to a similar conclusion to him in my bespoke 2024 blog post – I was just nine years late. I wonder if the idea was groundbreaking back in 2015, because today it just seems like a low-hanging fruit to me. Harari remains one of the greatest popular thinkers of our time and I’m grateful for his work.

부분 발췌: Tim Teege, "Homo Deus", 원본링크