인공지능형 인류가 왜 문제가 되나요?

댓글수0 다음블로그 이동

경제 이야기

인공지능형 인류가 왜 문제가 되나요?

Peterkim
댓글수0

트랜스 휴머니즘 : 새로운 종교가 된 신흥 기술

Transhumanism: The New Religion Of The Coming Technocracy
By Mark Jeftovic
Jun 23, 2020 - 11:35:30 PM

 

https://axisofeasy.com/aoe/transhumanism-the-new-religion-of-the-coming-technocracy/


June 23rd 2020

아담 키르쉬 (Adam Kirsch)는 최근 월스트리트 저널 (Wall Street Journal)의 논문 "인류의 끝을 기대한다 Looking Forward to the End of Humanity"에서 전세계 코로나 바이러스 전염병에 의해 죽음을 막을 수있는 기술적 추진력을 제시한다.

첨단 기술을 통한 영원한 삶은 최근까지 의사와 간호사의 생명을 구하기에 충분한 마스크를 제조하는 데 어려움을 겪었던 사회에 대한 유일한 꿈처럼 보입니다. 그러나 코로나 Covid-19는 기술 옹호자들이 "인간적" 미래라고 부르는 것을 만들기 위해 노력을 뒷받침해주는 조건적인 위기일 수 있습니다. 생물학적 취약성이 그 어느 때보다 명백해지면서 많은 사람들이 1998 년에 처음 발행 된 8 포인트 프로그램인 트랜스휴먼 선언  Transhumanist Declaration,의 메시지를 받아 들일 준비가 될 것입니다. 그것은 지구에서의 강요된 고통과 우리의 감금을 향하여, "라고 시작합니다.

 

In a  recent Wall Street Journal essay, "Looking Forward to the End of Humanity",  Adam Kirsch posits a technological push, impelled by the global coronavirus pandemic, that would abolish death:

Eternal life through advanced technology seems like a pipe dream for a society that, until recently, had trouble manufacturing enough masks to save doctors' and nurses' lives. Yet Covid-19 may turn out to be just the kind of crisis needed to turbocharge efforts to create what its advocates call a "transhuman" future. With our biological fragility more obvious than ever, many people will be ready to embrace the message of the Transhumanist Declaration, an eight-point program first issued in 1998: "We envision the possibility of broadening human potential by overcoming aging, cognitive shortcomings, involuntary suffering and our confinement to planet Earth."

이 기사에서 인용한 구글 벤처 Google Ventures의 설립자 빌 마리스 (Bill Maris)와 유발 노아하라리 (Huval Noah Harari)는 호모 데우스 (Homo Deus)에서 다음과 같이 선언함으로써 초기에 분위기를 조성합니다.

"21 세기에 인간은 불멸에 대해 진지한 제안을 할 것입니다 ...
기술적인 결함으로 인해 인간은 항상 죽습니다 ...
그것에 대해 형이상학적인 것은 없습니다. 모든 것이 기술적 문제입니다."

 

There is an abundance of well respected thinkers who believe this is possible, including Google Ventures founder Bill Maris, cited in the article, and Yuval Noah Harari, in his Homo Deus sets the tone early on by declaring:

In the twenty-first century, humans are likely to make a serious bid for immortality...

Humans always die due to some technical glitch...

Nothing metaphysical about it. It is all technical problems.

물론, 모든 인간에게 개인화되고 완전히 통제된 우주를 제공할 수있는 "기술적 초월성 technological singularity"을 제시하는 레이 커츠윌 Ray Kurzweil 없이는 테크노 유토피아 이념에 대한 논의가 완료되지 않을 것입니다. 우리가 모두 의식을 클라우드에 업로드하면 영원토록 원하는 생명유지를 완전히 통제할 것입니다.

 

Then of course, no discussion of techno-utopianism would be complete without Ray Kurzweil, who posits a "technological singularity" which would provide for a personalized and totally controlled universe for every human, one where they would be in complete control to experience whatever they desired, for all eternity, once we all upload our consciousnesses into the cloud.

월스트리트저널 WSJ 기사는 같은 주제에 부딪칩니다.

오늘날 인지 과학자들은 종종 두뇌를 하드웨어와, 그리고 두뇌를 실행하는 소프트웨어와 비교합니다. 그러나 소프트웨어 프로그램은 단지 정보일 뿐이며, 원칙적으로 의식 정보가 뉴런으로 인코딩되어야 하는 이유는 없습니다.
2009 년 국립 보건원 (National Institutes of Health)이 시작한 휴먼 코넥톰 프로젝트 (Human Connectome Project 인간의식을 추출하여 거대한 클라우드 저장매체에 업로드하는 계획)는 "인간 뇌 기능의 기초가 되는 신경 경로를 매핑하려는 야심찬 노력"이라고 설명했다. 이러한 경로를 완전히 매핑하여 디지털 0과 1로 변환 할 수 있으면 데이터를 컴퓨터에 업로드하여 인간은 무기한으로 생존할 수 있습니다.

 

The WSJ piece hits on the same theme:

Today, cognitive scientists often compare the brain to hardware and the mind to the software that runs on it. But a software program is just information, and in principle there's no reason why the information of consciousness has to be encoded in neurons.

The Human Connectome Project, launched in 2009 by the National Institutes of Health, describes itself as "an ambitious effort to map the neural pathways that underlie human brain function." If those pathways could be completely mapped and translated into digital 0s and 1s, the data could be uploaded to a computer, where it could survive indefinitely.

이 소리가 하늘처럼 들립니까? 아니면 천국? 발할라? 사이언티즘 (과학적 방법을 사용한 탐색과 발견과는 별개)이 물질적 환원주의의 새로운 시대를 열었기 때문에 종교, 영성 또는 현실화의 다른 비 물질적 측면이 쉽게 정량화 될 수 없었기 때문에 놀라운 것은 아닙니다. 용감한 새로운 세계의 관련성과 의미를 찢어버리기에 말입니다.

종교와 영성이 결여될 수있는 공허함을 채워야합니다. 다음 책인 기술적 초월은 포기되었다 The Singularity Has Been #Canceled 저서에서 나는 공허한 주장이 테크노-유토피아 적 사상에 가득 차게 될 것이며, 이들은 다음 삶에서 유토피아와 영원한 행복을 이끌어 낸다 할 것이며, 전문적으로 관리되는 기술의 약속을 통해 그것을 굴릴 것이라고 주장합니다. 이 상태를 떠나 초월적인 밖으로 라구요.

이 책에 대한 나의 전제는 다음과 같은 네 가지 주요 주장을 포함합니다.

 

Does any of this sound like heaven? Or paradise? Valhalla? That's not surprising because Scientism (as distinct from exploration and discovery using the scientfic method) has ushered in a new era of material reductionism so that religion, spirituality, or any other non-material aspect of reality that cannot be readily quantified have been stripped of relevance and meaning in our Brave New World.

Something has to fill the void that the absence of religion and spirituality will vacate. In my next book, The Singularity Has Been #Canceled, I posit that this vacuum will be filled with techno-utopian thinking, which will pull forward utopia and everlasting bliss from the next life, and via the promise of expertly managed technology, roll it out into this one.

My premise for the book includes four main assertions, which are:

 

-시스템과 전문가 관리가 바람직하지 않은 모든 결과에 대해 통제할 수 있다는 아이디어, 즉 그들이 개선하고자 하는 바람직하지 않은 결과를 역설적으로 악화시키는 것은 테크노-유토피아적 사고이다.

-현재의 가정 하에서는 "인공 지능"이 "광범위한 인공지능 AI"으로 정의되어 있지만 그것은 지각적이고 의식적일 수 없습니다. 의식이 우리의 뇌가 "간이 담즙으로 방출하는 것"과 같다고 생각하는 것은 실제로 잘못된 것입니다. 이것이 핵심 신념이라면 기술의 진보가 광범위한 AI를 달성할 수는 없습니다.

-테크노 유토피아 적 사고에는 근본적인 모순이 있다. 지적 프레임 워크의 논리적 확장에 의하면 의식이 환상이며, 그것을 클라우드 저장장치에 업로드하여 영원히 지속될 수있는 환상이라는 것입니다. 이러한 내부적 불일치는 사회적 수준에서 유지될 때 일종의 초월적인 정규화 또는 영적 철학자 켄 윌버 (Ken Wilbur)가 부른대로 "비관적 광기"라고 부릅니다.

  • It is techno-utopian thinking, the idea that systems and expert management can control for all undesirable outcomes, that paradoxically exacerbates undesirable outcomes they seek to ameliorate.

  • True "artificial intelligence" as defined as "wide AI", sentient and conscious, can never be achieved under our current assumptions.  The idea that consciousness is just something our brains emit "as a liver secretes bile" is, I think, actually wrong. No amount technological advancement will achieve wide AI so long as this is the core belief.

  • That there are fundamental internal contradictions in techno-utopian thinking. The logical extension of the intellectual framework is that consciousness is an illusion, albeit, one we we'll be able to perpetuate ever after by uploading it into the cloud. These internal inconsistencies, when taken hold at a societal level lead to a type of hypernormalization or what spiritual philosopher Ken Wilbur calls "aperspectival madness".

마지막으로, 나는 기술 배척자 luddite 부류가 아니기 때문에 실제로는 "기술적 현실"이라고 하는 사고의 틀을 소개합니다. 모든 기술은 모든 더 크고 복잡한 문제로 새로운 도약을 하게됩니다. 괜찮습니다. 나는 그것을 감당할 수있는 사람들에게 급진적인 생명 연장의 시대가 우리에게 임할 수 있다고 생각합니다. 그러나 생명 연장은 영원하지 않습니다. 깊이 계산해보세요.

이것의 단점은 모든 기술적인 양자 도약이 사회를 새로운 기술을 앞당길 수있는 획기적인 문명으로 분기시킨다는 것입니다. 시간이 지남에 따라 이익을 얻음에도 불구하고, 더 큰 대중은 이익을 얻는 데 더 느리며, 이러한 불평등을 완화하는 방법은 일반적으로 제도적 관심에 의해 방해 받는다.

 

Finally, because I'm not a luddite, far from, in fact, I introduce a framework for what I call "techno-realism", the central premise being that every technological leap ushers in a new set of larger, more complex problems and that this is ok. I do think it's possible that an era of radical life extension could be upon us, for those who can afford it. Life extension is not eternity, however. Do the math.

The downside to this is that every technological quantum leap also bifurcates society into a breakaway civilization that gets to front-run the new technology. The wider masses are slower to benefit (although they do benefit over time), and the ways to mitigate this inequality are typically impeded by institutionally entrenched interests.

 

Which brings us back to the Wall Street Journal article, that posits a techno-utopian immortality and presents evangelists from the likes of Google and myriad think tanks to advance it.

As we move into a more algorithmically controlled society, I would expect that technocratic social credit systems will supplant conventional moral structures, and the prospect of having your mind uploaded into an everlasting paradise will be the religious payoff for conforming to the rules.

It will be interesting to see how this narrative will be promulgated by various thought leaders and MSM outlets over the coming years. I hope to have my book out sometime in 2021.

 

맨위로

http://blog.daum.net/petercskim/7886321

신고하기