문화 > 문화일반

유발 하라리 "지금 큰 위협은 AI보다 인간사회 분열"[조수원 BOOK북적]

등록 2024-10-19 07:00:00 최종수정 2024-10-28 10:31:39

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	유발 하라리 "지금 큰 위협은 AI보다 인간사회 분열"[조수원 BOOK북적] [서울=뉴시스]조수원 기자 = "AI(인공지능)를 이해하기 위해 알아야 할 중요한 것은 AI는 도구가 아니라 행위자입니다. AI는 스스로 배우고 변하며 새로운 것을 만들어내고 결정 내릴 수 있는 능력을 갖추고 있습니다." '사피엔스'와 '호모 데우스' 저자인 유발 하라리 예루살렘 히브리대 교수가 6년 만의 신작 '넥서스(연결)'를 통해 AI 혁명이 인류에게 가져올 위험성을 경고한다. 유발 하라리는 "현재 인류는 새로운 정보 기술의 부상으로 인해 위협받고 있다"며 "21세기 AI는 강력한 네트워크의 연결을 만들어 후손들이 AI의 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지도 모른다"고 전한다. 책 '넥서스'는 석기시대부터 AI까지 정보 네트워크를 바탕으로 인류의 역사를 소개한다. 유발 하라리는 호모 사피엔스(지혜로운 인간)인 인류가 왜 자기 파괴적인가에 초점을 맞춘다. [[[[:newsis_inyoung_center_start:]]]]"우리는 DNA 분자부터 먼 은하까지 모든 것에 대해 수많은 정보를 축적했지만 이 정보들은 인생의 큰 질문들에 답을 주지 못하는 것 같다. (중략) 우리가 이용할 수 있는 정보가 이렇게나 많은데도 우리는 환상과 망상에 우리 조상들만큼이나 쉽게 빠진다. 나치즘과 스탈린주의는 인류사회를 집어삼킨 수많은 집단 광기 중 두 가지 최근 사례에 불과하며, 현대 사회조차 예외가 아니다. 오늘날 인간이 석기시대 인간보다 훨씬 더 많은 정보와 힘을 보유하고 있다는 사실에는 아무도 이의를 제기하지 않지만, 우리가 우리 존재와 우주에서의 우리 역할을 훨씬 잘 이해하고 있는지는 의문이다."(7쪽) [[[[:newsis_inyoung_center_end:]]]]하라리 교수는 오늘날 인류의 자기 파괴 원인으로 '정보'를 지목한다. 인류는 AI가 제공하는 정보를 이용하면서도 편향성을 의식하지 못한다고 봤다. 그는 "AI가 편향이 있을 수 있겠냐고 생각하지만 훈련을 받으려면 데이터가 필요하다"며 "이 데이터는 편향된 경우가 많아서 AI도 편향될 수밖에 없다"고 말했다. 그는 "세계 전역에 존재하는 거의 모든 데이터베이스에는 어떤 종류든지 여성·인종·성적 소수자 등을 향한 편향에 물들었다"고 전한다. 그럼에도 하라리 교수는 AI의 탈편향화가 가능하다고 여긴다. 탈편향화를 위해서 철학자와 역사학자, 사회과학자 등의 의무가 중요하다고 본다. 하라리 교수는 "철학자와 역사학자, 사회과학자들이 엔지니어나 정치인에게, 사회에 위험이 있다는 걸 끊임없이 상기시켜 탈편향을 일어나게 하는 것이 우리의 임무"라고 강조한다. 전 지구적인 차원에서 AI 발전이 초래할 문제도 언급한다. 하라리 교수는 "19세기 산업혁명 당시와 비슷한 문제가 21세기 AI 관련해서 일어나지 않을까 하는 우려가 있다"며 "당시 소수의 나라가 산업혁명을 주도했고 이 나라들이 앞선 기술로 전 세계를 침탈하고 지배하는 현상 있었다"고 한다. 그는 "몇몇 국가가 AI 기술 선도주자로 나서고 있는데 다른 국가를 지배·착취할 수 있는 그런 위치에 올라갈 가능성이 크다"고 했다. [[[[:newsis_inyoung_center_start:]]]]"16세기에 스페인, 포르투갈, 네덜란드의 정복자들이 역사상 최초의 세계 제국을 건설할 때는 범선과 말, 화약 무기(총과 대포)로 원주민을 제압했다. 19세기와 20세기에 영국, 러시아, 일본이 패권 경쟁을 할 때는 증기선, 기관차, 기관총 같은 산업 기술에 의존했다. 21세기에 식민지를 지배하기 위해서는 군함을 보낼 필요가 없다. 대신 데이터를 탈취해야 된다. 전 세계 데이터를 수집하는 소수의 기업 또는 정부는 나머지 세계를, 노골적인 군사력이 아닌 정보를 통해 지배하는 데이터 식민지로 만들 수 있다."(517쪽) [[[[:newsis_inyoung_center_end:]]]]"지금 큰 위협은 AI보다 인간사회 분열입니다. 인류가 다 같이 새 기술을 절제적으로 사용할지 함께 고민하고 노력하면 (AI 통제가) 가능할 것입니다. AI의 잠재력을 인류의 이로움을 위해 충분히 쓰는 게 가능할 수 있습니다." 결국 하라리 교수는 기술적 문제를 해결하는 근원적 방법이 인간 내부에서 찾을 수 있다고 강조한다. "우리가 해야 할 질문은 '인류가 어떻게 분열 상태를 극복할 것인가'입니다. 내부 분열을 극복하지 못하고 만약 AI가 인류를 통제할 힘을 얻게 된다면 어찌할 수 없는 사태가 발생할 것입니다." ◎공감언론 뉴시스 [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

유발 하라리 "지금 큰 위협은 AI보다 인간사회 분열"[조수원 BOOK북적] [서울=뉴시스]조수원 기자 = "AI(인공지능)를 이해하기 위해 알아야 할 중요한 것은 AI는 도구가 아니라 행위자입니다. AI는 스스로 배우고 변하며 새로운 것을 만들어내고 결정 내릴 수 있는 능력을 갖추고 있습니다." '사피엔스'와 '호모 데우스' 저자인 유발 하라리 예루살렘 히브리대 교수가 6년 만의 신작 '넥서스(연결)'를 통해 AI 혁명이 인류에게 가져올 위험성을 경고한다. 유발 하라리는 "현재 인류는 새로운 정보 기술의 부상으로 인해 위협받고 있다"며 "21세기 AI는 강력한 네트워크의 연결을 만들어 후손들이 AI의 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지도 모른다"고 전한다. 책 '넥서스'는 석기시대부터 AI까지 정보 네트워크를 바탕으로 인류의 역사를 소개한다. 유발 하라리는 호모 사피엔스(지혜로운 인간)인 인류가 왜 자기 파괴적인가에 초점을 맞춘다. [[[[:newsis_inyoung_center_start:]]]]"우리는 DNA 분자부터 먼 은하까지 모든 것에 대해 수많은 정보를 축적했지만 이 정보들은 인생의 큰 질문들에 답을 주지 못하는 것 같다. (중략) 우리가 이용할 수 있는 정보가 이렇게나 많은데도 우리는 환상과 망상에 우리 조상들만큼이나 쉽게 빠진다. 나치즘과 스탈린주의는 인류사회를 집어삼킨 수많은 집단 광기 중 두 가지 최근 사례에 불과하며, 현대 사회조차 예외가 아니다. 오늘날 인간이 석기시대 인간보다 훨씬 더 많은 정보와 힘을 보유하고 있다는 사실에는 아무도 이의를 제기하지 않지만, 우리가 우리 존재와 우주에서의 우리 역할을 훨씬 잘 이해하고 있는지는 의문이다."(7쪽) [[[[:newsis_inyoung_center_end:]]]]하라리 교수는 오늘날 인류의 자기 파괴 원인으로 '정보'를 지목한다. 인류는 AI가 제공하는 정보를 이용하면서도 편향성을 의식하지 못한다고 봤다. 그는 "AI가 편향이 있을 수 있겠냐고 생각하지만 훈련을 받으려면 데이터가 필요하다"며 "이 데이터는 편향된 경우가 많아서 AI도 편향될 수밖에 없다"고 말했다. 그는 "세계 전역에 존재하는 거의 모든 데이터베이스에는 어떤 종류든지 여성·인종·성적 소수자 등을 향한 편향에 물들었다"고 전한다. 그럼에도 하라리 교수는 AI의 탈편향화가 가능하다고 여긴다. 탈편향화를 위해서 철학자와 역사학자, 사회과학자 등의 의무가 중요하다고 본다. 하라리 교수는 "철학자와 역사학자, 사회과학자들이 엔지니어나 정치인에게, 사회에 위험이 있다는 걸 끊임없이 상기시켜 탈편향을 일어나게 하는 것이 우리의 임무"라고 강조한다. 전 지구적인 차원에서 AI 발전이 초래할 문제도 언급한다. 하라리 교수는 "19세기 산업혁명 당시와 비슷한 문제가 21세기 AI 관련해서 일어나지 않을까 하는 우려가 있다"며 "당시 소수의 나라가 산업혁명을 주도했고 이 나라들이 앞선 기술로 전 세계를 침탈하고 지배하는 현상 있었다"고 한다. 그는 "몇몇 국가가 AI 기술 선도주자로 나서고 있는데 다른 국가를 지배·착취할 수 있는 그런 위치에 올라갈 가능성이 크다"고 했다. [[[[:newsis_inyoung_center_start:]]]]"16세기에 스페인, 포르투갈, 네덜란드의 정복자들이 역사상 최초의 세계 제국을 건설할 때는 범선과 말, 화약 무기(총과 대포)로 원주민을 제압했다. 19세기와 20세기에 영국, 러시아, 일본이 패권 경쟁을 할 때는 증기선, 기관차, 기관총 같은 산업 기술에 의존했다. 21세기에 식민지를 지배하기 위해서는 군함을 보낼 필요가 없다. 대신 데이터를 탈취해야 된다. 전 세계 데이터를 수집하는 소수의 기업 또는 정부는 나머지 세계를, 노골적인 군사력이 아닌 정보를 통해 지배하는 데이터 식민지로 만들 수 있다."(517쪽) [[[[:newsis_inyoung_center_end:]]]]"지금 큰 위협은 AI보다 인간사회 분열입니다. 인류가 다 같이 새 기술을 절제적으로 사용할지 함께 고민하고 노력하면 (AI 통제가) 가능할 것입니다. AI의 잠재력을 인류의 이로움을 위해 충분히 쓰는 게 가능할 수 있습니다." 결국 하라리 교수는 기술적 문제를 해결하는 근원적 방법이 인간 내부에서 찾을 수 있다고 강조한다. "우리가 해야 할 질문은 '인류가 어떻게 분열 상태를 극복할 것인가'입니다. 내부 분열을 극복하지 못하고 만약 AI가 인류를 통제할 힘을 얻게 된다면 어찌할 수 없는 사태가 발생할 것입니다." ◎공감언론 뉴시스 [email protected]

https://weekly.newsis.com