일본의 아라이 박사는 딥러닝에 기반한 3세대 인공지능 도로보군을 개발한다. 도로보군은 직접 시험지에 쓰인 글씨를 읽으며 문제를 풀었고 상위 10퍼센트 대학에 진학할 정도의 성취를 보인다. 그러나 아라이 박사는 3세대 인공지능의 특징상 여기서 더 나아갈 수 없다면서 연구를 중단한다.
도로보군이 문제를 푸는 방식은 문제의 답을 엄청나게 누적된 과거 자료(빅데이터)를 통해 확률적으로 찾아내는 것이다. 즉 그는 이것이 왜 답이 될 수 있는지 스스로 생각하거나 다른 답을 모색하거나 그것이 우리 삶에 주는 의미를 설명할 수 없다. 다만 많은 자료 중에서 '확률적으로' 이것이 답이라고 찾아낼 뿐이다. 즉 답을 '알아내는' 것이 아니라 '찾아내는' 기술이다. 그래서 인공지능은 "답을 맞힐 수는 있지만 그것에 대해 알지 못한다." 사람과 달리 49퍼센트와 51퍼센트의 확률 중에서 주저 없이 후자를 택한다. "인공지능은 역사를 이해하지도 느끼지도 못하지만" 역사 문제를 아주 잘 맞힌다.
저자는 도로보군이 시험 문제에서 답을 찾아가는 방식이 우리나라 입시학원에서 기출 문제를 학습하는 과정과 비슷하다고 이야기한다. 수능의 경우 거대한 기출 문제 빅데이터가 누적되어 있고 학생들은 패턴을 학습하며 답을 찾아가는 방식은 도로부군과 비슷하다. 그리고 저자는 말한다. 인공지능이 이길 수밖에 없는 분야에서 학생들이 그 많은 시간과 자원을 투입하는 것이 매우 안타깝다고. 자신이 알지도 못하면서 답을 찾는 연습을 하는 것, 오지선다형 문제의 답을 맞히는 것을 사고력이라고 할 수 없는 까닭이다. 게다가 거기에는 판단 능력에 가장 중요한 '도덕성'도 개입되어 있지 않다. 그래서 아라이 박사는 여기까지가 도로보군이 할 수 있는 전부라고 이야기한다.
미래사회와 미래교육에 대한 담론은 실업의 위기와 더불어 사람들을 쉽게 공포감에 몰아넣는다. 혁신을 부르짖지만 무엇을 혁신해야 할지 내용이 없는 경우가 많으며 잠깐 불붙었다 잠잠한 코딩교육처럼 무조건 새로운 것에 올인하기가 쉽다. 저자는 사람들의 공포심만 부추기는 교육의 혼란 속에서 지능과 사람됨의 본질이 무엇인지 되짚어본다.
저자는 지능에서 가장 고차원적인 메타인지는 인공지능에게 버겁다고 말한다. 인간의 지능은 "감정을 표현한 여러 가지 다른 정신 과정의 복잡한 상호작용과 조정의 결과이지, 여러 정신 과정들을 지휘하고 조정하는 지휘자 같은 존재가 아니"며, "컴퓨터의 중앙 연산장치처럼 자리잡은 것이 아니라 여러 정신 과정이 이합집산하면서 형성된 신경 연결망 어딘가에서 발현하는 현상"이기 때문이다. 그리고 사회, 문화적 영향 하에 형성된 것이다. 인공지능은 사람의 목적에 따라 무언가를 수행하도록 만들어진 것으로 목적을 과정에 따라 수정, 변형할 수는 있지만 사람처럼 자기 자신의 목적을 가질 수도 없고 자신이 하는 일에 대해 질문할 수도 없다.
인간이 지닌 고통에 대한 감수성도 인공지능에 비할 바 아니다. 인간은 지구상 어떤 생명보다 복잡한 신경계를 가졌고 어떤 생명체보다도 신체적, 정서적으로 다양한 상황에서 강도가 큰 고통을 느끼기에 인권 개념을 발달시켜왔다. 사람은 가장 크고 깊은 고통을 느끼는 존재이기에 도덕적으로 가장 먼저 배려 받을 권리가 있다. 고통을 느끼지 못하는 로봇은 공리주의적 관점에서는 동물보다 도덕적 가치가 낮다고도 볼 수 있다.
이러한 인간성의 본질을 들여다보았을 때, 저자는 산업사회가 만든 수많은 기계적인 노동이 인공지능으로 대체되는 것은 합당한 결과라고 본다. 사람에게 지나친 스트레스를 주고 그의 생명력을 갉아먹는 노동을 옹호할 필요가 없다는 것이다. 문제는 그로 인한 대량 실업 사태이다. 인공지능이 대체하기 힘든 고차적 사고력을 요하는 노동은 아무리 많이 잡아도 30% 정도이며, 70%의 일은 인공지능으로 대체되는 시대에 어떻게 할 것인가. 30%에 들어가기 위해 무한 경쟁을 할 것인가. 저자는 이를 풀어갈 열쇠는 '정치'에 있다고 말한다.
인공지능 시대의 교육 또한 산업 일꾼을 기른다는 목적 아래 사람을 기계적으로 다루었던 지식 전수형 교육이 아니라 삶의 '총체적인' 역량을 기르는 방향으로 나아가야 한다. 삶의 목적과 가치를 스스로 설정할 줄 아는 '전인'이 교육의 목표이다. 익혀야 할 분명한 지식이나 기능이 있던 시대가 아니라 창조성이나 역량이 교육의 목표가 될 때 이 불확정한 목표가 있는 교육을 구조화하기란 실로 어렵다. 저자는 교사와 학생이 함께 배워나가는 과정 속에서 그 길을 찾아야 한다고 말한다.
책을 다 읽고 나서 인공지능 시대, 어쩌면 교육은 '만남'과 '대화' 속에서 '고정된' 목표가 아니라 함께 '길을 탐구하고' 함께 '꿈을 꾸는' 가장 인간다운 길로 접어들어야 하는 게 아닐까 했다.
교사 뿐 아니라 이 시대를 사는 모두에게 인공지능 시대를 어떻게 마주해야 할 지 쉬우면서도 깊이 있게 해설하는 좋은 책이다.
##
사실 감정은 치열한 생존경쟁 현장에서 시간을 절약할 수 있는 매우 강력하고 편리한 도구다. 인류의 역사를 300만 년이라고 볼 때 그중 적어도 299만 년간 인간은 지성이 아니라 감정에 따라 행동했다.
가령 자기 이성 짝 근처에서 다른 동성이 얼쩡거리는 것은 자기 유전자 번식에 큰 방해 요인이 된다. 이때 얼쩡거리는 다른 동성의 목적이 무엇인지, 실제로 자기 짝을 가로챌 위험이 있는지 합리적으로 판단하고 나서 행동하는 것보다는 치밀어 오르는 질투라는 강력한 감정에 의해 행동하는 쪽이 더 효과적이다. 자기 짝 주변의 다른 동성을 판단하느라 시간과 자원을 소모하는 것보다는 애초에 얼씬거리지 못하게 하는 편이 시간과 자원을 절약하기 때문이다. 포식자들이 즐비한 생태계에서 낯선 동물을 만났을 때 낯선 존재의 특징을 관찰하고 의도를 파악하며 생각하는 것보다는 낯선 동물은 일단 포식자로 간주하고 즉각 도주하거나 공격이라는 반응을 끌어내는 편이 효과적이다. 이것이 바로 공포라는 감정이다. 이처럼 감정은 자연환경에서 행위자가 마주치게 될 여러 상황에 따른 즉각적이고 강력한 반응을 효과적으로 끌어냈다. p67
##
지금까지의 교육은 항상 목표로 하는 지식이나 능력이 정해져 있었고, 그 지식이나 능력을 갖추도록 학생에게 변화를 일으키는 의도적인 작용이 교육의 내용을 이루고 있었다. 주어진 목표가 있기 때문에 이 작용은 사전에 계획될 수 있었다. 이 계획을 실행하는 단계마다 상황을 평가하여 계획을 수정하지만 처음부터 계획 없이 교육이 이루어지는 경우는 없었다.
행동주의, 경험주의, 인지주의, 구성주의 등 교육학의 여러 논쟁 역시 저 중에 목표로 하는 지식이나 능력을 무엇으로 삼을 것이냐, 그리고 그 목표를 달성하는 과정에서 교육 작용을 어떻게 구성하며 교사의 역할을 무엇으로 볼 것인가에 대한 논쟁이었다. 목표로 하는 지식이나 능력의 불확정성을 전제로 하는 경우는 없었다. 이건 수천 년간 내려온 교육의 대전제였다.
그러나 역량이나 창조성이 목표가 되면 이러한 교육의 대전제는 근본적인 도전을 받게 된다. 존 듀이가 지, 덕, 체의 교육을 분리하여 사고하는 관점에서 이들의 융합을 주장하여 '철학의 재구성'이라고 했듯이, 교육철학의 재구성이 필요하다.
특정한 능력이나 지식을 전수하는 것으로는 부족하다. 오히려 특정한 능력이나 지식은 그것이 필요한 문제 상황에 직면했을 때 스스로 함양하고 학습할 수 있어야 한다. 그런데 총체적인 역량을 기르는 교육을 구체적인 목표를 수립하고 그것을 달성하는 일련의 학습 프로그램으로 구조화하기는 어렵다. 이건 형용모순이다. 목표가 불확실하고 총체적이라면 교육 역시 불확정적이고 총체적이라야 한다. p131-132
##
사람이 괴로움을 느끼는 것은 이 중 어느 한 측면에 치우친 경우다. 아무리 사소하고 약한 동작이라도 그 동작이나 자세가 장기간 반복되면 근육과 관절에 손상이 오듯, 사람의 마음도 특정한 유형의 업무가 계속 반복되면 지루함, 피로, 그리고 스트레스를 받는다. p201
##
사람을 기계처럼 부리는 노동에서 가장 합리적인 선택은 그 노동을 완전히 기계화하는 것이다. 그러니 비인간적인 분업을 담당할 비인간, 즉 인공지능이 등장한 이상, 비싼 비용을 지불하고, 거센 저항을 관리해가며 이 영역의 노동을 사람에게 시킬 이유가 없어진 것이다. 원래 기계가 할 일, 사람을 기계화하는 대신, 기계에 맡기면 될 일이다. 사람을 기계 부품으로 만들어 투입했던 비인간적인 노동 분업의 시대가 막을 내리는 것은 반가운 일이다. 문제는 그 부품이었던 사람들을 무책임하게 실업자로 내던진다는 것이다.
내던져지는 충격은 오히려 그동안 마취된 감각을 일깨우는 계기가 될 수 있다. 그동안 어느 정도의 고용 안정, 소득, 중산층의 삶 등에 취해 잊고 있었던 노동의 비인간성에 대한 저항감을 다시 떠올릴 수 있는 것이다. 그리고 우리가 이른바 단순 노동이라고 불렀던 그 영역이 반드시 그렇게 비인간적인 반복 작업, 단순 작업으로만 이루어져야 했는지 반성할 계기도 주어진다.
인공지능의 등장은 노동의 비인간성을 고발하는 계기이자 노동에 인간성의 숨결을 불어넣고자 하는 강한 동기 부여가 되어야 한다. 단지 인공지능에 일자리를 빼앗기지 않는 것, 그 비인간적인 노동을 계속하는 것을 권리라고 마냥 지키는 것이 답이 아니다. 그 자리를 빼앗기지 않으려고 저항을 하건 안 하건 간에 결국 그러한 종류의 일자리는 인공지능에 대체되고 말 것이다. p214
##
여기서 말하고자 하는 것은 인공지능과 사람을 대립 혹은 대체 관계로 보는 관점을 포기해야 한다는 것이다. 이 관점은 다음 두 가지 이유로 해롭다.
첫째, 두려움과 불안 외에는 주는 것이 없다. 애초에 근대 산업사회는 사람을 부품화하여 투입하는 거대한 기계였다. 따라서 근대 산업사회의 관점에서 일을 사고하는 한 그 누구도 인공지능의 적수가 될 수 없다. 어쩌면 인공지능에 대한 두려움은 그만큼 우리가 상상력이 부족했다는, 즉 기계화되어 있었다는 반증일 수 있다. 기계에 적합한 일을 하도록 자신을 만들어놓고 있으니 완벽한 기계가 등장할 경우 밀려날 수밖에 없다는 두려움에 빠지는 것이다.
둘째, 미래를 경쟁의 아수라장으로 만들 수 있다. 기존의 노동이 기계적으로 이루어진 것에 어떤 문제의식도 느끼지 않으면, 그 영역을 고스란히 인공지능에 내어주게 된다. 그렇게 되면 인공지능과 거리가 멀다고 여기던 얼마 남지 않은 일자리를 놓고 서로 다투는 미래밖에 생각할 것이 없게 된다. 하지만 교사, 예술가, 컴퓨터 공학자, 감정노동자 등이 전체 경제활동 인구를 다 감당할 수 없다. 이 영역에서 감당할 수 있는 경제활동 인구는 아무리 많이 잡아도 30%를 넘어가기 어렵다. 그렇다면 70%에 떨어지지 않기 위해 무한경쟁을 벌여야 할까? p219-220
##
인간사회 중에서 생산과정에 이바지하지 못하는 개인을 잔혹하게 유기하는 야만적인 집단이 없었던 것은 아니었다. 수천 년 전 스파르타가 그랬다. 스파르타에서는 전사로 자랄 가망이 없는 아기들을 유기했다. 이는 스파르타인은 전투라는 것, 그리고 노예에게 강제 노동을 시켜 생산하는 농업과 광업 외에는 어떤 가치 있는 일을 생각해내지 못했기 때문이다. 따라서 전투력의 상실은 곧 사회적 역할의 상실이며, 사실상 죽음이나 다름 없었다.
하지만 스파르타보다 한결 다양하고 유연했던 아테네나 로마에서는 전투 능력이 없더라도 사회에 이바지할 수 있는 많은 다른 선택지가 있었다. 이렇다 할 전투 경험도 없는 툴리우스 키케로가 로마 최고 관직인 집정관까지 올라갈 수 있었떤 것도 로마 사회의 다양성을 보여준다. (...)
따라서 인공지능으로 인한 일자리의 대체가 곧 사회에서의 도태라는 두려운 결과로 이어지는 것은 인공지능의 문제도, 경제의 문제도 아니다. 그 사회가 얼마나 인간적인 사회인가의 문제다. 이는 다름 아닌 정치의 문제다. p222-223
##
1. 목적을 설정하는 존재로서 사람
2. 가치와 방향을 설정하는 존재로서 사람
3. 종합적(전체적인) 존재로서의 사람
이 셋이야말로 사람됨의 근본이며 인공지능이 아무리 발달하더라도 넘볼 수 없는 영역이다. 앞으로 우리가 지향해야 하는 인간상 역시 이 셋을 중심으로 설정해야 하며, 교육 역시 그러한 인간상을 만드는 것을 목적으로 삼아 재구성해야 한다고 잠정적으로 결론 내릴 수 있다. p233
##
구글, 유튜브에 다 나오는데 지식 교육 따위는 필요 없다는 말은 무책임하다. 오히려 이것만으로는 충분하지 않다고 말해야 한다. 지식과 기능을 바탕으로 무엇인가 더 할 수 있는 사람을 길러야 한다.
사람에게는 그 이상의 무엇이 필요하다. 지식과 기능에 의미를 부여하는 존재, "목적을 세우는 존재로서 사람"이 되어야 하며 그런 사람을 기르는 것이 바로 인공지능 시대의 교육이 되어야 한다. 목적을 세울 수 있는 존재를 기른다는 것은 결국 사람을 기른다는 것과 동의어이다.
이런 의미에서 교육은 이제야 산업사회에서 상실한 휴머니티를 재발견한 셈이 된다. 산업사회에서의 교육은 사람이 아니라 기계를 길러내는 것이었다. 아이들을, 졸업하면 생산 라인에 당장 투입해도 제대로 기능할 수 있는 살아있는 기계로 만들어내는 과정이었다. 그 기계가 반드시 구현해야 하는 프로그램이나 기능을 장착하는 과정이 공교육이라는 이름으로 이루어졌다. p236
##
딥러닝은 그 이름과 달리 매우 얕은 학습 방법이다. 딥러닝은 한마디로 어떤 문제(입력)와 관련하여 가장 적합한 해법(답)을 엄청난 규모로 누적된 과거 자료(빅데이터)를 통해 확률적으로 찾아내는 기술이다. 즉 "알아내는" 것이 아니라 "찾아내는" 것이다.
이 둘 사이의 차이는 엄청나다. "알아내는" 것은 어떤 문제에 대한 답을 찾을 뿐 아니라 그것이 왜 답이 될 수 있는지, 다른 방법은 없는지, 그리고 그것이 답이라는 사실이 관련 분야 혹은 자신의 삶에 어떤 의미가 있는지 설명할 수 있는 것이다. "찾아내는" 것은 단지 그 문제의 답이 이것이라고 연결 짓는 것이다. 심지어 딥러닝에서는 이것이 답이라고 연결 짓지도 않는다. 다만 이것이 답일 확률이 제일 높다고 산출할 뿐이다. 인공지능은 답을 맞힐 수는 있지만 그것에 대해 알지 못한다. p293
##
그런데 도로보군이 시험문제에서 답을 찾아가는 과정을 보면 우리나라 입시학원에서 이른바 기출문제 문형 학습하는 과정과 거의 비슷하다. 우리나라는 수능 문제가 모두 공개된다. 즉 거대한 기출문제 빅데이터가 누적되어 있다. 여기에 교육방송 문제집까지 있다. 이런 것들을 몽땅 분석하면 "알지 못해도" "정답은 찾을 수 있는" 문제 풀이 패턴을 찾을 수 있다. 즉 특징 학습을 하는 것이다. 이 특징들을 많이 익힌 학생은 짧은 시간 안에 많은 문제의 답을 찾을 수 있다. 그러나 공부를 잘하는 건 결코 아니다. 각 대학, 이른바 상위권 대학에서 수능 정시 비율을 자꾸 줄이려는 까닭은 금수저를 뽑기 위해서가 아니다. 인공지능이 더 잘할 수밖에 없는 영역에서 탁월성을 드러내는 학생을 뽑고 싶지 않아서인 것이다. p296
##
그동안 우리 교육은 진정한 인간적인 면보다는 기계적인 면을 가르치는 일에 많은 시간을 할애했다. 흔히 말하는 단순 전수형 교육, 즉 주입식 교육이 그것이다. 이런 교육을 창조적이고 인간적인 모습으로 바꾸어나가는 것이 바로 인공지능 시대의 교육이다.
모든 학생이 빅데이터의 생산자라는 점을 염두에 두고, 이 빅데이터가 아름답고 올바르게 구성되도록 하는 것, 즉 인성교육을 제대로 하는 것이 바로 인공지능 시대의 교육이다. 또한 빅데이터의 질은 결국 다양성과 개방성에 있기 때문에 이런 다양성과 개방성을 갖춘 사람들을 길러내는 것, 바로 민주시민 교육을 제대로 하는 것이 바로 인공지능 시대의 교육이다.
창조성의 교육, 인성의 교육, 민주시민성의 교육, 결국 이러한 당연해 보이는 것들, 교육의 본질, 교육의 본분에 가까운 것들이 바로 인공지능 시대의 교육이다. 인공지능이 사람의 노동에서 비인간적인 부분을 대체하기 때문에 교육 역시 비인간적인 부분을 제거하고 인간적인 참된 교육으로 되살아나야 한다. p301-302
##
심지어 수능 정시를 확대하겠다고 나서고 있다. 그게 비판의 대상이 되자 수능을 서술형으로 하겠다느니, IB를 도입하겠다느니 하는 등 말잔치가 벌어지고 있다. 그러나 서술형 시험이나 IB나 결국은 시험이며, 이는 어짜피 산업사회 시대에 만들어진 옛것이다. 더구나 서로의 신뢰도가 바닥인 한국사회에서 정답이 없는 열린 평가는 불가능하다. 교육과정에서 조금이라도 벗어난 내용이 문제뿐 아니라 보기에 나오기만 해도 난리가 나는 풍토이니 출제 범위도 뻔하다. 이렇게 뻔한 범위 안에서 정답이 분명한 문제만 내야 한다면 아무리 복잡하게 변형해도 어짜피 일정한 문제은행의 범위를 넘어설 수 없다. (...)
기출문제들을 빅데이터로 삼아 특징들을 학습시키는 일, 이게 바로 대부분의 입시학원에서 학생들에게 가르치는 내용이다. 이게 학원만의 문제가 아니다. 이런 방식의 교육 아닌 교육이 이미 우리나라에서는 수십 년 전부터 교육의 표준으로 자리잡은 지 오래다. p302-303
##
고통에도 심급이 있다. 당연히 단순한 신경계를 가진 생명보다 복잡한 신경계를 가진 생명이 고통의 종류도 많고, 강도도 세다. 몸이 두 토막이 되면 두 마리의 개체가 되는 플라나리아 같은 생명체와 팔다리가 절단되면 불구가 되는 다른 동물들과 고통 민감성이 같을 수 없다. 특히 개나 원숭이 같은 사회성 동물들은 신체적인 고통뿐 아니라 다른 사람이나 동물과의 상호작용 단절을 통해서도 심각한 고통을 느낀다. 실제 뇌에서 신체적 고통을 느끼는 부위와 사회적 외로움을 느끼는 부위가 동일하다. 따라서 개나 원숭이 같은 동물은 신체적인 고통 뿐 아니라 사회적, 정서적 학대도 받지 않을 권리가 있다.
이런 식으로 권리의 범위를 넓혀나가면 사람은 지구상의 그 어떤 생명보다도 복잡한 신경계를 가졌고, 고통의 종류와 강도도 가장 많으며, 따라서 가장 폭넓은 권리를 가진다는 결론에 이르게 된다. 사람은 신체적, 사회적, 정서적 고통뿐 아니라 정신을 제한당하고 억압당하는 정신적 고통으로부터도, 심지어는 세상이 올바르게 가고 있지 않다는 느낌 때문에 받는 고통으로부터도 자유로울 권리를 지닌다. 그래서 사람은 신체, 학문과 양심, 집회, 시회, 결사, 언론의 자유 및 정치 공동체의 구성원으로서 참여할 권리 등 폭넓은 권리를 누릴 자격을 가지는 것이다. (...)
그러니 앞으로 우리가 만나게 될 인공지능들, 그리고 그것이 장착된 로봇 등의 기계는 고통을 느끼지 못하는 존재일 가능성이 거의 100%다. 그렇다면 공리주의적 관점에서 이들 인공지능 장치들의 도덕적 가치는 동물보다도 더 아래 있다고 보아야 할 것이다. 사람은 가장 크고 넓은 고통을 느끼는 고통 감지 덩어리기 때문에 도덕적으로 가장 큰 우선권과 배려를 요구할 수 있다. p188-190
댓글