유리감옥. 니콜라스 카. p341
기술이 발전할수록 인간은 왜 무능해지나
생각을 통제하는 거대한 힘
자동화 테크놀로지 시대, 우리의 삶은 더울 풍성해졌는가?
자동화 기술은 매우 위험하다? 알고리즘화 할 수 있는 절차적 과정은 컴퓨터로 하여금 대신 수행하게 할 수 있지만, 암묵적 지식은 그럴 수 없기 때문에 모든 것은 컴퓨터에 맡기면 오히려 세상은 위험에 빠질 것이다!
니콜라스 카가 자동화 테크놀로지에 대해 비판적인 좀 더 근본적인 이유는 그것이 우리의 삶에서 행복과 만족감, 그리고 몰입감을 빼앗아 갈 수 있어서다. 사회심리학자들의 연구에 따르면, 인간의 행복과 만족은 실제로 세상에서 무언가 의미 있는 일을 직접 할 때 벌어진다고 한다.
삶이 주는 행복감을 잃어버리고 디지털 문명이 주는 공허함으로 채우게 될지도 모른다
문제는 우리가 자동화에 대해서 이 정도면 ‘충분하다’ 혹은 ‘이제는 잠시만 멈춰’라고 말해야 할 시기를 모른다는 데 있다. 경제적으로나 감정적으로 자동화의 장점에만 흠뻑 빠져 있을 뿐이라는 뜻이다.
의료자동화? 비용청구의 자동화? 일례로 병원에서 환자들에 대한 진료 카드가 자동으로 파일 형태로 생성되고 처방전이 전산화될수록 환자는 의사에게 점점 숫자로 여겨진다…고가로 들여온 장비..불필요한 처방…과도한 의료비…그로 인해 환자와의 거리는 점점 멀어진다.
우리는 이미 테크노로지라는 보이지 않는 유리감옥에 갇혀 우리의 능력을 스스로 제한하고 발전을 가로막고 있는 건 아닌지 모르겠다. 자동화 시대에 우리가 치러야 할 대가들을, 디지털 시대에서 삶의 방향을 잃은 우리들의 자화상을 이 책에서 발견하게 된다.
최첨단 GSP 네비게이션? 그러나 길을 잃어본 자만이 머릿속에서 지도를 얻을 수 있다. 기계가 목적지에 도착하는 법은 가르쳐주지만, 목적지를 상상하고 선택하는 방법을 가르쳐주진 않는다.(고기가 아닌 고기를 잡는 법)
우리가 이 책에서 얻어야 할 가장 소중한 지혜는 ‘스마트 디바이스들을 진정 스마트하게 쓰는 법’이다.
이 책은 어디까지나 자동화가 인간에게 미치는 영향을 주제로 삼고 있다
조종사들이 직접 깨달았듯이 그들 모두가 자동화로부터 도움을 받은 건 아니었다. 자동화는 우리가 편협한 시각을 갖고 제한된 선택을 하게 만들 수도 있다. 또 우리를 감시와 조작에 노출시킬 수 있다.
#승객, 자동화에 빠진 사람들
운전의 즐거움을 빼앗은 자동변속기? 할 일이 줄어들자 처음엔 즐거웠지만, 그 즐거움도 차츰 사라지기 시작했다…자동변속기 자동차를 운전하자 나는 운전사보다는 승객 같다는 느낌이 더 강했다. 이제 나는 나의 변신을 후회하기 시작했다.
상황에 대해 평가하고 판단을 내릴 수 있는 우리의 능력 중 상당 부분은 불분명한 암묵지의 영역에서 나온다. 창조적이고 예술적인 능력 중 상당 부분도 역시 그곳에 머물고 있다.
인공지능은 인간 지능이 아니다. 사람들은 생각을 하지만, 컴퓨터는 생각을 하지 못한다!
희망오류? 우리는 좋아하지 않는 것을 바라고, 바라지 않는 것을 좋아하는 경향을 보인다(여가를 즐길 때가 아니라 일을 할 때 더 많은 긍정적인 감정을 느낀다)
자동화로 인해 우리는 자유롭게 할 수 있는 일을 하지 못하데 되는 경우가 비일비재하다
일보다는 휴식을, 수고보다는 편안함을 더 추구하는 편향 때문에 우리는 자동화가 주는 혜택들을 과대평가한다
#문 앞에 서 있는 로봇
기계와 일자리를 경쟁하다
“거대한 최첨단 산업은 미국 경제에 엄청난 생산성과 부를 기여했지만, 놀랍게도 일자리 창출에는 사실상 아무런 도움을 주지 못했다”-스티브 크로프트
기술 발달에 대한 불안한 목소리? 그런 전망은 묵살해버리기 쉽다!
기술은 변한다. 그리고 기술은 인간의 변화의 속도보다 훨씬 더 빠르게 변한다. 컴퓨터가 무어의 법칙대로 엄청난 속도로 발전한는 데 반해, 인간은 다윈의 법칙에 따라 거북이처럼 느리게 기어간다.
아무리 강력한 슈퍼컴퓨터라도 망치 이상의 의식을 보여주지 못한다.
#자동 비행의 시대
최첨단 유리 스크린에 갇힌 조종석
그런데 A320기의 비행 제어 시스템은 조종사와 비행기 사이의 촉각적인 연결을 끊어버렸다.
“오늘날 비행기에서 컴퓨터 자동화가 ‘만연했기’ 때문에 조종실은 하나의 대형 컴퓨터 인터페이스로 간주될 수 있다”
“우리는 비행하는 법을 잊어버리고 있다”? 긴급 상황이나 예외상황에 대해 적절한 대처를 하지 못해 추락사고를 야기하는 ‘승무원들이 탈숙련화’ 현상
#게을러지는 두뇌
자동화에 대한 안심과 편향
컴퓨터가 그릇된 안정감을 줄 때 우리는 안심한다? 우리는 기계가 앞으로 생길지도 모를 어떠한 도전도 해결해주리라고 확신하고 일에 관심을 쏟지 않게 된다. 일에 무관심해진다. 그리고 결과적으로는 뭔가가 잘못됐다는 신호들을 놓칠 수 있다!
과도하게 의존했다? “자동화 때문에 선원들은 여객선을 실제로 통제하거나 운항에 적극적으로 관여하지 못했다”
“날카로운 도구들이 오히려 머리를 둔하게 만든다” (덤다운dumb-down 현상)
구글은 사람들의 요구를 반영하고 대응성을 높이는 한편 사람들의 검색 내용에 대한 예측성을 높이기 위해 노력하자, 일반인들 사이에서 ‘덤다운dumb-down 현상’이 생기는 걸 목격했다고 인정한다.
“구글 사용 횟수가 늘어날수록 우리는 더 정확한 검색을 할 수 있었던 것 같다”라고 말하자, 싱할은 한숨을 쉬면서 다소 피곤한 기색을 보이며 기자의 생각을 바로잡았다. 싱할은 “사실은 그와 반대다. 기계의 정확성이 높아질수록 질문들이 더 게을러진다”라고 말했다.
컴퓨터 자동화는 우리에게 생성 효과와 반대되는 ‘퇴화 효과’를 일으킨다!(근육을 퇴화시키는 자동차)
자동화의 역설
“숙련된 예술가가 어려운 프로젝트를 힘들이지 않게 수행하려면 항상 복잡한 기술들을 미리 완전히 습득 해놓고 있어야 한다.” 자동화로 인해 우리가 우리 일로부터 멀어질 때, 그리고 자동화가 우리와 세상 사이에 끼어들 때, 그것은 우리의 삶으로부터 예술가적 기교를 제거해버린다.
#화이트칼라 컴퓨터의 등장
소프트웨어의 도움을 받기 전에 의사들은 몇몇 사소한 절차들에 대해서는 별도의 비용을 부과하는 경우가 적었다. 예를 들어 의사 사무실 방문이나 연례 신체검사 같은 절차들은 전체경비에 포함되어 처리됐다. 그런데 프롬프트로 인해 개별 비용들은 자동적으로 청구서에 가산됐다…의사가 소프트웨어 지시를 따르면 결국 더 많은 돈을 벌 수 있게 된다는 사실은 시스템에 대한 판단을 더욱 늦추고 싶은 또다른 동기가 된다.(비용의 자동화!)
경고 피로? 1차 의료 담당 의사들은 통상적으로 소프트웨어로부터 10번 경고를 받으면 9번 정도는 무시해버리면서 ‘경고 피로’라는 현상을 겪는다
기계에 통합된 숙련된 기술? 뛰어난 성능의 기계? 숙련된 수작업이 비숙력의 공장 노동으로 바뀐 것이다.
“항상 결과가 똑같거나 거의 똑같은 몇 가지의 단순한 작업을 하면서 한평생을 보내는 사람은 작업을 이해하려고 노력하거나 결코 일어니지 않는 어려움을 없애기 위한 방법을 찾아내느라 창의력을 발휘할 기회가 없다. 따라서 그는 자연스럽게 노력하는 습관을 상실하게 되고, 보통 인간이라는 피조물로서 최대한도로 멍청하고 무식해지기 마련이다.”-애덤 스미스[국부론]
#세상이 스크린에 갇히다
GPS ,여신의 등장
“길을 찾기 위해 기계에 의존하면 할수록 우리는 인지적 지도를 점점 더 만들 수 없게 될” 가능성이 높다
당황한 비행기 조종사, 트럭 운전자, 사냥꾼에 얽힌 이야기들이 보여주듯이 길을 찾는 감각을 상실하면 끔찍한 결과과 초래될 수있다.(GPS로 인해 방향감각을 상실한 이누이트족)
“도보 이동은 이 세상에서 우리의 가장 기본적인 존재방식이다. 도보 여행자는 주변 환경과 그 느낌과 특징에 심취하고 동화되면서 행동과 지각이 긴밀하게 결합된 움직임을 경험한다. 도보 여행은 지속적인 성장과 발전 내지는 자기 재생의 과정이 된다. 반면에 차량 여행은 본래부터 목적지 도달이 목적이다…차량 여행자는 실제로 어떤 의미 있는 방식으로 이동하지 않는다. 그는 몸소 승객이 되어 이동된다.”
“…건축은 어떤 면에서 뜸을 들이며 해야 하는 작업이다. 그래서 시간이 필요하다. 컴퓨터의 단점은 모든 걸 너무 빨리 돌아가게 만든다는 게 있다.”-렌조 피아노
“컴퓨터의 무시무시한 생산성에는 대가가 따른다. 즉 키보드 앞에 앉아 있는 시간은 늘어나지만, 생각하는 시간은 줄어든다.”-건축가, 비평가 비톨트 립진스키
창의성이 잘려진 손? “직접 그려보지 않고서 내가 무엇을 얻었는지 말해줄 수 있는 상상을 해본 적이 없다. 나는 드로잉을 비판과 발전의 과정으로 간주한다.”-모더니스트 건축가 리처드 맥코맥
생각은 몸과 분리될 수 없다? 걷기는 사고를 활성화한다!(칸트의 산책? 철학하는 시간)
#누구를 위한 자동화인가
인간이 배제된 기술 최우선주의
“사회는 부지불식간에 사람들보다 기계의 필요성을 강조함으로써 사람들을 대부분 어울리지 않는 조연 역할을 하게 만드는 기계 중심적 삶을 추구하게 만들었다…”
‘조종사 없는 비행기’? 인간 중심인가, 기술 중심인가
게임 조종간 같은 비행기 조종간들은 최소한의 수동 조작 없이도 비행 컴퓨터에 정보를 보내지만, 조종사들에게 촉각으로 파악 가능한 피드백을 제공하지는 않는다.
기술이 우위에 서다. 기술 중심전 자동화가 일단 현장에서 뿌리를 내릴 경우 발전 경로를 수정하기란 훨씬 더 어려워진다
#당신 안에 숨겨진 드론
자율조종로봇, 살인 기계의 탄생
불가해한 기술이 보이지 않는 기술이 될 때 우리는 그 기술에 관심을 가져야 할 것이다. 그때가 되면 기술의 가정과 의도들은 이미 우리 자신의 바람과 행동에 침투해 들어온 상태다…우리가 운전대를 잡고 있지만, 누가 운전을 하는지를 확신할 수는 없다.
#인간의 마음이 통하는 기술
사실 노동이 알고 있는 제일 달콤한 꿈이다.
– 로버트 프로스트의 걸작시 [풀베기]
“…우리는 시계의 태엽을 감는 것을 잃어버렸다. 오랫동안 신문을 받아보지 않아서 우리의 생각은 시간으로부터 자유로워졌다. 우리가 미리 할 일에 대해 계획을 세웠거나 우리가 나아갈 미래를 예상해봤더라면 우리의 시간은 더 완벽해질 수 없었을 것이다.”-농장에서 일하던 시절의 프로스트(소유,계획, 판단없음. 삼무의 지혜)
컴퓨터 스크린이라는 유리감옥 안으로 들어갈 때 우리는 우리 몸의 상당 부분을 포기해야 한다. 그렇다고 우리가 자유롭게 되는 것은 아니다. 쇠약해질 뿐이다.
대신에 세상은 훨씬 의미가 없어진다…위성신호에 따라 움직이는 젊은 이누이트 족처럼 우리는 눈을 가리고 여행한다.
우리가 사는 시대는 물질적 편안함과 기술적 경이로움으로 가득 차 있을지 모른다. 하지만 그런 시대는 목적이 없고 우울한 시대이기도 하다.(우울증 처방 환자가 늘어25퍼센트 가까이 늘어난 21세기 미국)
누가 주인이고, 노예인가? 기술로 인한 윤리적 위험
무슨 일을 하건 우리 마음대로다..하지만 인간과 기계의 역할이 뒤바뀌는 세상…기술에 대한 의존도가 높아질수록 우리 자신이 노예가 된다
“수많은 노동자들이 매일, 매 시간마다 기계의 노예로 전락하고 있다”-마르크스와 엥겔스, 공산당 선언
스마트 기기글이 가끔 사람들에게 힘을 주고 있다…하지만 사람들의 종이었던 그들이 이제는 대부분 주인이 되었다.
저항은 부질없는 짓이 아니다? CAD시스템을 사용하는 데 어려웠던 점은 소프트웨어 사용법을 배우는 게 아니었다. 사용법은 아주 쉬웠다. 그보다는 사용하지 않는 법을 배우는 게 더 어려웠다는 것이다.
CAD의 속도, 편리함, 참신함은 유혹적, 하지만 창조성에 오히려 방해가 됐다는 사실을 깨달았다!
다시 필름카메라로 돌아간 프리랜서 사진가? 처음에 이런 변화에 도취됐던 그였지만 그 결과를 보고 실망하고 말았다. 사진들은 정감이 가지 않았다. 그는 필름이 지각, 즉 보는 원칙을 부여해줬고, 그 원칙은 더 풍부하고, 더 예술적이고, 더 감동적인 사진들을 탄생시켰다는 것을 깨달았다. 필름은 그에게 더 많은 노역을 요구했지만 결과는 더 만족스러웠다. 그래서 그는 예전 기술로 되돌아갔다.
자동화는 수단과 목적을 분리한다. 자동화는 우리가 원하는 것을 더 쉽게 얻을 수 있게 해주지만, 우리가 우리 자신을 알아가는 일을 하지 못하도록 막는다. 스스로 스크린의 피조물로 전락해버릴 때 우리는 슈쉬왑 부족처럼 존재론적인 질문을 하게 된다.
이家윤家 LEEYOON.COM 