계산 기계와 지능 Computing Machinery and Intelligence

A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460.

Computing Machinery and Intelligence 계산 기계와 지능

By A. M. Turing 앨런 튜링

1. 흉내 게임 The Imitation Game

"기계가 생각할 수 있는가?"에 대해서 이야기해보자. 이를 위해서는 먼저 "기계"와 "생각한다"라는 용어에 대한 정의가 필요할 것이다. 단어의 정의는 가능한 한 그것이 일반적으로 사용되는 방식을 따를 수도 있겠지만, 이런 접근은 위험하다. 만약에 "기계"와 "생각한다"라는 단어의 의미를 그것들이 어떻게 사용되고 있는지를 살펴봄으로써 찾는다면, "기계가 생각할 수 있는가?"라는 질문의 의미와 이에 대한 대답을 여론조사 같은 통계적인 조사를 통해 찾아야 한다는 결론을 피하기 어렵기 때문이다. 이것은 불합리하다. 그런 정의를 시도하는 대신에 나는 이 질문을 이것과 밀접히 관련이 있으면서 비교적 덜 애매한 단어들로 표현된 다른 질문으로 바꿔보고자 한다.

이것을 '흉내 게임 imitation game'이라는 게임으로 설명할 수 있다. 세 사람이 참여한다. 남자(A), 여자(B), 심문자(C)-남자든 여자든 상관없는-. 심문자는 다른 두 명과 분리된 방에 있다. 이 게임의 목적은 심문자가 두 사람 중 누가 남자고 여자인지 맞추는 것이다. 심문자는 그 둘을 X, Y라고만 알고 있다. 심문자는 A, B에게 질문을 할 수 있다.

C: X, 당신의 머리카락 길이를 말해주세요.

만약 X가 A라고 가정하면, A는 대답을 해야 한다. A의 목적은 C로 하여금 정답을 맞추지 못하게 하는 것이다. 따라서 A는 다음과 같이 대답할 것이다.

A: 내 머리는 웨이브가(shingled) 있고, 제일 긴 머리카락은 9인치 정도 돼요.

목소리의 톤이 게임에 영향을 끼치는 것을 막기 위해서 대답은 타이핑된 글로 제시돼야 한다. B의 목적은 심문자가 정답을 맞추도록 돕는 것이다. 그녀로서 가장 좋은 전략은 진실된 대답을 하는 것이다. 그녀는 "내가 여자에요, 그의 말을 듣지 마세요!"라고 이야기 할 수도 있다. 그렇지만 A역시 그렇게 이야기 할 수 있기 때문에 별 효과가 없을 것이다.

이제 우리는 이렇게 물을 수 있을 것이다. "만약에 이 게임에서 기계가 A의 역할을 한다면 어떻게 될까?" 심문자는 남자와 여자를 대상으로 게임을 했을 때 만큼 틀린답을 이야기하게 될까? 이것이 내가 애초에 제안했던 질문, "기계가 생각할 수 있는가?"를 대체한다.

2. 새로운 문제에 대한 비판 Critique of the New Problem

"이 새로운 질문에 대한 답은 무엇인가요?"라거나 "이 질문이 논의할 가치가 있는 건가요?"라고 물을 수도 있을 것이다. 두 번째 질문에 대해 바로 이야기를 해보자.

이 게임은 사람의 신체적 능력과 지적 능력을 뚜렷이 분리한다는 장점이 있다. 어떤 공학자나 화학자도 인간 피부와 똑같은 물질을 만들 수는 없다. 물론 언젠가는 가능해질 수도 있겠지만, "생각하는 기계"를 인간처럼 보이게 만드는 것은 지금 우리가 다루는 문제와 관련이 없다. 내가 제안한 게임에서는 심문자가 다른 참가자를 보거나, 만지거나, 목소리를 듣거나 하는 것을 못하게 해 놓았다. 또 다음과 같은 예시 질문/답은 이 게임의 다른 장점들을 보여준다.

Q: Forth Bridge와 관련한 시를 써 보세요.

A: 그런 건 시키지 마세요. 전 시를 전혀 써 본 적이 없어요.

Q:  34957 과 70764를 더해보세요.

A: (30초 정도 있다가) 105621.

Q: 체스 할 줄 아세요?

A: 예.

Q: 나는 K1에 K를 갖고 있고 다른 말은 없어요. 당신은 K6에 K, R1에 R을 갖고 있습니다. 당신 차례에요. 어떤 수를 두시겠어요?

A: (15초 후) R을 R8로.

이런 질문/답 방식은 질문 분야와 관계없이 모두 적용 가능하다. 이 게임의 조건에서는 기계의 외향적인 부분이나, 인간의 신체적인 한계 같은 것이 상관없다. 참가자는 그들의 매력, 강인함 등에 대해 얼마든지 이야기할 수 있다. 그러나 심문자는 그것에 대한 실질적인 증명을 요구할 순 없다.

이 게임에서 기계가 훨씬 불리하다고 비판할 수도 있다. 만약에 남자가 자신이 기계인척 하려고 한다면 이것은 어려울 것이다. 남자는 계산이 느리고 부정확하기 때문에 한 번에 들킬 수 있다. 기계가 인간이 하는 것과 확연히 다르면서 생각한다고 여겨지는 무언가를 할 수 없을까? 이 반대 의견은 매우 강하다. 그러나 그럼에도 불구하고, 만약에 이 게임을 훌륭히 해내는 기계가 만들어진다면 우리는 이 반대 의견에 대해 생각할 필요가 없다.

이 게임에서 기계에게 가장 좋은 전략은 인간을 흉내내는 것과 다른 무언가를 하는 것이라고 이야기 할 수도 있을 것이다. 그럴 수도 있다, 그러나 내가 생각에는 그게 별로 좋을 것이 없다. 여기서는 이 게임의 이론을 논의하려는 것이 아니다. 그리고 가장 좋은 전략은 인간이 할 법한 대답을 하는 것이라고 할 수 있다.

3. 게임에 참여하는 기계 The Machines Concerned in the Game

"기계"라는 단어가 무엇을 의미하는지 정의하지 않으면 1장에서 제안한 질문도 명확하지 않을 것이다. 자연스럽게 우리는 기계를 만드는 데 어떠한 기술이라도 사용될 수 있길 바란다. 우리는 엔지니어 팀이 작동하는 기계를 만들었지만 실험적인 방법을 사용했기 때문에 만든 사람이 그것의 작동 방식을 제대로 기술할 수 없을 가능성을 허락하기 바란다. 마지막으로, 자연적으로 태어난 인간은 기계에서 제외시키길 바란다. 이 세가지 조건을 만족시키는 정의를 만드는 것은 어렵다. 누군가는 엔지니어 팀이 한가지 성별로 구성되어야 한다고 주장할 수도 있다. 하지만 인간 피부의 세포 하나로 인간을 복제하는 것이 가능할 수도 있기 때문에 이 주장은 만족스럽지 못하다. 만일 그렇게 한다면 놀라운 생물학적 성과이겠지만 우리는 이 경우를 "생각하는 기계를 만들었다"라고 할 수는 없을 것이다. 따라서 모든 기술을 허락해야 한다는 조건을 버려야 한다. "생각하는 기계"에 대한 지금의 관심은 특정한 한 종류의 기계, 보통 "전자 컴퓨터" 혹은 "디지털 컴퓨터"라고 불리는 기계에 의해 불러일으켜졌다. 이에 따라 디지털 컴퓨터만 게임에 참가할 수 있도록 허락한다.

이러한 제약은 갑작스럽게 보일 수도 있다. 그렇지 않다는 것을 보여주려고 한다. 이를 위해서는 이러한 컴퓨터들의 속성에 대해서 이야기 할 필요가 있다.

"생각한다"라는 기준과 마찬가지로, 만약 디지털 컴퓨터가 (내 믿음과는 반대로) 게임에서 좋은 결과를 내지 못하는 경우에 기계를 디지털 컴퓨터로 한정하는 것이 불충분하다고 할 수 있을 것이다.

실제로 작동하는 디지털 컴퓨터가 이미 존재한다. 따라서 "왜 즉각 실험하지 않는가? 게임의 조건을 만족시키는 것은 쉽다. 다수의 심문자를 사용할 수도 있고, 그들의 정답률을 통계낼 수도 있다." 라는 사람도 있을 것이다. 그러나 나는 모든 컴퓨터가 게임에서 좋을 결과를 낼 것이라던가, 현재의 컴퓨터가 그걸 것이라고 이야기하는 것이 아니다. 다만 그렇게 할 수 있는 상상의 컴퓨터가 있다는 것을 이야기하는 것이다. 이것은 간단히 답변한 것이고 이후에 다시 논의하겠다.

4. 디지털 컴퓨터들 Digital Computers

디지털 컴퓨터의 배후에 있는 개념을, 이러한 기계는 인간 컴퓨터(계산을 하는 인간. -역자주-)가 할 수 있는 어떠한 작업이라도 해낼 수 있는 것을 목표로 한다는 것으로 설명할 수도 있을 것이다. 인간 컴퓨터는 고정된 규칙을 따라야한다. 그는 어떤 세부사항에 있어서도 규칙으로부터 벗어날 수 없다. 우리는 이러한 규칙이 적힌 책이 있고, 이 책은 그가 새로운 일을 할 때마다 다른 규칙을 담는다고 가정할 수 있을 것이다. 그에게는 계산을 할 수 있도록 종이가 무한정 제공될 것이다. 그는 또한 곱셈이나 덧셈을 "책상 기계desk machine"을 사용해서 할 수도 있지만 이것은 중요하지 않다.

위의 설명을 정의로 사용한다면 논리의 순환의 위험에 빠질 것이다. 우리는 원하는 효과를 달성할 수 있는  도구의 아웃라인을 만드는 것으로 그 위험를 피한다. 디지털 컴퓨터는 일반적으로 세 부분으로 구성되는 것으로 여겨질 수 있다.

(1) 저장 Store.

(2) 실행 유닛 Executive unit.

(3) 제어 Control.

'저장'에서는 정보를 저장하는 것으로 인간 컴퓨터의 종이에 대응된다. 이 종이는 인간 컴퓨터가 계산을 하는 곳이거나 규칙이 쓰여진 책일 수도 있다. 인간 컴퓨터가 머리로 계산을 하는 경우에는 '저장'의 일부는 그의 기억에 대응될 것이다.

'실행 유닛'은 계산에 수반되는 다양한 개별 작업을 수행하는 부분이다. 이러한 개별 작업은 기계마다 차이가 있을 것이다. 보통 "3540675445 곱하기 7076345687"과 같은 긴 작업을 할 수 있지만 어떤 기계는 "0을 써라"와 같은 아주 간단한 것만 가능할 것이다.

우리는 인간 컴퓨터에 주어진 "규칙의 책"이 기계에서는 '저장' 부분으로 대체된다고 언급했다. 이 때는 이것을 "지시 목록 table of instructions" 으로 부를 수 있다. '제어'에서는 이러한 지시가 올바른 순서에 따라 제대로 지켜지고 있는지 본다. '제어'는 이것이 반드시 일어나도록 구성된다.

'저장' 부분에서의 정보는 대게 작은 크기의 패킷으로 나뉘어진다. 예를 들어 하나의 기계에서한 패킷은 10개의 십진수로 이루어져 있을 수 있다. 다양한 정보의 패킷이 저장된 '저장' 부분들은 체계적인 방식으로 번호가 매겨진다. 다음과 같은 지시가 있을 수 있다.

"6809의 위치에 저장된 숫자를 4302에 저장된 숫자와 더하고 그 결과를 4302 위치에 저장하라."

기계에서 이러한 것이 영어로 표현되지는 않을 것이란 것은 말할 필요도 없다. 6809430217과 같은 형태로 코드화 될 것이다. 여기서 17은 두 숫자로 어떤 작업을 수행할 것인지를 나타낸다. 이 작업의 경우 즉, "…을 더하라", 이 지시에는 10개의 숫자가 사용되고 그것이 하나의 정보 패킷을 매우 편리하게 구성한다. '제어'는 지시가 저장된 순서를 바르게 따르도록 하지만, 때로는

"이제 5606 위치에 저장된 지시를 따르고, 거기서 부터 계속하라."

라는 지시를 받을 수도 있고, 또는

"만약 4505가 0을 포함하고 있으면 6707에 저장된 지시를 따르라, 그렇지 않으면 계속하라."

과 같은 지시를 받을 수도 있다.

이런 종류의 지시는 어떤 조건이 충족 될 때까지 일련의 작업을 계속해서 수행하지만 각각의 작업에 새로운 지시가 아니라 같은 것을 반복해서 할 수 있게 하기 때문에 매우 중요하다. 집에서 일어나는 일을 비유해서 설명하면. 엄마는 토미가 매일 아침 학교 가는 길에 구두수선 가게에 들러서 자기의 신발이 완성되었는지 체크하길 원한다고 가정해보자. 엄마는 매일 아침 토미에게 그렇게 하라고 부탁을 할 수도 있다. 아니면 현관에 메모를 붙어서 토미가 학교 가는 길에 볼 수 있도록 할 수도 있을 것이고, 토미가 신발을 가지고 오면 그 메모를 없앨 수 있을 것이다.

디지털 컴퓨터가 만들어질 수 있고, 우리가 기술한 원칙에 따라서 정말 만들어졌고, 그것들이 실제로 인간 컴퓨터의 행동을 매우 유사하게 흉내낼 수 있다는 것을 받아들여야만 한다.

지시의 책을 사용해서 설명한 인간 컴퓨터는 물론 허구이다. 실제 인간 컴퓨터는 자신이 해야 할 일을 기억한다. 만약에 복잡한 작업에서 인간 컴퓨터의 행동을 흉내내는 기계를 만들고자 한다면, 그것이 어떻게 가능한지 묻고 그에 대한 대답을 지시 목록의 형식으로 옮겨야 할 것이다. 지시 목록을 구성하는 것은 "프로그래밍"이라 할 수 있다. "A 작업을 수행하기 위한 기계를 프로그래밍"한다는 것은 적절한 지시 목록을 기계에 입력해서 그것이 A를 하도록하는 것을 의미한다.

디지털 컴퓨터의 개념에 대한 흥미로운 변형 중 하나는 "랜덤 요소를 가진 디지털 컴퓨터"이다. 이것은 주사위를 던지거나 이와 비슷한 전자적 과정을 수반하는 지시를 갖는다. 예를 들어 "주사위를 던져서 그 결과를 1000에 저장하라." 때로 그러한 기계는 자유 의지를 가진 것으로 설명될 것이다(나 자신은 그런 표현을 사용하지 않겠지만). 일반적으로 기계가 랜덤 요소를 갖고 있는지 판단하기는 불가능할 것이다. 왜냐하면 파이(pi)에 사용되는 십진법 숫자에 기반해서 선택을 하는 기계가 비슷한 효과를 낼 수 있기 때문이다.

대부분의 실제 컴퓨터는 유한한 '저장'을 갖는다. 하지만 무한한 '저장'을 가진 컴퓨터의 개념에 아무런 이론적인 어려움이 존재하지 않는다. 물론 특정 시점에는 단지 유한한 부분만 사용될 수 있을 것이다. 마찬가지로 유한한 만큼만 만들어질 수 있을 것이지만 필요에 따라 점점 더 많은 것이 추가될 것이라는 것을 상상할 수 있다. 그러한 컴퓨터는 특별한 이론적 관심을 가지며 무한 용량 컴퓨터로 불릴 것이다.

디지털 컴퓨터에 대한 아이디어는 오래된 것이다. 1828년에서 1839년까지 캠브리지의 수학과 교수로 있었던 찰스 베비지는 분석 엔진 Analytical Engine이라고 불리는 기계를 계획했지만 완성하지는 못했다. 베비지가 모든 핵심 아이디어를 갖고 있었지만 그 시절 그 기계는 별로 매력적인 전망을 갖지 않았다. 그 기계의 속도는 인간 컴퓨터보다는 물론 빨랐겠지만 현대 기계중 느린 것에 속하는 맨체스터 머신보다도 100배 정도 느렸을 것이다. 저장소는 바퀴와 카드를 사용한 기계적인 것이었다.

베비지의 분석 엔진이 완전히 기계적이었다는 사실은 미신을 걷어내는 데 도움을 줄 것이다. 종종 현대 디지털 컴퓨터가 전기적이고 신경 시스템도 전기적이라는 사실을 중요하게 생각한다. 베비지의 기계는 전기적이지 않았고, 모든 디지털 컴퓨터가 어떤 면에서 이와 동일하기 때문에, 전기를 사용하는 것은 이론적으로 중요하지 않다는 것을 알 수 있다. 물론 전기는 일반적으로 신속한 신호법signaling이 필요할 때 사용되기 때문에 컴퓨터와 신경 연결에서 이를 발견하는 것은 놀랄만한 것이 아니다. 신경망에서는 화학적 현상들은 적어도 전기적인 것만큼 중요하다. 특정 컴퓨터들에서는 비전기적acoutic 저장 시스템을 사용한다. 전기를 사용하는 것은 따라서 단지 매우 표면적인 유사성일 뿐이다. 만약 우리가 유사성을 찾기를 원한다면 오히려 기능의 수학적 유사점을 찾아봐야 한다.

5. 디지털 컴퓨터의 보편성 Universality of Digital Computers

앞서 논의한 디지털 컴퓨터는 '불연속적 상태 기계 discrete state machines' 중 하나로 분류할 수 있을 것이다. 이는 갑작스런 점프로 이동하거나 한 가지 상태에서 다른 상태로 변하는 기계이다. 이러한 상태들은 서로 간에 충분히 차이가 있어서 두 상태 사이를 혼동할 만한 가능성은 무시될 수 있다. 엄격히 말해서 그런 기계는 없다. 모든 것은 실제로 연속적으로 움직인다. 하지만 불연속적 상태 기계로 생각될 수 있는 많은 종류의 기계가 있다. 예를 들어 불을 키고 끄는 스위치를 생각해보면, 각각의 스위치는 완전히 켜져 있거나 완전히 꺼져 있는 것이어야만 한다는 것은 편리한 허구이다convinient fiction. 물론 중간 단계가 있겠지만, 대부분의 목적을 위해 우리는 그것들을 생각하지 않을 수 있다. 불연속적 상태 기계의 예로서 일초에 한 번 120도를 회전하지만 외부에서 레버를 사용해서 조작할 수 있는 바퀴를 생각해 볼 수 있다. 그리고 이 바퀴의 한 부분에서 켜지는 램프가 있다고 하자. 이 기계는 다음과 같이 추상적으로 설명할 수 있다. 이 기계의 내부 상태는(바퀴의 위치에 의해서 설명되는) q1, q2, q3이라 할 수 있다. 그리고 입력 신호 i0, i1(레버의 위치)가 있다. 어떤 시점의 내부 상태는 다음 표에 따라 최근 상태와 입력 신호에 의해서 결정된다.

출력 신호, 내부 상태를 외부에서 볼 수 있는 유일한 표시(불빛)는 다음 표에 의해 설명된다.

이 예시는 불연속적 상태 기계들의 전형이다. 이들은 오직 유한한 수의 가능 상태를 가진 표로 설명할 수 있다.

기계의 초기 상태와 입력 신호를 고려했을 때 모든 미래의 상태를 예상할 수 있는 것처럼 보일 것이다. 이것은 모든 파티클의 위치와 속도로 기술되는, 특정 순간의 우주의 완전한 상태로부터 모든 미래 상태를 예견하는 것이 가능하리라고 보는 라플라스Laplace의 관점을 연상하게 한다. 그러나 우리가 논의하고 있는 예견이라는 것은 라플라스가 논의한 예측 가능성보다는 오히려 실현 가능성에 더 가깝다. '전체로서 우주'의 체계는 최초의 상태에 있어서 매우 작은 오류는 이후에 거대한 영향을 끼칠 수 있다. 어떤 순간에 하나의 전자를 10억분의 1 센티미터 이동시키는 것은 1년 후 한 사람이 산사태에서 죽느냐 빠져나오느냐 하는 차이를 만들 수도 있다. 이러한 현상이 일어나지 않는다는 것은 우리가 '불연속적 상태 기계'라고 부르는 기계 시스템의 매우 중요한 속성이다. 우리가 이상적인 기계 대신에 실제 물리적인 기계를 고려하더라도, 한 순간의 상태에 대한 합리적으로 정확한 지식은 이후의 상태에 대한 합리적으로 정확한 지식을 만들어낸다.

위에서 언급한대로, 디지털 컴퓨터는 불연속적 상태 기계의 분류에 속한다. 그러나 그러한 기계가 가질 수 있는 상태의 수는 대게 엄청나게 많다. 예를 들어 맨체스터에서 작동중인 기계가 가질 수 있는 상태의 수는 2의 165,000승 정도이다. 다시 말해서 10의 50,000승 정도. 이것을 위에서 설명한 3가지 상태를 가지는 바퀴와 비교해보라. 상태의 숫자가 왜 그렇게 많은지 이해하기는 어렵지 않다. 컴퓨터는 인간 컴퓨터가 사용하는 종이에 대응되는 '저장'을 포함한다. 종이에 쓰여진 기호의 어떠한 조합이라도 '저장'에 기록하는 것이 가능할 것이다. 0에서 9까지의 숫자만 심볼로 사용될 수 있다고 단순히 가정해보자. 손글씨로 인한 다양성은 무시한다. 한 줄에 30개의 숫자를 쓸 수 있는 50개의  줄을 가진 100장의 종이를 컴퓨터가 갖고 있다고 하자. 그렇다면 상태의 수는 10의 100x50x30승, 다시 말해 10의 150,000승이 된다. 이것은 3대의 맨체스터 머신의 상태를 합한 것 정도이다. 일반적으로 상태 수의 로그2를 기계의 '저장 용량 storage capacity'으로 부른다. 따라서 맨체스터 머신은 165,000 정도의 저장 용량을 가지고 위에서 설명한 바퀴 기계는 1.6 정도. 만약 두 개의 기계를 합치면 그들의 용량은 더해지고 그 결과로 생긴 기계의 용량을 가지게 될 것이다. 이것은 다음과 같은 서술의 가능성으로 이끈다. '맨체스터 머신은 2560의 용량을 가진 마그네틱 트랙 64개, 1280의 용량을 가진 전자 튜브 8개를 포함한다. 300개 정도의 잡다한 저장 매체는 모두 174,380의 용량을 만든다.'

이 목록을 불연속적 상태 기계에 대응시키면, 이것이 할 일을 예측하는 것이 가능하다. 이러한 계산이 디지털 컴퓨터를 사용해서 수행되지 못할 이유는 없다. 이것이 충분히 빨리 수행된다는 것을 가정하면 디지털 컴퓨터는 어떠한 불연속적 상태 기계의 행동도 흉내낼 수 있다. 그러면 흉내 게임Imitation game에서 기계를 (B)로 디지털 컴퓨터를 (A)로 하면 심문자는 둘을 구분할 수 없을 것이다. 물론 디지털 컴퓨터는 충분한 저장 용량을 가져야 하고 충분히 빨리 작동해야 한다. 더불어, 각각의 새로운 기계를 흉내내기 위해서 프로그래밍도 새롭게 되어야 한다.

디지털 컴퓨터가 불연속적 상태 기계를 흉내낼 수 있다는 특별한 속성은 디지털 컴퓨터가 보편 기계universal machine이다라고 하는 것으로 설명할 수 있다. 이러한 속성을 가진 기계의 존재는 다음과 같은 중요한 결과를 갖는다. 속도에 대한 고려는 제외하고, 다양한 컴퓨팅 처리를 위한 다양한 새로운 기계를 디자인하는 것이 불필요하다는 것이다. 그 모든 것들은 각 경우에 대해 적절히 프로그램된 하나의 디지털 컴퓨터로 할 수 있다. 결과적으로 모든 디지털 컴퓨터는 어떤 면에서 같은 것으로 볼 수 있다.

우리는 이제 3장의 말미에서 제기된 점에 대해 고려해 볼 수 있다. '기계가 생각할 수 있는가?'라는 질문을 '흉내 게임을 잘 할 수 있는 상상적인 디지털 컴퓨터가 있는가?'로 대체해야 한다고 잠정적으로 제안했었다. 원한다면 이를 피상적으로 더 일반화해서, '흉내 게임을 잘 할 수 있는 불연속적 상태 기계가 있는가?'라고 물을 수도 있을 것이다. 하지만 보편성 속성의 관점에서 우리는 두 질문 모두 다음과 동일한 것이라는 것을 알 수 있다. '우리의 관심을 하나의 특정 디지털 컴퓨터 C에 고정시키자. 이 컴퓨터를 변형시켜서 충분한 저장 용량을 가지고, 속도를 적절히 향상시키고 적합한 프로그램을 제공하면, 흉내 게임에서 사람이 B 역할을 할 때 C가 A 역할을 만족스럽게 해내도록 만들 수 있는 것이 사실일까?'

6. 반대 견해들 Contrary Views on the Main Question

이제 기반은 깨끗해졌고, '기계가 생각할 수 있는가?'라는 질문과 5장의 말미에 인용한 그 질문의 다양한 변형에 대한 논의를 진행해 나갈 준비가 되었다고 할 수 있겠다. 우리는 이 문제의 원형을 완전히 버릴 수는 없다. 왜냐하면 대체 질문의 적합성에 대한 의견에 차이가 있을 것이고 이 연결에 대한 이야기는 최소한 들어봐야 하기 때문이다.

이 문제에 관한 내 자신의 믿음에 대해 설명을 한다면 문제가 단순화될 것이다. 먼저 질문의 더 정확한 형태에 대해 생각해보자. 나는 50년 정도의 시간이 지나고 나면 10의 9승 정도의 저장 용량을 가진  컴퓨터를 흉내 게임을 잘 수행하도록 프로그래밍함으로써 심문자가 5분의 질문 후 컴퓨터를 정확히 구분하는 비율이 70% 이하가 되도록 하는 것이 가능하리라고 믿는다. 원래의 질문, '기계가 생각할 수 있는가?'는 논의할 정도의 의미가 없다고 생각한다. 그럼에도 불구하고 20세기 말 경이면 단어의 사용과 일반적으로 교육된 의견이 변화하여 반박의 여지 없이 생각하는 기계에 대해서 이야기 할 수 있을 것이라고 믿는다. 나아가 나는 이러한 믿음을 감추는 것은 아무런 유용성이 없다고 믿는다. 과학자들이 증명되지 않은 추측에 절대 영향받지 않고 정립된 사실에서 정립된 사실로 나아간다는 일반적인 관점은 큰 오해이다. 증명된 사실과 추측을 명확하게 구분만 해준다면 문제가 없다. 추측은 연구에 유용한 방향을 제시하기 때문에 매우 중요하다.

이제 내 의견에 반대되는 주장들을 살펴보겠다.

(1) 신학적 반론 The Theological Objection

생각하는 것은 인간의 불멸하는 영혼의 기능이다. 신은 모든 인간에게 불멸하는 영혼을 주었지만 다른 동물이나 기계에게는 주지 않았다. 그러므로 어떠한 동물이나 기계도 생각할 수 없다.

나는 이 주장의 어떤 부분도 받아들일 수 없지만, 신학적 관점에서 답변을 시도해보겠다. 만약 동물과 인간을 같은 분류에 놓았다면 주장에 더 설득력이 있을 것이다. 왜냐하면 내가 보기에 인간과 다른 동물들 사이 보다는 일반적인 생물과 무생물 사이에 더 큰 차이가 있기 때문이다. 종교적 정통파에 속한 사람의 관점이 다른 종교적 커뮤니티의 일원에게 어떻게 보일지를 생각해보면 이것이 더 명확해질 것이다. 여자는 영혼이 없다는 무슬림의 관점을 크리스천은 어떻게 생각하는가? 하지만 이 점은 제쳐두고 중심 논의로 다시 돌아가자. 위에서 인용한 주장은 전지전능한 신의 능력에 치명적인 제한을 내포하는 것처럼 보인다. 하나를 둘과 같게 만드는 것처럼 신이 할 수 없는 어떤 것들이 있다는 것은 인정된다. 그렇지만 신이 코끼리에게 영혼을 부여할 수 있는 자유를 가졌을 것이라고 믿어서는 안될까, 보시기에 적절하다면? 우리는 코끼리가 영혼을 가질만큼 충분히 향상된 뇌를 가졌을 경우 신이 그러한 힘을 오직 변이를 통해서만 행사할 것이라고 기대할 수 있다. 정확하게 비슷한 형태의 주장이 기계의 경우에도 제기될 수 있다. 이것은 더 "받아들이기swallow" 어렵기 때문에 다른 것처럼 보일 수도 있다.  그렇지만 이것은 신이 영혼을 부여하기에 적합한 상황을 고려하는 일은 잘 없을 것이라 여기는 우리의 생각을 의미할 뿐이다. 그러한 상황에 대한 것은 이 논문의 나머지 부분에서 논의할 것이다. 그러한 기계를 만드는 것을 시도하는 데 있어서 우리가 아이들을 출산하는 것처럼 영혼을 창조하는 신의 능력을 쓸데없이 제거할 필요가 없다. 어떤 경우든 우리는 신 의지의 수단으로서 신이 창조하는 영혼을 위한 집을 제공하는 것이다.

그렇지만, 이것은 추측에 불과하다. 어떤 논거를 썼던 간에 신학적인 주장는 별로 깊게 와닿지 않는다. 과거에 그러한 주장은 종종 만족스럽지 못한 것으로 밝혀졌다. 갈릴레오의 시대에는 "그리고 태양이 멈추었다… 그리고 하루 종일 정도를 떨어지지 않았다."(Joshua x. 13), "그는 지구가 어떤 순간에도 움직여서는 안된다는 것에 대한 기초를 놓았다"(Psalm cv. 5)와 같은 텍스트는  지동설에 대한 적절한 반론으로 여겨졌다. 현재의 지식에 그와 같은 주장은 헛된 것이다. 그러한 지식이 없었던 때에 저 주장은 매우 다른 인상을 만들었을 것이다.

(2) '모래 속의 머리' 반론. The 'Heads in the Sand' Objection.

"기계가 생각하는 것의 결과는 끔찍할 것이다. 기계가 생각하게 되는 일은 없을 것이라고 바라고 믿자."

이 주장을 표현하는 일은 (1)보다는 드물다. 하지만 이는 이에 관해 생각하는 사람들 다수에게 영향을 끼친다. 우리는 인간이 미묘한 방식으로 다른 창조물 보다는 더 우월하다고 믿고싶어 한다. 만약에 우리가 우월한 것에 대한 필요성을 보여줄 수 있다면 최고일 것이다. 왜냐하면 그러면 인간이 지배하는 위치를 잃을 위험이 없을 것이기 때문이다. 신학적 주장의 인기는 분명히 이런 감정과 관련이 있다. 이 감정은 지적인 사람들에게 매우 강한데, 그들은 생각의 힘을 더 가치있게 여기기 때문이고, 믿음의 기반을 그러한 힘에 대한 인간의 우월성에 두려고 하기 때문이다.

이 주장은 반론이 필요할만한 가치가 있다고 생각하지 않는다. 영혼의 윤회transmigration 같은 것으로 위로를 하는 것이 더 적절할 것이다.

(3) 수학적 반론 The Mathematical Objection

불연속 상태 기계의 능력의 한계를 보여주는 데 사용되는 수학 논리의 결과가 몇 가지 있다. 가장 잘 알려진 것으로, 괴델의 정리는 충분히 강력한 논리적 시스템에서 시스템 자체가 비일관적이지 않는 한, 참이나 거짓이라고 입증할 수 없는 서술이 시스템 내에서 만들어 질 수 있다는 것을 보여준다. 비슷한 것으로 Church, Kleene, Rosser, Turing의 이론도 있다. 제일 마지막 이론의 결과는 직접적으로 기계를 참조 하고 있기 때문에 고려해 보기에 가장 간편하다. 다른 것들은 비교적 간접적인 주장에만 사용될 수 있다. 예를 들어 만약에 괴델의 정리를 사용한다면, 우리는 추가적으로 기계의 측면에서 논리 시스템과 논리 시스템의 측면에서 기계를 설명하는 수단을 필요로 한다. 이 이론에서의 결과는 근본적으로 무한한 용량을 가진 디지털 컴퓨터인 기계 종류를 참조한다. 여기서는 그러한 기계가 할 수 없는 일들이 있다고 이야기한다. 만약에 이 기계가 흉내 게임에서의 것과 같이 질문에 대답하도록 만들어졌다면, 아무리 많은 시간이 주어지더라도 틀린 답을 말하거나 답을 할 수 없는 질문이 존재한다. 물론 그러한 질문은 여러 개일 수 있고, 어떤 기계는 답하지 못하지만 다른 기계는 만족스러운 답을 할 수 있는 질문도 있을 수 있다. 현재로서 우리는 그 질문들은 '피카소에 대해서 어떻게 생각하나요?' 같은 질문 보다는 '예' 혹은 '아니오'로 대답할 수 있는 것들이라고 가정한다. 기계가 실패할 수밖에 없는 것이라고 우리가 알고 있는 질문은 이런 종류이다, "기계가 …와 같이 명시되어 있다고 가정하자, 이 기계가 어떤 질문에 대해 '예'라고 답하는 일이 일어날까?" …부분에는 5장에서 사용된 것과 같은 표준 형식의 기계에 대한 묘사를 넣을 수 있다. 묘사된 기계가 질문을 받고 있는 기계에 대해서 비교적 단순한 관계를 갖고 있다면, 대답은 틀린 것이거나, 대답을 할 수 없을 것이란 것을 증명할 수 있다. 수학적인 결과는, 이것은 인간 지성이 갖지 않은 기계의 장애를 증명하는 것으로 볼 수 있다라는 것이다.

이 주장에 대한 간단한 답변은, 비록 어떠한 기계라도 그 능력에 한계를 가진다는 것이 인정되더라도, 그러한 한계가 인간 지성에는 적용되지 않는다는 것에는 아무런 증거도 없다. 하지만 나는 이 견해를 그렇게 간단히 일축해버릴 수 있다고 생각하지 않는다. 이러한 기계에 문제적 질문(기계가 틀린 답을 하거나, 답을 못 할 -옮긴이-)을 하고, 기계가 확고한 답을 했을 때, 우리는 그 대답이 반드시 틀렸음을 안다. 그리고 이것은 우리에게 어떤 우월한 느낌을 준다. 이 느낌은 환상일까? 이것은 의심의 여지 없이 실제이다. 그렇지만 나는 이를 너무 중요시해서는 안된다고 생각한다. 우리도 역시 종종 질문에 대해 틀린 답을 하기도 하기 때문에 기계가 가진 오류를 범하기 쉬운 부분에 대한 증거에 기뻐하는 것은 당연하다. 나아가 우리는 하나의 기계에 대해 우리가 승리를 거둔 그런 상황에서만 우월성을 느낄 수 있다. 모든 기계에 대해 승리를 거두는 것에 대해서는 말할 것도 없다. 짧게 이야기해서, 그렇다면, 어떠한 기계보다도 똑똑한 사람들이 있을 수 있지만 하지만 또 그보다 더 똑똑한 기계가 있을 수 있고, 또..

이 수학적 주장을 옹호하는 사람들은 내 생각에 흉내 게임을 논의의 기반으로 삼는 것에 기꺼이 동의 할 것이다. 이전의 두 가지 반론을 믿는 사람들은 아마도 어떤 기준에도 관심이 없을 것이다.

(4) 의식과 관련한 주장 The Argument from Consciousness

이 주장은 제퍼슨Jefferson의 1949년 Lister Oration에 잘 나타나있다. "기계가 우연이 아니라 생각이나 감정으로 정형시를 쓰거나 협주곡을 작곡할 수 있어야 기계가 뇌와 동일하다는 데 동의할 수 있다. 다시 말해서, 그러한 것을 쓸 뿐만 아니라 그것을 썼다는 것도 아는. 어떤 메카니즘도 (단지 신호를 보내거나, 억지 짜맞춤이 아니라) 자신의 성공에 기쁨을 느낄 수 없고, 칭찬에 마음이 따뜻해지거나, 실수에 비참해지거나, 섹스에 매혹되거나, 원하는 것을 원치 못할 때 화나거나 의기소침해지지 않는다."

이 주장은 우리 테스트의 유효성을 거부하는 것처럼 보인다. 이 관점의 가장 극단적인 것에 따르면 기계가 생각한다는 것을 알 수 있는 유일한 방법은 기계가 되어 그 자신이 생각하는 것을 느껴보는 것이다. 그 때서야 이러한 느낌을 세계에 설명할 수 있지만, 물론 누구도 알 수는 없다. 마찬가지로, 이 관점에 따르면 사람이 생각한다는 것을 알 수 있는 유일한 방법은 그 특정 사람이 되어보는 것이다. 이것은 사실 자기 중심주의자의 관점이다. 이것이 가장 논리적인 관점일 수도 있지만, 이는 생각의 커뮤니케이션을 어렵게 만든다. A는 'A는 생각하지만 B는 생각하지 않는다'라고 믿기 쉽고, B는 'B는 생각하지만 A는 생각하지 않는다'라고 믿을 수 있다. 이 점에 대해 계속해서 논쟁하는 대신에 모두가 생각한다는 친절한 전통을 따르는 것이 일반적이다.

제퍼슨 교수가 극단적이고 자기 중심주의자의 견해를 바라는 것은 아니라고 확신한다. 아마도 그는 흉내 게임을 테스트로 기꺼이 받아들일 것이다. 흉내 게임(참가자 B는 제외하고)은 구두 시험viva voce이라는 이름으로 무언가를 실제로 이해하는지 혹은 외우기만 했는지 테스트하는 데 실제로 자주 사용된다. 그러한 구두 시험의 일부를 한 번 들어보자.

심문자: 당신 정형시의 첫번째 줄, '당신을 여름날과 비교해도 될까요'에 '봄날'을 대신 넣으면 별로일까요 아니면 더 나을까요?

답변자: 운율이 맞지 않을거에요.

심문자: 그러면 '겨울날'은 어떤가요. 그러면 운율이 맞을텐데요.

답변자: 예. 하지만 누구도 겨울날에 비교되길 원치 않을거에요.

심문자: 피크위크씨가 크리스마스를 떠올리게 하나요?

답변자: 어느 정도는요.

심문자: 크리스마스도 겨울날인데, 그러면 피크위크씨도 겨울날에 비교되길 꺼리지 않을 것 같은데요.

답변자: 당신이 진심이라고 생각치 않아요. 겨울날이라고 할 때는 일반적인 겨울의 하루를 뜻하는 것이지 크리스마스 같은 특별한 날을 의미하는 것이 아니에요.

이런 식으로. 만약 정형시 제작 기계가 구두 시험에서 이처럼 대답할 수 있었다면 제퍼슨 교수는 뭐라고 이야기할까? 그가 기계를 '단지 인공적으로 신호를 보내서' 대답을 한다라고 할지는 알수 없다. 하지만 만약에 답변이 만족스럽고 위와 같이 지속된다면 그가 이것을 '억지 짜맞춤'이라고는 하지 않을것이라 생각한다. 이 표현은, 내 생각에, 어떤 사람이 정형시를 읽는 것을 녹음한 것을 담고 스위치로 켜고 끌 수 있는 기계 같은 기기를 표현하기 위한 것이다.

요컨대, 나는 의식과 관련한 주장을 지지하는 대부분의 사람이, 자기 중심주의자 입장에 서기 보다는 그것을 포기하도록 설득 될 것이라 생각한다. 그러면 아마도 우리의 테스트를 기꺼이 받아들이게 될 것이다.

내가 의식에 대해 미스터리가 없다고 생각한다는 인상을 주기를 원하지는 않는다. 예를들어 의식의 정체를 밝히는 시도들에는 어떤 역설이 있다. 하지만 이 논문이 다루고 있는 질문에 답하기 위해서 이러한 미스터리가 먼저 반드시 해결되어야 한다고 생각하지 않는다.

(5) 다양한 불능과 관련한 주장 Arguments from Various Disabilities

이 주장은 다음과 같은 형태를 띈다. "당신이 이야기한 그 모든 것을 할 수 있는 기계를 만들 수 있을 거라고 생각합니다. 하지만 X를 할 수 있게는 못만들 거에요." 이와 관련한 수 많은 X가 제시될 수 있다. 몇 가지를 이야기 하자면:

친절하기, 슬기로운, 아름다운, 친근한, 진취적인, 유머있는, 틀린것으로 부터 옳은 것을 말하는, 실수하기, 사랑에 빠지기, 딸기와 크림을 즐기기, 누군가를 자신과 사랑에 빠지게 하기, 경험을 통해 배우기, 단어를 적절히 사용하기, 스스로의 생각의 대상이 되기, 사람 만큼 다양한 행동을 하기, 정말 새로운 뭔가를 하기.

보통 이러한 말에는 어떠한 뒷받침도 제공되지 않는다. 나는 이들이 과학적 귀납법의 법칙에 대부분 기반한다고 생각한다. 사람은 평생동안 수천개의 기계를 본다. 그가 본 것에 기반하여 몇 가지 일반적인 결론을 도출한다. 그 기계들은 흉하고, 각각의 것은 매우 한정된 목적을 위해 만들어진 것이기에 다른 용도로 사용하기에는 쓸모가 없고, 어떤 기계라도 행동의 다양성은 매우 적고 등등. 자연스럽게 이러한 것들이 기계의 일반적인 필요 조건이라고 결론을 내는 것이다. 이러한 불능 중 많은 것들은 대부분의 기계의 매우 작은 저장 용량과 관련이 있다. (나는 불연속 상태 기계discrete-state machine와 다른 기계의 저장용량이 어떤 방법으로 확장되었다고 가정한다. 지금의 논의에는 어떠한 수학적 정밀함도 요구되지 않기 때문에 정확한 정의는 문제가 되지 않는다.) 몇 년 전에, 디지털 컴퓨터에 대한 이야기가 거의 없었을 때, 누군가 그것의 구조에 대해 설명하지 않고 속성을 언급했다면 그와 관련한 많은 의구심이 일어날 수 있었다. 그것은 짐작컨대 과학적 귀납법 원리의 비슷한 적용 때문일 것이다. 그 원리를 이렇게 적용하는 것은 물론 대부분 무의식적이다. 화상을 입었던 아이가 불을 무서워하고 그 두려움을 불을 피하는 것으로 보여줄 때, 나는 그가 과학적 귀납법을 적용한다고 말해야만 할 것이다. (물론 나는 그 아이의 행동을 다른 많은 방법으로 설명할 수 있다.) 인류의 일과 관습은 과학적 귀납법을 적용하기에 아주 적절한 재료는 아닌 것 처럼 보인다. 믿을만한 결과를 얻기 위해서는 시공간의 아주 많은 부분을 반드시 조사해야 한다. 그렇지 않으면 우리는 (대부분의 영국 어린이들이 하듯이) 모두가 영어를 말할 줄 알고 프랑스어를 배우는 것은 바보같다는 결론을 내릴 것이다.

그러나 앞서 언급한 많은 불능들에 대해 특별히 부연할 말이 있다. 딸기와 크림을 즐길 수 없다는 것은 하찮은 내용처럼 보일 것이다. 기계가 그러한 맛있는 음식을 즐길 수 있도록 만들어 질 수 있을지도 모르지만, 그렇게 하려는 시도는 바보 짓일 것이다. 이 불능에 있어서 중요한 것은 그것이 다른 몇몇 불능들에 기여한다는 것이다. 예를들어 인간과 기계 사이에 백인과 백인 사이 혹은 흑인과 흑인 사이의 친밀감과 같은 종류의 것이 일어나는 것의 어려움.

"기계는 실수를 할 수 없다"라는 주장은 흥미로워 보인다. 누군가는 다음과 같이 응수하고 싶어할 것이다, "기계가 그런다고 더 나빠지나요?" 하지만 좀 더 호의적인 태도를 취해보고 그것이 정말 무엇을 의미하는지 보자. 이 비판은 흉내 게임 관점에서 설명할 수 있을 것이라 생각한다. 위의 주장은 흉내 게임에서 질문자는 몇 가지 연산 문제를 내는 것으로 간단히 기계와 인간을 구별할 수 있을 것이라는 것이다. 기계는 너무 정확해서 발각될 것이라는 것이다. 이것에 대한 대답은 간단하다. 기계는(그 게임을 하도록 프로그래밍된) 주어진 연산 문제에 대해 정확한 답을 하려고 시도하지 않을 것이다. 질문자가 헷갈리도록 계산하여 의도적인 실수를 만들어 낼 것이다. 기계적인 실수는 어쩌면 연산에서 어떤 종류의 실수를 만들지에 대한 결정을 하는 데서 생길 수 있을 것이다. 이 해석 조차도 앞선 비판에 대해 충분히 호의적이지 않다. 하지만 이에 대해서 더 깊이 논의할 여유가 없다. 이 비판은 두 종류의 실수에 대한 혼동에 달려있는 것으로 보인다. 이를 '기능의 에러'와 '결론의 에러'라 부를 수 있을 것이다. 기능의 에러는 기계가 의도되지 않은 방식으로 작동하게 만드는 기계적 혹은 전자적 실수에 의한 것이다. 철학적 논의에서는 그러한 에러의 가능성을 무시하려는 경향이 있어서 '추상적 기계'에 대해 이야기한다. 이러한추상적 기계는 물리적 물체라기 보다는 수학적 허구이다. 정의상, 기계는 작동의 에러를 만들어낼 수가 없다. 이러한 점에서 우리는 '기계는 절대로 실수를 할 수 없다'라고 말할 수 있을 것이다. 결론의 에러는 기계의 아웃풋 신호에 어떤 의미가 더해졌을때만 생길 수 있다. 예를 들어 기계가 수학 방정식이나 영어 문장을 출력할 수 있다. 이 때 잘못된 전치사가 찍혔으면 우리는 기계가 결론의 에러를 만들었다고 할 수 있다. 기계가 이런 종류의 실수를 만들 수 없다고 이야기할만한 근거는 전혀 없다. '0=1'이라는 내용만 계속해서 출력할 수도 있을 것이다. 좀 덜 삐딱한 예를 들자면, 기계는 과학적 귀납법을 통해 결론을 내는 몇가지 방법을 갖고 있을 수 있다. 우리는 그러한 방법이 때때로 오류적인 결과를 낼 것이라고 생각해야만 한다.

기계 자신은 스스로의 생각의 대상이 될 수 없다는 주장은 기계가 어떤 주제에 대한 생각을 갖고 있다는 것을 보여 줄 수 있을 때만 가능하다. 그럼에도 불구하고, "기계의 작동에 대한  주제"는 적어도 이것을 다루는 사람에게 있어서 무엇인가 의미하는 것으로 보인다. 예를 들어 만약에 기계가 x² - 40x -11 = 0이라는 방정식을 풀고 있을 때, 사람은 그 순간 기계의 주제의 일부로서 이 방정식을 설명하고 싶어할 것이다. 이런 면에서 기계는 의심할 여지 없이 자신의 주제가 될 수 있다. 이는 기계 스스로의 프로그램을 만들어내는 것을 돕는 데 사용되거나 스스로의 구조를 변화시켰을 때 생기는 변화를 예측하는 데 사용될 수도 있다. 스스로의 행동에 대한 결과를 관찰함으로써 기계는 자신의 프로그램을 수정할 수 있고 이를 통해 어떤 목적을 더 효율적으로 달성할 수 있다. 이것은 유토피아적 꿈이 아니라 근미래에 있을 수 있는 일이다. 기계는 행동에 있어 큰 다양성을 가질 수 없다는 비판은 기계가 큰 저장 공간을 가질 수 없다는 것을 이야기하는 것밖에 안된다. 최근까지는 천단위 저장 공간도 매우 드물었다. 

우리가 지금 다루고 있는 비판은 종종 의식과 관련한 주장이 위장을 한 것이다. 보통 기계가 이 중 어떤 것을 할 수 있다고 주장하고 어떤 방법을 기계가 사용할 수 있는지 설명하면 별 인상을 주지 못한다. 그 방법(무엇이든간에, 그것은 기계적인 것이어야 하므로)은 정말 기초적인 것으로 여겨진다. 22페이지에 인용된 제퍼슨 말 중 괄호 안에 있는 내용을 비교해보라.

(6) 레이디 러브레이스의 반론 Lady Lovelace's Objection

레이디 러브레이스의 회고록은 베비지의 분석 엔진에 관한 가장 상세한 정보를 담고 있다. 책에서 그녀는, "분석 엔진은 어떤 것을 창안하려고 하지 않는다. 어떻게 작동하도록 시킬지 우리가 아는 것들은 무엇이든 할 수 있다" (밑줄은 그녀가 한 것). 하트리 Hatree는 이 발언을 인용하면서 다음과 같이 덧붙였다: "이는 '스스로 생각하는' 전자 기기를 만드는 것이나 '학습'의 토대가 되는, 생물학적 표현으로 조건반사를 할 수 있는 것이 가능하지 않다는 것을 내포하지는 않는다. 최근의 일부 발전에서 제시된, 이것이 원론적으로 가능한지 아닌지에 대한 질문은 자극적이고 흥미롭다. 하지만 당시에는 그 때 만들어지거나 제안된 기계가 이러한 속성을 가진것으로 보이지 않았다".

나는 이 점에 대해 하트리와 전적으로 동의한다. 하트리는 그 기계에 그러한 속성이 없었다고 주장하는 것이 아니라는 것을 알 수 있다. 오히려 레이디 러브레이스가 분석 엔진이 그러한 속성을 가졌다는 점을 믿을 만큼은 증거들이 충분치 못했다는 것을 이야기한다. 그 기계가 어떤 점에서 그러한 속성을 가졌으리라는 것은 꽤 가능성이 있다. 일부 불연속 상태 기계가 그러한 속성을 갖고 있다. 분석 엔진은 보편 디지털 컴퓨터 였으므로 저장 용량과 속도가 받쳐줬다면 적절한 프로그래밍에 의해서 생각하는 기계를 흉내내도록 만들어 질 수 있다. 아마도 카운테스 Countess나 베비지는 이러한 논의를 하지 않았을 것이다. 주장할 수 있는 모든 것을 주장해야할 의무는 어쨌든 없었으니까.

이 전체 질문은 아래 학습하는 기계(7. Learning Machines)의 첫머리에서 다시 논의될 것이다.

레이디 러브레이스의 반론을 변형하면 기계는 '새로운 것은 절대로 할 수 없다'라고 말할 수 있다. 이것은 다음의 말로 반박할 수 있다. '태양 아래 새로운 것은 아무것도 없다'. '오리지널 작업' 이 단지 가르침에 의해서 뿌려진 씨앗이 자라난 것이 아니라고, 혹은 잘 알려진 일반적인 법칙을 따른 결과가 아니라고 누가 확신할 수 있겠는가. 러브레이스의 반론을 좀 더 잘 바꾸면 기계는 '절대로 우리를 놀래킬 수 없다'라고 할 수 있다. 이것은 좀 더 직접적인 도전이고, 바로 상대할 수 있다. 기계는 매우 자주 나를 놀래킨다. 이것은 대체로 내가 기계가 무엇을 할지 예측하기 위해 충분한 계산을 하지 않기 때문이거나, 내가 계산을 하더라도 서두르고 대충하고, 위험을 감수하기 때문이다. 나는 이렇게 중얼거릴 것이다, '여기 전압은 저기랑 같을 거라고 생각해. 어쨌든 그렇다고 생각하자'. 당연히 나는 종종 틀린다. 그리고 실험이 끝날 때에 이르러서는 이러한 가정을 잊어버리기 때문에 그 결과는 나를 놀래킨다. 이것을 시인함으로써 나는 내 공격적인 방식에 대해 비난의 여지를 열어 놓는다. 그러나 내가 경험하는 놀라움을 증언할 때의 내 신뢰성에 대해서는 어떤 의심도 하지 말라.

나는 이러한 답변이 비판을 면할 수 있을 것이라 기대하지 않는다. 비판자들은 아마도 그러한 놀라움은 내게서 일어나는 어떤 창의적인 정신적 활동에 기인하는 것이라 주장하며 기계에 대해서는 어떤 칭찬도 하지 않을 것이다. 이것은 우리를 의식에 관한 논쟁으로 다시 돌아가게 만들고 놀라움에 대한 논의로부터 멀어지게 한다. 이것은 제한적인 것으로 간주해야 하는 논법이긴 하지만, 어떤 것을 놀랍다고 느끼는 것은 그 놀라운 사건이 사람, 책, 기계 혹은 다른 어떤 것에서 기인하던지 간에 '창의적인 정신적 행동'을 필요로 한다는 것은 언급할 가치가 있는지도 모른다.

기계가 놀라움을 일으킬 수 없다고 보는 관점은 특히 철학자와 수학자들에 관련된 오류 때문이라고 나는 믿는다. 이것은 하나의 사실이 마음에 제시되자마자 그 사실의 모든 결과는 그것과 함께 마음 속으로 들어간다는 가정이다. 이것은 많은 경우에 아주 유용한 가정이긴 하지만, 그것이 틀렸다는 것을 너무 쉽게 잊는다. 그러면 데이터와 일반 원리에 따른 결과에 따라 행동하는 것에는 아무런 장점이 없는 것으로 가정해버리게 된다.

(7) 신경계의 연속성과 관련한 주장 Argument from Continuity in the Nervous System

신경계는 명백히 불연속 상태 기계가 아니다. 뉴론에 가해지는 신경 자극에 대한 정보의 작은 오류가 결과의 크기에 큰 차이를 일으킬 수 있다. 그렇기 때문에 불연속 상태 기계로 신경계를 모방하는 것은 불가능하다고 주장할지 모른다.

불연속 상태 기계는 연속적 기계와 다르다는 것은 사실이다. 하지만 흉내 게임의 조건에서는, 질문자는 기계를 구별하는 데 있어 이 차이에서 어떤 이점도 얻지 못할 것이다. 더 단순한 연속 기계를 생각해보면 이는 더 명확해진다. 미분 분석기가 적당할 것이다. (미분 분석기는 어떤 계산에 불연속 상태를 사용하는 것이 아닌 종류의 기계이다.) 타이핑 된 형태로 답을 제시하는 미분 분석기도 있으므로 흉내 게임에 사용하기에 적절하다. 어떤 문제에 대해 미분 분석기가 어떤 답을 내 놓을지에 대해 디지털 컴퓨터가 정확한 예측을 하는 것은 불가능할 것이지만 정답이라 할 만한 답은 충분히 내 놓을 수 있을 것이다. 예를 들어서, 파이 값(실제로는 3.1417 정도)을 내라고 할 경우 다음의 값 중에서 무작위로 선택하는 것은 합리적일 것이다. 3.12, 3.13, 3.14, 3.15, 3.16, 각각 0.05, 0.15, 0.55, 0.19, 0.06(말하자면)의 확률로 말이다. 이러한 상황에서는 질문자는 미분 분석기와 디지털 컴퓨터를 구분하는 것이 매우 어려울 것이다.

(8) 행위의 비형식에 관련한 주장 The Argument from Informality of Behaviour

상상할 수 있는 모든 상황에서 어떤 행동을 해야할지 설명하는 규칙 집합을 만드는 것은 가능하지 않다. 예를들어 빨간 신호에서는 멈추고, 초록 신호에서는 가도록하는 조건은 있을 수 있다. 그렇지만 만약에 어떤 오류로 인해 두 가지 신호가 동시에 나타날 경우에는 어떤가? 멈추는 것이 가장 안전할 것이라고 판단할 수도 있을 것이다. 하지만 그 결과로 이후 또 다른 문제가 생겨날 수도 있다. 모든 결과를 아우를 수 있는 행동 규칙들을 만드는 것은, 이같은 교통 신호와 관련한 문제에서만 하더라도 불가능한 것으로 보인다. 나는 이 모든 것에 동의한다.

이에 따라 사람은 기계가 될 수 없는 것으로 주장된다. 나는 이 주장을 재현해 볼 것이지만 이를 정당하게 할 수 있을지 걱정이다.  그 주장은 다음과 같은 내용으로 되어 있다. '만약 각각의 사람이 자신의 삶을 통제하기 위한 명확한 행동 규칙을 갖고 있다고 하면 기계와 마찬가지일 것이다. 하지만 그러한 규칙은 없기 때문에 사람은 기계가 될 수 없다.' 부주연의 중개념이 확연히 드러난다. 그 주장이 딱 이 같은 식으로 나타난다고 생각하지는 않지만, 그럼에도 불구하고 이러한 주장은 사용된다. 그렇지만 '행동의 규칙rules of conduct'과 '행위의 법칙laws of behavior' 사이에 혼동이 있을 수 있고, 이는 이 논점을 흐린다. 내가 말하는 '행동의 규칙'은 '빨간 신호에서는 멈추어라'와 같은 규칙을 의미한다. 의식적으로 알고 있으면서 이에 따라 행동할 수 있는 규칙 말이다. 나는 '행위의 법칙'을 '그를 꼬집으면 비명을 지를 것이다'라는 것과 같이 인간의 몸에 적용시킬 수 있는 자연의 법칙을 의미한다. 만약에 '그가 자신의 삶을 통제하는 행동의 법칙'을 '그가 자신의 삶을 통제하는 행위의 법칙'으로 대체하면 위에서 인용된 주장에서 부주연의 중개념을 극복할 수 있게 된다. 우리는 행위의 법칙에 따라 통제되는 것은 기계와 같은 것이 되는 것이라는 것을 의미할 뿐만 아니라(반드시 불연속 상태 기계일 필요는 없지만), 반대로 기계는 그러한 법칙에 따라 통제된다는 것을 의미한다는 것이 사실이라고 믿기 때문이다. 그렇지만, 우리는 완벽한 행동의 규칙과 마찬가지로 완벽한 행위의 법칙도 없다는 것은 쉽게 확신할 수 없다. 그러한 법칙을 찾는, 우리가 아는 유일한 방법은 과학적인 관찰이다. 그리고 우리가 '이체 충분히 찾았어. 그러한 법칙 같은 것은 없어.'라고 말할 수 있는 상황에 대해서는 알지 못한다.

그런식의 주장은 정당하지 않다는 것을 더 강력히 증명할 수 있다. 그러한 법칙이 존재한다면 우리는 당연히 찾을 수 있다고 가정하자. 그리고 불연속 상태 기계가 주어진다면, 충분한 관찰로 그것의 미래 행동을 예측할 수 있는 것이 가능할 것이다. 합리적인 시간 안에, 말하자면 천 년. 그렇지만 그럴 것처럼 보이지 않는다. 나는 맨체스터 컴퓨터Manchester computer에 16자리 숫자가 주어지면 2초 이내로 16자리 숫자로 된 답을 내는 프로그램을 1000 유닛의 저장 공간만 사용하여 만들었다. 나는 어느 누구도 이러한 답들을 충분히 연구해서 그 프로그램에 대해서 알고, 시험해 보지 않은 값에 대해 어떤 답을 낼지 예측할 수 있다고 생각하지 않는다.

(9) 초감각 지각과 관련한 주장 The Argument from Extrasensory Perception

당신이 초감각 지각의 의미와 다음 4가지 항목 즉, 텔레파시, 신통력clairvoyance, 예지력, 염력에 대해 알고 있다고 가정하겠다. 이러한 성가신 현상은 우리의 모든 과학적 사고를 부정하는 것처럼 보인다. 우리는 얼마나 그들을 부정하기를 원하는가! 불행하게도 통계적인 증거는, 적어도 텔레파시에 관해서는 압도적이다. 이러한 새로운 사실을 인지하도록 누군가의 생각을 바꾸는 것은 아주 어렵다. 일단 그것을 받아들이고 나면 유령과 악령을 믿는 것도 크게 어려워 보이지 않는다. 우리의 몸이 밝혀진 물리 법칙과 함께 아직 밝혀지지 않았지만 어떤 면에서 유사한 어떤 법칙에 따라서 움직인다는 생각을 받아들이는 것이 첫 번째 할 일일 것이다.

이 주장은 내게 꽤 강력한 것이다. 누군가는 여전히 많은 과학 이론이 실제로 실행가능해 보인다고 할 수도 있다. 초감각 지각과 충돌함에도 불구하고 말이다.  사실 이에 대해 생각하지 않으면 아주 잘 넘어갈 수 있다. 이것은 도움이 되지 않는 위안이고 사고는 단지 초감각 지각이 특히 관련되어 있을 수 있는 현상과 같은 종류의 것이라는 것을 두려워하는 것이다.

초감각 지각에 근거한 더 구체적인 주장은 다음과 같을 수 있다. "텔레파시를 잘 받을 수 있는 한 사람과 디지털 컴퓨터 하나를 증인으로 사용해서 흉내 게임을 하게 해달라. 질문자는 다음과 같은 질문을 할 수 있다. '내 오른 손에 있는 카드는 스페이드, 다이아몬드, 하트, 클로버 중에 어떤 것인가?' 그 사람은 텔레파시나 신통력을 사용해서 400 번 중에 130번을 맞춘다. 기계는 무작위로 추측할 수 밖에 없고 아마도 104번을 맞춘다. 따라서 질문자는 사람과 컴퓨터를 구분할 수 있다." 여기 흥미로운 가능성이 나타난다. 디지털 컴퓨터가 랜덤 숫자를 생성할 수 있다고 가정하자. 그러면 질문에 답하기 위해 그것을 사용할 수 있을 것이다. 하지만 그러면 그 랜덤 숫자 생성기는 질문자의 염력의 대상이 될 것이다. 어쩌면 염력은 기계로 하여금 확률 계산으로 예측된 것보다 더 자주 옳은 답을 내도록 할 수도 있을 것이고, 따라서 질문자는 여전히 사람과 컴퓨터를 구분할 수 없을 것이다. 한편, 염력을 사용한 사람은 질문 없이도 옳은 답을 추측할 수 있을 지도 모른다. 초감각 지각에서는 어떤 것이라도 일어날 수 있다. 

만약 텔레파시가 수용된다면 우리의 시험을 더 엄격히 할 필요가 있을 것이다. 이 상황은 질문자가 혼잣말을 하고 있고 경쟁자 중 한 사람이 벽에 귀를 대고 그것을 듣는 상황과 유사한 것으로 간주 할 수 있다. 그 경쟁자들을 '텔레파시를 막을 수 있는 방'에 두면 모든 필요조건을 만족 시킬 것이다.

7. 학습하는 기계 Learning Machines

당신은 내가 주장을 뒷받침할 설득력 있는 논거를 갖고 있지 않을 것이라 생각했을 것이다. 만약 내게 그런 게 있었다면 반론들의 오류에 대해서 하나 하나 따지는 그런 고통을 감내할 필요가 없었을 것이다. 내가 갖고 있는 증거를 이제 제시하겠다.

잠시 레이디 러브레이스의 반론으로 돌아가자. 그 반론은 기계는 우리가 시키는 것만 한다는 것이다. 기계에 어떤 생각을 '주입inject' 할 수 있다고 말 할 수 있을 것이다. 망치로 내려친 피아노처럼 기계가 어느 정도 반응을 한 뒤 정지하도록 말이다. 유사한 것으로 임계 크기 보다 작은 원자로가 있을 것이다. 주입된 생각은 원자로에 들어가는 중성자에 반응하도록하는 것이다. 각각의 중성자는 특정한 외란을 일으킬 것이고, 이는 결국 사라질 것이다. 하지만 만약 원자로의 크기가 충분히 증가하면, 들어오는 중성자들에 의해 일어나는 외란이 지속되어 원자로 전체가 파괴될 것이다. 이에 대응하는 현상이 마음에 있는가? 기계에는 있는가? 인간의 마음에는 한 가지 현상이 있는 것으로 보인다. 그 중 대부분은 '미임계'인 것으로 보인다. 미임계의 원자로에 대응시키자면 말이다. 그러한 마음에 제시된 생각은 평균적으로 하나의 생각 이하를 일으킬 것이다. 그 중 아주 작은 부분은 초임계적이다. 그러한 마음에 제시된 하나의 아이디어는 두 번째, 세 번째 그리고 더 동떨어진 생각들로 구성된 전체 '이론'을 만들어 낼지도 모른다. 동물의 마음은 확실히 '미임계'인 것으로 보인다. 비유를 계속해서, '기계가 초임계가 될 수 있도록 만들어질 수 있는가?'라고 물을 수 있을 것이다.

'양파 껍질' 비유도 도움이 될 수 있다. 마음이나 뇌의 기능을 고려할 때 우리는 순전히 기계적인 용어를 사용해서 설명할 수 있는 특정 작용이 있다. 우리가 말하는 이것은 실제 마음에 대응되지 않는다. 이것은 실제 마음을 찾기 위해서 벗겨내야 하는 껍질 같은 것이다. 하지만 그러면 우리에게 남는 것은 계속 벗겨내야 할 껍질이다. 이 방식으로 계속하면 정말 '실제' 마음에 도달할 수 있을까, 아니면 결국 안에 아무 것도 없는 껍질을 만나게 될까? 후자의 경우 전체 마음은 기계적이다. (하지만 이것이 불연속 상태 기계는 아닐 것이다. 우리는 이미 이것에 대해 이야기했다.)

마지막 이 두 문단은 설득력이 있는것처럼 보이지 않는다. '믿음을 만들어내기 위한 설명' 정도로 하는 편이 나을 것이다.

6장의 첫머리에서 제시한 관점을 뒷받침할 수 있는 정말 유일한 근거는 세기말까지 기다렸다가 실험을 진행하는 것일 게다. 하지만 지금은 무엇을 이야기할 수 있을까? 그 실험이 성공적이기 위해서는 지금 어떤 절차를 진행해야 할까?

내가 설명한대로, 문제는 대체로 프로그래밍이다. 공학의 발전도 역시 필요할 것이지만 그게 부족할 것으로 보이지는 않는다. 뇌의 저장공간에 대한 추측은 10의 10승에서 10의 15승 비트정도 이다. 나는 10의 10승 비트정도일 것이라 생각한다. 그리고 그 중 아주 작은 부분만 고차원의 사고에 사용된다고 믿는다. 대부분이 시각적 인상을 기억하는 데 사용될 것이라 본다. 시각을 잃은 사람과 흉내 게임을 한다면 이를 상대하는데 기계는 10의 9승 이하의 저장 공간만 갖고 있으면 충분할 것이다. (노트- 대영백과사전의 용량은 2의 9승이다.) 현대의 기술도 10의 7승의 용량은 실행 가능할 것이다. 아마도 기계의 처리 속도를 높일 필요가 전혀 없을 것이다. 신경 세포의 비유 대상이라 할 수 있는 현대 기계 부품은 신경 세포보다 천배 정도 이상 빠르게 작동한다. 이 정도면 다양한 경우에 발생할 수 있는 속도 저하도 커버 가능한 '안전 여유도margin of safety'를 제공한다. 이제 우리의 문제는 흉내 게임을 할 수 있도록 어떻게 기계를 프로그래밍 하느냐는 것이다. 내가 현재 일하는 속도로, 하루에 1,000 비트 정도의 프로그램을 만든다. 그러므로 60명 정도의 작업자가 50년 동안 지속적으로 일한다면 일을 끝마칠 수 있을 것이다. 낭비되는 프로그램이 없다고 가정하면 말이다. 좀 더 효율적인 방법이 필요할 것으로 보인다.

성인의 마음을 흉내내는 시도의 과정에서 우리는 각 상태로 이르게 한 과정이 무엇인지에 대해서 많이 생각해야만 할 것이다. 아마 3가지 요소를 알아낼 것이다.

(a) 마음의 최초 상태, 말하자면 탄생에 있어,

(b) 마음이 받은 교육,

(c) 다른 경험들. 교육이라고 할 것은 아니지만 마음이 겪는.

어른의 마음을 재현하는 프로그램을 만드는 대신에, 차라리 아이의 마음을 재현하는 것을 만드는 것은 어떤가? 적절한 교육을 받는다면 어른의 뇌를 얻을 수 있을 것이다. 아마도 어린뇌는 문방구에서 살 수 있는 노트북과 같은 것이다. 장치는 거의 없고 빈 페이지를 많이 갖고 있는. (우리 관점에서 메카니즘과 글쓰기는 거의 동의어로 볼 수 있다.) 우리의 바람은 어린뇌에는 메카니즘이 거의 없어서 쉽게 프로그래밍할 수 있는 것이다. 교육에 있어서 일의 양은, 최초의 계산으로는, 인간 어린 아이에게 하는 교육과 거의 같을 것으로 짐작한다.

따라서 우리의 문제를 두 부분으로 나누었다. 어린아이를 프로그래밍하는 것과 교육 과정을 프로그래밍하는 것. 이 둘은 아주 밀접하게 연결되어 있다. 최초의 시도에서 훌륭한 아이 기계를 기대할 수 없다. 그런 가르치는 실험을 통해 기계가 얼마나 잘 배우는지 봐야 할 것이다. 그리고는 다른 기계로 시도해보고 더 나은지 못한지를 볼 수 있을 것이다. 이 과정과 진화 사이에는 명백한 관련이 있다.

아이 기계의 구조 = 유전 물질Hereditary material

아이 기계의 변화 = 돌연변이

자연 선택 = 실험자의 판단

하지만 이 과정이 진화보다 더 효율적일 것이라고 기대할 수 있다. 적자 생존은 유리함을 측정하기에 느린 방법이다. 실험자는, 지능을 실행하는 자로서, 이 속도를 더 향상시킬 수 있어야 할 것이다 또한 중요한 것은 실험자는 반드시 랜덤 돌연변이만 사용할 필요가 없다는 것이다. 만약 약점을 유발하는 요인을 찾을 수 있다면 이를 향상시킬 수 있는 돌연변이를 생각할 수 있을지 모른다.

일반적인 아이를 가르치는 방식을 그대로 기계에 적용하는 것은 가능하지 않을 것이다. 예를 들어 기계는 다리를 갖고 있지 않아서 석탄을 집어서 통에 넣으라고 시킬 수 없을 것이다. 눈도 갖고 있지 않을 수 있다. 하지만 이러한 부족함은 공학을 통해서 어떻게든 극복하더라도, 다른 아이들의 놀림을 받는 것을 피하면서 학교에 보낼 수는 없을 것이다. 반드시 교육을 받아야만 한다. 다리, 눈 등에 대해서는 크게 신경 쓸 필요가 없다. 헬렌 켈러의 예가 보여주듯 교육은 선생과 학생 사이의 쌍방향 커뮤니케이션이 주어졌을 때 이루어질 수 있다.

우리는 보통 처벌과 보상을 교육 과정과 함께 생각한다. 간단한 아이 기계는 이러한 원칙에 따라서 만들어지거나 프로그램될 수 있다. 그 기계는 처벌 신호가 발생되게 하는 사건을 다시 하는 일이 없도록 하고, 보상 신호에 이르게 하는 일의 반복은 더 많이 발생시키도록 만들어져야 할 것이다. 이 정의는 기계 요소에 어떤 감정도 전제하지 않는다. 나는 그러한 아이 기계에 대한 실험을 이미 해봤고 몇 가지를 가르치는 데 성공했다. 하지만 그 실험의 교육 방식은 매우 비정통적이어서 성공적이라고 하기가 힘들다.

처벌과 보상을 사용하는 것은 교육 과정에 기껏해야 부분적 일 것이다. 간략히 이야기하자면, 만약 선생이 학생과 커뮤니케이션할 다른 방법이 전혀 없다면, 선생에게 도달할 수 있는 정보의 양은 전체 보상과 처벌에 적용된 양을 넘지 못한다. 아이가 '카사비앙카'를 반복할 수 있도록 배울 때에 즈음이면 매우 감정이 상했을 것이다. 만약 '스무고개'를 통해서만 그 텍스트를 알아 낼 수 있다고 한다면, 'NO'라는 대답은 한 방 치는 것이 될 것이다. 그러므로 '비감정적인' 커뮤니케이션 채널을 사용할 필요가 있다. 만약 그런 것이 있다면 보상과 처벌을 통해서 기계가 언어로 주어지는, 예를 들어 상징적인 언어, 명령을 따를 수 있도록 가르칠 수 있을 것이다. 이러한 명령은 '비감정적인' 채널을 통해서 전송되어야 한다. 이 언어를 사용함으로써 필요한 보상과 처벌의 수를 현격히 줄일 수 있을 것이다. 

아이 기계가 얼마나 복잡해야 하는지에 대해서는 의견이 다양할 수 있다. 일반 원리에 따라 가능한 단순히 만드려고 시도 할 수 있다. 아니면 완벽한 논리 추론 시스템을 '내장 built in' 할 수도 있다. 후자의 경우 저장 공간은 정의와 명제로 대부분 채워질 것이다. 명제는 다양한 상태일 수 있다. 예를 들어 확고한 사실, 추측, 수학적으로 증명된 정리, 기관의 성명, 논리적인 형태를 지녔지만 신뢰할 만한 것은 아닌 표현. 특정 명제는 '명령적imperative'인 것으로 주어질 수 있다. 기계는 명령적인 어떤 것이 '확고한 사실'로 분류되자마자 자동적으로 행할 수 있도록 만들어져야 한다. 이를 설명하기 위해, '지금 숙제를 해'라고 말하는 선생을 가정하자. 이것은 확고한 사실들 중에 "선생이 '지금 숙제를 해'라고 말한다"를 포함시키도록 할 것이다. 또다른 확고한 사실은 "선생이 말하는 모든 것은 사실이다"일 수 있다. 이를 결합하면 다음의 명령, '지금 숙제를 해'가 확고한 사실에 포함되고, 이것은  기계가 만들어진 것에 따라, 숙제가 실제로 시작되지만 그 효과는 매우 만족스러운 것을 의미할 수 있다. 기계에 사용되는 이 추론의 과정은 엄격한 논리학자를 만족시킬 필요는 없다. 예를 들어 거기에는 유형의 계층이 없을 수 있다. 하지만 펜스가 없다고 해서 절벽에 떨어지는 것이 아니듯, 이것이 계층 오류type fallacy가 일어난다는 것을 의미할 필요도 없다. '선생이 언급한 등급이 아닌 것에 대한 하위 등급은 사용하지 말라'와 같은 적절한 의무는(시스템의 규칙의 일부는 아니지만 시스템 내부에 표현된) '절벽 근처에 가지 말라'라는 것과 비슷한 효과를 가질 수 있다.

사지가 없는 기계가 따라야 할 명령은 위에서 주어진 숙제를 하는 예시에서와 같이 지적인 것이어야 한다. 그러한 명령 중 중요한 것은 논리 시스템의 규칙과 관련하여 어떤 지시가 적용되어야 하는지 결정하는 것이다. 논리 시스템을 사용하고 있는 각 단계에는 매우 많은 선택적인 절차가 있고 논리 시스템과 관련한 규칙을 따르기만 한다면 그 중 어떤 것에 대한 적용이라도 허용된다. 이러한 선택이 명석하고 하찮은 사고의 차이를 만든다, 옳거나 틀린 것의 차이가 아니라. 이러한 종류의 명령에 이르는 명제는 "소크라테스가 언급되면, 바바라의 삼단논법을 사용하라" 혹은 "만약 어떤 방법이 다른 것 보다 빠른것으로 밝혀지만, 느린 것은 사용하지 말라"와 같은 것이 될 수 있다. 이 중 일부는 '주어진 것'일 수 있으나 다른 것들은 기계가 스르로 만든 것일 수 도 있다. 예를 들어 과학적 귀납을 통해서.

학습하는 기계에 대한 생각은 역설적인 것이라 여기는 사람도 있을 것이다. 기계가 작동하는 규칙이 어떻게 변할 수 있는가? 기계의 과거가 어땠던 간에 그리고 어떤 변화를 겪을지에 상관없이 기계가 어떻게 반응할지에 대해 완벽하게 설명해야 할 것이다. 따라서 그러한 규칙은 시불변time-invariant적일 것이다. 이것은 꽤 사실이다. 학습하는 과정에서 변화하는 규칙은 일시적인 타당성을 지닌 것이다라는 것으로 역설을 설명할 수 있다. 미국의 헌법과 비교할 수도 있겠다.

학습하는 기계에서 중요한 점은, 선생이 기계 안에서 벌어지는 일에 대해서 대부분 알지 못할 것이라는 점이다. 비록 학생의 행동을 어느 정도 예상은 할 수 있을지 몰라도. 이것은 잘만든 디자인(혹은 프로그램)의 아이 기계로부터 발생한 기계의 후기 교육에 가장 엄격히 적용돼야 할 것이다. 이것은 계산하는 데 기계를 시킬 때의 일반적인 과정, 사용자의 목적이 기계가 계산하는 모든 순간에 기계의 상태에 대한 분명한 멘탈 이미지를 갖는 것인, 과는 명백한 대비를 이룬다. 이 목적은 어렵게 달성될 수 있다. '기계는 우리가 어떻게 작동하도록 시킬지 아는 것만 할 수 있다'라는 견해는 여기서 이상하게 보인다. 우리가 기계에 넣을 수 있는 대부분의 프로그램은 우리가 전혀 이해할 수 없거나 무작위적인 것으로 보이는 어떤 일을 하는 결과를 낳을 것이다. 지적인 행동은 아마도 계산과 결부된 완벽히 교육된 행동으로부터 출발하겠지만, 아주 작은 부분일 것이고 그것은 무작위적인 행동이나 의미없는 반복을 발생시키지 않을 것이다. 가르침과 학습의 과정을 통해서 기계가 흉내 게임에 참여하도록 준비함으로써 얻는 또다른 중요한 결과는 '인간의 오류를 범하기 쉬움human fallibility'이 자연스런 방식으로 제외된다는 점이다. 다시 말해서 특별한 '가르침' 없이. 학습된 과정은 100퍼센트 확실한 결과를 만들어내지 않는다. 만약 그랬다면 학습 안된다는 것이 불가능할 것이다.

학습 기계에 무작위적 요소를 포함시키는 것이 현명할 것이다(p. 438을 보라). 무작위적 요소는 우리가 문제의 해답을 찾고 있을 때 유용하다. 예를 들어 50과 200 사이의 숫자 중에서 자신의 각자릿수를 더해서 제곱한 것과 같은 숫자를 찾고 싶다고 하자. 우리는 51에서 시작해서 52로 그리고 답을 찾을 때까지 계속해서 시도할 수 있다. 아니면 무작위로 숫자를 선택해서 맞는지 확인할 수도 있다. 이 방법은 이미 시도했던 숫자를 기억하지 않아도 된다는 장점이 있지만, 같은 것을 두번 시도할 수 있다는 단점이 있다. 하지만 해답이 다수일 경우에 이는 별로 중요하지 않다. 순차적으로 진행하는 방식은 시작 부분에 해답이 없는 영역이 엄청나게 클 경우가 있을 수 있다는 단점이 있다. 이제 학습 과정은 선생(아니면 다른 기준)을 만족시켜야 하는 행동 양식을 찾는 것으로 간주 될 수 있다. 만족시킬 수 있는 방법의 수는 매우 많기 때문에 무작위 방식이 체계적 방식보다 더 나은 것으로 보인다. 진화 과정의 비유에서 이것이 사용된다는 것을 기억할 필요가 있다. 하지만 거기서 체계적인 방식은 가능하지가 않다. 이미 시도된 유전 조합을 다시 시도하는 것을 피하기 위해 과거의 것을 어떻게 다 기록할 수가 있는가?

기계가 결국 모든 지성의 영역에서 인간과 경쟁할 것이라 예상할 수 있다. 하지만 처음 시작하기에 어떤 것이 제일 나을까? 이것 조차도 어려운 결정이다. 많은 사람이 체스 경기처럼 아주 추상적인 활동이 가장 적절할 것이라 생각한다. 기계에 최고의 감각 기관을 제공하고 영어를 이해하고 말할 수 있도록 시키는 것이 최고라고 여겨질 수도 있다. 이 과정은 어린 아이를 가르치는 일반적인 절차를 따를 수 있다. 어떤 것을 가리키고 이름을 불러주는 등. 다시 한 번 나는 무엇이 정답인지 알지 못한다. 하지만 두 가지 접근법이 모두 시도되어야 한다고 생각한다.

우리는 눈 앞의 짧은 미래밖에 볼 수 없지만 해야할 일이 많다는 것은 알 수 있다.



*앨런 튜링의 논문 "A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460."을 번역했다.