AI 겨울의 반전: 몰락 속 피어난 혁신

 

1974년, 미국과 영국의 연구실에서 인공지능(AI)에 대한 열기가 식어가기 시작했다. 1950년대와 60년대의 낙관적 분위기는 자취를 감추고, "AI 겨울"이라는 긴 암흑기가 도래했다. 다트머스 회의(1956)와 초기 성공으로 촉발된 AI 붐은 과대 광고에 비해 실질적 성과가 부족하다는 비판에 직면했다. 연구 자금이 끊기고, 학계와 산업계의 신뢰가 무너지며, AI는 한때의 유행으로 끝나는 듯 보였다. 그러나 이 몰락의 한가운데서, 꺼지지 않은 불씨를 지킨 연구자들은 위기를 혁신으로 바꿨다. 1970년대와 80년대의 AI 겨울은 단순한 좌절이 아니라, 기술의 드라마틱한 반전을 준비하는 무대였다.

AI 겨울의 시작은 1960년대 말부터 조짐을 보였다. 초기 AI 시스템—마빈 민스키의 신경망, 존 매카시의 LISP 기반 프로그램, 허버트 사이먼의 논리 이론가—은 놀라운 가능성을 보여줬지만, 실용적 한계에 부딪혔다. 당시 컴퓨터는 메모리가 수 킬로바이트에 불과했고, 연산 속도는 현대 기준으로 터무니없이 느렸다. 예를 들어, 1966년 MIT의 조셉 와이젠바움이 개발한 ELIZA는 심리 상담 대화를 흉내 냈지만, 단순한 패턴 매칭에 의존해 깊이 있는 지능을 구현하지 못했다. 기대가 높아질수록 실망도 커졌다. 1973년, 영국 의회의 라이트힐 보고서(Sir James Lighthill Report)는 AI 연구의 비현실적 전망을 비판하며 정부 지원을 삭감했고, 미국에서도 DARPA(국방고등연구계획국)가 자금 줄을 죄었다. 연구소는 문을 닫았고, AI라는 단어 자체가 학계에서 금기시되었다.

 

이 위기 속에서 몇몇 인물들이 혁신의 불씨를 지켰다. MIT의 마빈 민스키는 신경망 연구가 주춤했음에도 불구하고, 로보틱스와 패턴 인식에 집중하며 AI의 미래를 준비했다. 그는 1970년대에 "프레임(Frame)" 이론을 제안하며, 기계가 지식을 구조화된 형태로 저장하고 활용할 수 있는 방법을 탐구했다. 스탠퍼드의 존 매카시는 LISP를 계속 발전시키며, 논리 기반 시스템의 가능성을 믿었다. 그는 "상식 지식(common sense knowledge)"을 기계에 부여하려는 야심 찬 프로젝트를 추진했지만, 당시 기술로는 실현이 어려웠다. 한편, 영국의 도널드 미키(Donald Michie)는 기계 학습의 씨앗을 뿌렸다. 그는 1960년대에 "Boxcar"라는 학습 알고리즘을 개발했고, 1970년대에도 소규모 실험을 통해 AI의 잠재력을 입증하려 했다. 카네기멜론의 라지 레디(Raj Reddy)는 음성 인식 연구를 시작하며, 실용적 응용 가능성을 모색했다.

AI 겨울의 논의는 두 가지 방향으로 나뉘었다. 첫 번째는 "상징적 AI(symbolic AI)"로, 논리와 규칙을 통해 지능을 구현하려는 접근이었다. 매카시와 민스키가 주도한 이 방식은 전문가 시스템(expert system)으로 발전했는데, 이는 의료 진단이나 공학 설계 같은 특정 분야에서 규칙 기반 지식을 활용했다. 두 번째는 "연결주의(connectionism)"로, 뇌의 신경망을 모방한 접근이었다. 그러나 초기 신경망은 단층 퍼셉트론(single-layer perceptron)에 머물렀고, 1969년 민스키와 세이모어 페퍼트(Seymour Papert)의 책 Perceptrons는 그 한계를 날카롭게 지적하며 연결주의에 찬물을 끼얹었다. 이 책은 다층 신경망의 가능성을 무시했고, 신경망 연구는 10년 이상 침체에 빠졌다.

성과는 제한적이었다. 1970년대에 전문가 시스템인 DENDRAL(화학 분석)과 MYCIN(의료 진단)이 개발되었지만, 좁은 분야에 국한되었고 확장성이 부족했다. 예를 들어, MYCIN은 세균 감염을 진단하는 데 탁월했지만, 일반적 지식을 학습하거나 새로운 상황에 적응하지 못했다. 신경망은 더 큰 좌절을 겪었다. 단층 퍼셉트론은 XOR 문제를 해결하지 못했고, 다층 구조를 학습시킬 알고리즘(예: 역전파)이 아직 발명되지 않았다. 자금 삭감으로 연구자들은 소규모 프로젝트에 의존했고, AI는 실용적 가치를 증명하지 못한 채 비판의 대상이 되었다. 1980년대 초, 일본의 5세대 컴퓨터 프로젝트가 AI에 대한 희망을 잠시 되살렸지만, 1990년대 초 실패로 끝나며 두 번째 AI 겨울을 맞았다.

그러나 몰락 속에서 혁신의 씨앗이 피어났다. 1986년, 제프리 힌튼(Geoffrey Hinton), 데이비드 루멜하트(David Rumelhart), 로널드 윌리엄스(Ronald Williams)는 역전파 알고리즘(backpropagation)을 발표하며 신경망의 부활을 알렸다. 이 알고리즘은 다층 신경망을 효과적으로 학습시킬 수 있었고, 연결주의의 르네상스를 열었다. 같은 시기, 전문가 시스템은 상업적 성공을 거두며 산업계에 뿌리내렸다. 예를 들어, 디지털 이큅먼트 코퍼레이션(DEC)의 XCON 시스템은 컴퓨터 구성 설계를 자동화해 연간 수백만 달러를 절약했다. 라지 레디의 음성 인식 연구는 1990년대 IBM의 ViaVoice로 이어졌고, 이는 현대 음성 비서의 전신이 되었다. AI 겨울은 끝나지 않았지만, 그 한가운데서 기술은 조용히 진화하고 있었다.

AI 겨울의 파급력은 시간이 지나며 드러났다. 역전파와 신경망의 재발견은 2010년대 딥러닝 혁명을 낳았고, 힌튼은 "AI의 대부"로 불리며 2018년 튜링상을 수상했다. 전문가 시스템은 현대 데이터베이스와 지식 관리 시스템의 기초가 되었고, 음성 인식은 Siri와 Alexa로 꽃피웠다. AI 겨울은 연구자들에게 겸손을 가르쳤고, 과대 광고 대신 실질적 진보를 추구하게 했다. 1997년 딥블루의 체스 승리와 2016년 알파고의 바둑 승리는 이 시기 뿌려진 씨앗의 결실이었다. AI 겨울은 몰락의 시기가 아니라, 위기를 딛고 일어선 혁신의 드라마였다. 그 암흑 속에서 피어난 기술은 오늘날 세상을 바꾸는 AI 혁명의 토대가 되었다.

 

 

# AI 혁명 속 흥미로운 이야기들