전문가 시스템이 이끈 짧은 황금기
1980년대 AI 연구는 ‘전문가의 지식을 컴퓨터에 넣으면 인간처럼 판단한다’는 발상으로 활기를 찾았습니다. 당시 기업들은 특정 분야의 규칙과 절차를 정리해 시스템에 넣으면, 전문가가 부족한 상황에서도 높은 품질의 판단을 재현할 수 있을 것이라 기대했습니다.
이 시기 등장한 대표 사례는 XCON 같은 전문가 시스템으로, 복잡한 컴퓨터 구성 작업을 자동화해 비용 절감을 이끌었다고 평가받았습니다. 이러한 성공은 ‘전문가 지식의 디지털화’라는 개념을 기업 전반으로 확산시키면서, AI가 곧 산업 전반을 혁신할 것이란 분위기를 만들었습니다.
하지만 전문가 시스템이 다루는 세계는 철저히 정형화된 규칙 안에서만 유효했습니다. ‘규칙으로 설명할 수 없는 문제’가 등장하는 순간 시스템은 막히기 시작했습니다. 예외가 많은 현실 세계를 그대로 옮기기에는 규칙 기반 접근의 비용이 너무 높았습니다.
규칙 기반의 한계가 드러나다
전문가 시스템의 가장 큰 약점은 지식을 입력하는 과정 자체였습니다.
전문가는 암묵적으로 문제를 해결하는데, 이를 규칙형 문장으로 모두 정리하는 것은 거의 불가능에 가까웠습니다.
또한 시스템이 커질수록 규칙끼리 충돌하거나, 새로운 규칙 추가 시 기존 기능이 무너지는 문제가 반복되었습니다. 당시 연구자들은 이를 ‘지식 공학(Knowledge Engineering)의 병목’이라고 불렀습니다.
결국 많은 기업이 큰 비용을 들여 시스템을 구축했지만, 유지·보수 비용이 지나치게 증가하면서 프로젝트가 중단되는 사례가 늘어났습니다.
‘AI가 산업을 바꾼다’는 초기 기대는 점차 현실적 의문 속으로 바뀌기 시작했습니다.
잊혀졌던 신경망이 다시 부활하다
한편, 1960년대 퍼셉트론의 실패로 거의 사라졌던 신경망 연구는 1980년대 중반 Backpropagation 기법의 재발견을 계기로 다시 주목을 받습니다.
이 알고리즘은 여러 층을 가진 신경망이 스스로 가중치를 조정해 학습할 수 있게 한 중요한 전환점이었습니다.
이전에는 해결하지 못했던 비선형 문제를 다룰 수 있게 되면서, 연구자들은 신경망이 인간 뇌의 학습 원리를 일부 모방할 수 있다는 가능성을 다시 논의하기 시작했습니다.
IBM, MIT, 카네기멜론대 등 다양한 연구소에서 신경망 실험이 활발해졌고, 음성·패턴 인식 분야에서 유의미한 성능 향상이 나타났습니다.
그러나 이 성과는 아직 제한된 영역에 머물렀고, 대규모 데이터를 활용해 일반화된 모델을 만드는 수준과는 거리가 있었습니다.
두 번째 AI 겨울로 이어진 흐름
1980년대 후반이 되면서 전문가 시스템의 한계가 먼저 드러났습니다.
규칙 기반 시스템은 유지가 어렵고, 비용은 계속 증가하며, 기대한 만큼 성능을 내지 못했습니다.
기업들은 도입 초기에는 성과를 보았지만, 결국 장기적 비용 부담을 감당하지 못하고 전문가 시스템을 철회하기 시작했습니다.
AI 관련 벤처와 연구 자금 역시 빠르게 감소했습니다.
신경망 연구 역시 큰 기대를 받았지만, 당시 컴퓨터 성능으로는 여러 층을 가진 모델을 대규모로 학습시키기 어려웠습니다.
데이터는 부족했고 GPU 같은 가속 기술도 없었기 때문에, 연구 성과는 주로 학술적 시연 수준에 머물렀습니다.
결국 1990년대 초반, AI는 다시 한번 “가능성이 있는 기술이지만, 실제 성과는 제한적이다”라는 평가를 받으며 두 번째 AI 겨울에 들어섭니다.
두 시기의 차이는 무엇이었나?
첫 번째 겨울이 지나친 낙관과 기술적 미성숙으로 인한 실패였다면,
두 번째 겨울은 산업적 기대와 현실의 간극이 만든 결과였습니다.
- 전문가 시스템은 유지 비용의 문제
- 신경망은 연산 자원과 데이터 부족의 문제
즉, 기술 자체가 실패라기보다 가능성은 있었지만 시대적 조건이 갖춰지지 않았던 시기였습니다.
이런 경험은 이후 연구자들이 문제 해결 방식을 다시 설계하는 계기가 되었습니다.
특히, 데이터 중심 접근의 중요성은 이 여정을 통해 조금씩 확인되기 시작했습니다.
meta_know 인사이트
1980–90년대는 AI가 두 가지 서로 다른 방식으로 기대를 모았다가 한계를 드러낸 시기였습니다. 규칙 기반 AI는 ‘지식을 표현하는 어려움’에 부딪혔고, 신경망은 ‘계산과 데이터의 부족’이라는 구조적 한계에 막혔습니다. 이 시기 연구가 남긴 가장 중요한 자산은, 기술의 가능성을 제대로 실현하려면 환경·데이터·연산·도구가 모두 갖추어져야 한다는 사실입니다.
핵심 정리
- 전문가 시스템은 초기에 산업적 성공처럼 보였지만 유지·확장 비용이 한계를 드러냈다.
- 신경망은 Backpropagation으로 재도약했지만, 연산·데이터 부족으로 제한된 성과에 그쳤다.
- 과도한 기대와 현실적 제약이 다시 한번 AI 겨울을 불러왔다.
- 이 시기의 경험은 이후 딥러닝 시대의 출발점이 되었다.
다음 읽을 거리
두 번째 AI 겨울을 이해하셨다면, ‘2000–2010년대: 빅데이터와 딥러닝의 결합‘을 읽어보시면 AI가 어떻게 빅데이터와 만나 새로운 전환점을 맞이했는지 알아보실 수 있습니다. 이전 시대와 비교하며 AI 발전의 패턴을 이해하고 싶으시다면 ‘1960–1970년대: 초기 낙관과 첫 번째 AI 겨울‘을 다시 읽어보시는 것도 좋습니다. AI의 현재 모습이 궁금하시다면 ‘AI란 무엇인가? – 우리 생활 속 AI 찾아보기‘를 확인해보세요.