많은 사람이 인공지능(AI: Artificial Intelligence)를 얘기한다. 구글의 CEO 순다르 피아이(Sundar Pichai)는 “미래 핵심 경쟁력은 인공지능에 있다”고 선언하고 “앞으로 모든 제품과 플랫폼에 인공지능을 탑재하겠다”고 선언했다.

기계가 인간처럼 생각하고 행동하면 아주 이상적이다. 현재의 기술로는 사람의 시청각 기관과 두뇌처럼 데이터를 처리하는 머신러닝(딥러닝) 알고리즘 발전, 인공지능 학습에 필요한 빅데이터 축적, 컴퓨팅 파워의 비약적 향상 등이 이뤄졌다. 그 결과로 일부 인공지능 기술은 인간 능력을 필적하거나 우월한 성능을 발휘하고 있다.

 

딜로이트 컨설팅의 김석태 이사는 회사 홈페이지에 올린 글에서 “현재의 축적된 기술로 인공지능은 ▲프로세스 자동화, ▲인지적 인사이트, ▲인지적 응대가 가능하다”고 밝혔다.

첫 번째로, 인간이 수행하는 다양한 업무 중 일부 단순 반복적인 작업은 자동화(Process Automation)할 수 있다. 대상 업무 난이도에 따라서 다르겠으나 작업자를 대체하기보다는 작업 편의성과 업무 생산성을 높이는 도구로서의 인공지능 활용이다.

두 번째, 다양하고 방대한 데이터를 분석해서 유용한 통찰력(Cognitive Insight)을 제공할 수 있다. 인공지능이 제공한 정보만으로는 업무가 완결되지 않기 때문에 작업자를 대체하기보다는 업무 파트너로 인공지능 활용해야 한다.

마지막으로 고객 혹은 직원과 의사소통을 하면서 업무를 대행할 수도 있다. 고객 상담사를 대신한 상담 챗봇이 그 사례로서 이러한 인지적 응대(Cognitive Engagement)는 인력 대체 효과가 가장 클 것이다.

 

 

김석태 이사는 글에서 재미있는 사실을 설명했다. 즉 인공지능이 만능해결사처럼 말하지만, 현재로는 결점이 있다며, 그 4가지 포인트를 지적했다.

① 학습문제

인공지능은 스스로 ‘학습’하지 않는다. 정확하게 말하면 인공지능의 ‘학습’은 사람의 그것과 개념이 다르며 인공지능 ‘학습’에는 사람의 역할이 크다. 인공지능은 정교하게 데이터를 분류하고 예측하는 프로그램인데, 인공지능의 ‘학습’은 기존의 데이터를 입력해서 결과를 도출할 때 이용하는 가중치를 업데이트해서 실제와 예측치의 편차를 줄이는 과정을 의미한다. 데이터 준비, 알고리즘 설계, 데이터 학습 결과 검토/개선은 모두 사람이 수행해야 한다.

② 비용문제

인공지능은 비싸다. 특히 딥러닝 기반의 인공지능 개발을 위해서는 방대한 분량의 학습 데이터, 학습 데이터 처리를 위한 고가의 IT 시스템, 데이터 처리와 알고리즘 설계를 위한 전문 인력이 필요하다. 일반적으로 인공지능 개발 비용은 규칙 기반 시스템, 머신러닝, 딥러닝의 순서로 증가한다. 비용 효율성을 고려한 취사선택이 필요하다. 인공지능을 목적이 아닌 수단으로 판단해야 한다.

③실수문제

인공지능은 불확실한 상황에 대한 대처 능력이 현저히 낮다. 과거 이세돌 9단의 바둑 대결에서 3연승을 구가하던 알파고가 제4국에서 보여준 한계가 대표적이다. 당시 알파고는 초반부터 유리한 국면으로 승기를 잡고 있었으나 이세돌 9단의 절묘한 78수 이후에는 납득하기 어려운 수를 연발하면서 급격하게 무너졌다. 데이터로 학습하지 않은 상황에서는 터무니없는 결과를 도출하는 한계를 보여준 것이다. 따라서 인공지능을 적용할 경우에는 이를 검증하는 역할을 사람에게 부여하거나 이상 동작을 하는 경우에 사람이 개입하는 안전장치를 마련해야 한다.

④해석문제

인공지능은 설명력이 낮은 블랙박스이다. 인공지능의 동작 원리는 설명할 수 있지만 처리된 결과물의 인과 관계는 설명하기 어렵다. 이는 인공지능 학습 방식에 기인한다. 입력 변수가 수십, 수백 단계의 변형을 거쳐서 최종 모형에 반영되어, 입력 변수와 결과의 직접적인 관계는 추적이 어렵다. 따라서 결과 뿐만 아니라 결과에 대한 설명이 중요한 업무에 대한 활용은 적절치 않다. 이를 지적한 영국 이코노미스트지는 ‘인공지능이 번성하려면 자기 자신을 설명해야 한다’고 제목을 달고, ‘만일 그렇지 못하다면 누가 이것을 신뢰할 것인가?’라는 부제를 달았다.

미국 국방부 산하 방위고등연구계획국(DARPA; Defense Advanced Research Projects Agency)의 ‘설명 가능한 인공지능’(Explainable AI) 연구 등 여러가지 시도가 이루어지고 있는데, 그 결과를 지켜볼 필요가 있다.