최 교수는 KAIST설명가능인공지능연구센터 센터장이기도 하다. 설명 가능한 AI란 무엇일까? 최 교수는 설명 가능한 AI는 AI가 내리는 결정 과정과 이유를 이해할 수 있도록 돕는 기술이라고 설명했다.
“AI가 왜 그런 결정을 내렸는지 설명할 수 있어야 해요. 그렇지 않으면 문제가 생겼을 때 어떻게 고칠 수 있겠어요? 설명 가능한 AI는 AI가 왜 특정 결정을 내렸는지 이해할 수 있게 해줍니다. 이것이 AI 기술의 신뢰성을 높이고, 문제가 발생했을 때 해결할 수 있는 중요한 요소라고 할 수 있습니다. AI의 판단 과정이 투명하지 않으면 그 결과에 대한 책임을 지기 어렵기 때문에 이는 매우 중요한 연구 분야라고 할 수 있지요.”
최 교수는 AI가 발전함에 따라 우리가 더 주목해야 할 중요한 과제는 윤리와 투명성이라고 주장했다. 설명 가능한 AI가 발전해야 AI의 신뢰도가 높아지고, 이를 통해 AI가 다양한 산업과 사회적 결정 과정에서 더욱 널리 사용될 수 있다고 강조했다.

최근 화제를 불러 모으는 AI 교과서에 대해 최 교수는 교육을 효율적이고 개인화된 방식으로 변화시킬 수 있는 교육 혁신의 중요한 도구가 될 것이라고 평가했다.
“AI 교과서는 학생들이 어떤 개념을 이해하고 어떤 부분을 어려워하는지 자동으로 분석해줄 수 있어요. 이를 통해 학생들은 자신이 부족한 부분을 더 집중적으로 학습할 수 있죠. AI는 지속적으로 학생의 학습 기록을 분석하고 피드백을 제공해 스스로 학습할 수 있는 능력을 키우는 데 큰 도움이 될 것입니다.”
AI 교과서는 교육 접근성을 높일 수 있다는 점과 교육 불평등을 해소하는 데 기여하는 점에서도 장점이 크다고 말했다. 지역이나 학교 환경에 따라 교육의 질 차이가 큰데, AI 교과서를 통해 어느 지역의 학생이든 동일한 수준의 교육을 받을 수 있기 때문이다.
“모든 학교에 우수한 교사를 배치하는 것은 현실적으로 어렵지만, AI 교과서는 우수한 교사가 없는 지역에서도 학생들이 체계적이면서 고품질 교육을 받을 수 있게 해줍니다. 이를 통해 교육의 공평성을 높이고, 학생들이 같은 출발선에서 학습할 수 있게 되죠.”
하지만 그는 AI 교과서에 대한 우려도 함께 지적했다. AI 교과서가 지나치게 활용되면 학생들이 스스로 사고하거나 문제를 해결하는 능력이 약화될 수 있기 때문에 교사의 역할과 AI 교과서가 균형을 이루어야 한다고 강조했다. AI가 제공하는 답변에 의존하지 않고, 학생들이 비판적 사고와 창의적 문제 해결 능력을 함께 기를 수 있는 교육 방안이 마련되어야 한다는 것이다.

AI가 발전하면서 많은 직업이 사라지고 새로운 직업이 등장할 것으로 예상된다. 이에 대해 최 교수는 “단순하고 반복적인 업무는 AI가 빠르게 대체할 것”이라고 단언했다. “머리로 하는 ‘노가다’ 같은 일, 즉 단순히 정보를 전달하거나 간단한 결정을 내리는 직무는 AI가 쉽게 처리할 수 있습니다. 고객 지원이나 정보 안내 같은 업무는 이미 AI가 상당 부분 대체하고 있으며, 앞으로는 AI가 더 많은 업무를 처리할 것입니다. 기업들이 이미 고객 응대나 서류 처리 같은 업무를 AI로 자동화하고 있죠. 총무, 행정, 콜센터 같은 정보처리 중심 직무는 AI로 대체될 가능성이 큽니다.”
그러나 최 교수는 모든 직업이 AI로 대체될 수는 없다고 강조한다. 그는 AI가 아직 복잡한 판단이 요구되는 직무를 수행하기 어려운 만큼 의사나 판사처럼 인간의 경험과 판단이 중요한 직업은 여전히 인간이 중심 역할을 할 수밖에 없을 것이라고 예상했다. AI가 보조 역할을 할 수는 있지만, 최종 결정은 결국 인간의 몫이라는 것이다. 이어 최 교수는 AI 시대에 인기 있는 직업은 창의적 능력을 요구하는 분야가 될 것이라고 전망했다.
“AI는 데이터를 기반으로 문제를 해결하는 데 뛰어나지만, 새로운 아이디어를 창출하는 데는 한계가 있습니다. 앞으로는 창의적 문제 해결 능력과 새로운 아이디어를 제시할 수 있는 능력이 더욱 중요해질 것입니다. 결국 AI가 대체할 수 없는 창의적 인재가 필요합니다. 창의적 사고력과 문제 해결 능력을 갖춘 인재들이 AI 시대에 주목받게 되겠죠.”
도가 최근 AI국을 신설하고 다양한 AI 정책을 추진하는 것에 대해 최재식 교수는 “미래 핵심 기술인 AI를 뒷받침할 정책이 필요하다”며 이를 긍정적으로 평가했다. 그는 도가 주최하는 ‘경기글로벌대전환포럼’에 대해서도 “도가 AI 교육과 기술 혁신의 중심지로 자리 잡는 데 중요한 계기가 될 것”이라며 기대감을 표했다. 그러나 AI 정책이 성공하려면 “데이터 인프라 구축과 전문 인력 양성이 필수”라며, 지속적인 투자와 지원을 이어가야 한다고 강조했다.
“AI는 이미 우리 곁에 와 있고, 앞으로 더 많은 변화를 가져올 것입니다. 하지만 중요한 건 무조건 AI가 우리를 대신하는 것이 아니라 AI와 협력하면서 더 나은 방향으로 나아가는 거죠. 무엇보다 AI를 이해하고 활용할 수 있는 능력을 갖춰야 합니다. 그래야 이 시대 경쟁에서 살아남고, 나아가 더욱 성장할 수 있을 것입니다.”
AI와 함께 성장하고 이를 잘 활용할 수 있는 사람이야말로 미래 사회의 중심에 서게 될 것이라는 최재식 교수의 조언은 우리에게 깊은 성찰의 여지를 던진다. 변화의 물결 속에서 그 흐름을 타고 새로운 가능성을 열어가는 이이야말로 이 시대 진정한 개척자가 될 것이다.