KCC 2026 설명가능 인공지능(XAI) 워크숍 개최

- 제3세부과제로 서강대 참가 -

▲ 설명가능 인공지능(XAI) 워크숍 행사 전경

KAIST 설명가능 인공지능연구센터(센터장 최재식 교수)가 주관하고 서울대학교, 서강대학교, 한국전자통신연구원(ETRI)이 세부 과제 참여기관 자격으로 참가한 ‘KCC 설명가능 인공지능(XAI) 워크숍 2026’이 지난 6월 25일 제주 국제컨벤션센터에서 성황리에 막을 내렸다.

올해 1월 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 시행 이후 열린 이번 행사는 과학기술정보통신부 '사람중심 인공지능 핵심원천기술개발사업'을 수행 중인 1세부(KAIST, 과제번호: RS-2022-II220984), 2세부(서울대학교, 과제번호: RS-2022-II220959), 3세부(서강대학교, 과제번호: RS-2022-II220621), 4세부(ETRI, 과제번호: RS-2022-II220369) 등 총 4개의 XAI 세부 과제 참여기관 전체가 한자리에 모인 대규모 학술 교류의 장이었다. 단순한 성과 공유를 넘어 대규모 언어 모델(LLM) 등 생성형 AI의 투명성과 책임성 확보 방안을 두고 세부 과제 연구진들이 열띤 토론을 벌이는 진정한 협력의 장으로 마련됐다.

본 행사의 시작을 알린 개회사에서 3세부 총괄책임자인 서강대학교 구명완 교수는 "블랙박스 형태의 거대 인공지능을 해석하고 신뢰성을 부여하는 작업은 단일 연구실이나 특정 세부 과제 단위의 독립적인 연구만으로는 도달할 수 없는 거대한 도전"이라고 강조했다. 이어 "단순한 규칙 기반의 설명을 넘어 멀티모달 기반의 고도화된 XAI를 구현하기 위해서는 1세부부터 4세부까지 각 분야 최고 전문가들의 벽을 허문 융합과 협력이 필수적이며, 이번 워크숍이 그 유기적 화학 결합을 가속하는 촉매제가 되길 바란다"라고 역설하며 행사의 포문을 열었다.

이어진 워크숍 세션에서는 기존 XAI 알고리즘의 한계를 극복한 새로운 알고리즘, 대형언어모델 해석성 제공 기법, 멀티모달 인공지능 설명 기법 등 총 45편의 최신 연구논문이 발표되었다. 각 과제의 연구진들은 서로의 접근 방식에 대해 심도 있는 질의응답을 이어갔으며, 특히 인공지능 모델의 성능 향상과 의사결정 과정의 신뢰성을 극대화한 ‘해석 가능한 움직임 감응형 지도: 비디오 디퓨전 트랜스포머의 시공간적 개념 시각화 (Interpretable Motion-Attentive Maps: Spatio-Temporally Localizing Concepts in Video Diffusion Transformers), 저자 전영준(KAIST), 강세일(연세대), 한우정(연세대), 황성재(연세대)’가 최우수논문상을 수상하며 연구자들 간의 깊은 학술적 공감대를 이끌어냈다.

또한, 초청 강연자로 나선 조원희 변호사(법무법인 디엘지)는 국내외 리걸테크 현황과 인공지능을 활용한 LEET(법학적성시험) 적용 사례를 조망하며, 법률 도메인 내 AI의 투명성 확보를 위해 기술 연구진과 법률 전문가 간의 지속적인 상호 협력 과제를 제시해 이목을 집중시켰다.

이번 워크숍에서는 세부 과제 내외부의 긴밀한 협력을 통해 도출된 구체적인 성과 모델들도 짧게 소개되어 토론의 열기를 더했다. 서강대학교가 수행하고 있는 제3세부과제의 경우, 서강대 컴퓨터공학과 구명완 교수(음성 대화 및 언어 이해), 서강대 전자공학과 박형민 교수(음성 향상 전처리), 서강대 컴퓨터공학과 김지환 교수(음향 특징 융합), 서강대 컴퓨터공학과 박운상 교수(3D 복원 및 시각화), 서강대 법학전문대학원 홍대식 교수(법률 지식 DB)가 하나의 유기적인 파이프라인을 구축하며 학제 간 융합 연구의 표본을 제시했다. 이러한 교수진 간의 원천 기술 협력은 3세부 공동연구기관인 (주)하이, 이대서울병원과의 마비말장애 진단 보조 기술 검증은 물론, 법무법인 디엘지(구 법무법인 디라이트)와의 위협 상황 분류 및 LEET 적용 등 산학 연계 실증 서비스로 자연스럽게 확장되고 있음을 보여주었다.

행사를 성공적으로 주관한 최재식 센터장(1세부)은 폐회사를 통해 “AI 기술이 실제 사회 현장에서 책임 있게 활용되기 위해서는 각기 다른 전문성을 가진 세부 과제 연구자 간의 긴밀한 교류가 필수적임을 열띤 토론을 통해 다시 한번 확인했다”라며, “총 45편의 논문 발표와 4개 세부 과제 간의 활발한 아이디어 공유로 다져진 협력 생태계가 향후 신뢰 가능한 인공지능 시대를 여는 든든한 초석이 될 것”이라고 치하했다.

이번 행사는 사람중심 인공지능 핵심원천기술개발사업(과제명: 사용자 맞춤형 플러그앤플레이 방식의 설명가능성 제공 기술 개발)의 일환으로 과기정통부와 정보통신기획평가원(IITP)의 지원으로 개최되었다.