서강대학교 컴퓨터공학과 박성용 교수 연구팀, 최우수국제학술대회 IEEE ICDE 2026 논문 채택

▲ (좌측 상단부터 시계방향) 서강대학교 컴퓨터공학과 박성용 교수, 변홍수 박사, 이승재 석사과정, 김명준 석사과정, 유홍현 석박통합과정

서강대학교(총장 심종혁) 데이터 중심 AI 컴퓨팅 및 시스템 연구실 (DISCOS)의 변홍수 박사(공동 제1 저자), 석사과정 이승재(공동 제1저자), 유홍현(석박사통합과정), 김명준(석사과정), 박성용 교수(교신저자)가 작성한 ‘Resystance: Unleashing Hidden Performance of Compaction in LSM-trees via eBPF’ 논문이 IEEE Conference on Data Engineering (ICDE) 2026 게재가 확정되었다. 

스토리지 기술은 지난 수년간 비약적으로 발전해 왔다. 최신 NVMe SSD는 수 GB/s의 대역폭과 마이크로초 수준의 지연시간을 제공하며, 과거 디스크 하드웨어가 가지고 있던 성능 한계를 극복하고 있다. 그러나 역설적으로, 하드웨어가 빨라질수록 소프트웨어의 비효율이 더 크게 드러난다. 이제 스토리지 시스템의 병목은 하드웨어가 아니라 운영체제, 파일시스템, 시스템 콜 인터페이스로 구성된 소프트웨어 스택으로 이동하고 있다.

이러한 구조적 병목은 LSM-tree 기반 NoSQL 데이터베이스에서 특히 심각하게 나타난다. 대표적인 LSM-tree 기반 Key-Value Store (LSM-KVS)인 RocksDB는 높은 쓰기 처리량을 유지하기 위해 백그라운드에서 compaction을 반복 수행하는데, 본 연구에서는 시스템 콜 단위의 분석을 통해 compaction이 LSM-tree 내부 시스템 콜의 대부분을 차지한다는 사실을 규명하였다. 특히 수많은 데이터 블록을 읽는 과정에서 발생하는 pread() 시스템 콜 호출이 소프트웨어 스택 병목의 핵심 원인임을 밝혔다. 이는 현대 고속 스토리지 환경에서 LSM-tree의 한계가 하드웨어가 아니라, 운영체제와 데이터베이스 사이의 시스템 소프트웨어 경계에 있음을 보여주는 결과이다.

본 연구는 이러한 소프트웨어 스택에 있는 문제 의식에서 출발하여 새로운 하드웨어를 추가하거나 LSM-tree의 구조를 수정하는 대신, 소프트웨어 스택의 오버헤드를 경감하는 Resystance를 제안한다. Resystance는 Linux의 eBPF와 io_uring을 활용하여 compaction의 핵심 I/O 및 merge 경로를 커널 내부로 이동시킴으로써, 불필요한 사용자–커널 전환과 시스템 콜을 대폭 줄인다. 기존 데이터베이스 엔진의 구조는 유지하면서도, OS 내부 커널의 실행 경로를 제어하여 병목을 제거하는 방식이다.

대표적인 실험 결과로 Resystance는 compaction 과정에서 발생하는 시스템 콜을 평균 99% 감소시키고, compaction 시간을 약 50% 단축하였다. 특히 write-intensive workload에서는 최대 75%의 처리량 향상과 최대 40%의 p99 지연시간 감소를 달성하였다. 이는 추가 하드웨어 가속 없이, 순수 시스템 소프트웨어 수준의 최적화만으로 얻은 성과라는 점에서 더욱 의미가 크다.

OS의 I/O 경로, 커널 프로그래머블 프레임워크, 시스템 콜 구조와 같은 기반 기술이 데이터베이스를 비롯한 응용 프로그램의 성능에 중요한 영향을 미치고 있다. 본 연구는 저장장치가 빨라질수록 운영체제와 데이터베이스를 연결하는 시스템 소프트웨어의 설계가 얼마나 중요한지를 보여준다. 이제 데이터 시스템의 경쟁력은 단순히 더 빠른 장치를 도입하기보다 운영체제와 데이터베이스의 경계를 어떻게 설계하고, 소프트웨어 병목을 얼마나 정밀하게 분석하고 제거하느냐가 핵심이다. Resystance는 이러한 전환점에서, 차세대 데이터 인프라가 나아가야 할 방향을 제시하는 연구 성과라고 할 수 있다.

논문의 공동 1저자인 이승재 석사과정은 “커널 프로그래머블 프레임워크가 활발히 연구되고 있는 가운데, 이를 여러 방면으로 적용할 수 있는 가능성의 문이 활짝 열렸다고 생각한다”라며 “함께 연구에 힘써주신 연구실 동료분들과 지도교수님의 지도로 좋은 논문을 완성할 수 있어서 감사드린다”라고 소감을 전했다.

IEEE International Conference on Data Engineering (ICDE)는 데이터 엔지니어링 분야에서 세계적으로 권위 있는 국제 학술대회로, 데이터베이스 시스템, 대규모 데이터 관리, 데이터 집약적 컴퓨팅 등의 최신 연구 성과를 공유하는 학술대회이다. 또한 ICDE는 BK21 Computer Science 분야 우수국제학술대회 보정 IF=3, 한국정보과학회 소프트웨어 분야 우수학술대회 최우수 학회로 등재되어 있다. 본 학회는 올해 5월 4일부터 9일까지 캐나다 몬트리올에서 개최될 예정이다.

▶논문 제목: Resystance: Unleashing Hidden Performance of Compaction in LSM-trees via eBPF 

▶저자 정보: 변홍수(공동 제1 저자), 이승재(공동 제1 저자), 유홍현(제3 저자), 김명준(제4 저자), 박성용(교신저자)