공간전사체 데이터셋 기반 다종 장기 유전자 발현 예측 및 자가학습 에이전트 플랫폼 개발
데이터 표준화해 공간전사체 연구 지원, 에이전트 개발로 연구 진입장벽 낮춰

소프트웨어융합학과 김강민 교수 연구팀이 교육부와 한국연구재단이 지원하는 ‘2026년도 이공분야 학술연구지원사업(미래도전연구지원)’에 최종 선정됐다. 미래도전연구지원 사업은 새로운 연구영역을 개척하고 학문적 패러다임 전환을 이끌 도전적·다학제 연구를 지원하는데 이공계 전 분야에서 단 35개 과제만을 선정한다. 선정된 과제는 5년간 연구비를 지원받는다. 김강민 교수는 가톨릭대학교 병리과 임광일 교수와 공동으로 ’공간전사체 데이터셋 기반 다종 장기의 유전자 발현 예측 및 공간 패턴 분석을 위한 지능형 자가학습 에이전트 플랫폼 개발‘ 과제를 수행한다.

공간전사체로 암 종양 특성에 대한 깊은 이해 도와

공간전사체(Spatial Transcriptomics, ST)는 조직 속 유전자 발현과 위치 정보를 함께 분석해 암세포와 주변 세포의 상호작용을 입체적으로 파악하는 기술이다. 김강민 교수는 “공간전사체의 가장 큰 강점은 유전자가 얼마나 발현되는지, 조직의 어느 위치에서 발현되는지를 함께 알 수 있다는 점이다. 조직 전체의 발현량을 측정하면 여러 세포의 정보가 평균적으로 나타나고, 세포를 분리해 분석하면 원래 조직 안에서의 위치 관계를 파악하기 어렵다. 공간전사체는 유전자 발현 정보를 조직 내 위치와 연결해 볼 수 있게 만든다”며 기술의 강점을 설명했다.

유전자 발현 정보를 조직 내 위치와 연결해 볼 수 있다는 점은 암 연구에서 특히 중요하다. 암세포 자체의 특성뿐 아니라 주변의 면역세포나 다른 세포들이 어떻게 배치되어 있는지도 중요하다. 같은 유전자가 발현되더라도 어느 세포에서, 어떤 주변 환경 속에서 나타나는지에 따라 해석이 달라질 수 있기 때문이다. 김 교수는 “공간전사체를 활용하면 이러한 관계를 함께 살펴볼 수 있어, 종양의 특성과 면역 회피 기전 등을 보다 깊이 이해하는 데 도움 될 것”이라고 말했다.

하지만 공개된 공간전사체 데이터는 측정 플랫폼과 장기, 메타데이터 기준이 서로 달라 그대로 학습에 활용하면 모델 성능과 해석의 일관성이 떨어진다. 그는 “공개된 데이터가 많다고 곧바로 학습에 사용할 수 있는 것은 아니다. 측정 플랫폼에 따라 조직을 관찰하는 해상도나 측정하는 유전자가 다르고, 위치를 표시하는 좌표 체계, 데이터의 장기, 질환, 측정 조건 등을 설명하는 메타데이터 등 연구마다 용어가 다르거나 일부 정보가 빠져 있기 때문”이라고 설명했다.

데이터 표준화 거쳐, 공간전사체 AI 에이전트 개발

데이터 간 차이를 확인하지 않고, 이를 활용하게 되면 인공지능이 실제 질환의 특성보다 측정 방식의 차이를 학습할 우려가 생긴다. 분석 결과에 차이가 나타나더라도 그것이 생물학적 차이인지, 데이터가 만들어진 방식의 차이인지 구분하기 어려워지게 된다. 김 교수는 다양한 데이터를 정리하고, 검증해 공통 기준을 마련하고 연구 목적에 맞춰 인공지능 학습에 활용할 데이터 선별에 나선다. 이를 위해 GEO, HEST 등 공개 데이터를 수집하고 Visium, Xenium 등 플랫폼 간 차이를 표준화한 뒤, 병리 주석과의 정합성 및 데이터별 성능 기여도를 평가해 고품질 학습 데이터를 선별하는 절차를 마련하고 있다.

선별된 데이터를 바탕으로 위암에 특화된 공간전사체 파운데이션 모델을 개발하고, 데이터 선택-모델 학습-평가-재학습을 연결하는 AI 에이전트를 구축할 계획이다. 김 교수는 “AI 에이전트는 연구자의 분석 목적을 이해하고, 필요한 작업을 순서대로 계획해 수행하는 연구 보조 시스템”이라고 정의했다. 연구자가 위암 조직의 유전자 발현과 공간적 특성을 분석하고자 하면, 에이전트가 관련 데이터를 선별하고 형식과 용어를 정리한 뒤 품질을 확인한다. 이후 적합한 모델과 분석 도구를 선택하고, 필요한 경우 미리 학습된 모델을 해당 데이터에 맞게 추가 학습시키는 방식이다.


에이전트는 생물정보학 도구를 자동 호출하고, 전문가의 검증과 피드백을 계층적 메모리에 반영해 분석 전략을 스스로 개선한다. 그는 “결과가 나오면 실제 측정값이나 병리 전문가의 판독 결과와 비교해 어떤 부분에서 오차가 발생했는지 살펴보고, 그 원인에 따라 데이터를 다시 고르거나 분석 절차를 바꾸고, 필요한 경우 모델을 재학습하도록 설계할 계획이다. 이 과정에서 정보가 부족하면 연구자에게 질문하고, 결과의 신뢰도가 낮으면 전문가의 검토를 요청한다”며 에이전트의 작동 방식을 설명했다.

플랫폼은 실제 현장에서 병원이나 연구 기관에서 공간전사체 연구를 수행할 때, 필요한 데이터를 찾는 단계부터 모델 적용과 결과 해석까지 연결하는 연구 지원 환경으로 활용될 전망이다. 김 교수는 “현재 위암 조직의 특성을 비교하려는 연구자는 공개 데이터에서 목적에 맞는 자료를 찾고, 보유한 환자 데이터와 함께 분석해 유전자 발현이나 세포 분포의 차이를 직접 살피고, 여러 도구를 연결해야 했다. 하지만 개발한 플랫폼을 통해 이러한 부담을 줄이고, 어떤 데이터와 분석 조건으로 결과를 얻었는지도 기록해 다른 연구자가 이를 확인할 수 있다”고 말했다.

위암을 첫 연구 대상으로 삼은 이유에 대해 김 교수는 “연구팀이 자체적으로 확보한 위암 공간전사체 데이터가 있어, 모델을 개발하고 검증할 수 있는 기반을 갖추고 있다. 위암은 특히 동아시아에서 중요한 질환이지만, 기존 공간전사체 파운데이션 모델의 학습에는 위암 데이터가 충분히 반영되지 않은 경우가 많아 그 특성을 분석하는 데 한계가 있을 수 있다”고 밝혔다.

연구팀은 실제 위암 데이터에서 성능과 생산성을 검증하고 대장암으로 확장해 장기 간 일반화 가능성과 재현성을 확인할 계획이다. 이후에는 개발한 모델을 대장암 데이터에 적용해 성능과 한계를 확인하고, 대장암의 특성을 반영한 데이터로 추가 학습하는 미세조정을 진행할 계획이다.

소프트웨어와 의과학의 만남, 전공의 전문성 반영해 실제 연구에 도움 되는 기술 개발

위암과 대장암의 질환 특이 유전자 및 공간 패턴을 비교해 바이오마커 발굴, 치료 반응 예측, 정밀 의료와 신약 개발 연구에 기여할 전망이다. 김 교수는 “정밀 의료에서는 환자마다 다른 질환의 특성을 이해하는 것이 중요하다. 공간전사체 분석을 통해 종양 내부의 유전자 발현과 주변 세포의 분포를 함께 살펴보면, 질환의 특성이나 치료 반응과 관련된 단서를 찾는 데 도움이 될 수 있다. 플랫폼은 이러한 분석에 적합한 데이터를 선별하고 모델을 개선해 의미 있는 유전자나 공간적 패턴을 탐색하는 연구를 지원하고자 한다”고 말했다.

신약 개발과 관련해 그는 “질환과 관련된 핵심 유전자나 생물학적 경로를 찾고, 약물 반응과 연관된 바이오마커를 발굴하는 연구에 활용될 것”이라며 “신약 개발의 출발점이 되는 근거를 더 효율적이고 재현 가능한 방식으로 확보하는 데 기여하는 것이 중요한 목표다”고 설명했다.

이번 연구는 소프트웨어와 의과학이라는 학제 간 융합으로 진행된다. 김 교수는 “융합 연구에서 중요한 점은 서로가 좋은 결과라고 판단하는 기준을 이해해야 한다는 점이다. 인공지능 분야에서는 예측 성능이 얼마나 향상되었는지를 수치로 평가하지만, 병리학에서는 그 결과가 실제 조직의 구조와 질환의 특성을 타당하게 설명하는지도 중요하다. 성능 수치와 생물학적 의미를 함께 확인할 수 있는 평가 기준을 만들어가는 과정이 필요하다”고 융합 연구의 경험을 공유했다.

이어 그는 “같은 데이터를 보더라도 각 분야에서 주목하는 부분과 사용하는 용어가 달라, 분석의 전제와 해석을 충분히 공유하는 데 노력이 필요하다. 이번 연구에서도 데이터 정제부터 결과 검증까지 공동 연구팀의 판단을 연결해 서로의 전문성이 분석 과정에 반영돼 실제 연구 현장에 도움이 되는 기술을 만들고 싶다”는 목표를 밝혔다.