AI가 원자현미경 제어한다…사람 없이 나노 구조 스스로 분석

△ AI 증강 원자힘현미경(AFM)을 이용한 자율 바이오분석 플랫폼 개념도. 인공지능은 AFM 기반 측정 과정에서 이미징 조건 최적화, 생체분자 예측, 모달리티 전환, 신호 해석, 이미지 향상 및 구조 재구성을 수행할 수 있다

고려대학교(총장 김동원) 융합에너지공학과 이정훈 교수 연구팀이 바이오의공학부 윤대성 교수 연구팀, 하버드 의과대학 교육협력병원 매사추세츠 종합병원(MGH) 이학호 교수 연구팀과 공동으로 인공지능(AI)을 원자힘현미경(AFM)에 융합하여 나노 구조를 스스로 분석하는 차세대 기술의 현주소와 미래를 한눈에 볼 수 있도록 집대성했다. 

*원자힘현미경(AFM): 머리카락 굵기의 10만분의 1 수준인 나노미터 크기의 물체를 탐침(초미세 바늘)으로 만져보는 촉각 방식으로 이미지화하고, 생체 분자의 물리적 성질을 측정하는 초정밀 분석 장비

AFM은 DNA, 단백질, 세포 등 생체 물질을 나노미터 수준에서 관찰하고 물리적 성질을 측정할 수 있는 핵심 분석 도구다. 하지만 기존 AFM은 분석 속도가 느리고, 숙련된 전문가가 수동으로 이미지를 해석해야 하며, 데이터 재현성이 낮아질 수 있다는 한계가 있었다. 특히 수천 개의 나노 구조를 하나하나 사람이 판별해야 하기 때문에 대규모 생의학 연구나 임상 진단에는 적용하기 어려웠다.

이러한 한계를 극복하기 위해 세계 각지의 연구진들이 개별적으로 AFM·AI 융합 연구를 진행해 왔으나, 이를 체계적·통합적으로 분석해 일종의 ‘뼈대’를 잡는 작업이 필요해졌다. 이에 연구팀은 국제 학술지인 ACS Nano 편집진의 초청을 받아 AFM 연구의 전 과정을 AI로 자동화하는 통합 프레임워크를 제시하는 리뷰 논문을 발표했다.

이번 연구는 탐침 최적화와 스캔 경로 계획 단계부터 이미지 노이즈 제거, 초해상도 복원, 신호 해석, 분자 구조 분류, 3D 재건까지 AFM의 전 분석 단계에 걸쳐 AI가 어떻게 적용되고 있는지를 종합적으로 정리한 일종의 ‘가이드라인’이다. 

*초해상도(Super-resolution): AI를 이용해 저해상도 이미지를 물리적 한계 이상으로 선명하게 복원하는 기술

특히 이미지 인식·분석에 탁월한 합성곱 신경망(CNN), 복잡한 관계망을 분석하는 그래프 신경망(GNN), 화질을 복원하는 생성적 적대 신경망(GAN), 데이터에서 핵심을 뽑아내는 변분 오토인코더(VAE) 등 최신 딥러닝 기술들이 각 단계에서 어떤 한계를 어떻게 보완할 수 있는지를 분석하고, 향후 연구 방향을 제시했다.

이번 리뷰 논문은 ‘피지컬 AI’와 ‘자율행동 AFM’이 생물학적 나노과학에서 어떻게 활용될 수 있는지를 조망했다는 데 의의가 있다. 위 두 기술을 적용해 만든 ‘강화학습’ 기반 기능형 스캔 시스템의 경우, 샘플의 물성에 따라 스캔 속도, 해상도, 탐침 힘을 스스로 실시간으로 조절할 수 있다. 이는 기존에 전문가가 수동으로 수행하던 판단 과정을 AI가 보조하거나 자동화할 수 있음을 보여주는 것으로, AFM이 단순 측정 도구를 넘어 스스로 측정 조건을 조절하고 데이터를 해석하는 ‘자율 실험 플랫폼’으로 발전할 수 있음을 입증했다.

*자율행동 AFM: 정해진 명령어대로만 작동하는 일반 자동화를 넘어, 현미경이 스스로 나노 물질의 상태를 파악해 스캔 속도나 바늘의 힘을 실시간으로 조절하며 측정한다

*강화학습: AI가 시행착오를 통해 최적의 행동을 스스로 학습하는 방식

이정훈 교수는 “피지컬 AI 기반의 자율행동 AFM은 재료과학, 신약 개발, 암 진단 등 다양한 분야에서 발견의 속도를 비약적으로 높일 것이며, 연구팀은 이 분야를 선도하는 독자적 원천 기술 확보에 집중할 것”이라고 밝혔다.

본 연구 성과는 나노기술분야 국제 학술지인 ‘ACS Nano(IF=16.0)’ 온라인에 4월 23일 게재됐다. 

*논문명: AI in Atomic Force Microscopy: Advancing Biological Nanoscale Imaging and Autonomous Discovery

*DOI: https://doi.org/10.1021/acsnano.6c02895

*URL: https://pubs.acs.org/doi/10.1021/acsnano.6c02895

이번 연구는 과학기술정보통신부가 지원하는 한국연구재단(NRF) 중견연구 지원사업과 보건복지부가 지원하는 한국보건산업진흥원(KHIDI) 보건의료기술 연구개발 사업의 지원을 받아 수행됐다. 

[연구진 사진]

△ (윗줄 왼쪽부터) 고려대 KU-KIST융합대학원 이정훈 교수, 바이오의공학부 윤대성 교수, 하버드 의과대학 교육협력병원 매사추세츠 종합병원(MGH) 이학호 교수(이상 교신저자)

(아랫줄 왼쪽부터) 고려대학교 KU-KIST융합대학원 이승민 박사후연구원, 고려대학교 생명정보공학과 노석범 박사과정, 고려대학교 KU-KIST융합대학원 우효원 박사과정(이상 공동제1저자)