김현일 교수 연구팀, ‘대형 언어모델의 다국어 추론 회로’ 규명
홍보팀
2026-11-12
220
‘대형 언어모델의 다국어 추론 회로’ 규명
대형 언어모델 내 공통·언어별 추론 회로 확인… 국제학회 EMNLP 2026 발표
추가 학습 없이 기존 오답 최대 51.7% 정답 전환 가능성 입증

조선대학교(총장 김춘성) AI·SW학부 정보통신공학전공 김현일 교수 연구팀이 대형 언어모델(LLM)의 다국어 추론 과정을 분석해 언어에 관계없이 공통으로 작동하는 추론 회로와 언어별로 구분되는 추론 회로가 함께 존재한다는 사실을 밝혀냈다.
이번 연구는 김현일 교수(교신저자), 김승한 박사과정생(제1저자), 최민영 박사과정생(공동저자)이 참여하고 숭실대학교 조해현 교수(교신저자)와 공동으로 수행했다. 연구 성과는 인공지능 및 자연어처리 분야의 국제학술대회인 ‘EMNLP 2026(The 2026 Conference on Empirical Methods in Natural Language Processing)’ 메인 트랙(Main Track)에서 발표됐다.
연구팀은 LLaMA와 Qwen 등 대표적인 대형 언어모델의 한국어·영어·중국어·일본어·스페인어 추론 과정을 분석해 핵심 정보를 전달하는 ‘브릿지 라우팅 헤드(Bridge Routing Head, BRH)’를 발견했다. 특히 모델마다 추론 회로를 활용하는 방식이 다르다는 점을 확인했다.
또한 별도의 추가 학습 없이 해당 회로의 작동을 조절하는 것만으로 기존에 틀렸던 다국어 추론 문제의 최대 51.7%를 정답으로 전환할 수 있음을 입증했다. 이는 AI 모델의 추론 오류가 단순한 지식 부족뿐 아니라 내부 정보 전달 구조와도 관련될 수 있음을 보여주는 결과다.
이번 연구는 AI 모델의 내부 작동 원리를 분석하는 해석가능성(Interpretability) 연구를 통해 다국어 추론 성능의 차이를 설명하고, 추론 회로에 직접 개입해 성능을 개선할 수 있음을 확인했다는 점에서 의미가 있다. 향후 모델별 특성에 맞춘 언어별 추론 오류 보정 기술과 AI 모델의 안전성 평가에도 활용될 것으로 기대된다.
김현일 교수는 “이번 연구를 통해 대형 언어모델이 언어별로 추론 정보를 전달하는 내부 구조를 구체적으로 확인할 수 있었다”며 “다양한 언어에서 안정적으로 작동하는 AI 기술 발전에 기여할 것으로 기대된다”고 말했다.
*사진별첨.
김승한 박사과정생이 발표 중인 모습