ACM CHI 2026 Accept

광운대학교 정보융합학부 인공지능응용학과 박규동 교수 연구팀(민희원 석사과정, 이채원 석사과정)이 참여한 연구가 HCI 분야 최고 권위 학술대회인 ACM CHI 2026에 채택돼, 2026년 4월 14일 스페인 바르셀로나에서 발표됐다.

CHI(Conference on Human Factors in Computing Systems)는 ACM(Association for Computing Machinery)이 주관하는 HCI 분야 국제 학술대회로, 엄격한 심사를 거쳐 일부 연구만이 발표된다. 이번에 채택된 논문은 『A Human-Centered Framework for Exploring and Steering LLM Internals: A Case Study of Bias in Essay Scoring』으로, 대규모 언어 모델(LLM)의 내부 작동 원리를 어떻게 이해하고 다룰 것인가라는 근본적 질문에 새로운 관점을 제시했다는 점에서 좋은 평가를 받았다.

기계적 해석 가능성을 ‘인간의 탐구 여정’으로 재구성

연구의 핵심은 LLM의 해석 가능성(interpretability)을 바라보는 관점의 전환에 있다. 기존의 기계적 해석 가능성(mechanistic interpretability) 연구는 개별 기술 절차에 초점을 맞춰 왔다. 그러나 연구팀은 이러한 기술들이 실제 현장에서 마주하는 “모델이 왜 이렇게 행동했는가”, “우리가 이를 바꿀 수 있는가”라는 질문에 답하기 위해서는, 고립된 분석 도구가 아니라 인간의 사고 과정을 지원하는 탐구의 흐름으로 재구성되어야 한다고 보았다.

이에 연구팀은 ▲가치에 대한 긴장 인지(Noticing Value Tensions) ▲멘탈 모델 구축(Building Mental Models) ▲인과관계 탐문(Interrogating Causality) ▲제어 가능성 탐색(Exploring Controllability) ▲규범적 판단(Making Normative Judgments)이라는 5단계 인간 중심 프레임워크를 제안했다. 연구팀은 제안한 프레임워크의 유효성을 실제 데이터셋(PERSUADE 2.0)을 활용하여 LLM(Llama-3.1-8B-Instruct)이 갖는 편향을 완화시킨 사례 연구를 통해 실증적으로 입증했다.

기술은 탐색을 지원하고, 해석은 인간이 한다

박규동 교수 연구팀이 특히 강조한 지점은 기술적 절차와 인간 판단의 역할 구분이다. 개별 기술이 산출하는 수치와 패턴이 사회적으로 어떤 의미를 갖는지, 어떤 개입이 정당한지, 무엇을 바로잡고 무엇을 남겨 두어야 하는지는 기술이 답할 수 없는 영역이다.

연구팀은 이를 “해석 가능성은 모델의 속성이 아니라, 인간과 모델 사이의 관계”라는 관점으로 정리했다. 즉, 모델 내부에 숨겨진 ‘진실’을 꺼내 보는 점검이 아니라, 실험하고 질문하고 책임을 나누어지는 상호작용적 관계로 해석 가능성을 재정의한 것이다.

책임 있는 AI 개발을 위한 설계 함의

연구팀은 이번 성과를 바탕으로 향후 AI 해석 도구가 나아가야 할 방향에 대한 설계 함의도 함께 제시했다. 정적 시각화를 넘어 탐색적 실천을 지원하는 도구, 모델의 제어 가능성과 비대칭성을 가시화하는 인터페이스, 그리고 행동 교정을 단순 최적화가 아닌 설계 판단으로 다룰 수 있게 돕는 환경이 필요하다는 제언이다.

박규동 교수는 “LLM 내부를 들여다보는 기술은 빠르게 발전하고 있지만, 그 결과를 어떻게 해석하고 사회적 맥락에서 어떤 개입이 정당한지 판단하는 일은 결국 인간의 몫”이라며, “이번 연구는 해석 가능성을 인간의 탐구와 책임의 과정으로 다시 자리매김하려는 시도”라고 밝혔다. 연구팀은 향후 사용자 연구를 통해 프레임워크의 실제 적용성을 검증해 나갈 계획이다.

논문 링크

교내 기사 링크 (업데이트예정)