<AI연구원 2026 상반기 콜로퀴움 3회차>

ㅇ 강연자: 조요한 교수(데이터사이언스학과)

ㅇ 강연 일시: 2026년 7월 2일(목) 17시

ㅇ 강연 장소: 302동 105호

ㅇ 강연 소개
    오늘날 우리 삶의 일부가 되어버린 ChatGPT, Gemini 등의 인공지능은 언어모델을 바탕으로 하고 있습니다.

    언어모델이 겉으로는 뛰어난 지식과 특정 신념을 가지고 있는 것처럼 보이지만, 어떻게 이런 지식과 신념이 표현되는지 그 내부 메커니즘은 해석이 매우 어려운 영역입니다.

    따라서 모델이 이미 알고 있는 지식을 답변해내지 못하거나, 사용자가 지시하는 페르소나를 부자연스럽게 표현하는 등의 문제들이 종종 발생함에도 불구하고 그 이유를 진단하고 교정하기 어렵습니다.

    이 강연에서는 이런 내부 메커니즘을 해석하는 기하학적 기법을 중심으로, 모델의 지식과 답변 간의 불일치 문제 교정, 잘못된 지식 수정,

    모델의 신념을 정확히 분석하기 위한 심리측정 방법, 모델의 신념이 표현되는 두 가지 다른 메커니즘에 대해 소개합니다.

    이를 통해, 언어모델을 보다 해석 가능하고, 신뢰할 수 있고, 제어 가능한 도구로 만드는 방향에 대해 논하고자 합니다.

ㅇ 강사 소개
    조요한 교수는 서울대학교 데이터사이언스대학원에서 인공지능 에이전트, 추론 기법, 가치 정렬, 해석 기법에 관한 연구를 진행하고 있습니다.

ㅇ 강연 보러가기: https://www.youtube.com/watch?v=dwRcciKYavs