Statistical Theory for Deep Learning
POSTECH 산업경영공학과 채민우 교수
본 강연에서는 심층신경망 모형의 뛰어난 성능을 설명하기 위한 최신 통계학 이론들을 소개한다. 비모수 함수 추정 관점에서 심층신경망 모형의 함수 근사 이론, 회귀 함수 및 분포 추정 이론 등을 다룬다.
Domain Adaptation and Generalization under Distribution Shifts
KAIST 수리과학과 하우석 교수
도메인 간 데이터의 분포가 다른 경우 모델의 성능을 유지하기 위한 domain adaptation과 domain generalization의 기본적인 알고리즘과 최신 연구를 소개한다. 현재 domain adaptation의 이론적 발전과 한계점, 그리고 알고리즘의 일반화를 위한 데이터의 통계적 인과관계의 중요성에 대해 논의한다.
Theoretical Understanding of Foundation Models
연세대학교 응용통계학과 손지용 교수
최근 ChatGPT, Stable Diffusion을 포함한 다양한 Transformer 기반의 Foundation Model들이 놀라운 성능을 보이고 있다. 본 강연에서는, Foundation Model을 이론적으로 분석하는 다양한 논문들에 나온 수식을 리뷰하고, 향후 연구 발전 방향에 대해 논의한다.
Brief Overview of Theoretical Deep Learning: Some Classic and Modern Topics
고려대학교 수학과 이동헌 교수
딥러닝의 이론적 근간을 이루는 universal approximation theorem부터, 이론적 기계학습의 클래식 토픽인 complexity theory와 error analysis, 그리고 최근 딥러닝 이론 연구에서 부각된 neural tangent kernel에 대해 간략히 살펴본다.
