폼은 일시적이지만 클래스는 영원하다, ML에서도
하루에도 수백 개의 논문이 쏟아지는 시대에 저는 오히려 기본으로 돌아갑니다. bias-variance, i.i.d., MSE와 MAE, ridge regression을 다시 짚으며 기본기가 왜 최신 ML을 더 빨리 이해하게 해주는지 이야기합니다.
-
-
외부 링크 비즈니스 문제를 AI 문제로 정렬하는 방법
최적화 이론의 완화(relaxation) 개념을 비즈니스 문제에 적용하여, 비즈니스 문제를 AI 문제로 정렬하는 방법을 소개합니다.
-
외부 링크 당신의 AI 모델이 비즈니스에 기여하지 못하는 이유
AI 모델이 오프라인 메트릭은 올라가는데 비즈니스에 기여하지 못하는 이유와 해결책을 소개합니다.
-
HYPERCONNECT AI가 만드는 팀
저는 사람의 능력을 일종의 벡터로 봅니다. 누구나 잘하는 게 있으면 못하는 것도 있습니다. 그건 저도 마찬가지입니다. 능력은 벡터이기 때문에 누가 역량이 더 좋다 나쁘다 이야기 하는 것은 어렵습니다.
-
AI 문제를 풀 때 논문을 최소 100편 읽어야 합니다
문제를 풀 때 가장 중요한 건 '문제 정의'입니다. 우리가 문제를 잘 정의했다면 이미 절반은 푼 것이나 다름없습니다.
-
왜 AI 추천인가?
새로운 시장을 키워 나가기 위해서는 마케팅, 제품, AI 로직 등 여러 요소가 하나의 팀처럼 유기적으로 움직여야 합니다.
-
AI 문제 해결의 원칙
현실에서 AI로 비즈니스 문제를 풀다보면, X와 Y 두 지표를 동시에 올려야 하는 상황을 흔하게 마주합니다.
-
AI 추천을 잘하려면 UI 도 알아야 합니다
인스타그램 앱의 첫 번째 탭(홈)과 두 번째 탭(탐색)은 스크롤 방식이 다릅니다.
-
정렬(alignment)과 스케일링(scaling)
저는 조직의 AI 업무를 크게 두 가지로 봅니다. 바로 정렬과 스케일링입니다. 이런 관점은 LLM에만 국한되는 이야기가 아닙니다.
-
실험이 우리를 자유케 하리라: HYPERCONNECT AI의 A/B 테스트
AI 조직에서는 매일, 그리고 매주 새로운 모델이 만들어집니다. 하지만 새로운 모델이 정말 더 좋은 모델일까요?
-
제품에 기여하는 AI조직에 대한 오해
제품에 기여하는 AI 조직은 연구 안하지 않나요?
-
HYPERCONNECT AI 채용에 대한 FAQ
커피챗이나 면접 자리에서 종종 받는 질문입니다. 제가 늘 드리는 대답은 이렇습니다.
-
어떤 우선순위로 일해야 하는가
여러 액션들 중 현재 어떤 액션을 먼저 실행해야 할지 고민일 때, 이론적으로는 UCB (Upper Confidence Bound) 전략으로 선택하는 것이 최적에 가깝다는 이야기를 많이 합니다.
-
외부 링크 아자르에서는 어떤 추천 모델을 사용하고 있을까?
제가 아자르의 1:1 비디오 채팅에 사용되는 추천 모델 CUPID를 정리한 글입니다. 서비스에 적용되는 추천 시스템을 소개합니다.
-
외부 링크 협업 필터링을 넘어서: HYPERCONNECT AI의 추천 모델링
제가 HYPERCONNECT AI의 추천 모델링을 정리한 글입니다. 협업 필터링을 넘어 어떤 모델링을 적용하는지 다룹니다.
-
외부 링크 Behind the Paper: HYPERCONNECT AI 조직이 제품에 기여하면서 연구하는 법
제가 HYPERCONNECT AI 조직에서 제품에 기여하면서 연구하는 법을 정리한 글입니다. 연구와 제품 개선을 함께 이어 가는 방식을 소개합니다.
-
외부 링크 아자르에서 AI 기반 추천 모델의 타겟 지표를 설정하는 방법(feat. 아하 모멘트)
리텐션을 올리기 위해서는 어떤 AI 모델을 학습시켜야 할까요? 제가 아자르에서 아하 모멘트 프레임워크로 AI 추천 모델의 타겟 지표를 설정한 방법을 정리한 글입니다.
-
외부 링크 [How AI Lab Works] Recommendation Squad - Zerry & Airdish 인터뷰
동료 Airdish와 함께 HYPERCONNECT Recommendation Squad에서 추천 시스템을 개발해 온 경험을 이야기한 인터뷰입니다.
![[How AI Lab Works] Recommendation Squad - Zerry & Airdish 인터뷰](/assets/2023-09-15-how-ai-lab-works-recommendation-squad/thumbnail.jpg)
-
외부 링크 Learning with Noisy Labels by Efficient Transition Matrix Estimation to Combat Label Miscorrection
데이터 레이블링에서 피할 수 없는 Label Noise에 대처하는 방법론 FasTEN을 소개합니다. 잘못 교정된 레이블을 끊임없이 의심하며 Transition Matrix를 효율적으로 추정해, ECCV 2022에 발표되었습니다.
-
외부 링크 아무튼 출근! 그래서 개발자는 무슨 일 하는데요?
디아이투데이의 '아무튼 출근!' 시리즈 인터뷰에 참여해, AI 개발자로서 제 하루와 하는 일을 이야기했습니다.
-
잘 튜닝한 Matrix Factorization이 최신 딥러닝 모델을 이기는 이유
하이퍼파라미터만 잘 잡은 Matrix Factorization이 최신 딥러닝 추천 모델을 이깁니다. 유저·아이템마다 필요한 캐패시티가 다르고, weight decay 튜닝이 그 배분을 결정하기 때문입니다. 이 튜닝을 딥러닝 모델 안에서 자동으로 해내는 정규화를 설계했습니다.
-
외부 링크 비용 효율적인 Click-Through Rate Prediction 모델로 하쿠나 라이브 추천시스템 구축하기
하쿠나 라이브에 들어가는 추천시스템을 소개합니다.
-
외부 링크 [How AI Lab Works] 인터뷰x하커야 ML Team
제가 속해 있던 HYPERCONNECT AI Lab ML 팀이 실서비스 개선과 연구를 어떻게 병행하는지 이야기한 인터뷰입니다.
![[How AI Lab Works] 인터뷰x하커야 ML Team](/assets/2021-01-15-how-ai-lab-works-ml-team/thumbnail.webp)
-
발표 Mixture-Rank Matrix Approximation for Collaborative Filtering
Li et al.의 'Mixture-Rank Matrix Approximation for Collaborative Filtering' (NIPS 2017) 논문을 정리해 KAIST ML Lab Internal Seminar에서 발표한 논문 리뷰입니다.
-
딥러닝에서 Missing Value, 다들 0으로 채우면 안 된다는데 정말일까요?
제가 ICLR 2020에 출판한 논문, "Why Not to Use Zero Imputation? Correcting Sparsity Bias in Training Neural Networks"을 소개하는 글입니다.
-
발표 Low-rank Matrix Approximation with Stability
Li et al.의 'Low-Rank Matrix Approximation with Stability' (ICML 2016) 논문을 정리해 KAIST ML Lab Internal Seminar에서 발표한 논문 리뷰입니다.
-
발표 Introduction to MAML (Model-Agnostic Meta-Learning) with Discussions
Finn et al.의 'Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks' (ICML 2017) 논문을 정리해 KAIST ML Lab Internal Seminar에서 발표한 논문 리뷰입니다.
-
발표 A Neural Autoregressive Approach to Collaborative Filtering (CF-NADE)
Zheng et al.의 'A Neural Autoregressive Approach to Collaborative Filtering' (ICML 2016) 논문을 정리해 KAIST ML Lab Internal Seminar에서 발표한 논문 리뷰입니다.
-
발표 Introduction to XGBoost
Chen and Guestrin의 'XGBoost: A Scalable Tree Boosting System' (KDD 2016) 논문을 정리해 KAIST CS376 Machine Learning (Fall 2018)에서 발표한 논문 리뷰입니다.
-
발표 Why Biased Matrix Factorization Works Well?
행렬 분해에서 bias 항이 왜 성능에 기여하는지를 여러 외부 연구를 정리해 KAIST 기계학습 연구실 세미나에서 발표한 자료입니다. 각 bias의 역할과 정규화와의 관계를 수식과 실험으로 설명합니다.
-
발표 Dynamically Expandable Network (DEN)
Yoon et al.의 'Lifelong Learning with Dynamically Expandable Networks' (ICLR 2018) 논문을 정리해 KAIST ML Lab Internal Seminar에서 발표한 논문 리뷰입니다.
-
발표 Introduction to Low-rank Matrix Completion
Low-rank 행렬 완성 문제를 공부하면서 여러 외부 연구를 정리해 KAIST 기계학습 연구실 세미나에서 발표한 자료입니다. 협업 필터링과의 연결, 수학적 기초, 주요 알고리즘을 소개합니다.
-
발표 Exact Matrix Completion via Convex Optimization
Candès and Recht의 'Exact Matrix Completion via Convex Optimization' (2009) 논문을 정리해 KAIST CS592 (Spring 2018)에서 발표한 논문 리뷰입니다.
