Welcome to Machine Learning Systems Lab

In Machine Learning Systems Lab, we investigate programmability, scalability, manageability, and performance of machine learning systems. We optimize the performance of existing deep learning systems such as Tensorflow, PyTorch, Megatron, and , as well as big data systems such as Hadoop. We investigate various trade-offs (such as performance and accuracy) in existing systems. We also work on security aspect of deep learning models and systems. See Research Page for the list of research topics.


Research Topics include (연구 주제):

  • Large-Scale Machine Learning System 대규모 분산 머신러닝 시스템

  • Deep Learning Model Engineering 딥러닝 모델의 효율적인 개발/적용을 위한 기술/도구

  • Deep Learning Model Security/Testing 딥러닝 시스템 보안/모델 테스팅

  • NLP Model Training/Inference Optimization 자연어 처리 모델 학습/추론 최적화

  • Graph Processing Systems 그래프 분석 시스템

자세한 내용은 Research Page 참고

News:

  • NEW: 서지원 교수가 Imperial College London의 Large-Scale Data&Systems 그룹에 초청되어 신경망 학습 최적화 연구를 발표하였습니다 (Invited Talk).

  • NEW: 우리 연구실에서 최상위 학회에 (EUROSYS 2022) 분산 신경망 학습 최적화 논문을 발표하였습니다. BERT, GPT-3 등의 학습 성능을 1.5--2배까지 향상시킬 수 있는 기술에 대한 연구입니다. 학회에서 많은 연구자들의 관심이 있었습니다. 축하합니다!

  • NEW: 우리 연구실신경망 학습 알고리즘 관련 논문이 우수 학회에 (MLSYS 2022) 채택되었습니다 (8월에 실리콘밸리에서 발표함). 축하합니다!

  • 우리 연구실에서 최상위 학회에 (SIGMOD 2021) 그래프 분석 시스템 논문을 발표하였습니다 (포항공대와 공동연구). 축하합니다!

  • 우리 연구실에서 최상위 학회에 (IPDPS 2021) 딥러닝의 분산 학습 방법을 비교 분석하는 논문을 발표하였습니다. 축하합니다!

  • NEW: 우리 연구실에서 한양대학교 학부생을 대상으로 CS 연구장학생 인턴을 모집합니다 (관련 내용은 링크를 참고). 위 주제들에 관심이 있으면 서지원 교수에게 Email로 연락을 주세요.

파라미터 수렴을 고려한 심층신경망 학습 (DAC '20, GTC '20 발표 내용)