모집마감

양재캠퍼스

금 / 오후 8 ~ 10

Safe AI

LAB 참가 신청서 작성
연구목표

-아주 많은 데이터로 훈련된 딥러닝 모델은 아주 정확한 성능을 낼 수 있지만, 때로는 그렇지 못합니다. 예를 들어, 데이터셋의 크기가 작거나, 데이터 자체에 노이즈가 많거나, 원 데이터셋의 분포로부터 오지 않은 데이터(Out-of-distribution data)에 대해서도 높은 확률값을 우리에게 줄 수 있습니다. 어떻게든 결정을 내려야 하는 자율주행 자동차를 예를 들자면 치명적인 결과를 낼 수 있을 것입니다. 이렇게 불확실성을 정확하게 표현할 수 있는 연구의 중요성이 높아지고 있고, 또 앞으로 해결해야할 아주 큰 이슈들 중 하나임에는 틀림없습니다.

- Safe AI 연구실은, 넓은 범위의 딥러닝 모델들에 내재되어 있는 예측 불확실성을 다루는 논문들에 대해 Tensorflow, Pytorch 등 딥러닝 라이브러리로의 프로토타입들을 서로 도와가며 구현해보고, 공유하며 함께 고민하는 연구실이 되고자 합니다. 또, 센서의 오작동으로 발생할 수 있는 예측하지 못했던 입력의 변화에 대해서도 대응할 수 있는 방법을 연구합니다. (e.g. Surprise Based Learning, https://ieeexplore.ieee.org/document/4599429/)

- 연구자들의 논문에는 실험에 직접 사용했던 코드를 참고할 수 있는 경우가 많습니다. 논문에 직접 사용했던 코드를 볼 수 있기도 하고, 때로는 다른 사람들이 자신의 해당 논문 구현물을 공유해 주기도 합니다. 하지만 조금 더 들여다보면 다른 사람들이 아주 쉽게 가져다 쓸 수 있을 만큼은 정리되어 있지 않은 경우도 있는데요, 이 부분을 조금 더 보완해서 ‘쉽게 가져다쓸 수 있는 코드’를 작성하는 방법을 같이 연구하고 고민할 수 있으면 좋겠습니다.
또한 딥러닝 프레임워크에는 상위 레벨 API에서 공식적으로, 혹은 비공식적으로 지원하는 추상화된 논문 구현 모델이 많이 있습니다.(VGG, ResNet, MobileNet, ...) 이 모델들의 내부 구현 코드 또한 참고하여, 우리가 직접 불확실성 모델들을 어떻게 하면 다른 사람들이 더 정확하게, 그리로 더 편하게 가져다 쓸 수 있을지 같이 생각해 봅니다

본 랩은 신청자 중 선발을 통해 진행되므로, 랩 참여가 확정되신 분들은 따로 랩 참여 확정 메일을 드릴 예정입니다.

또한 신청자 중 선발을 통해 진행되며 선발이 되지 않으셨고 다른 연구실에 참여하길 원하지 않으시면 멤버십 비용 전액 환불해 드립니다.

운영방법

-매주 금요일 오후 8:00~10:00 2시간 동안 진행되는 모임은 다음과 같이 진행 될 예정입니다.
- 개인별 / 팀별 구현할 논문을 선정하고, 구현 진행상황 및 과정을 공유합니다
- 구현한 실험 결과들에 대해 어떻게 하면 더 성능을 높일 수 있을지, 다른 방법을 사용하면 어떨지 직접 실험해보고,
시각화해 봅니다.
- 또한, Safe AI 연구원들에게는 본 연구에 활용할 수 있는 Cloud-based GPU Computing resource가 제공됩니다.

연구원 모집 안내

- Python, 딥러닝 프레임워크(Tensorflow, Pytorch 등)에 대한 기본적인 이해가 있으신 분
- 논문들의 실험 결과를 다시 내 보고, 프로토타입 구현을 좋아하시는 분

랩짱

이상수