논문 리뷰 방향성

최근 논문 리뷰 포스팅을 자주 못하고 있는데, 논문 리뷰 포스팅을 어떻게 해야하나 고민이 된다.

논문을 읽는 시간도 오래 걸리는데, 리뷰하는데는 거의 그정도의 시간이 또 들기때문에 시간 효율 상 고민이 되는 것 같다.

 

하루에 최소 한 편의 논문을 읽으려고 하는데 기록 및 생각정리를 하지 않으면 금방 휘발될 것 같다는 생각이 든다.

(A to Z로 다 읽는 것이 비효율적이라는 생각도 들지만, 영어 논문 읽는 속도를 높힐 겸 이렇게 하고 있다. 효과는 아주 조금 있는 것 같다.)

 

참고로 요즘 주로 읽는 논문은 주로 in-context learing, LLM, diffusion, consistency model 등의 주제이고 연구에 필요한 medical domain의 논문도 읽고있다.

 

최근 구독한 두 블로거가 논문리뷰를 너무 꾸준히, 또 효율적으로 잘 하셔서 많은 자극이 되고 있는데, 내 블로그도 하루 빨리 그런 블로그로 만들고싶다.

다만 간단하게 필요한 부분만 짧게 본 논문들 전부 다는 리뷰하지는 못할 것 같고, 처음부터 끝까지 다 읽은 논문들은 아래 양식에 맞춰 (비교적 간단하게!!)리뷰해봐야겠다.

 

참고로 아래 양식은 부캠에서 이유경 멘토님이 NLP paper study할 때 제공해주셨던 양식인데, 볼 수록 괜찮은 template같다는 생각이 들어 노션을 뒤져서 찾아낸 뒤 내 입맛에 맞게 조금 변형했다. 역시 연구를 오래 하신 분들의 노하우를 많이 듣는 것이 일의 효율성이나, 시간 단축 측면에서 많이 도움이 된다.

---

Template

 

arxiv :

code : 

1. Introduction

1. 논문이 다루는 task
   1. Input:
   2. Output:
2. 해당 task에서 기존 연구 한계점

 

2. Related Work

 

3. 제안 방법론

- Main Idea

 

- Contribution

4. 실험 및 결과

- Dataset

 

- Baseline

 

- Results

 

- Conclusion (What I learned)

 

5. 추가 가이드라인

For Pretrained language model paper

1. 해당 모델이 어떤 차별점을 가지나요 ?
2. 해당 모델은 어떤 모델을 토대로 만들어졌나요?
3. 해당 모델의 pretraining 목적함수는 무엇인가요?
4. 실험에 사용하는 데이터는 무엇인가요?

Before reading

1. 논문 제목을 보고 해당 모델이 어떤 방법론을 바탕으로 할지 가설을 세워봅시다
2. 논문의 main figure를 보고 전체 흐름을 유추해봅시다
   1. 이해되지 않는 파트가 있나요? 있다면 미리 표시해두고 집중적으로 읽어봅시다
3. 해당 모델을 구현한 코드가 있는지 체크해봅시다

After reading

1. 논문에서 풀고자 했던 문제는 무엇인가요 ? (task 정의해보기)
2. 기존 논문들은 이 TAsk를 어떻게 풀어왔나요?
3. 기존 논문 대비 이 논문의 강점은 무엇인가요?
4. 내가 가설을 세운 모델의 특징과 실제 모델의 주장이 어느정도 일치하나요?
5. 논문의 내용과 내 생각을 짧게 정리해봅시다.

 

 

* 좋은 template을 제공해주신 이유경 멘토님 다시 한 번 정말 감사합니다.