최근 근황 (졸업과 논문)

이번 여름 방학은 정말 정신이 하나도 없었다.

 

3월에 KIST에 들어와서 진행한 연구를 AAAI에 무사히 잘 제출하였고, 동시에 같은 날 학부 졸업식까지 있었다.

처음 써보는 논문인데 너무 좋은 사수를 만나 성공적으로 마무리 할 수 있었던 것 같다.

 

작년 5월 쯤 학부 졸업 전에 뉴립스 섭미션을 해보자라는 목표가 있었는데, 뉴립스는 아니지만 그래도 탑컨퍼에 공동 1저자로 낼 수 있어서 성취감이 정말 컸다. 내년에는 더 열심히 해서 뉴립스에도 꼭 제출할 수 있었으면 좋겠다.

 

이번에 논문을 쓰면서 많은 것을 느꼈는데, 우선 분명 아쉬움은 있었다. 많은 실험을 하며 잘 되지 않던 케이스도 있었고, 잘 되더라도 설명력이 부족하거나, 이게 최선(최적)일까? 하는 생각도 정말 많이 들었다. 그럼에도 끝까지 실험을 열심히 하고, writing을 다 하고 보니 꽤나 만족스러운 결과가 나왔다. 사실 혼자 연구를 했다면 절대 제출하지 못했을 것이다. 아마 ICLR나 CVPR 어쩌면 내년 ICCV까지 끌고 있었을 수도 있다. 분명 완성도 있는 연구를 하는것은 굉장히 중요한 일이고, 꼭 지켜야하는 연구 윤리라고 생각한다. 특히 박사과정을 고민하는 나에게는 그러한 완성도 있는 연구를 하는 훈련이 장기적으로 큰 무기가 될 것이라 생각한다. 그러나 이번은 나의 첫 논문 제출이였고, 첫 술에 배부를 수는 없는 노릇이다. 아쉬운 것들은 다음 연구에서 고쳐나가면 되는 것이고, 이번에 연구를 하며 배운고 느낀 것을 발전시켜 나가면 되는 것이다.

 

그렇다면 내가 이번에 논문을 쓰면서 느낀 배운점은 무엇일까.

당장 생각나는 몇가지를 나열해보았다.

- 좋은 아이디어와 뛰어난 수학 실력은 정말 중요하다.

- 아이디어는 약간의 창의력과 다량의 (읽은)논문으로 부터 나온다.

- 수학은 평소에 꾸준히 많이 해야하고, 분야를 막론하고 넓게 알면 언젠간 도움이 될 수 있을 것 같다.(물론 수학자가 될 것은 아니니 선형대수, 수리통계, 해석학 등의 핵심 과목을 우선으로 "잘" 아는게 좋은 것 같다.)

- 아이디어와 수학보다 더 중요한 것은 코딩실력이다.

- 그치만 코딩은 GPT도 꽤나 잘한다. 이를 잘 활용하는 것도 꼭 필요한 센스라고 생각한다.

- 논문을 쓴다는 건 결국 리뷰어를 설득하는 글을 쓴다는 것이고, 이 때 필요한 언어적 센스나 감각은 단기적으로는 여러 AI 논문을 읽으며, 장기적으로는 그냥 글(책 등)을 많이 읽으며 키워야한다고 생각한다.(영어도 GPT가 (제일) 잘한다.)

 

결국 내가 생각하기에 연구를 계속 "잘" 하려면, 평소에 꾸준히 수학을 공부하고, 여러 논문들을 많이 읽으며 생각나는 아이디어를 GPT 등의 도움을 받아 구현하고 실험하여 그 결과를 분석하는 과정들의 반복이다. 그 과정에서 지금 하는 방향성이 맞나, 이렇게 하면 설득이 될까?를 잘 모를 수 있기 때문에, 또는 더 좋은 아이디어에 대한 조언을 얻기 위해 랩미팅에서 "지도"를 받는 것이라고 생각한다.

 

뭐 사실 위 내용들은 누구나 알고 있는 당연한(?) 내용들일 수 있고, 이에 동의하지 않으시는 분들도 계실 수 있지만(특히 GPT의 도움을 받아 코딩한다..?), 적어도 이번 연구에서 내가 느낀점들이다. (그렇다고 모든 코딩을 GPT한테 시킬 수 없고 기본적인 구현 능력과 코딩 실력은 당연히 있어야한다는 것은 AI를 하는 누구나 알고 있을 것이다.)

 

이제 나는 대학을 졸업해서 석사를 시작하는데, 위 내용들을 입학 전에 배울 수 있다는 것은 정말 큰 행운이라고 생각한다.

그럼 이제 앞으로 석사를 하며 나의 action plan을 세워보면 어떻게 될까.

당연히 수학과 논문, 코딩과 영어 이 네 가지가 꾸준히 병행되어야 할 것이고 그 중 연구자이기 때문에 "실험(연구)"이 최우선이 되야할 것이다.

수학은 평소 공부해왔던 수학의 즐거움을 꾸준히 활용할 것이고, 대학원 수업에서도 가능하다면 최적화이론이나 정보이론 정도는 들을 생각이다. 

논문은 1일 1논문을 다시 해볼 것이고(영어와 내 분야에 대한 이해도가 나름 높아져 이제는 할 만 할 것 같다(라는 착각)),

코딩은 뭐 .. 그냥 실험 열심히 돌리고 코드 뜯어보다 보면 늘겠지..

영어는 화상영어와 단어를 계속 외울 것인데, 사실 좀 부족한 것 같기는 해서 고민을 더 해봐야겠다.

 

다음 목표는 우선 CVPR이 100일? 좀 안되는 기간이 남았는데 지금 하고 있는 개인 연구를 CVPR에 내고 싶다. 그러면서 새로운 분야(아마 비디오나 멀티모달)에 대한 공부 및 follow up도 꾸준히 할 것이다. 무엇보다 계속 못하고 있던 1일 1논문 후 (최대한) 블로그 포스팅과 영어 및 수학공부는 얼른 다시 시작해야겠다.

특히 내년 뉴립스는 optimal transport + I2I translation과 같은 주제로 잡고 싶은데, 그럴려면 optimal transport를 하루 빨리 공부해야겠다!!