피어세션기록(8주차, 03.19 금)

조교님 질의응답

• (현우) 카이스트 들어가려면 다 논문 써야한다는데 정말인가요…?

  • ㅋㅋㅋㅋ 아니 해외 탑스쿨도 아니고… 아닙니다…
  • 석사입학이 논문을 써야 들어올수 있느냐… 그건 너무 소문이 과장된 것같고…
  • AI쪽에 입학하신 분들이 논문 쓰신 분들은 다른과에 비해서 좀 더 많은 편이거같긴해요.
  • 워낙 이쪽 분야는 논문이 많이 나오기도 하고, 너무 인기가 많아서 최소 몇달-몇년정도는 기다렸다 들어오시는 분들이라…

• (준배) 개인적인 질문일 수 있는데, 졸업하시면 어디에 취업을 하실 생각이신지…?

  • 딱히 그런게 있진 않구요, 대부분은 스스로 취업준비를 하는 편인데…
    • 지인 스타트업에 가거나 직접 창업하는 경우도 꽤 많은 것 같아요.
  • 저는 그렇지 않은 것 같고 어느정도 성장한 스타트업이나 대기업을 쓸 것 같아요.
  • (질문) 그럼 지금 연구하고 계신 주제(그래프)쪽으로…?
    • 그러면 좋긴 한데, 사실 그래프를 메인으로 쓰는 회사가 국내에 이렇다하게 있진 않아서…
    • 보통 회사에 있는 머신러닝 부서에 지원을 많이 해서 그래프 쪽 분야를 노려보야할것 같아요.
    • 교수님이 홍보하실땐 수요가 많다고 하셨는데…
      • 그래프가 유망하긴 한데 자체가 메인인 기업은 잘 없긴해요 ㅋㅋ
      • 하이퍼커넥트는 소셜네트워크라 그래프가 메인입니다.
      • 소셜네트워크 서비스에서는 그래프가 메인이라고 생각하시면 될거같아요.

• (지원) 개인적인 질문이긴 한데 대학원 진학하실때부터 박사는 생각 안하셨나요?

  • 박사를 해야지 말아야지 하는 생각을 처음부터 했던건 아니구…
  • 석사를 하다가 결정했습니다.
  • 개인적으로 힘들었던 부분도 있고, 너무 학교에 오래 있었던 것 같아서 시야가 좁아지는 기분이 들어서요.
  • 일단은 업계에 나가서 일을 하다가 혹시 나중에 박사가 하고싶어지면 그때 해도 되니까. 그 생각으로 취업을 하고 있습니다.

• (준호) 논문이야기, 유니스트 최신논문 오픈소스 구현하여 공개해서 Open AI에서 데려갔다는 이야기를 듣고 궁금해진게, 논문 구현능력만 가지고 데려가신거잖아요. 박사까지 해보면 모르겠는데, 석사는 구현과 배워가는 분들의 비율도 반반이라고 생각해서… 혹시 포지션별로 요구하는 능력이 다른건가요?

  • 네 그렇죠. 크게 보시면 연구포지션과 개발포지션을 나누어서 뽑는데, 말씀하신 분 같은 경우에는 개발 포지션이겠죠. 연구포지션은 아마 못들어가실거같아요.
  • 근데 그분은 논문을 굉장히 많이 구현하고 star도 많이 받으신거잖아요. 그렇게 빠르게 구현하고 튜닝하는 능력이 검증이 되어있어서 개발포지션으로 채용이 되었다고 보시면 될것 같아요.
  • 리서치쪽은 탑컨퍼런스에 논문을 많이 썼고, 얼마나 좋은 연구를 했고, 박사학위는 땄나 이런거라서… 리서쳐를 하실거라면 박사까지는 따는게 맞지 않나하는 생각이 들어요.

• (준호 - 추가) 연구쪽으로는 생각이 없고 개발적 (논문 구현, 실력, 취업 시장에서 매리트)으로 석사진학하는 것에 대해 어떻게 생각하시나요? (vs 당장 만족스럽지 못한 포지션으로 개발자 커리어 시작 후 이직)

  • 사실 이건 제가 확답을 못드리겠네요.
  • 사실 자기개발만 해서 하는게 더 효율적일수도 있고…
  • 근데 대학원에 오면 선배들이 있잖아요.
  • 어떤 task에서는 dropout을 하면 잘되는데, 어떤 task는 비슷하거나 오히려 더 잘안되더라. 이런 경험적인 부분을 대학원에 있으면 자기가 맡은 task에 따라서 확실히 알게 되어요.
  • 사실 전 (그리고 다른사람들이 얘기하기로도) 개발자로서의 역량을 검증받고싶을 때 제일 중요한 것은 github repo에서 star 많이 받는거랑, kaggle 하이랭크되는게 더 중요하다고 생각하는데…

• (성익) 국내에서 AI 기술력/경쟁력이 높다고 판단하시는/또는 주위에서 들리는 기업들이 있는지, 어떤 기업인지 궁금합니다.

  • 의학영상 스타트업 뷰노/루닛 -> 기술력이 좋고, 데이터가 좋아요.
    • 서울에 있는 5대 병원 서/연/카/울/성에 데이터를 받아요.
    • 논문 잘쓰시는 분도 되게 스카웃을 많이 했구요.
  • NLP는 네이버가 잘 안다고 알고있습니다.
  • 개인적으로 비젼이 있을 거라고 생각하는건 쿠팡도 포함이긴합니다.

• (성익) 저에게 AI에서는 논문 수식의 이해가, CS에서는 자료구조/OS 등이 해야하기때문에 꾸역꾸역 할당량을 채우려고 하는 약같은 공부였고, 그래서 잘 하지 않았습니다. 그에 비해 결과가 바로 눈에 보이고 재미있는 몇몇 테크닉과 힙한 기술의 공부는 당장 필요하지 않으면서도 즐거워서 찾아보는 밥같은 공부였습니다. 이처럼 탄탄한 기본기를 쌓기 위해 필요하다고 하는 공부는 소량이라도 선뜻 손이 가지 않고, 오히려 매번 하고 싶은 재미있는 공부만 하다보니, 시간이 갈수록 취업/커리어 개발에 있어서 어떤 직군을 선택하더라도 스스로 기초가 부족한 게 아닐까하는 막연한 불안감이 생깁니다. 그 부분을 몰라서 당장 내 토이프로젝트 등에 문제가 생기는 게 아니라, 다른 이들은 다들 하기 싫은 마음을 꾹 참고 공부하고 있을텐데 나만 안하고 있어서 어떡하지 하는 조바심이 생기는 것 같습니다.

  • 공부는 탑다운으로 하는게 제일 효율적이라는 말은 있어요.
    • 이거 하다가 이게 필요해서 그때 공부한다.
    • 탑다운은 꼭 최신을 의미한다기보다는… 일단 뭔가를 하다가 모르는게 나올때 그것의 출처를 찾아보는 방법.
    • 바텀업은 베이스부터 하는것…
  • 근데 탑다운도 어느정도의 베이스는 갖춰져있어야 가능한거잖아요. NLP도 모르는데 최신논문 읽으면서 NLP 논문을 찾아읽는건 어려운 거잖아요.
  • 개인적으로는 OS/자료구조 정도는…
    • OS는 AI 엔지니어로서는 굳이…?
    • 자료구조 알고리즘/ 확통은 사실 어딜가도 중요한거고, 다다익선인거같아요.
      • 또 확통은 연구할때는 중요한데 개발할 땐 꼭 그렇지 않을수도 있거든요.
  • 일단 이런경우는 피하시면 좋을것같아요.
    • 전체적인 프로세스를 이해하는데, 뛰어넘는 게 너무 잦다.
    • 계속 넘기는 부분이 특정 부분(수학의 확률 같은 부분…)이고 이게 너무 잦다?
      • 이렇게 반복적으로 나타나는건 되게 중요하다는 거잖아요. 그건 공부해보시고 가는게 좋을것같아요.

• (성익) 다른 조와 비교해봤을때 저희 조가 다른점이나 부족한점으로 느껴지는건?

  • 부족한점 같은건 딱히 없는거같고…ㅋㅋㅋ
  • 다른점은 (33조분들은) 전반적으로 질문하실 때에는 대학원생으로서의 질문에 대해 경험을 많이 해주셨어요.
    • 조교님 랩 관련 질문도 해주시고, 대학원생으로서 학부생으로 돌아간다면 어떤 걸 공부하실거같나?? 이런 질문들.

조교님의 한마디

시원섭섭하네요. 일은 진작에 끝났지만…
한학기동안 하시면서 빡셌을 수도 있는데, 열심히하신거같아 감사하고, 저도 캠퍼분들을 보면서 자극을 많이 받았어요. 대학원생활 하다보면 좀 무뎌지는 감이 있었는데… 저도 에너지를 많이 받았습니다. 열정 쭉 가지시고 열심히 하시면 다들 좋으실거같아요.

오늘 강의/세션/과제 질문

• 선형대수를 모르면 뒷부분은… 이해하기 어려운것같아요.

• 커널 이야기가 되게 좋았어요.

  • 여러 커널의 용어를 말씀해주시면서 공통점과 차이점이 뭔지 말씀해주시는것…
  • 에센스라는 의미라는 걸 알려주셔서 좋았어요.
  • (성익) 커널이랑 필터라는 용어가 같은 줄 알았는데 다르더라구요.
    • 블로그 글
    • 블로그 글 2
    • 커널은 2D 영역이고, 필터는 3D 영역(channel까지 포함)

• 어제 과제 질문

  • 왜 KL 자리에 CrossEntropy를 안쓰셨나요? 다른 레퍼런스나 PDF들은 다 Cross Entropy로 되어있던데…
    • 다른레퍼런스
    • cross_entropy 안에 softmax함수가 이미 들어가있어요.
    • 이건 좀 더 찾아봐야할듯…
  • 왜 하나는 KL Divergence 사용하고 하나는 CE 사용하는지?
    • KL Divergence는 teacher의 분포를 학습하기 위해서, CE는 정답레이블이니까 그냥 학습하는 방식으로.

회고

• (준호) 피어세션이 가장 핵심적인 가치라고 느꼈고, 피어세션이 없었으면 중간에 42seoul로 빠졌을 것 같았어요. 서로 자극받고 열심히하게 되는 것을 넘어서서, 사소한 궁금증을 자유롭게 물어볼 수 있고, 같이 해결할 수 있다는게 좋았어요. 마스터님께 DM으로 물어봐서 해결되는거랑 다른 차원이잖아요. 구성원의 역할이 잘 분배된 것 같고, 좋은 토론이 있었던 것 같아서 유익했습니다.

• (지원) 이번주는 정말 많은것을 던져주시고 간 것 같아요. 추상적이긴 하지만 어느정도 큰 그림이 그려진 것 같고 그걸 좀 더 메워나가야겠죠? 지금 생각하는건 강의 순서가 거꾸로 되었어도 좋을것같아요. 직업훈련에는 맞지 않았지만… 질문 하는 법에 대해서는 많이 배웠습니다. 그리고 피어세션이 없었으면 생각도 못했던 게 많았을 것 같아요. 어려운 점도 공유하고, 동기부여도 받고… 좋은 분들 만나서 공부할 수 있어서 좋았습니다. 계속 같이했으면 좋겠어요!

• (준배) 이번주 강의가 좀 넓게 던져두고 알아서 공부하는거라, 제대로 배우지는 못한 것 같아요. 자세히 들어가려니까 너무 전문적이라 시도조차 못한 내용들이 많았던 한 주였고… U스테이지에 대해서는 정말 좋았지만, 아쉬운건 오프라인이었으면 피어세션을 좀 더 활용할 수 있었을 것 같아요. 그자리에서 듣고, 논의하고 정리했으면… 또 초반에는 너무 피어세션 시간이 일찍이었어서 질문 거리를 못 찾았을수도 있고요. 제가 자극을 주는 사람이기보다는 다른 분들께 자극을 많이 받았었거든요. 자극을 크게 받고 가는 시간이 되었습니다. 좋았습니다!

• (성익) 저번주부터 힘들고 공부의 집착을 버렸다. 이번주는 큰그림보고 간단하게 훑어보는식으로 진행했습니다. 공부하면서 다시 돌아봤을때 큰 도움을 줄거라 생각했습니다. 강의 스타일도 달라서 괜찮았다. 확신이 없고 불안한 상태였지만, 들어와서 느끼는것은 지금 아니면 못하는 경험이라고 느꼈다. 자기 나름에 최선을 다했다. 피어세션엔 모르는게 많아서 질문을 했고, 피어를 대하는게 어렵다고 느끼지 않고 중요한 시간이라 느꼈다. 기존의 부스트캠프와 피어세션의 의미가 달랐다. 피어세션의 가이드가 더 있었으면 하는 아쉬움. 또 다시 만났으면 합니다! 많이 배웠습니다 감사합니다!

• (현우) 이번주 강의는 대부분을 제대로 이해하지 못해서 아쉬운 부분이 있어요. 공부하다가 라즈베리 파이 등에 넣어보고 마스터님 강의의 의미를 느끼는 날이 있었으면 좋겠어요! 저는 사실 부캠을 큰 생각 없이 지원했는데, 취업과정인지도 모르고 지원했어요. 그래서 준비가 조금 안되었던 것 같아요. 들었던 강의는 sung kim님 강의 뿐이고… softmax함수나, 델타 수식도 몰랐어서. 그래서 피어세션에서 정말 많이 배웠어요. 서슴없이 질문했고 답변을 주셔서 감사했습니다. P스테이지에서도 이게 뭐냐고 물어보면 대답 부탁드릴게요 ㅋㅋㅋ. 자주 뵈어요.