전체 글
-
노션글을 빠르게 티스토리로(N2T : Notion to Tistory)잡생각 2022. 7. 15. 14:53
블로그를 시작해 봐야지 생각만 한지가 어언 몇 년 글 쓰는 재주가 없어서 그런지 몇 차례 시도해 봤지만 오래가진 못했다. 그런데 대학원에 들어가고, 간단한 생각 정리나 논문을 읽으면서 기록하는데에 노션을 사용하게 되었는데 마크다운식 글쓰기가 편해서인지 (비교적) 글을 쓰기가 쉬운 것 같아 즐겨 쓰고 있다. 노션으로만 정리해놓은 글을 대충 쌓아놓기는 아까워서 블로그에 옮겨적어볼까 생각이 들었는데, 문제는 수식도 많이 들어가고 사진도 많아서 이걸 다시 적기도 귀찮고, md로 빼서 다시 github 블로그에 옮기려 해 봐도 영 귀찮아서 손이 안 갔다는 거다. 그러다 혹시나 해서 찾아보니 노션을 티스토리 블로그로 꽤나 빠르게 옮기는 툴이 있어, 하나 테스트해보니 생각보다 잘 옮겨진다. 수식도 잘 따라가고, 이미..
-
Memory Networks공부/논문리뷰 2022. 7. 15. 02:15
1. Introduction오늘날 대부분의 모델들은 장기 기억요소(Long-term memory component)를 전혀 사용하지 못하고 있다. QA task를 생각해 보자면, RNN을 사용해 구현하는 경우, 일련의 사실이나 이야기를 들은 후, 하나의 hidden vector로 표현한다. 이러한 저장은 일반적으로 너무 작고, 과거의 사실들을 정확하게 기억한만큼 충분하지 못하다. 본 모델에서는 이러한 문제를 해결하기 위해 메모리 네트워크 라는 새로운 모델 구조를 제안한다. 핵심 아이디어는 추론을 위해 ML의 학습전략을 메모리 요소와 결합하는 것이다. 2. Memory networks2.1 구성요소mmm : memoryI : (input feature map) 입력된 input을 feature repre..