Attention Mechanism

Attention Mechanism 이해하기

 현재, homogeneous graph의 node, edge에 topology, geometry 정보를 녹여내고자 한다. 단순한 vector concat.으로는 두 정보를 유의미하게 합칠 수 없는 것 같아 GAT에 나온 multi head attention 을 차용하고자 한다. Embedding space를 크게 topology, geometry 두 개로 나누어 학습을 진행하면 유의미한 결과를 얻을 수 있지 않을까 생각한다.
 
 
 
 

댓글

댓글 쓰기

이 블로그의 인기 게시물

로봇의 작업영역(Workspace)

Workspace 작업영역이란 manipulator의 end-effector가 도달할 수 있는 영역 해가 존재하기 위해서 명확한 목적점이 작업공간 내에 존재 작업영역의 두 가지 정의를 고려 자유자재 작업영역(Dexterous Workspace): robot의 end-effector가 어떠한 방향으로도 닿을 수 있는 영역 →Dexterous workspace의 어떤 점에서도 end-effector는 임의의 방향으로 향할 수 있음 도달가능 작업영역(Reachable Workspace): Robot end-effector가 도달가능한 영역(방향에 제한이 생기는 영역까지 포함)
자세한 내용 보기

Semicolon ; 이 함수 정의에서 나타내는 의미

01. Semicolon(;) 이 함수 정의에서 나타내는 의미는 쉼표(,)와 큰 차이가 없다. 다만, 쉼표(,)로 구분지어진 변수들을 볼 때 가독성을 좋게 해주기위해 semicolon을 사용하기도 한다. 02. variable(s)와 parameter(s)의 차이를 구분해주기 위해 사용된다. f u n c t i o n n a m e ( v a r i a b l e s ; p a r a m e t e r s) 이렇게 두 경우로 보는 것 같다. variable과 parameter의 차이는 다음과 같다. 『영향을 미치지만 변화에 대한 고려가 없었다면 parameter,  영향을 미치면서 변화가 고려되었다면 (변화함에 따른 결과값변화) variable.』 [출처] 01. https://math.stackexchange.com/questions/342268/what-does-the-semicolon-mean-in-a-function-definition/722256 02. https://www.mathsisfun.com/definitions/parameter.html 03. https://www.hibrain.net/braincafe/cafes/40/posts/111/articles/111940
자세한 내용 보기

Pycharm에서 ModuleNotFoundError: No module named ㅇㅇㅇ 문제 발생시 해결방법

Pycharm에서 라이브러리가 불러와 지지 않을 때 해결 (이라고 생각됨) 1. 처음 Pycharm을 설치하고 그리드 월드  강화학습 예제 를 실행시켰을 때 라이브러리들이 import 되지 않는 현상이 발생했다. 다음과 같은 오류가 발생했다. ModuleNotFoundError: No module named 'numpy' (이와 같은 문구 다수) 이는 내가 인터프리터를 대강 설정해서 발생한 문제였다. 전에 만들어 두었던 가상환경 폴더에 예제 파일을 옮기고 실행시키니 PIL을 제외한 라이브러리들을 import할 수 있었다. 2. 가상환경에서 실생시켜도 PIL을 불러오지 못하는 현상이 발생했다. 오류는 다음과 같다. ModuleNotFoundError: No module named 'PIL' PIL 실행을 위해서 cmd창에 'pip install'을 이용하여 PIL, Pillow 설치도 시도해보았으나 문제가 해결되지 않았다. 위와 같은 문제는 다음과 같이 해결했다. Pycharm의 settings에 있는 'Project Interpreter'에 들어가보면 내가 설정해둔 인터프리터에 원하는 라이브러리들을 설치할 수 있다. 물론 설치된 목록확인도 가능하다.  위 방법을 이용하여 Pillow와 Pillow-PIL을 설치했더니 파일이 정상적으로 작동되는 것을 확인할 수 있었다. 제 나름대로의 해결책이라 생각되어 기록을 남겨두었습니다. 혹시 오류가 있다면 지적 부탁드립니다.
자세한 내용 보기