주뇽's 저장소

https://web.stanford.edu/class/cs224w목차1. Part1-  Transformer 소개-  메시지 패싱 GNN과의 관계2. Part2-  Transformer GNN을 위한 새로운 디자인    👉 1. Part2-  Transformer GNN을 위한 새로운 디자인기존 GNN과 다르게 Graph Transformer를 위한 디자인 공간은 어떻게 설계를 해야할까? Transformer로 그래프를 처리하는 방법을 이해하려면 Part1에서 본 Transformer의 주요 구성 요소를 이해한다.토큰화(Tokenizing): 입력 데이터의 각 부분을 벡터로 변환한다.자기 주목(Self-attention): 입력 시퀀스의 각 부분이 다른 부분에 얼마나 집중해야 하는지 결정한다.위..

2024.05.16 - [GNN/CS224] - 13. Graph Transformer Part2 CS224W: Machine Learning with Graphs 정리 13. Graph Transformer Part2 CS224W: Machine Learning with Graphs 정리https://web.stanford.edu/class/cs224w목차1. Part1-  Transformer 소개-  메시지 패싱 GNN과의 관계2. Part2-  Transformer GNN을 위한 새로운 디자인    👉 1. Part2-  Transformer GNN을 위한 새로운 디자인기존 GNN과jypark1111.tistory.com https://web.stanford.edu/class/cs224w목차..

https://web.stanford.edu/class/cs224w 목차 1. 그래프 신경망(GNN) - Part 2 - GNN Layer 2. GNN Layer 종류 - GCN - Graph SAGE - GAT 👉 이전 내용 노드임베딩 : 실제 그래프에서 2개의 노드 U,V를 임베딩 공간 Z로 가장 잘 매핑할 수 있는 인코더를 찾는 것! 그렇다면 어떻게 가장 잘 설명할 수 있는 인코더를 만들까? -> 그래프 머신러닝 Depp Graph Encoders를 이용하여 인코더를 학습!!! Input : Graph Ouput : 노드뿐 아니라 서브그래프, 그래프도 임베딩 가능! 👉 1. 그래프 신경망(GNN) - Part 2 1. GNN Layer GNN의 기본 레이어 : Message 함수 + Aggregat..