GNN / Node2Vec and Latent Factor Model

Netflix Challenge with latent factor model

그래프의 정점을 벡터로 표현하는 방법인 정점 임베딩(Node Embedding)에 대해서 배웁니다. 기계학습의 다양한 툴은 벡터로 표현된 데이터를 입력으로 받습니다. 이번 강의에서는 그래프의 정점(Node)을 벡터로 표현하는 방법인 정점 임베딩(Node Embedding)에 대해 배웁니다. 정점을 어떻게 벡터로 표현하는지, 정점 사이의 유사성을 어떻게 표현하는지 집중하며 공부합니다. [Read More]

GNN / Community Detection and Collaborative Filtering

군집탐색(Girvan-Newman / Louvain) & CF basic

이번 강의에서는 그래프에서의 군집(Community)이 무엇인지 배우고, 군집에 대한 해석, 그래프에서 군집을 탐색하는 법에 대해 배웁니다. 실제 세상에서 우리는 주변에서 여러가지 종류의 군집을 볼 수 있습니다. 인간 관계 사이에서 (ex. 동아리, 동창회), 화학 물질 내부에서 등 어디서나 군집을 발견할 수 있습니다. 그렇다면, 우리는 그래프 데이터에서 군집을 어떻게 정의하고, 어떻게 찾아낼까요? 이번... [Read More]

GNN / PageRank System이란?

검색엔진에서의 graph ranking

이번 강의에서는 페이지랭크(PageRank) 알고리즘을 배웁니다. 인터넷엔 인터넷 페이지가 셀 수 없이 많습니다. 그리고 네이버나 구글 등의 검색엔진들은 우리가 입력한 키워드에 적합한 페이지들을 보여주죠. 검색엔진들은 어떻게 우리가 원하는 페이지들을 알려줄까요? 페이지들의 우선순위는 어떻게 결정하는 걸까요? [Read More]

NLP / Self-supervised Pre-training Models

GPT-1과 BERT 그리고 이후의 최신 모델들

Post thumbnail
Post thumbnail
자연어 처리 분야에 한 획을 그은 GPT-1과 BERT를 소개합니다. GPT-1과 BERT는 Transfer Learning, Self-supervised Learning, Transformer를 사용했다는 공통점이 있습니다. 세가지의 강력한 무기를 이용해 대용량의 text를 학습한 모델을 target task에 적용해 거의 모든 기존 자연어처리 task를 압도하는 성능을 보여주었습니다. 세 가지의 키워드를 통해 두 모델을 자세히 알아봅니다. [Read More]