logo

지식 그래프 임베딩

지식 그래프 임베딩이란 무엇입니까

지식 그래프 임베딩(knowledge graph embedding)은 지식 그래프의 개체와 관계를 벡터 공간에 표현하는 방법입니다. 벡터는 숫자 목록이며, 비슷한 의미나 관계를 가진 개체가 가까운 위치에 놓이도록 학습합니다.

임베딩은 기호적인 그래프 표현을 기계 학습 모델이 다루기 쉬운 숫자 표현으로 바꾸는 역할을 합니다.

왜 임베딩이 필요합니까

RDF나 OWL 같은 표현은 명시적이고 해석 가능하지만, 누락된 관계를 예측하거나 유사한 개체를 찾는 데는 통계적 방법이 필요할 수 있습니다. 임베딩은 이런 작업에 사용됩니다.

대표적인 활용은 다음과 같습니다.

  • 누락된 관계 예측입니다.
  • 유사 개체 검색입니다.
  • 추천 시스템의 특성으로 사용합니다.
  • 지식 그래프와 딥러닝 모델을 결합합니다.

전체 흐름은 기호적인 트리플을 학습 데이터로 만들고, 벡터를 학습한 뒤 예측 작업에 사용하는 구조입니다.

flowchart LR
    triples["지식 그래프 트리플<br/>(Alice, bought, Book001)"]
    negatives["음성 샘플링<br/>가짜 트리플"]
    model["임베딩 모델<br/>점수 함수 학습"]
    vectors["개체/관계 벡터"]
    tasks["링크 예측<br/>추천, 유사 검색"]

    triples --> model
    triples --> negatives --> model
    model --> vectors --> tasks

기본 아이디어

지식 그래프의 트리플은 보통 (머리 개체, 관계, 꼬리 개체) 형태로 봅니다. 임베딩 모델은 참인 트리플에는 높은 점수를 주고, 거짓일 가능성이 큰 트리플에는 낮은 점수를 주도록 학습합니다.

예를 들어 다음 트리플이 있습니다.

(앨리스, 구입함, 책001)

모델은 앨리스 벡터, 구입함 관계 벡터, 책001 벡터를 사용해 이 관계가 자연스러운지 점수를 계산합니다.

TransE

TransE는 가장 기본적인 지식 그래프 임베딩 모델 중 하나입니다. 핵심 아이디어는 머리 개체 벡터에 관계 벡터를 더하면 꼬리 개체 벡터에 가까워져야 한다는 것입니다.

head + relation ≈ tail

예를 들어 "앨리스 + 구입함 ≈ 책001"이 되도록 벡터를 학습합니다.

간단한 점수 함수는 다음과 같이 생각할 수 있습니다.

import numpy as np

def score(head, relation, tail):
    return -np.linalg.norm(head + relation - tail)

점수가 높을수록 그 트리플이 참일 가능성이 높다고 봅니다.

음성 샘플링

임베딩 학습에는 참인 트리플뿐 아니라 거짓으로 간주할 트리플도 필요합니다. 실제 그래프에는 보통 참인 관계만 저장되어 있으므로, 일부 개체를 바꿔 가짜 트리플을 만듭니다. 이를 음성 샘플링(negative sampling)이라고 부릅니다.

참: (앨리스, 구입함, 책001)
가짜: (앨리스, 구입함, 도시001)

모델은 참인 트리플의 점수를 높이고 가짜 트리플의 점수를 낮추도록 학습합니다.

링크 예측

링크 예측(link prediction)은 그래프에 아직 없는 관계를 예측하는 작업입니다. 예를 들어 다음 질문에 답할 수 있습니다.

(앨리스, 관심있음, ?)

모델은 가능한 후보 개체를 점수화하고, 점수가 높은 개체를 추천합니다. 이 방식은 추천 시스템이나 지식 그래프 보완에 사용됩니다.

장점과 한계

임베딩의 장점은 누락된 관계를 예측하고 대규모 그래프에서 유사성을 빠르게 계산할 수 있다는 점입니다. 또한 신경망 모델과 결합하기 쉽습니다.

한계도 있습니다. 임베딩은 숫자 표현이므로 추론 결과를 사람이 해석하기 어렵습니다. 또한 학습 데이터에 오류가 있으면 잘못된 관계를 강화할 수 있습니다. 논리적으로 반드시 참이어야 하는 규칙을 보장하지도 않습니다.

기호 추론과의 결합

지식 그래프 임베딩은 RDFS나 OWL 추론을 대체하는 기술이 아닙니다. 기호 추론은 명확한 규칙에 따른 결론을 제공합니다. 임베딩은 확률적 예측과 유사성 계산에 강합니다.

실무에서는 두 방식을 함께 사용하는 경우가 많습니다. 온톨로지와 추론으로 명확한 지식을 관리하고, 임베딩으로 누락 관계 예측이나 추천을 보완할 수 있습니다.

정리

지식 그래프 임베딩은 개체와 관계를 벡터로 바꾸어 기계 학습에 활용하는 방법입니다. 링크 예측, 추천, 유사 개체 검색에 유용하지만, 논리적 보장과 해석 가능성에는 한계가 있습니다.

Previous
SHACL