Overview

많은 활용도가 있음

NLU (Natural Language Understanding): Whole processes such as decisions and actions are taken by NLP

• 감정분석 (Sentiment analysis , (+/-) values) → 사실 breakthrough 가 많이 없음

• 기계 독해 : 주어진 paragraph 안에서 질문을 뽑아내는 것

• 상식 추론 : 언어 모델을 활용할 때 인터넷에 글을 활용해서 지식을 추출

  • 결국 사람이 쓴 거기 때문에 어떤 Assumption 이 있다 (노을이 주황색이다)
  • Eventuality (어떤 sequence), Attribute (상식)

• 유사도 측정 : FAISS → fast embedding search

  vector database에서 내가 query로 넣은

NLG (Natural Language Generation): It generates the human language text from structured data generated by the system to respond.

• 자동완성 : GPT2 사용

NLG 안에서

1. Unconditional (random) → Base LM, GPT (This model is able to complete and generate entire paragraphs of text with syntactical, grammatical, and informative consistency)
2. Conditional (some guideline) → Finetuned

일반적 ( finetuned: make small adjustments to (something) in order to achieve the best or the desired performance)

Basic:

Tokenization (최소 단위로 만들어주는것) / parsing / morphological segmentation

Lemmatization / stemming (조금 다르지만 결국에는 어떻게 언어의 단위를 자를것인가)