ejslife

  • 홈
  • 태그
  • 방명록

이론 1

LSTM (Long Short-Term Memory)

1. LSTM 정의 LSTM (Long Short Term Memory) 는 RNN (순환 신경망) 중 하나로, 셀, 입력 게이트, 출력 게이트, 망각 게이트를 통해 기울기 소실 문제 (Vanishing gradient) 를 방지하고자 개발되었다. 망각게이트는 현재 입력과 비교해 이전 상태의 0과 1 사이의 값을 할당해 이전 상태에서 삭제할 정보를 결정한다. 1은 정보를 유지한다는 것이고, 0은 폐기를 의미한다. 입력 게이트는 현재 상태에 저장할 새로운 정보를 결정한다. 출력 게이트는 이전 및 현재 상태를 고려해 0부터 1까지의 값을 할당해 현재 상태의 정보를 출력한다.  2. RNN 구조 및 기울기 소실 문제 RNN (Recurrent Nerual Network) 는 인풋이 여러번의 순환을 걸쳐 아웃풋..

이론 2025.01.08
1
더보기
프로필사진

I like working on laptop with decaf coffee in cafe table near window ☕

  • 분류 전체보기 (6)
    • 논문 (3)
    • 코드구현 (1)
    • 이론 (1)
    • 회고 (1)

Copyright © Kakao Corp. All rights reserved.

티스토리툴바