떡밥위키
최근 변경
최근 토론
특수 기능
파일 올리기
작성이 필요한 문서
고립된 문서
고립된 분류
분류가 되지 않은 문서
편집된 지 오래된 문서
내용이 짧은 문서
내용이 긴 문서
차단 내역
RandomPage
라이선스
IP 사용자
216.73.216.7
설정
다크 모드로 전환
로그인
개인정보 처리방침 개정 안내
오토인코더
(r3 문단 편집)
닫기
RAW 편집
미리보기
=== 희소 오토인코더(Sparse Autoencoder) === 잠재 공간의 차원이 입력 데이터의 차원보다 크더라도, 잠재 변수 [math(z)]의 대부분의 요소가 0에 가깝도록(희소성, Sparsity) [[정규화]] 제약을 추가한 모델이다. 이는 네트워크가 특정 패턴에만 활성화되는 소수의 뉴런을 사용하여 데이터를 표현하도록 유도한다. 재구성 손실에 희소성 페널티 항을 추가하여 학습한다. {{{#!wiki style="text-align: center" [br][math(L_{sparse} = L(x, \hat{x}) + \lambda \sum_{j} KL(\rho || \hat{\rho}_j))] }}} 여기서 [math(\lambda)]는 희소성 강도 조절 파라미터, [math(\rho)]는 목표 희소성 비율(작은 값, 예: 0.05), [math(\hat{\rho}_j)]는 잠재 변수 [math(j)]번째 뉴런의 평균 활성화 값, [math(KL)]은 쿨백-라이블러 발산이다.
요약
문서 편집을
저장
하면 당신은 기여한 내용을
CC BY-NC-SA 2.0 KR
또는
기타 라이선스 (문서에 명시된 경우)
로 배포하고 기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다. 이
동의는 철회할 수 없습니다.
비로그인 상태로 편집합니다. 로그인하지 않은 상태로 문서 편집을 저장하면, 편집 역사에 본인이 사용하는 IP(216.73.216.7) 주소 전체가 영구히 기록됩니다.
저장
사용자
216.73.216.7
IP 사용자
로그인
회원가입
최근 변경
[불러오는 중...]
최근 토론
[불러오는 중...]