참고

LG_CBM paper summary

9 분 소요

motivation: VLG_CBM paper summary 1. Introduction CBM(Concept Bottleneck Model)은 중간에 Concept Bottleneck Layer(CBL)을 삽입해서, 사람이 이해할 수 있는 개념 단위로 예측 근거를 제공한다. ...

ewc 코드 분석

5 분 소요

motivation: ewc 코드를 분석해보자. elastic weight consolidation. fisher information이란 무엇인가. 이거를 알아야 할 필요가 있어 보여서, 분석을 해보겠다. 두개만 이해하면 된다. 1. EWC class, 2. ewc...

information theory

1 분 소요

motivation: 정보량에 대해서 알아보자. entropy의 정의 entropy의 정의는, 정보를 표현할 수 있는 평균 최소 자원량을 의미한다. 정의는 sigma_i(p_i)(log(1/p_i))로 쓰는데, 최소 자원량이라는 말에 log(1/pi)가 들어가있고, 평균...