ewc 코드 분석
motivation: ewc 코드를 분석해보자. elastic weight consolidation. fisher information이란 무엇인가. 이거를 알아야 할 필요가 있어 보여서, 분석을 해보겠다. 두개만 이해하면 된다. 1. EWC class, 2. ewc...
motivation: ewc 코드를 분석해보자. elastic weight consolidation. fisher information이란 무엇인가. 이거를 알아야 할 필요가 있어 보여서, 분석을 해보겠다. 두개만 이해하면 된다. 1. EWC class, 2. ewc...
motivation: neural network에서 warming을 쓰는 이유를 알아보자 출처: https://stackoverflow.com/a/55942518 결국 warming은, learning rate이 처음부터 크면, 초기 학습 데이터에 의해서 영향을 받게 ...
motivation: pandas를 통해서 csv 파일 두개를 세로로 합치는 방법 을 정리해보겠다. import pandas as pd # 파일을 불러올 때 첫 행을 열 이름으로 사용 df1 = pd.read_csv('./augment_first_step.c...
motivation: bias variance tradeoff and belkin’s double descent curve 를 이해하자. 1. bias variance tradeoff bias variance tradeoff 이렇게, 실제 함수가 f(x)+error...
motivation: https://docs.wandb.ai/quickstart linux에서 pip install wandb 실행 이후 wandb login 은 python 코드 안에서 진행하게 된다. import wandb wandb.login(k...
motivation: dacon competition의 baseline code를 이해하고, random성 코드를 아카이빙 하기 1. 데이터 다운 pip install gdown gdown https://drive.google.com/uc?id=1hi1dibkHyFbax...
motivation: deep learning에서 attention의 시초를 알아보자. 1. Seq2Seq Seq2seq 와 attention 논문 파악하기 seq2seq은 이런 구조를 가짐. 즉 encoder가 출력을 내지 않고, hidden state로의 Vec...
motivation: 이 오류 메시지는 머신러닝 모델을 다른 버전이나 구조의 모델 체크포인트(checkpoint)로부터 복원하려 할 때 일반적으로 발생합니다. 여기서 문제는 “missing keys”와 “unexpected keys”의 두 가지입니다: Mi...
motivation: subprocess만들어서 모델 돌리기 # Copyright (c) 2021, NVIDIA CORPORATION. All rights reserved. # # NVIDIA CORPORATION and its licensors retain all i...
motivation: pytorch custom dataloader 사용법 정리 우선 코드는 다음과 같이 되어있다. import torch import torchvision import numpy as np import PIL.Image class BaseDatase...
motivation: import os import shutil # 결과 파일이 저장될 경로를 설정 pth_rst_exp = os.path.join(pth_rst, args.compare) # pth_rst_exp 여기가 저장하고 싶은 폴더명 os.makedirs(pth...
motivation: lsun dataset download가 시간이 너무 많이 걸리는데, 단축하는 방법 lsun dataset 다운받는 방법 https://github.com/fyu/lsun 여기에 lsun dataset을 다운받을 수 있는 download.py가...
motivation: ddpm 코드 분석 원본 코드: https://github.com/lucidrains/denoising-diffusion-pytorch/blob/main/denoising_diffusion_pytorch/denoising_diffusion_pytor...
motivation: VAE를 알아야 한다. 이미지를 생성하는데, 가장 간단한 방법이, 원래는 diffusion을 x, pixel 고안에서 했는데, latent space에서 diffusion process를 수행하겠다. 이거다. VAE를 알아야 하고, VAE를 이...
motivation: 내일 할일 정리 주말까지, failure case 실제로 한거하고, 실제로 성능 올려와라. 한 5%, 3%. 성능 올려와. 나머지. failure case가 줄어들어서, 성능이 올랐다. 가정이 있으면 안된다. data, 수치적으로. 내가 해야할 것....
motivation: 네이버 블로그 #thread, mutex, and RAII(C++) : 네이버 블로그 c++ 정리 thread, mutex, and RAII(C++) 무지성 ・ 2022. 7. 18. 2:32 URL 복사 이...
motivation: 네이버 블로그 #c++ 기본 개념 정리 : 네이버 블로그 c++ 정리 c++ 기본 개념 정리 무지성 ・ 2022. 6. 29. 13:27 URL 복사 이웃추가 본문 기타 기능 ...
motivation: 네이버 블로그 #프로젝트 오일러 문제 10: 이백만 이하 소수의 합을 구하시오. : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 10: 이백만 이하 소수의 합을 구하시오. 무지성 ・ 2021. 8....
motivation: 네이버 블로그 #오일러 프로젝트 문제 11: 20×20 격자에서 연속된 네 수의 곱 중 최댓값은? : 네이버 블로그 프로젝트 오일러(파이썬) 오일러 프로젝트 문제 11: 20×20 격자에서 연속된 네 수의 곱 중 최댓값은? ...
motivation: 네이버 블로그 #프로젝트 오일러 문제 9: a + b + c = 1000 이 되는 피타고라스 수는? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 9: a + b + c = 1000 이 되는 피타고라스 수는? ...
motivation: 네이버 블로그 #프로젝트 오일러 문제 8: 1000자리 수 안에서 연속된 13개 숫자 곱의 최댓값은? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 8: 1000자리 수 안에서 연속된 13개 숫자 곱의 최댓값은?...
motivation: 네이버 블로그 #오일러 프로젝트 문제 7: 10001번째 소수는? : 네이버 블로그 프로젝트 오일러(파이썬) 오일러 프로젝트 문제 7: 10001번째 소수는? 무지성 ・ 2021. 7. 27. 18:55 URL...
motivation: 네이버 블로그 #프로젝트 오일러 문제 6: 1부터 100까지 “제곱의 합”과 “합의 제곱”의 차는? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 6: 1부터 100까지 "제곱의 합"과 "합의 제곱"의 차는? ...
motivation: 네이버 블로그 #프로젝트 오일러 문제 5: 1 ~ 20 사이의 어떤 수로도 나누어 떨어지는 가장 작은 수는? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 5: 1 ~ 20 사이의 어떤 수로도 나누어 떨어지는 가...
motivation: 네이버 블로그 #프로젝트 오일러 문제 4: 세자리 수를 곱해 만들 수 있는 가장 큰 대칭수는? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 4: 세자리 수를 곱해 만들 수 있는 가장 큰 대칭수는? 무...
motivation: 네이버 블로그 #프로젝트 오일러 문제 3: 600851475143의 소인수 중에서 가장 큰 수를 구하세요. : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 3: 600851475143의 소인수 중에서 가장 큰 수를...
motivation: 네이버 블로그 #프로젝트 오일러 문제 2: 피보나치 수열에서 4백만 이하이면서 짝수인 항의 합 : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 2: 피보나치 수열에서 4백만 이하이면서 짝수인 항의 합 무...
motivation: 네이버 블로그 #프로젝트 오일러 문제 1: 1000보다 작은 자연수 중에서 3 또는 5의 배수를 모두 더하면? : 네이버 블로그 프로젝트 오일러(파이썬) 프로젝트 오일러 문제 1: 1000보다 작은 자연수 중에서 3 또는 5의 배...
motivation: model이 brittle, spurious 하다는 것의 의미란 무엇일까? 출처: NLP’s generalization problem, and how researchers are tackling it brittle State-of-the-art ...
motivation: sliding window attention, KV-cache에 대해서 알아보자. sliding window의 크기를 3이라고 하자. embedding vector의 차원을 4096 이라고 하고, dim = d_model= 4096 attenti...
motivation: normalization의 모든 종류들을 알아보자. batch normalization은 gradient vanishing 문제를 해결하기 위해서, 평균과 분산을 NN이 정하도록 설정하는 것이다. 그래서 ReLU는 gradient vanishin...
motivation: transformer와 pytorch workflow를 이해하기 위해서 나만의 GPT를 만들어보자! 강의영상: Let’s build GPT: from scratch, in code, spelled out. Andrej Karpathy가 2023년 ...
motivation: what is prompt engineering? medium 글 링크: https://towardsdatascience.com/how-i-won-singapores-gpt-4-prompt-engineering-competition-34c195a93d...
motivation: 네이버 블로그 #Spiking Neural Networks and Online Learning: An Overview and Perspectives, Lobo et al, 2019 : 네이버 블로그 ML, DL, AI Spikin...
motivation: Create Your World: Lifelong Text-to-Image Diffusion TPAMI 2024, Gan Sun et al., 논문을 이해해보자. self notes Research Methodology:: Key Co...
motivation: understanding CGCD self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: ...
motivation: self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: Key_Findin...
motivation: self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: Key_Findin...
motivation: pytorch paramter 보는 방법 정리 def format_params(num_params): if num_params >= 1e9: return f"{num_params / 1e9:.2f} G" elif num_...
motivation: can’t reproduce results even set all random seeds in pytorch. 질문: can’t reproduce results even set all random seeds in pytorch. </br>...
motivation: torch.allclose(a,b)에 대해서 알아보자. torch.allclose(a, b) 함수는 두 텐서 a와 b가 거의 같은지 여부를 판단하는 데 사용됩니다. 이 함수는 주어진 허용 오차 내에서 두 텐서의 모든 요소가 서로 근접한지 여부를 불리...
motivation: pytorch에서 torch.div(나눗셈)과, python에서 classic division, floor division, true division 을 알아보자. pytorch에서 division에 대해서 알아보다가, By default, ...
motivation: torch.matmul() 에 대해서 이해해보자. 입력 tensor가 3차원인 경우 –> torch.matmul(A,B) 는, A가 (b, n, m) 차원을 가지고, B가 (b, m, p)의 차원을 가지면, 결과는 (b,n,p) ...
motivation: torch.contiguous(), is_contiguous(), view(), reshape() 를 알아보자. Pytorch에서 tensor의 내용을 바꾸지 않고, data가 어떻게 보이는지만 바꿔서 표현하는 함수들이 있다. 그 함수들에는 narro...
motivation: (torch.tensor).transpose() method에 대해서 이해해보자. 예를 들어서, tensor1 = torch.rand(3,4) tensor2 = torch.rand(3,4) 이런 tensor 2개가 있다고 하자. torch.ma...
motivation: torch.sum() 에 대해서 잘 알아보자! 1. import torch 2. x = torch.tensor([[1,2,3],[4,5,6]]) 3. torch.sum(x) total_sum = torch.sum(x) print(total_sum)...
motivation: pytorch에서 공통적으로 쓰이는 문법을 정리해보자. import torch print(torch.__version__) !nvidia-smi torch.tensor(7) TENSOR = torch.tensor([[[1,2,3],[4,5,6],...
motivation: pytorch의 torch.randint에 대해서 알아보자. 1. randint(end: int , size=(3,1): tuple) -> tensor[[1],[8],[9]]) import torch tensor = torch.randint(10...
motivation: 책 ‘스피노자의 뇌’ 정리와 느낀점 정리 목차: 느낌 속으로 욕구와 정서 느낌 느낌, 그 이후 몸과 뇌, 마음 스피노자를 방문하다 거기 누구인가 주관적인 해석이 들어가 있습니다. 1. 느낌 속으로 아직 느낌이나 감정...
motivation: 지적 대화를 위한 넓고 얕은 지식1을 읽고.. 지적 대화를 위한 넓고 얕은 지식-역사,경제,정치,사회,윤리-* 편 을 우연히 읽게 되었다. 넓고 얕은 지식이라서 방향성 또는 일화적 측면이 약하고, 지식 intensive한 내용들로 있을 줄 알았는데,...
motivation: 네이버 블로그 #촘스키 & 스키너, 마음의 재구성, 읽고 난 후 정리본 : 네이버 블로그 책 내용 정리 촘스키 & 스키너, 마음의 재구성, 읽고 난 후 정리본 무지성 ・ 2024. 1. 7. 21:2...
motivation: 네이버 블로그 #’불교는 왜 진실인가’ 독후감 - 부제: 왜 시험기간에 유튜브가 재미있는가? 그리고 그 해결책 : 네이버 블로그 책 내용 정리 '불교는 왜 진실인가' 독후감 - 부제: 왜 시험기간에 유튜브가 재미있는가? 그리고 그...
motivation: 네이버 블로그 #21년 7월에 정리한 flow책 정리본 : 네이버 블로그 책 내용 정리 21년 7월에 정리한 flow책 정리본 무지성 ・ 2023. 11. 10. 1:01 URL 복사 이웃추가 본문 기타 ...
motivation: 네이버 블로그 #책 의 주관적인 정리 : 네이버 블로그 책 내용 정리 책 <미움받을 용기1>의 주관적인 정리 무지성 ・ 2021. 7. 22. 16:10 URL 복사 이웃추가 본문 기타 기능 ...
motivation: 네이버 블로그 #책 <몰입, 미치도록 행복한 나를 만난다>의 주관적 정리 : 네이버 블로그 책 내용 정리 책 <몰입, 미치도록 행복한 나를 만난다>의 주관적 정리 무지성 ・ 2021. 7. 1...
motivation: 네이버 블로그 #<미움받을용기 1> 보령신문용 독후감 : 네이버 블로그 책 내용 정리 <미움받을용기 1> 보령신문용 독후감 무지성 ・ 2021. 7. 13. 8:21 URL 복사 이웃추가...
motivation: python에서 @ operator (descriptor)의 역할을 파헤쳐보자. 설명 출처: https://stackoverflow.com/a/6392768 0. class method/field에 underscore 한개와 두개의 차이 출처: ...
motivation: python에서 assert문 제대로 이해하기 출처: https://stackoverflow.com/a/5142453 assert condition, "error message" 를 하면, condition이 False인 경우 문자열이 출력되면서 ...
motivation: 네이버 블로그 #Ch05. [데이터베이스] 쇼핑몰 데이터베이스 만들기 : 네이버 블로그 Part1. 기초 라이브러리 Ch05. [데이터베이스] 쇼핑몰 데이터베이스 만들기 무지성 ・ 2023. 2. 27. 7:53 ...
motivation: 네이버 블로그 #Ch04. [파일/디렉터리] 업무효율 향상을 위한 폴더 관리 프로그램 만들기 : 네이버 블로그 Part1. 기초 라이브러리 Ch04. [파일/디렉터리] 업무효율 향상을 위한 폴더 관리 프로그램 만들기 무...
motivation: 네이버 블로그 #Ch03. [날짜] 파이썬으로 달력 만들기 : 네이버 블로그 Part1. 기초 라이브러리 Ch03. [날짜] 파이썬으로 달력 만들기 무지성 ・ 2023. 2. 25. 16:36 URL 복사 이...
motivation: 네이버 블로그 #Ch02. [텍스트] 뉴스 기사 3줄 요약하기 : 네이버 블로그 Part1. 기초 라이브러리 Ch02. [텍스트] 뉴스 기사 3줄 요약하기 무지성 ・ 2023. 2. 25. 15:40 URL 복...
motivation: 네이버 블로그 #Ch01. 파이썬 라이브러리의 이해 : 네이버 블로그 Part1. 기초 라이브러리 Ch01. 파이썬 라이브러리의 이해 무지성 ・ 2023. 2. 24. 21:42 URL 복사 이웃추가 본문 ...
motivation: 네이버 블로그 #파이썬 문법 정리 : 네이버 블로그 파이썬 문법 정리 파이썬 문법 정리 무지성 ・ 2023. 2. 23. 21:29 URL 복사 이웃추가 본문 기타 기능 ...
motivation: 정보량에 대해서 알아보자. entropy의 정의 entropy의 정의는, 정보를 표현할 수 있는 평균 최소 자원량을 의미한다. 정의는 sigma_i(p_i)(log(1/p_i))로 쓰는데, 최소 자원량이라는 말에 log(1/pi)가 들어가있고, 평균...
motivation: information theory 1장,
motivation: information theory 1장,
motivation: information theory 1장,
motivation: information theory 1장,
motivation: information theory 1장,
motivation: information theory 1장,
motivation: information theory 1장, 책은 Gregory Falkovich 의 book draft로 하고, 강의 영상도 youtube에 있는데, 우선 책으로만 볼 것 같다. 총 191장의 책으로, 내용이 엄청 많은 책은 아닌 것 같다. cha...
motivation: 한달동안 배운 것들을 정리해보자. convolution filter 개수, MLE/MAP, gradient in matrixes 1. 이런 architecture 이미지가 있다고 했을 때, 64, 128, 256 의 숫자는 c_out을 의미하는 ...
motivation: 네이버 블로그 상대방이 말도 안되는 요구를 했을 때 대처방법 : 네이버 블로그 낙서장 상대방이 말도 안되는 요구를 했을 때 대처방법 무지성 ・ 2023. 2. 10. 0:54 URL 복사 이웃추가 본문 기타...
motivation: 네이버 블로그 #2021.09.22 일기 - 무엇이 게으른 사람을 게으르도록 만들까? : 네이버 블로그 일기 2021.09.22 일기 - 무엇이 게으른 사람을 게으르도록 만들까? 무지성 ・ 2021. 9. 22....
motivation: 네이버 블로그 #2021.08.10 일기 - 몰입주간 계획 : 네이버 블로그 일기 2021.08.10 일기 - 몰입주간 계획 무지성 ・ 2021. 8. 10. 23:05 URL 복사 이웃추가 본문 기타 기능...
motivation: 네이버 블로그 #2021.08.09 일기 - 몰입을 위해 목표를 구체화시키자! : 네이버 블로그 일기 2021.08.09 일기 - 몰입을 위해 목표를 구체화시키자! 무지성 ・ 2021. 8. 10. 23:04 ...
motivation: 네이버 블로그 #행복을 찾아서(1), 2021년 3,4월 생각 정리 : 네이버 블로그 일기 행복을 찾아서(1), 2021년 3,4월 생각 정리 무지성 ・ 2021. 7. 13. 8:09 URL 복사 이웃추가 ...
motivation: Create Your World: Lifelong Text-to-Image Diffusion TPAMI 2024, Gan Sun et al., 논문을 이해해보자. self notes Research Methodology:: Key Co...
motivation: self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: Key_Findin...
motivation: self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: Key_Findin...
motivation: how to customize minimal mistakes website which is hosted by github? configuration 공식 문서: https://mmistakes.github.io/minimal-mistakes/docs/...
motivation: 네이버 블로그 #이 블로그를 만든 목적 : 네이버 블로그 낙서장 이 블로그를 만든 목적 무지성 ・ 2021. 7. 12. 21:14 URL 복사 이웃추가 본문 기타 기능 ...
motivation: allostatis load에 대해서 제대로 이해해보자. (매우 주관적인 해석, 틀렸으면 댓글로 반박 부탁드립니다.) 결국 항상성(homeostasis)와 신항상성(allostasis)의 차이는 무엇인가?1 allostatis는 homeosta...
motivation: 네이버 블로그 #1월달 심리학 공부 스토리 정리 (미완) : 네이버 블로그 일기 1월달 심리학 공부 스토리 정리 (미완) 무지성 ・ 2024. 1. 19. 16:06 URL 복사 이웃추가 본문 기타 기능 ...
motivation: understanding CGCD self notes Research Methodology:: Key Contructs:: IVs:: DVs:: Moderators:: Others:: ...
motivation: 네이버 블로그 #순수이성비판 요약 : 네이버 블로그 칸트 순수이성비판 순수이성비판 요약 무지성 ・ 2023. 2. 25. 15:45 URL 복사 이웃추가 본문 기타 기능 ...
motivation: 네이버 블로그 #순수이성비판 요약 : 네이버 블로그 칸트 순수이성비판 순수이성비판 요약 무지성 ・ 2023. 2. 25. 15:45 URL 복사 이웃추가 본문 기타 기능 ...
motivation: 네이버 블로그 #kicad에서 라이브러리 추가하기 : 네이버 블로그 임베디드 kicad에서 라이브러리 추가하기 무지성 ・ 2023. 9. 1. 12:10 URL 복사 이웃추가 본문 기타 기능 ...
motivation: zotero를 활용하여 second brain을 만들어보자. 1. zotero, extension 설치 우선 zotero를 깔고, 1. Bibtex, 2. MarkDB-connect, 3. Zotfile 4. scite Plugin for Zote...
motivation: 백준 공부하면서 알아야 하는 것들 정리 1. python에서 ascii code 변환 방법 오늘 배운 것: ordinal data vs nominal data ordinal data는 순서형, nominal은 명목형 python에서는 ord(‘a’...
motivation: robust tuning ...
**motivation: ** lecture 2,3. bellman optimality equation이랑 DP의 control iteration에 대해서 알아보자. 강의영상: https://www.youtube.com/watch?v=PnHCvfgC_ZA 최적 pol...
motivation: 주식 자동매매, renaissance technologies 포트폴리오 따라하기 여기서 검색함: https://www.sec.gov/edgar/searchedgar/cik https://www.sec.gov/edgar/browse/?CIK=103...