분류 전체보기12 [논문리뷰] EdgeSAM: Prompt-In-the-Loop Distillation for On-Device Deployment of SAM Abstract오리지널 SAM보다 MobileSAM, EfficientSAM 보다 나은 EdgeSAM 제시 key idea 1)새로운 knowledge distill 기법(prompts in the loop)을 적용해 ViT-based SAM image encoder를 CNN-based 구조로 distill.distill 과정에 prompt encoder와 mask decoder 포함.prompts in the loop - input에 따른 mask 생성을 더 잘 제공.key idea 2)encoder에 탈부착 가능한 lightweight module 제공point prompt distill의 dataset bias 문제를 완화하기 위함.Result오리지널 SAM보다 37배 더 빠르다.edge devic.. 2025. 2. 5. Install wget, homebrew for Mac Wget은 HTTP, HTTPS 및 FTP 프로토콜을 사용하여 파일을 가져오기 위한 무료 소프트웨어 패키지다.Wget을 사용하려면 Mac에 Homebrew를 설치해야한다.https://brew.sh HomebrewThe Missing Package Manager for macOS (or Linux).brew.sh 여기에 있는 코드를 커맨드 창에 입력./bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" 주의)다음과 같이 실행되고 나서 제일 아래에 Next steps에 써있는대로 입력을 해주어야한다.echo 및 eval로 써 있는 부분을 복붙하면 homebrew는 성공적으로 설치된다. 다.. 2025. 2. 3. Transformer(1) - Intro, Token Transformer를 제대로 알고 있는가? 를 답하고 싶어 쓰기 시작한 글이다.처음 논문 리딩을 시작할 때 Attention is All You Need 논문이 어려워 당황했던 경험을 생각하며 써본다. 대단한 숫자인 인용 수 148,074회의 "Attention is All You Need" 2017 논문을 중심으로 완전 파악해보자. Transformer의 목적은?논문의 Abstract."Transformer는 sequence transduction model의 기존 토대가 되는 recurrent(RNN)이나 convolutional neural network(CNN)를 사용하지 않는 새로운 네트워크 구조이다." sequence transduction은 시퀀스를 input하고 시퀀스를 output한다.. 2025. 1. 23. 윈도우에서 맥os 사용하기/Install MacOS in Windows using VMware xcode를 사용하고 싶은데 mac이 없기 때문에 가상 머신으로 윈도우에서 맥 os를 다운로드하려고 한다.https://www.youtube.com/watch?v=ox0l6vsX5Cc 이 링크를 그대로 따라했다. 우선 디스크 할당할 공간이 84GB는 되어야 한다는 것을 염두에 두자. 1. vmware을 사용하려는데 broadcom 회사가 인수하면서 vmware 웹사이트가 사라졌다. 브로드컴.com을 사용해야 된다. 2. gmail로 Register를 하려는데 federated login~~ 라면서 가입할 필요가 없단다.이래저래 답답하게 안되길래 gmail에서 네이버 이메일로 바꿔서 시도했더니 가입이 정상적으로 됨. (이것도 오래 걸림.) 3. 로그인하고 상단 우측에 VMware Cloud Foun.. 2025. 1. 22. [논문리뷰] ZeroQ: A Novel Zero Shot Quantization Framework Zero Shot Quantization 기법 중 하나인 ZeroQ를 설명해보려고 한다. BackgroundQuantization 양자화란 인공 신경망 모델의 정밀도를 낮추어 모델 크기 감소와 연산 효율을 꾀하는 것이다.예를 들면 FP32로 저장된 weight을 int8의 정밀도로 바꾸면 32비트가 필요했던 정보가 8비트만 필요하게 된다. 단 정보량이 무조건 줄어들 수밖에 없기 때문에 accuracy 등과의 트레이드오프는 불가피하다.그렇지만 인공 신경망 모델은 대체로 overparameterize 되어있다고 알려져 있기 때문에 양자화를 해도 그 손실이 크지 않다. 양자화 기법 중에서도 크게 두 가지로 나눠볼 수 있는데Post-Training-Quantization(PTQ)와 Quantization-Awa.. 2024. 12. 24. QPU 양자 컴퓨터 - Intro (2) [스크랩] IBM에서 정의하는 양자 연산의 basic building block은 "the” qubit 큐비트이다. 이 큐비트는 superconducting components 초전도체 요소로 만든다. 큐비트 정보는 외부와의 상호작용으로 쉽게 손상될 수 있기 때문에 전기저항이 0인 초전도체로 만든다. Josephson junction 조셉슨 접합 각각의 물리적인 큐비트는 두 초전도체 판으로 이루어져 있는데 이건 캐패시터 역할을 한다. 두 초전도체 판 사이에 얇은 절연체를 끼우는데 이 구조를 Josephson junction 조셉슨 접합이라 한다. 이 접합은 손실 없는 비선형 인덕터 역할을 한다. - 손실 없다 - 초전도체 특징. 저항이 0이기 때문에 전기가 에너지 손실 없이 흐를 수 있다.- 비선형 인덕터 - 전.. 2024. 12. 19. 이전 1 2 다음
