Algorithms
algorithmalgorithmslocality sensitive hashinglsh
- Locality Sensitive Hashing
Locality Sensitive Hashing LSH 는 유사한 데이터를 빠르게 찾는 방...
Study Archive
Notes by topic and series
Study notes are grouped as series cards. Use the topic filters to narrow the archive without leaving the page.
Google Cloud Platform
bigquerygcpgoogle cloud platform
- Big Query
Reference: Google Big Query 구글 빅쿼리 BigQuery 는 머신러닝...
- Big Query Geospatial Data
구글 빅쿼리에서 지리정보 데이터를 다루는 방법에 대해 알아본다. GEOGRAPHY라는 타입...
Information Theory
infoinformationinformation theorytheory
- Chapter 1. Introduction to Information Theory
The fundamental problem of communication is that o...
Math
cosineeuclideanhammingjaccardlevenshteinmathsimilarity
- All about similarity
https://www.youtube.com/playlist?list=PLIUOU7oqGTL...
MongoDB
mongodbpymongo
- 1. Introduction
Reference: MongoDB MongoDB is a document database...
- 2. Create Database / Collection / Document
Reference: MongoDB 이번 시간에는 데이터베이스, 컬렉션, 도큐먼트를 생성하는...
- 3. Data Modeling
Reference: MongoDB 어플리케이션에 따라 데이터를 조회하는 패턴이 다르고 퍼포...
- 4. PyMongo
Reference: MongoDB MongoDB에서는 다양한 언어로 개발을 지원하기위해 여...
NLP
hard promptsnlpprompt engineeringprompt tuningsoft prompts
Paper Reading
attentionbridgedatasetdecodingexplainable aifeature visualizationhybrid rankinghydranet
- E2emn
End-to-End Memory Network Pytorch 구현 코드: https://g...
- Nsmcbidreclstmselfattn
A Structured Self-Attentive Sentence Embedding 네이버...
- Neuralnetworklm
A Neural Probabilistic Language Model paper: A Neu...
- Introxai
Explaining Explanations: An Overview of Interpreta...
- Attention Is All You Need
Paper Link: Attention Is All You Need ------------...
- Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps
Paper Link: Deep Inside Convolutional Networks: Vi...
- Mask-Predict: Parallel Decoding of Conditional Masked Language Models
Mask-Predict: Parallel Decoding of Conditional Mas...
- Classifier-agnostic saliency map extraction
Paper Link: Classifier-agnostic saliency map extra...
- Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI
Explainable Artificial Intelligence XAI : Concepts...
- Spider: A Large-Scale Human-Labeled Dataset for Complex and Cross-Domain Semantic Parsing and Text-to-SQL Task
Introduction & Related Work and Existing Datasets...
- Feature Visualization
Feature Visualization 논문을 보면서 정리한다는게 통째로 번역을 해버렸다...
- Bridging Textual and Tabular Data for Cross-Domain Text-to-SQL Semantic Parsing
Abstract BRIDGE 모델 제안 : Bridging Textual and Tabul...
- Hybrid Ranking Network for Text-to-SQL
Abstract Hybrid Ranking Network for Text-to-SQL 제안...
- NBDT: Neural-Backed Decision Trees
Reference: Pixabay Abstract 금융, 의료 분야의 머신러닝은 정확도뿐만...
Reinforcement Learning
bootstrappingcontroldynamic programminginverse reinforcement learninglearningmdpmonte carlomulti-armed bandits
- 1. Introduction
Refernece: Pixabay 데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입...
- 2. Multi-armed Bandits
Reference: Pixabay 데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입...
- 3. Finite Markov Decision Processes
데이터사이언스 대학원 강화학습 수업, Deep RL Bootcamp 를 듣고 정리한 내용입...
- 4. Dynamic Programming
데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입니다. Policy Evaluati...
- 5. Monte Carlo Method
데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입니다. Monte Carlo Met...
- 6. Temporal-Difference Learning
데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입니다. Temporal Differ...
- 7. n-step Bootstrapping
데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입니다. n-step TD 방법은 M...
- 8. Planning and Learning with Tabular Methods
데이터사이언스 대학원 강화학습 수업을 듣고 정리한 내용입니다. 지금까지는 model-bas...
- CS 285: Lecture 19, Control as Inference
영상링크: https://youtu.be/MzVlYYGtg0M Optimal control...
- CS 285: Lecture 20, Inverse Reinforcement Learning
영상링크: https://youtu.be/EcxpbhDeuZw Why should we w...
tutorial
alignmentcausal language modelingdpoinferenceinstruction tuninglecturellmllm
- LLM은 어떻게 배우고 대답할까: 16주 학습 커리큘럼
Transformer의 기초부터 SFT, DPO, GRPO, 추론 최적화와 모델 서빙까지 직접 실험하며 익히는 과정
- 1주차. Transformer와 Causal LM
문장을 token으로 나누고, Transformer가 다음 token의 확률과 loss를 계산하는 과정을 배운다.
- 2주차. Pre-training과 Instruction Tuning
Base model이 다음 token을 배우고, instruction model이 질문에 맞춰 답하는 방식을 익히는 과정을 비교한다.
- 3주차. Supervised Fine-Tuning
질문과 모범 답안을 token으로 바꾸고, assistant 답변의 loss로 작은 언어 모델을 학습하는 과정을 익힌다.
- 4주차. LoRA와 QLoRA
전체 weight를 고치는 대신 작은 adapter를 학습하고, 4-bit 양자화로 GPU 메모리를 더 줄이는 방법을 익힌다.
- 5주차. 강화학습의 기초
agent가 환경과 상호작용하며 reward를 모으는 과정을 배우고 작은 길 찾기 문제에서 REINFORCE와 baseline을 구현한다.
- 6주차. Reward Model과 RLHF
사람이 고른 chosen·rejected 답변으로 Reward Model을 학습하고 pairwise loss와 reward accuracy를 읽는 방법을 익힌다.
- 7주차. PPO로 배우는 RLHF
Policy, reference, Reward Model, value model이 함께 답변을 만들고 PPO clipping과 KL penalty로 policy를 조금씩 고치는 과정을 익힌다.
- 8주차. Direct Preference Optimization
chosen·rejected 답변의 상대 log probability를 비교해 Reward Model과 rollout 없이 선호를 학습하는 DPO를 익힌다.
No study series matches this topic.