전체 글 (72) 썸네일형 리스트형 [Diffusion 11]. Diffusion의 통합적 이해: VAE, Normalizing Flow, 그리고 Score-based Model Diffusion models ... have both likelihood-based and score-based interpretations.Calvin Luo, Understanding Diffusion Models: A Unified Perspective (2022)열 개의 장을 지나오는 동안 우리는 같은 대상을 여러 각도에서 비추어 왔습니다. 1장과 2장에서 "파괴는 쉽고 복원은 어렵지만, 파괴의 과정을 알면 복원도 가능하다"는 직관을 잡았고, 3장에서 5장까지 DDPM의 변분 하한을 따라가며 노이즈 예측이라는 학습 목표를 끝까지 유도했습니다. 6장에서는 그 노이즈 예측이 Score Function $\nabla_x \log p(x)$의 추정과 동치임을 보았고, 7장에서 이산 마르코프 체인을 연속.. [Diffusion 10] OT에서 Flow Matching으로: Rectified Flow와 Schrödinger Bridge The straight paths are special and preferred because they are the shortest paths between two points, and can be simulated exactly without time discretization and hence yield computationally efficient models.Liu, Gong & Liu, Flow Straight and Fast: Learning to Generate and Transfer Data with Rectified Flow (2022)9장에서 우리는 한 분포를 다른 분포로 옮기는 가장 효율적인 방법을 묻는 수학, Optimal Transport를 구축했습니다. Kantorovich의 .. [Diffusion 9] Optimal Transport 입문: Wasserstein 거리와 최적 경로 A new set of inequalities is introduced, based on a novel but natural interpolation between Borel probability measures on $\mathbb{R}^d$.McCann, A Convexity Principle for Interacting Gases (1997)Part 1부터 Part 3까지 우리는 Diffusion Model을 하나의 일관된 언어로 이해해 왔습니다. 데이터에 노이즈를 더하는 Forward Process, 그것을 되돌리는 Reverse Process, 그 역전을 가능케 하는 Score Function $\nabla_x \log p_t(x)$, 그리고 이 모든 것을 연속 시간에서 통합하는 SDE와 ODE.. [Diffusion 8] Guidance의 수학: 조건부 생성을 가능케 하는 원리 Guidance can be performed by a pure generative model without such a classifier.Ho & Salimans, Classifier-Free Diffusion Guidance (2022)7장에서 우리는 이산 시간 Diffusion을 연속 시간으로 확장하여, Forward SDE와 그 시간 역전인 Reverse-time SDE, 그리고 동일한 주변 분포를 공유하는 Probability Flow ODE라는 통합적 언어를 얻었습니다. 그 모든 과정의 한가운데에는 6장에서 정의한 Score Function $\nabla_x \log p_t(x)$가 있었습니다. 그런데 지금까지 우리가 다룬 생성은 모두 무조건부(unconditional) 생성이었습니다. 즉 .. [Diffusion 7] 연속 시간으로의 확장: SDE와 ODE 관점에서 본 Diffusion Creating noise from data is easy; creating data from noise is generative modeling.Song et al., Score-Based Generative Modeling through Stochastic Differential Equations (2021)6장에서 우리는 Score Function $\nabla_x \log p(x)$를 학습하는 것이 생성 모델링의 강력한 접근법임을 보았고, DDPM의 노이즈 예측과 Score 예측이 $\epsilon_\theta = -\sqrt{1-\bar{\alpha}_t} \cdot s_\theta$의 관계로 수학적으로 등가임을 확인했습니다. 그런데 지금까지 우리가 다룬 모든 프레임워크 (DDPM의 마르코프 체.. 코드 한번 쳐본 적이 없는 비개발자를 위한 Vibe coding 환경 설정 방법 최근 주변에 개발 경험이 없는 사람에게 Vibe coding 환경 설정을 도와주었다. 초반 설정에서 제일 어려움을 느끼는 모습을 보고 관련 글을 써보기로 하였다.물론 하나하나 경험하면서 해보는것도 좋을 수 있으나 너무 과도한 시행착오는 흥미를 잃게 만든다고 생각하여 내 세팅을 공유하고자 한다.설치해야 하는 것Vscode (Visual studio code)WSL (Window Subsystem Linux)Claude code or Codex (둘다 있으면 좋다.)설치Vscodevscode는 일반적으로 IDE라고 불리우는 소프트웨어 개발자용 어플리케이션으로 코드 편집 및 버전 관리 등등 다양한 기능 등을 쉽게 사용할 수 있다. 물론, Vibe coding 시에는 그런 기능들을 사용하지 않을 수 있으나, 점.. Superpowers 설치 및 사용법 저는 현재 개발을 위해 Claude Code에 Superpowers 플러그인을 추가하여 사용하고 있습니다. Superpowers 플러그인을 활용하면 brainstorm → plan → implement로 이어지는 체계적인 개발 워크플로우, TDD 강제, 서브에이전트 기반 구현 등 한층 강력한 기능을 사용할 수 있습니다.제가 개발하면서 기존에 사용하던 여러 플러그인과 비교해서 Superpowers를 활용할 때 제일 완성도 높은 코드를 구현한다고 생각하고 있습니다. Superpowers란?Superpowers는 Jesse Vincent와 Prime Radiant 팀이 만든 에이전트용 스킬 프레임워크이자 소프트웨어 개발 방법론입니다. 코딩 에이전트가 곧바로 코드를 작성하는 대신, 사용자가 정말로 만들고 싶은 .. 개발노트 [OpenStockPrice] 요즘 주식 이야기가 정말 뜨겁습니다. 사실 저는 주식에 대해서 아주 잘 알지는 못하지만, 다행히도 AI 관련 기업에 대해선 어느정도 기술적으로 알고 있는 부분이 있어서 주식 투자를 하고 있습니다.AI, 반도체, HBM, 파운드리, 미국 증시 등등 밤이나 주말에도 뉴스를 보다 보면 괜히 “지금 삼성전자나 하이닉스 분위기 어떻지?” 하고 한 번씩 검색하게 되는 것 같습니다. 평일 장중이야 증권 앱이나 네이버로 확인이 가능하지만, 장이 닫힌 이후에는 뭐가 있긴 하다던데 찾아보기가 어렵더라고요. 뭐 로그인도 해야하고 이것저것 보기 어렵게 만들어져 있는 것 같아요.특히 해외에서 거래되는 synthetic 상품이나 관련 지표들은 여기저기 흩어져 있고, 막상 보려고 하면 너무 불편했습니다. 그래서 단순하게 “주말에도.. 이전 1 2 3 4 ··· 9 다음
