.learn() - page 5
what I have learned so far
-
Pydantic과 llm.with_structured_output — 함정과 안전장치
Pydantic 모델과 LangChain의 with_structured_output을 깔끔하게 조합하기 — 프롬프트 충돌, 검증 에러, 무한 평가 루프 피하기.
-
Dependency Injection으로 생성자 인자 정리하기: MVVM과 .NET Host
DI가 객체 생성을 어떻게 단순하게 만드는지, 그리고 MVVM 뷰모델의 길어지는 생성자를 .NET Generic Host로 어떻게 간결하게 유지하는지.
-
Dynamic Programming
Overlapping subproblem과 optimal substructure가 재귀 정의를 효율적인 알고리즘으로 바꾸는 과정.
-
Self-Attention과 Transformer - 순차 연결을 끊고 직접 참조하다
RNN이 이전 상태 통해 문맥을 누적 전달했다면, Transformer는 필요한 토큰을 직접 찾아본다. Self-Attention이 어떻게 순차 구조를 없애고, Attention Seq2Seq와 어떻게 연결되는지 살펴본다.
-
Decoder의 남은 문제 - 출력 문맥도 여전히 누적된다
Attention은 Encoder의 정보 병목을 해결했다. 하지만 Decoder 자체는 여전히 이전 상태에 의존하는 순차 구조다. 이 문제가 왜 Transformer 등장의 마지막 동기가 되는지 살펴본다.