Computation suite

* 11장부터는 노마드 코더 개발자 북클럽 챌린지가 아닌   개인적으로 읽고 작성한 후기입니다.

<ML 모델 서빙 파이프라인>은 다음 3개의 파트로 나뉜다. 1. 데이터 파이프라인 : 실시간 or 배치로 데이터를 수집 2. 모델 파이프라인 : 모델을 학습시킴 3. 서빙 파이프라인 : 학습된 모델을 서비스로 서빙. 서빙 파이프라인에서는 또 3.1 전처리 3.2 추론  3.3 후처리 을 거쳐 사용자에게 결과를 전달한다. 서빙 파이프라인을 위한 "모델 서빙 프레임워크"에 대해서 정리했다. 모델 서빙 프레임워크 선정 기준 https://tech.kakaopay.com/post/model-serving-framework/#user-content-fnref-1 Warm-up 전, 후 Latency 개선 여부 모델 저장소에 따른 업데이트 방식 Concurrent model execution               여러 개의 모델을 같이 인퍼런스               하나의 모델을 여러 인스턴스로 실행시켜 병렬적으로 인퍼런스 Dynamic Batch 성능 ( Triton )                    Triton 서버에서 동적으로 배치 크기를 만들어 인퍼런스 수행   안정성 : 장시간 인퍼런스 가동시 메모리 누수등의 이슈 * 링크의 포스팅에 따르면 모델 서빙 프레임워크 비교를 위해 모델을 Tensorflow 모델로 고정해서 테스트했다. 다른 모델을 사용한다면 결과가 달라질 수도 있다. * 모델 개발을 하는 머신러닝 리서치는 파이썬으로 모델 서빙 백엔드 개발자는 Kotlin+Spring boot로 서버를 개발했다. * 모델별 최적의 포맷이 다른 상황은 여러 개의 모델을 서빙하는 인공지능 서비스에서 개발 생산성 저하와 운영의 부담을 가중시킨다. 모델 서빙 프레임워크 FastAPI Python F...

짧은 기간 동안 Java로 쓰여진 클린 코드 책을 읽으며 코드를 짤 때 더 정성을 들여 쓰는 습관을 들였다. 당장 작동하는 코드보다는 유지 보수가 편한, 수정보다는 확장을 할 수 있는, 잘 읽히는, 정직하고, 하나의 일에 몰두하는 그런 코드를 짜려고 했다. 퇴근을 하고 책상 앞에 앉으면 오늘 작성했던 class가 아른거리고 과연 이게 최선이었을까 생각하게 되었다. ========================================================== 책을 읽으면서 대부분 공감하고 고개를 끄덕일 수 있었지만 좋은 코드를 쓰는 법을 아는 것과 좋은 코드를 쓰는 것에는 큰 차이가 있다. 좋은 코드를 쓰는 법을 알기만 해서는 그저 말로만 잘난 체 할 수 밖에 없을 것이다. 좋은 코드를 쓰는 사람은 코드 리뷰를 하며 시스템 변경에 유연한 구조인지 고민한다. 확실히 후자가 더 고된 작업이지만 견고한 프로덕트를 만드는, 실체가 있는 실력이 는다고 생각한다. ========================================================== Java기 반의 코드를 이해하기는 쉽지 않았지만 확실히, Java가 객체 지향적인 장치가 많다고 느꼈다. Python 웹 개발자라면 당장 객체지향 원칙이나 디자인 패턴을 익히기 보다는 웹 애플리케이션 프레임워크를 익히기를 추천한다. 그 중에서도, FastAPI를 추천하는데 Layer와 Depends를 사용한 설계 장치를 사용하며 실전 감각을 기르면서 객체지향적인 사고를 할 수 있다. 혼자 상향식으로 배우기 버겁다면 Framework의 규칙을 따르며 배워나가는 것이 효율적이라고 생각한다. 그리고 이렇게 해야 실전 감각을 느낄 수 있다. ========================================================== 클린 코드 북클럽 챌린지 덕분에 오늘도 나는 하나의 괴이한 모듈을 처리했다. util 패키지의 fileutil이라는 모듈인데 온갖 잡다한 파일 처리를 다 도맡아 하...

Python 리팩토링 원칙1과 예시 원칙 1. Dependency Inversion Principle 클래스는 상세한 구현이 아닌 추상화에 의존해야 한다. [before] class Pedal:     def __init__(self, _type:str):          self.pedal_type = _type     def get_pressure(self)->int:            if self.pedal_type == 'accelerator':               sensor = AcceleratorSensor()               pressure = sensor.copy_pressure_buffer()                # do something           elif self.pedal_type == 'brake':             sensor = BrakeSensor()             pressure = sensor.copy_pressure_buffer()             # do something          elif self.pedal_type == 'clu...

UI 개발을 위한 Progressive Framework, vue.js "Progressive" of vue.js Web, 네이티브 앱(ios, android)의 이점을 모두 수용하여 표준적인 패턴으로 개발함. 제공하는 웹 사이트의 특징에 따라 개발 방식도 달라져야하기 때문. 데이터 지향 화면을 렌더링하는 구조 자체는 dom이 아니라 javascript다. 데이터가 먼저 존재하고 데이터를 기반으로 적절한 dom을 구축한다. Two way 데이터 바인딩 데이터와 렌더링을 동기화하는 구조를 가진다. UI 패턴이 많아지면 dom을 변경하는 코드가 많아진다. vue에서는 dom 변경 작업을 vue 프레임워크에 맡긴다. html dom과 데이터가 서로 양방향으로 연결되어 있어서 어느 한쪽에 변경이 일어나면, 다른 쪽에 자동으로 반영된다. 이를 통해 휴먼 에러와 코딩양 자체를 줄일 수 있다. v-directive 속성 가상 dom을 만들기 위한 템플릿 기법. Dom에 반영하기 전에 vue.js 프레임워크에 의해 컴파일 되고 내부적으로만 사용한다. ex) v-if, v-bind, key 데이터 바인딩과 관련된 처리를 실시한다. html속성과 다르게 v-디렉티브는 애플리케이션에 등록되어 있는 데이터 전용 객체의 속성을 나타낸다. Mount 배치할 요소와 애플리케이션을 연결하는 것. 컴포넌트 기능별로 html/js/css 세트로 구성할 수 있다. 컴포넌트를 조합하면 페이지를 구조화하여 만들 수 있다. vue.js를 통해 부품을 만들고 vuex를 통해 부품들로 구성된 페이지를 만들고 vue router를 통해 여러 개의 페이지를 관리한다. 가상dom 작은 변화가 발생 해도 DOM 트리 구조 모두 갱신하기보다, 추상화된 dom문서로부터 가상의 DOM에서 메모리에서 처리 후 실제 DOM과 동기화.(실제 DOM갱신) 1. 데이터 변경과 실제 dom변경 처리는 비동기적으로 이뤄진다.     dom조작을 최소한으로 유지하므로 렌더링 성능이 높다. 2. 그러나 dom 재...

         오늘 TIL 3줄 요약 구체적인 클래스는 상세한 구현을 포함한다. 추상 클래스는 개념만 포함한다. 새 기능을 수정하거나 기존 기능을 변경할 때, 건드릴 코드가 최소인 시스템 구조가 바람직하다. 이상적인 시스템이라면  새 기능을 추가할 때,  시스템을 확장할 뿐 기존 코드를 변경하지 않는다. TIL (Today I Learned) 날짜 2025. 06.08 오늘 읽은 범위 10장 클래스 기억하고 싶은 내용을 써보세요. 리팩터링한 프로그램은 좀 더 길고 서술적인 변수 이름을 사용한다. 리팩터링한 프로그램은 코드에 주석을 추가하는 수단으로 함수 선언과 클래스 선언을 활용한다. 가독성을 높이고자 공백을 추가하고 형식을 맞춘다. 클래스에 손대는 순간 설계를 개선하려는 고민과 시도가 필요하다. 모든 파생 클래스가 공통적으로 사용하는 비공개 메서드는 유틸리티 클래스에 넣었다. DIP는 클래스가 상세한 구현이 아니라 추상화에 의존해야 한다는 원칙이다. 오늘 읽은 소감은? 떠오르는 생각을 가볍게 적어보세요 변경으로부터의 격리 Part에서, 시시각각 값이 변하는 외부 API 테스트를 위한 방법을 설명한다. 고정된 주가를 반환하는 테스트 코드를 통해 시스템 결합도를 낮추는 것에 핵심이 있다. Java를 배우지 않았지만 그냥 눈으로 읽으며 이해하는 것과 , 따라 치면서 이해하는 것엔 큰 차이가 있다. 그래서 Java코드를 따라 치면서 코드를 이해했다. Portfolio 클래스에서 TokyoStockExchange API를 직접 호출하는 대신 Stock Exchange라는 인터페이스를 생성한 후 메서드를 하나 선언한다. public interface StockExchange { Money currentPrice(String symbol); }  다음으로 StockExchange 인터페이스를 구현하는 TokyoStockExchange 클래스를 구현한다. 또한 Portfolio 생성자를 수정해 Stoc...

        오늘 TIL 3줄 요약 프로그램에 필요한 인터페이스만 클래스에서 제공하여 코드를 이해하기 쉽지만 오용하기 어렵게 한라. 실제 코드와 맞먹을 정도로 방대한 테스트 코드는 심각한 관리 문제를 유발하기도 한다. 테스트 함수 하나는, 개념 하나만 테스트하고 개념당 assert 문 수를 최소로 줄여라. 깨끗한 테스트의 다섯 가지 규칙, FIRST Fast : 테스트는 빨리 돌아야 한다. 빨리 돌아서 자주 실행해야 한다. Independent : 각 테스트가 서로 의존하면 안 된다. Repeatable : 테스트는 어떤 환경에서도 반복 가능해야 한다.                       테스트가 돌아가지 않는 환경이 하나라도 있다면                       (QA, Production, Test, local development 등)                       실패의 변명이 생긴다. Self-validating : 부울 값으로 결과를 내야 한다.                            성공 아니면 실패다.                            텍스트 or 로그 파일에 따로 만들어서 결과를 비교하지 않는다. Timely : 테스트는 적시에 작성해야 한다.              ...