목록개발 (5)
영만이네
도커 베이스 이미지가 필요해서 찾던 중에 이미지 태그에 여러 종류가 있어서 찾아본 것들을 정리해 본다.Debian의 태그명은 "토이 스토리" 시리즈의 캐릭터 이름에서 따오는게 전통이라고 한다. 각 태그별 차이는 다음과 같다.1. BullseyeDebian 11 버전, 주인공 우디의 말에서 따온 태그명기본적인 필수 패키지가 설치 되어있고 표준적인 Docker 이미지를 사용할 때 사용2. BookwormDebian 12 버전, 토이스토리에 이런 캐릭터가 있었나 싶지만 bookworm이라는 캐릭터 이름최신의 패키지, 보안 패치 포함. 최신 소프트웨어가 필요할 때 사용3. Slim이름 그대로 슬림한 버전. (bullseye-slim, bookworm-slim 처럼 붙어서 사용됨)기본 패키지 외의 불필요한 것들..
TensorRT 모델을 Triton Interface Server를 k8s Kserve를 이용하여 배포할 일이 생겼다. 테스트를 위해서 BERT 기반 간단한 감성분석 모델을 만들었고 torch-tensorrt plan 파일 생성까지 마친 후... yaml 파일을 통해 실행시켰으나 다음과 같은 오류를 만났다. Error Code 1: Serialization & Error Code 4: Internal Error ============================= == Triton Inference Server == ============================= NVIDIA Release 22.09 (build 44909143) Triton Server Version 2.26.0 Copyright..
- git에는 용량 제한이 있음 - git-lfs를 이용하여 큰 용량의 데이터도 업로드 가능 - git-lfs를 권한 없이 설치 git-lfs 설치 1. git-lfs binary 파일 설치 (https://github.com/git-lfs/git-lfs/releases) $ wget https://github.com/git-lfs/git-lfs/releases/download/v3.2.0/git-lfs-linux-386-v3.2.0.tar.gz 2. 압축 풀기 $ tar -zxvf git-lfs-linux-386-v3.2.0.tar.gz 3. install.sh의 prefix를 쓰기 권한이 있는 디렉토리로 지정 - $PATH 확인 $ echo $PATH $ /bin:/usr/bin:.../home/my..
일을 하다 보면 테이블을 이용해서 보고하는 경우가 많다. 데이터 통계를 낼 수도 있고, 성능을 정리해서 올릴 때도 있고. 주로 사내 깃헙(oss)에 올려서 공유를 하는데, 깔끔하게 정리하지 않아서 테이블이 꼬이면 마크다운이라 어디가 틀린지 찾기 어렵다... 그래서 주로 tabulate를 사용하고 있는데 항상 헷갈려서 간단히 예제로 정리해 본다. 설치는 간단히 pip로 설치한다. 설치 $ pip install tabulate 예제 from tabulate import tabulate headers=['model', 'EM', 'F1 score'] output = [ ['BERT', 84.04, 92.43], ['ROBERT', 87.62, 94.61] ] perf_table = tabulate(output..