티스토리

across the universe

검색하기

블로그 홈

across the universe

coniverse.tistory.com/m

버터젤리 님의 블로그입니다.

구독자: 0

방명록 방문하기

주요 글 목록

[@ 데코레이터] 원래 함수를 수정하지 않고 추가적인 기능을 구현하는 방법 🎀 데코레이터란?데코레이터(Decorator) = 다른 함수에 기능을 추가하는 함수원래 함수를 바꾸지 않고실행 전후에 기능을 덧붙이기 위해 씀!바로 예시로 알아보자 def decorator_function(original_function): def wrapper_function(): print("함수 실행 전 🎬") original_function() print("함수 실행 후 🎉") return wrapper_function@decorator_functiondef say_hello(): print("안녕~ 👋")say_hello() 함수 실행 전 🎬 안녕~ 👋 함수 실행 후 🎉 Sum.@decorator_function데코레이터 함수.. 공감수 0 댓글수 0 2025. 4. 20.
[객체지향] 역할과 책임이 헷갈리네요 01.객체 지향에서 주요한 요소 - 역할, 책임, 협업 이해하기객체지향 관련 유명한 도서 중 하나인 [객체지향의 사실과 오해]라는 책에서, 객체지향은 역할, 책임, 협업 이렇게 3가지 요소에 의해 만들어졌다고한다. 여기서 항상 헷갈렸던게 역할과 책임이다. 역할과 책임의 차이에 대해 짚어보자 역할이 책임아냐? 이건 역할이야 책임에 해당하는거야?뭐야?이런 생각을 한적이 많다. 내가 이해한 역할과 책임의 차이는 다음과 같다.02.역할과 책임의 차이는?역할(Role)주어가 되는 것, 객체, 행위의 주체를 의미.행위들의 논리적 단위를 관념적으로 칭하는 것이 역할이다. 책임(Responsibility)동사로 표현되는 행위. DB로 치면 저장된 데이터를 읽는 것, 새로운 데이터로 업데이트 하는것, 입력받은 데이터.. 공감수 1 댓글수 2 2025. 4. 15.
[git] git stash - 커밋하기엔 아직 좀 더 수정이 필요할 때, 임시 저장만해두기 git stash는 작업 도중에 잠깐 저장하고, 다른 작업 하러 갈 때 쓰는 임시 보관함 git stash → 현재 변경사항을 stash(임시저장)하고 워킹 디렉토리 깔끔하게 만들어줘git stash list → stash로 저장한 내용이 있는지 확인git stash pop → 최근 stash 적용하고 그 stash는 삭제해보통 위의 두개만 사용한다.git stash show → 가장 최근 stash 안에 뭐가 들어있는지 요약 보여줘git stash show -p → 변경 내용 자세히 보여줌git stash pop → 숨긴 거 꺼내오기git stash drop stash@{0} → 특정 stash 삭제$ git stash liststash@{0}: WIP on main: 123abc4 커밋 메시지.. 공감수 0 댓글수 0 2025. 4. 14.
[VESSL AI 웨비나] 프로덕션 AI Agent 구축을 위한 3가지 핵심 요소 프로덕션 AI Agent 구축을 위한 3가지 핵심 요소 BackgroundLLM의 Reaserch기능- 단순 검색이 아닌 후속 질문을 통한 답변 다듬기 알고리즘 활용 AI Agent를 만들며 겪었던 문제들 - Summary사내 내부 다양한 데이터를 API로 연결하는 문제 (1) 데이터 연동사내 다양한 형태의 데이터 연동 방안산업 도메인 중 온프레미스로 LLM을 사용해야하는 경우 존재GPU메모리에 의한 제한으로 모델 성능과의 최적화가 필요여러가지 파이프라인 (2) 평가시스템 몇번째 프롬프트가 성능이 가장 좋았을까? → 각 프롬프트 마다 점수화 history 저장 필요중간 결과물에 대한 평가 및 점검이 필요 - 답변생성시 어떤 단계로 진행되었는지 봐야함결과가 잘나온거같은데 평가가 낮게나오는 경우.. 공감수 0 댓글수 0 2025. 4. 9.
#01 빅데이터를 지탱하는 기술 https://product.kyobobook.co.kr/detail/S000001916916목차1장 → 빅데이터 개념2장 → 데이터 형태, 집계 시각화(데이터분석)3장 → 대규모 데이터를 빠르게 처리하는 분산 시스템 학습 4장 → 데이터 수집 기술5장 → 데이터 파이프라인 구축 6장 → 전체 데이터 관련 아키텍처 환경 구축이 책을 읽게된 이유 데브코스에서 멘토님께서 추천해주신 책이기도 했지만, 당시에는 필요성을 못느꼈다.그러다가 새롭게 수강하게된 교육 과정에서, 팀 프로젝트 과제에 데이터 파이프라인을 넣고 싶었다.짧은 프로젝트 기간에 내가 해보고 싶은 걸 제안하고 팀원들에게 동의를 얻으려면 사전에 준비 해둘 필요가 있다. 헌데, 막상 아키텍처를 그려보려고하니 어떻게 구축해야 할지 감이 잡히질 않았다. .. 공감수 0 댓글수 0 2025. 2. 26.
[스마일샤크]AWS 생성형 AI로 실현하는 비즈니스 살펴보기 [스마일샤크]AWS 생성형 AI로 실현하는 비즈니스 살펴보기 2024.03.25 pm 02:00 ~ pm 04:00 01. 오프닝_AWS_개발팀장, MIKE HUR 02. 생성형 AI의 기회와 접근 전략, AWS PDS 백선환 (1) Reset moment - C레벨 인식의 변화 - 라이너/ 뤼튼/ 업스테이지/ 스켈터랩스/클라썸/마이리얼트립/김태디/굿닥/오거나이즈/체인파트너스 - act1(모델_ ,act2(앱)로 전환 , 고객가치만드는 회사가 성장 - 인터넷, 스마트폰, AI로의 큰 기업 흐름이 새로 만들어질것 (2) Key Use Cases - 1.생산성강화, 2운영개선, 3창의성, 4고객경험강화(상담) [1] 생산성강화 - 개인/국가/문화별로 타겟화된 콘텐츠 제공 [2] 운영개선 - Fox Media.. 공감수 8 댓글수 2 2024. 3. 25.
[RAG] 논문요약 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks https://jeonsworld.github.io/NLP/rag/ [논문리뷰] Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Patrick Lewis, Ethan Perez, Aleksandara Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela htt jeonsworld.github.io https://yout.. 공감수 0 댓글수 1 2024. 2. 16.
[세미나] AI in Finance 2024 by VESSL AI Private Networking by VESSL AI — AI in Finance 2024 (16:30~17:00) Landscape of Generative AI in financial industry (금융산업에서의 생성형AI 활용 동향 ) 고희숙, 이사, 투이컨설팅 초거대AI의 단점 높은 운영비용 오랜훈련시간 고전력 소모 AI TRiSM 적용 중요성 대두 -> 신뢰성, 보안 검증을 위한 툴 AI모델 거버넌스, 신뢰성, 공정성, 견고성, 효능 및 데이터 보호 프레임워크 AI적용 활용 분야 개인화된 경험 효율적인 자동화 사실기반의 예측력 엔비디아 - 2024 금융 서비스 AI 현황 보고서 - (사진) 금융기술 트렌드 - BaaS 금융 기술 트렌드 - GeFi 보이스피싱방지 AI콜센터 발전방향 - .. 공감수 0 댓글수 0 2024. 1. 26.
Vision 컴퓨터비전, GPU [운영체제] Hardware Abstraction Layer (HAL) 레이트레이싱 코덱 케퍼 mkv [모델 경량화 기법] Knowledge Distillation 공감수 1 댓글수 0 2024. 1. 26.
알짜 기업이 쓰는 진짜 AI - 24년 금융권 AI 도입 전략 세션 및 개요 19:00 ~ 19:10 (10분) 오프닝 금융권의 AI 비즈니스 임팩트 관련, 사전 등록시 받은 질문과 고민을 공유합니다. 고민하셨던 내용에 대한 충분한 답을 얻어가실 수 있도록 마지막에 질의응답 시간도 가집니다. 금융권의 수요 데이터 분석용 R코드 작성 엑셀 자동화VBA용 코드 작성 - 코파일럿 언어모델 기반 어시스턴트 보고서 작성 내부 자료 고급 검색 자동뉴스/ 문서 요약 및 분석 금융권의 난제 보안 최우선적 기관 외부 네트워크 연결 및 인터넷 접속이 불가능 LLM모델의 발전속도, 버전 업데이트에 따른 대응이 까다로움 보안관제의 필요성(바이러스 감염) 반입/ 반출 파일들의 보안검토 및 적용 필요함 -> 바이러스 위험 관리 내부 보안시스템의 높은 장벽 ( 자동으로 IP제어하는 시스템적용.. 공감수 0 댓글수 1 2024. 1. 22.
Llama2 모델 파인튜닝 fine tuning_autotrain https://youngchannel.co.kr/aistudy/autotrain-advanced%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%9C-Llama2-%EB%AA%A8%EB%8D%B8-%ED%95%99%EC%8A%B5 autotrain-advanced을 활용한 Llama2 모델 학습 | YOUNGCHANNEL youngchannel.co.kr 공감수 0 댓글수 0 2023. 12. 21.
Adieu 2023 with MLOps Community Agenda 19:00 ~ 19:10 Opening (마키나락스 임용섭 CDS) 19:10 ~ 19:40 Talk 1 - Navigating the Shift: From MLOps to LLMOps (Akira Shibata, Weights & Biases 일본/한국 지사장) > In this talk, I'll take you on our journey from MLOps to LLMOps, exploring the profound implications of LLMs and other large foundation models on our development/operation workflow. Beyond technical considerations, we'll delve into the organ.. 공감수 1 댓글수 0 2023. 12. 14.
파이썬 시간측정 방법, 코드 , 주피터노트북 %%time https://bio-info.tistory.com/143 [Python] Python 코드 실행시간 측정 4가지 방법 (feat. Jupyter Notebook) Contents 1. 배경 파이썬으로 코드를 짜다보면, 코드가 엄청 오래 걸린다고 느낄 때가 있습니다. 그럴 때 함수 별로, 혹은 코드별로 걸리는 시간을 측정해 병목현상을 해결할 수 있습니다. python 라 bio-info.tistory.com 공감수 0 댓글수 0 2023. 12. 11.
[파일] 파일용량 확인, 파일 삭제 du -sh ./* |sort -rh du -sh ./* 명령어에서 s와 h는 다음과 같은 옵션을 나타냅니다: -s 옵션: "summarize" 또는 "합계"를 의미합니다. 이 옵션은 각 파일 및 디렉토리의 용량을 개별적으로 표시하는 대신, 모든 항목의 총 용량을 요약하여 표시합니다. 따라서 디렉토리 내용을 합산한 총 용량만을 보여줍니다. -h 옵션: "human-readable" 또는 "사람이 읽기 쉬운 형식"을 의미합니다. 이 옵션을 사용하면 파일 및 디렉토리의 용량을 바이트 단위 대신에 KB(킬로바이트), MB(메가바이트) 또는 GB(기가바이트) 등과 같은 사람이 이해하기 쉬운 형식으로 표시합니다. 따라서 du -sh ./* 명령어는 현재 디렉토리(.) 아래에 있는 모든 파일 및 디렉토리의 용량을 .. 공감수 0 댓글수 1 2023. 12. 8.
DeepSpeed 논문, ZeRO: Memory Optimization Towards Training A Trillion Parameter Models 리뷰 ZeRO: Memory Optimization Towards Training A Trillion Parameter Models 리뷰 https://arxiv.org/abs/1910.02054 Abstract 현재 큰 모델을 학습시키는 방법은 매우 제한되어 있다. 메모리가 낭비되거나 연산이 늦어지는 등의 문제점이 존재한다. Data Parallelism은 메모리가 매우 redundant하다. Model Prallelism은 communication 비용이 매우 높아 연산 효율이 안좋다. We develop a novel solution, Zero Redundancy Optimizer (ZeRO), to optimize memory, achieving both memory efficiency and scal.. 공감수 0 댓글수 1 2023. 11. 29.
[passwd] 리눅스, 우분투 계정 비밀번호 변경하기 passwd [계정명] 암호입력 새암호 입력 계정 권한에 따라 sudo passwd [계정명] 으로 실행 공감수 0 댓글수 0 2023. 11. 27.
MLOps Now — MLOps & LLMOps 2023 주요 트렌드 MLOps Now — MLOps & LLMOps 일시 — 2023년 11월 24일 오후 2시 장소 — 모두의연구소 강남캠퍼스 발표 내용 및 연사 — MLOps & LLMOps 2023 트렌드 - 안재만, Co-founder & CEO, VESSL AI 프로덕션 LLM을 위한 MLOps & AI 인프라 - 류인태, Product Manager, VESSL AI 고군분투 LLM 프로덕트 적용기 — Blind Prompting 부터 Agent까지 - Technical Lead & ML Engineer, LINER LLM 기반 추천 시스템 개발기 - 이태호, Technical Lead, Corca MLOps & LLMOps 2023 트렌드 - 안재만, Co-founder & CEO, VESSL AI 1) LL.. 공감수 1 댓글수 1 2023. 11. 24.
nohup으로 jupyter notebook 터미널 창 닫혀도 접속하기( 세션 끊김,백그라운드 실행) STEP 01. nohup설치하기 nohup은 Linux 기본으로 제공되므로, 별도로 설치할 필요가 없습니다. 설치확인 명령어 : nohup --version STEP 02 nohup으로 Jupyter notebook 켜놓기 실행하는 명령어는 간단하다 nohup [주피터 실행 명령어] Tip: 회사 컴퓨터로 실행하고 집에서 접속해서 사용하고 싶다. → 외부로 접속할 수 있도록 IP와 외부 포트를 설정해야함.(여기선 생략, 가능하다는 것만 알아두자) 아는사람은 아래와 같이 실행하면 된다. nohup jupyter notebook --ip=0.0.0.0 --port=[외부포트] --no-browser --NotebookApp.token=[토큰값] ip=0.0.0.0 : 외부 IP 넣는거 아님. 누구라도 0... 공감수 1 댓글수 2 2023. 11. 21.
Alpaca는 LLama모델로 만들어졌다는거 알아요? https://moon-walker.medium.com/%EB%A6%AC%EB%B7%B0-meta-llama%EC%9D%98-%EC%B9%9C%EC%B2%99-stanford-univ%EC%9D%98-alpaca-ec82d432dc25 [리뷰] Meta LLaMA의 친척 — Stanford Univ의 Alpaca Llama와 Alpaca를 구별할 수 있는가? Llama와 Alpaca는 모두 남아메리카의 낙타과 동물로 Llama는 주로 화물 운반용으로, Alpaca는 털을 얻기 위한 목적으로 길들어진 동물이다. Llama는 Alpaca에 비해 체격이 moon-walker.medium.com 공감수 0 댓글수 1 2023. 10. 18.
[세미나] 모두의 연구소 「MLOps Now — LLM in Production by VESSL AI, Weights & Biases, and more」 「MLOps Now — LLM in Production by VESSL AI, Weights & Biases, and more」 일시 : 2023.09.15. 13:00 ~ 16:00 장소 : 모두의연구소 Session 01. Infrastructure for LLMs — Llama 2 학습부터 파인튜닝, 배포까지 안재만, Co-founder & CEO, VESSL AI 1) VESSL AI 실리콘밸리 본사 국내 대기업, AI스타트업, 카이스트등 플랫폼 사용중 2) Does one large llm ~? - 하나의 모델로 통합되는것이 아닌 개별의 모델이 더 성능이 좋을 것이다. 3) Why run your own models? -privacy, cost, control - (1) 보안에 대한 우려 -.. 공감수 0 댓글수 0 2023. 9. 15.
BERT Tokenizer BPE - Byte-pair Encoding - 전체 문서를 문자단위로 쪼갠 뒤 빈번하게 나오는 문자를 묶어 단어사전 수를 줄임. '모', '델' 로 나누고 '모델'이 빈번하게 발생하면 '모델'로 붙여서 처리 형태소는 이미 만들어놓은 형태소가 없으면 tokenizer 할 수 없다는 게 단점. https://heekangpark.github.io/nlp/huggingface-bert Huggingface BERT 톺아보기 Reinventing the Wheel heekangpark.github.io 공감수 0 댓글수 0 2023. 8. 3.
파이토치 프로파일링 Pytorch profiler API https://jh-bk.tistory.com/20 [PyTorch] 파이토치 프로파일링 (PyTorch profiler API) Introduction 지지난 글에서는, 파이썬 코드를 실행할 때 코드의 시간 성능을 프로파일러 (profiler) 를 이용해 측정하는 방법을 알아봤었다. 여기 (지지난 글이었지만 글을 수정 하면서 발행일을 업데 jh-bk.tistory.com 공감수 0 댓글수 0 2023. 8. 2.
H100 GPU - PCIe vs SXM_[Performance Profile of Transformer Fine-Tuning in Multi-GPU Cloud Environments] 이번엔 논문 리뷰입니다. 논문제목은 아래와 같습니다. 「Performance Profile of Transformer Fine-Tuning in Multi-GPU Cloud Environments 」 이 논문은 NVIDIA V100 GPU를 최적조건으로 사용하는 방법을 연구한 결과를 포함하고 있다. 총 2가지 환경에서 비교한다. 1)Single vs multi-GPU 2) NV Link vs PCIe VI. 요약 연구를 통해 얻은 주요 인사이트는 다음과 같다. Single GPU일때, 연산에서 가장 로드가 많은 부분 : Train 데이터 로드, 역전파 연산 GPU수를 늘릴수록 연산 소요시간이 단축됨. Train 데이터 로드에는 시스템 메모리 용량이 가용한대로 2~4개의 데이터로더를 사용하는 것이 좋다. .. 공감수 0 댓글수 0 2023. 8. 1.
GPU H100 - Transformer Engine - 03.성능최적화 Performance Optimizations TE엔진 사용법에 이어서 최적화하는 방법이다. GPT encoder Layer를 기준으로 소개한다. quickstart_utils.py 의 함수를 사용해서 적용해보자. import torch import transformer_engine.pytorch as te from transformer_engine.common.recipe import Format, DelayedScaling import quickstart_utils as utils # Layer configuration hidden_size = 4096 sequence_length = 2048 batch_size = 4 ffn_hidden_size = 16384 num_attention_heads =.. 공감수 0 댓글수 0 2023. 7. 28.
bert 모델 공부하기 https://hyen4110.tistory.com/87 [Pytorch][BERT] 버트 소스코드 이해 [Pytorch][BERT] 버트 소스코드 이해 목차 BERT 👀 📑 BERT Config 📑 BERT Tokenizer 📑 BERT Model 📑 BERT Input 📑 BERT Output 📑 BERT Embedding 📑 BERT Pooler 📑 BERT Enocder 📑 BERT Layer 📑 BERT SelfAttention 📑 BERT SelfO hyen4110.tistory.com 공감수 0 댓글수 0 2023. 7. 28.
GPU H100 - Transformer Engine - 02.적용하는법/ Docs review(Getting Started) Getting Started Overview Transformer Engine (TE)을 사용하는 이유 FP8 지원 → 더 낮은 메모리 사용량 Transformer 아키텍처 지원 정밀도(Precision)를 유지하는 솔루션을 자동으로 적용되도록 구현 기존 DL 프레임워크와의 호환성 독립적인 C++ API도 지원함 Let's build a Transformer Layer! 우리는 일반 PyTorch 모듈을 사용하여 기본 트랜스포머 계층을 구축한다. 이는 추후 트랜스포머 엔진과의 비교를 위한 기준이 될 것입니다. 먼저 일반 PyTorch를 사용하여 GPT 인코더 계층을 생성합니다. 그림 1은 전체적인 구조를 보여준다. 모델 구성 요소별 사용한 Pytorch 라이브러리: LayerNorm : torch.nn... 공감수 0 댓글수 0 2023. 7. 28.
GPU H100 Transformer engine - 01. 작동원리 ※본포스팅은 Nvidia Transformer Engine Docs를 참고했습니다. Transformer Engine으로 FP8 사용하기 H100에서는 FP8(8-bit floating point) 형식을 지원한다 Introduction to FP8 H100에서 두 가지 FP8 형식을 지원한다. 1) E4M3 - +/- 448 2) E5M2 - +/- 57344 Dynamic Range가 넓지만 정확도가 떨어짐. Forward pass - E4M3 방식 사용 , weight 값을 계산 → 정확도 중요 Backward pass - E5M2 방식 사용, Gradient 값 계산 → 넓은 Dynamic Range 필요 Mixed Precision Training FP16 작동방법을 통해서 FP8 작동 방식 이.. 공감수 0 댓글수 0 2023. 7. 27.
[Syntax] 예외처리 , try/except/finally/assert 01. 문법오류 발생시 → 에러종류, 에러메시지 표시 - 구조 : 조건에 맞으면 pass , 안맞으면 에러 메시지 표현 for i in range(5) print('예외처리') for i in range(5) ^ SyntaxError: invalid syntax 02. 예외처리 -에러가 발생할 상황이라도 코드가 멈추지 않고 pass되도록 하고 싶을때 사용 try: 예외가 발생할 가능성이 있는 코드 except [ 처리할 예외명 [ as 에러 메시지 변수 ]]: try 절에서 발생한 예외를 처리할 코드 [ else: ] try 절에서 예외가 발생하지 않았을 경우에만 실행될 코드 [ finally: ] try 절이 실행되고 나면 언제나 마지막에 실행될 코드 - assert 문 - assert [조건], [에.. 공감수 0 댓글수 0 2023. 5. 31.
feature importance와 permutation importance 차이 feature importance : 지니계수 기준으로 불순도를 크게 낮추는 기준으로 feature 선정 permutation importance : 특정 feature를 제외했을때 성능차이가 큰걸 기준으로 선 정 https://hwi-doc.tistory.com/entry/Feature-selection-feature-importance-vs-permutation-importance Feature selection : feature importance vs permutation importance 안녕하세요, 오늘은 Feature selection 에 대해 다뤄보려고 합니다! Feature selection은 말 그대로 모델에 사용될 feature를 선택하는 과정입니다. feature가 그냥 많으면 많.. 공감수 0 댓글수 0 2023. 4. 20.
FPN(Feature Pyramid Networks for Object Detection) 리뷰 .. 공감수 0 댓글수 0 2023. 3. 22.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.