Private Networking by VESSL AI — AI in Finance 2024 (16:30~17:00) Landscape of Generative AI in financial industry (금융산업에서의 생성형AI 활용 동향 ) ​​고희숙, 이사, 투이컨설팅 초거대AI의 단점 높은 운영비용 오랜훈련시간 고전력 소모 AI TRiSM 적용 중요성 대두 -> 신뢰성, 보안 검증을 위한 툴 AI모델 거버넌스, 신뢰성, 공정성, 견고성, 효능 및 데이터 보호 프레임워크 AI적용 활용 분야 개인화된 경험 효율적인 자동화 사실기반의 예측력 엔비디아 - 2024 금융 서비스 AI 현황 보고서 - (사진) 금융기술 트렌드 - BaaS 금융 기술 트렌드 - GeFi 보이스피싱방지 AI콜센터 발전방향 - ..

[운영체제] Hardware Abstraction Layer (HAL) 레이트레이싱 코덱 케퍼 mkv [모델 경량화 기법] Knowledge Distillation

세션 및 개요 19:00 ~ 19:10 (10분) 오프닝 금융권의 AI 비즈니스 임팩트 관련, 사전 등록시 받은 질문과 고민을 공유합니다. 고민하셨던 내용에 대한 충분한 답을 얻어가실 수 있도록 마지막에 질의응답 시간도 가집니다. 금융권의 수요 데이터 분석용 R코드 작성 엑셀 자동화VBA용 코드 작성 - 코파일럿 언어모델 기반 어시스턴트 보고서 작성 내부 자료 고급 검색 자동뉴스/ 문서 요약 및 분석 금융권의 난제 보안 최우선적 기관 외부 네트워크 연결 및 인터넷 접속이 불가능 LLM모델의 발전속도, 버전 업데이트에 따른 대응이 까다로움 보안관제의 필요성(바이러스 감염) 반입/ 반출 파일들의 보안검토 및 적용 필요함 -> 바이러스 위험 관리 내부 보안시스템의 높은 장벽 ( 자동으로 IP제어하는 시스템적용..

https://youngchannel.co.kr/aistudy/autotrain-advanced%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%9C-Llama2-%EB%AA%A8%EB%8D%B8-%ED%95%99%EC%8A%B5 autotrain-advanced을 활용한 Llama2 모델 학습 | YOUNGCHANNEL youngchannel.co.kr

Agenda 19:00 ~ 19:10 Opening (마키나락스 임용섭 CDS) 19:10 ~ 19:40 Talk 1 - Navigating the Shift: From MLOps to LLMOps (Akira Shibata, Weights & Biases 일본/한국 지사장) > In this talk, I'll take you on our journey from MLOps to LLMOps, exploring the profound implications of LLMs and other large foundation models on our development/operation workflow. Beyond technical considerations, we'll delve into the organ..

https://bio-info.tistory.com/143 [Python] Python 코드 실행시간 측정 4가지 방법 (feat. Jupyter Notebook) Contents 1. 배경 파이썬으로 코드를 짜다보면, 코드가 엄청 오래 걸린다고 느낄 때가 있습니다. 그럴 때 함수 별로, 혹은 코드별로 걸리는 시간을 측정해 병목현상을 해결할 수 있습니다. python 라 bio-info.tistory.com

du -sh ./* |sort -rh du -sh ./* 명령어에서 s와 h는 다음과 같은 옵션을 나타냅니다: -s 옵션: "summarize" 또는 "합계"를 의미합니다. 이 옵션은 각 파일 및 디렉토리의 용량을 개별적으로 표시하는 대신, 모든 항목의 총 용량을 요약하여 표시합니다. 따라서 디렉토리 내용을 합산한 총 용량만을 보여줍니다. -h 옵션: "human-readable" 또는 "사람이 읽기 쉬운 형식"을 의미합니다. 이 옵션을 사용하면 파일 및 디렉토리의 용량을 바이트 단위 대신에 KB(킬로바이트), MB(메가바이트) 또는 GB(기가바이트) 등과 같은 사람이 이해하기 쉬운 형식으로 표시합니다. 따라서 du -sh ./* 명령어는 현재 디렉토리(.) 아래에 있는 모든 파일 및 디렉토리의 용량을 ..

ZeRO: Memory Optimization Towards Training A Trillion Parameter Models 리뷰 https://arxiv.org/abs/1910.02054 Abstract 현재 큰 모델을 학습시키는 방법은 매우 제한되어 있다. 메모리가 낭비되거나 연산이 늦어지는 등의 문제점이 존재한다. Data Parallelism은 메모리가 매우 redundant하다. Model Prallelism은 communication 비용이 매우 높아 연산 효율이 안좋다. We develop a novel solution, Zero Redundancy Optimizer (ZeRO), to optimize memory, achieving both memory efficiency and scal..