[세미나] AI in Finance 2024 by VESSL AI

Private Networking by VESSL AI — AI in Finance 2024

• (16:30~17:00) Landscape of Generative AI in financial industry (금융산업에서의 생성형AI 활용 동향 )
  • ​​고희숙, 이사, 투이컨설팅
• 초거대AI의 단점
  • 높은 운영비용
  • 오랜훈련시간
  • 고전력 소모
• AI TRiSM 적용 중요성 대두 -> 신뢰성, 보안 검증을 위한 툴
  • AI모델 거버넌스, 신뢰성, 공정성, 견고성, 효능 및 데이터 보호 프레임워크 
• AI적용 활용 분야
  • 개인화된 경험
  • 효율적인 자동화
  • 사실기반의 예측력
• 엔비디아 - 2024 금융 서비스 AI 현황 보고서 - (사진)
• 금융기술 트렌드 - BaaS
• 금융 기술 트렌드 - GeFi
  • 보이스피싱방지
• AI콜센터 발전방향 - AICC

Q) 실제로 LLM구축한 사례가 있는지?

Q) 외부 고객 용도인지? 내부 직원 용도인지?

 

 

 

• ​​(17:10~17:40) AI Infrastructure for Finance
  • ​​안재만, CEO & Co-founder, VESSL AI

Tmap, 현대차, 스캐터랩

1. 금융권의 도입 사례
   1. 고객의 InVoice 분석 및 요약, 추천시스템 
   2. 서류작성 자동화
   3. 법률 자문
   4. 재무 예측
   5. 트레이딩 알고리즘 
2. 오픈소스 vs Private - 오픈소스가 세계적 흐름 
   1. 보안
   2. 비용
   3. 통제
3. MLOps vs LLMOps (LLM의 특징)
   1. 전이학습
   2. Computing Management
   3. Feedback Loops

 

 

Q) 학습평가에 대한 의문점

Q) 보안에 관한 문제 극복할 방법이 있는지?

     문서

 

• ​​(17:40~18:10) LLM-Powered Financial Media: How AI Can Deliver Real Value To Finance Consumers
  • ​​김기범, CTO & Co-founder, Project Pluto

구글,open ai 의 경쟁으로 api가격은 하락중

 

크롤링으로 사실관계만 모아서 뉴스기사 생성

기사 한개당 비용은? 1달러 미만

 

 

 

• ​​(18:10~18:40) LLM impact in Finance
  • ​​이한울, AI Researcher, NC Soft

emergent abilities of llm - 창발적 능력

- 크기가 커짐에 따라 학습하지 않은 TASK를 해결할 능력이 생기는 것

 

LLM의 능력

 -2023논문 a survey on Evaluation ~

 

Ch2. 개인 투자관점의 LLM Reasoning

1. LLM이 Financial reporting이 가능하다 --> 논문 
2. 경제지식이 일반인 평균 이상
3. LLM을 사용할때의 Risk
   1. 논문있음
   2. non-stationary knowledge - 옛날엔 맞는데 지금은 틀리다
   3. inverse scaling 이라는 논문에서 더 큰 LLM이 오히려 못하는 TASK를 찾아냄
   4. Resisting correction, Memo trap, redefine 등 위주로 못함 --> 통칭 Strong prior
   5. 어떻게 대응해야 하는가? -> 거시적인 관점에서 Stationarity가 높아서 거시적인 reporting에서 non
   6. ncsoft 에서도 연구했음. NC Keynes 케인즈(2023) --> 프로토까지 개발되었음

ch03. 금융의 impact

1. Financial NLP 연구는 주류 NLP 연구에 1~2년 뒤쳐져있음
2. 가장 강력한 흐름은 Multimodality 
3. Numerical data를 멀티모달에 적용할수 있나? 가능함
4. Reasoning 기반의 콘텐츠, 개인화된 서비스, 기업생산성 향상에도 기여할 수 있는 잠재력을 지님

멀티모달리티의 RISK는? 

- 노이즈가 많다

- 거시적 금융데이터에 관한 데이터양이 적다

- 높은 개발비용, 운영비용

 

모델 성능에 관한 평가방법 -> 리더보드보다는 특정 TASK의 수행 완성도를 측정하는 척도로 쓰여야

멀티모달 성능평가 방법은? -> 비밀 

 

• ​​(18:40~19:10) Innovating Finance with LLM: Global Stock Insights and Custom Financial Models
  • ​​정한얼, CEO, Oneline AI

금감원에서 LLM 도입 불가능하다고 못박음

금감원에서는 금융사 내부망에 오픈API를 연동하는 것을 금지함

금융도메인에대한 이해를 가지고 있는 생성형 AI 시스템을 개발할수 있는 인력을 구하기 어려움

 

RAG 시스템 도입이 필요없는 콘텐츠 생성

-> RAG는 내부용이지 빠르게 변화하는 주식 데이터를 다루기에 적합한 방법은 아님

 

OLA 플랫폼

- 문서 업로드 없이 실시간 데이터를 자동으로 연동

 

금융쪽에 기획력이 중요해짐

 

case01 증시모멘텀 분석으로 투자하기 좋은 국가 추천

case02 글로벌 주식 쇼핑 --> 데이터를 베트남, 인도네시아 등 글로벌한 데이터를 input으로 학습 시키기