Technical Leader
Current㈜ SK하이닉스/메모리시스템연구/Next Solution SW/Technical Leader (2019.01~ 현재)담당업무: Generative AI RAG 아키텍처 최적화 선행연구개발１. 오픈소스 LLM 기반 RAG 아키텍처 설계/구축/최적화 연구개발가) AWS Cloud 상에서 고객 서비스 레벨의 RAG 아키텍처 설계/구축 최적화나) On-Premise 상에서 오픈소스 LLM(Meta Llama-2/3), Vector DB(FAISS, Milvus, OpenSearch), Orchestration(LangChain, LlamaIndex) 활용한 RAG 파이프라인 설계다) Naïve RAG에 LLM inference 성능 최적화 위한 Advanced RAG 기술(Pre/Post-Retrieval) 적용 연구라) Vector DB에서의 ANN(Approximate Nearest Neighbor) 알고리즘 가속 위한 CXL Computational Memory Solution 적용 연구２. Generative AI RAG 동향 서베이 및 기술 기획가) Naïve RAG, Advanced RAG, Agent RAG 등으로 진화화는 RAG 최신 동향 서베이나) Uni-Modal(LLM), Multi-Modal LLM(LMM)에 따른 RAG 동향 파악다) RAG 아키텍처에서의 개선점 분석 및 도출하고, 그에 따른 메모리 솔루션 적용 아이디어 탐색담당업무: Data Center/Cloud향 실시간 Big Data Analytics Platform 수직 최적화 선행 R&D1. 실시간 Big Data Analytics SW Platform 모델링 및 수직 최적화 연구1) Spark SQL, SK Telecom In-Memory DB(Lightening DB), Hadoop 등을 활용한 실시간 Big Data Analytics 분산 시스템인 SKT Edge Data Center 모델링 수행2) 실시간 Big Data Analytics Platform 기반 SK Telecom real-workload 및 Public 벤치마크 활용한 응용 성능 평가 및 분석 수행3) 실시간 Big Data Analytics Platform 기반 차세대 메모리 솔루션(SK hynix CXL-CMM) 적용 PoC 수행 및 주요 Global summit 데모 시연 참여4) 성능 평가 결과 및 시스템 리소스 프로파일링 통해 시스템 병목 분석하고, SW Platform 수직 최적화 위한 Insight 도출5) 실시간 Big Data Analytics 환경의 실 환경 모사 위해, 큐잉 이론 적용한 SQL Query generator 구현6) Hardware 가속기 적용을 위한 kNN과 같은 Machine Learning 알고리즘 분석하고, kNN 주요 연산 기능에 대한 SIMD 기술 적용 가능성 검토2. 차세대 기술 기획 및 Path-finding1) In-Memory Data Grid 기술 같이 대용량 메모리를 요구하는 차세대 SW Platform 구조 선행 검토2) 주요 Global IMDG Platform 업체와 SK Hynix CXL-CMM-DDRx 및 CXL-CMS 적용 PoC 위한 R&D 방향 설정3) 주요 Global Tech summit 참여 및 학계 논의 통한 Datacenter/Cloud향 Big Data Analytics 최신 기술 동향 탐색4) 차세대 메모리/스토리지, 차세대 상품 관점의 미래 필요 기술 탐색 및 advanced 기술 생태계와의 기술 논의 참여를 통해 기술적/사업적 가능성 탐색3. 가상화 Platform 선행 연구1) Container와 SSD 연계점 도출 관점에서 Container 환경의 주요 응용을 서치하고, Docker Container 기반 mongoDB, nginx 환경 구축, 응용 성능 평가, 병목 분석, SSD 시사점 도출 진행함2) Container 오케스트레이션 SW인 Kubernetes 기반 Spark 분산 환경 구축
