Innovation
혁신센터
Center
AI 모델 프레임워크
모델 수준의 연산을 하드웨어 수준에서 효율적으로 수행할 수 있도록 하는 AI 모델 경량화·최적화·자동화 프레임워크를 연구합니다.
주요 연구 내용
Compression, Optimation, Automation을 통한 다양한 AI 모델 프레임워크 연구
관련 기술
Compression
- LLM의 빠른 추론 속도와 메모리 사용량 감소를 위한 효율적인 KV Cache 압축 기술
- 불필요한 node, weight, channel을 없애 모델의 크기와 연산량를 줄이는 pruning 기법 연구
- 저정밀도 값 표현로 인한 메모리 효율성 및 연산 속도 향상
Optimization
- 하드웨어 시뮬레이터를 활용하여 각 설계 후보의 성능을 정밀하게 측정, 검증 후 Design Space를 탐색 및 평가
- 하드웨어 아키텍처를 반영한 AI 모델의 연산 순서 및 데이터 이동 최적화
- AI 모델을 사용한 휴리스틱, 강화학습을 넘어서는 차세대 EDA 최적화 기법 연구
Automation
- GNN을 통해 회로 타이밍을 미분 가능한 형태로 예측하여 최적화 과정을 자동화
- 레이블이 없는 회로의 구조적 정보(RTL, Netlist)로부터 그래프 트랜스포머를 이용해 회로의 특징 표현을 스스로 학습하여 설계 자동화 문제에 적용
- 강화학습 에이전트가 보상(면적, 지연시간 등)을 최대화하는 방향으로 최적의 레이아웃 파라미터를 자동으로 탐색하여 특정 목표에 맞는 IP/Macro 설계를 자동화