본문 바로가기

포스트 HBM은 이것이 될 것입니다.

2024.06.30. 오후 11:15

안녕하세요.

HBM은 AI 시대의 뜨거운 감자입니다.

엔비디아든, AMD든 또는 그 어느 스타트업이 되었든

준수한 성능의 프로세서를 만들었다고 하더라도 이 프로세서에 데이터를 공급해줄 메모리가 성능이 좋지 않다면 그 프로세서는 제 성능을 발휘하지 못할 것입니다.

메모리와 프로세서 사이의 성능 차이로 인해 프로세서가 제 성능을 발휘하지 못하거나

발열 등의 성능 저하 이슈가 생기는 현상을 우리는 데이터 병목현상이라고 부릅니다.

이러한 데이터 병목을 최소화 하고 AI 시대에 천문학적으로 늘어난 연산량을 감당하기 위해

고성능의 메모리, 그리고 메모리의 데이터를 효과적으로 프로세서로 전달할 고성능의 데이터 버스, 고성능의 메모리에서 받은 수많은 데이터를 효과적으로 처리할 수 있는 병렬 연산에 특화된 프로세서가 유기적으로 작동해야 합니다.