erebras, 4조 개의 트랜지스터와 90만 개의 AI 코어를 지닌 칩 공개 > 유모어게시판

Cerebras 시스템의 웨이퍼 스케일 엔진 3입니다. 웨이퍼 한 장으로 칩 한 개를 만들기에 웨이퍼 스케일인데요. 이번에 나온 건 세게에서 가장 빠른 AI 칩이라는 수식어가 붙습니다. 

5nm 공정 생산, 4조 개의 트랜지스터, 90만 개의 AI 코어, 125페타플롭스의 AI 성능, 44GB 온 칩 SRAM, 1.5TB부터 1.2PB의 외부 메모리 지원, 24조 개의 매개변수로 AI 모델 훈련, 2048개의 CS-3 시스템으로 클러스터 구성이 가능합니다.

Llama 70B를 하루만에 훈련할 수 있고, 사용도 쉬워 GPU에서 10억 개의 매개변수 모델 훈련과 여기에서 1조 개 훈련이 비슷한 수준이라고 설명합니다. 

Cerebras, 4조 개의 트랜지스터와 90만 개의 AI 코어를 지닌 칩 공개 - 컴퓨터 / 하드웨어 - 기글하드웨어 : https://gigglehd.com/gg/?mid=hard&document_srl=15692675