AI의 속도는 연산 능력보다 메모리에 달려 있습니다
세계에서 가장 앞선 인공지능조차 디지털 교통 체증으로 인해 제 성능을 내지 못하곤 합니다. 초고속 프로세서가 멀리 떨어진 메모리 뱅크에서 데이터가 도착하기만을 하염없이 기다려야 하기 때문입니다.
현대 컴퓨팅 기술은 이제 '생각의 속도'가 데이터 저장소와의 거리에 의해 결정되는 단계에 도달했습니다. 엔비디아 H100 같은 최신 칩은 초당 수조 번의 연산을 수행할 수 있습니다. 하지만 역설적이게도 이 칩이 아무것도 하지 않고 보내는 시간은 놀라울 정도로 길어지고 있습니다.
앱에서 계속 읽기
단락 3개 더 · 그리고 3문제 퀴즈