AIの速度を左右するのは演算能力よりもメモリー
世界最先端のAIは、デジタルな交通渋滞によってしばしば足止めを食らっています。超高速プロセッサであっても、遠くのメモリーからデータが届くのを虚しく待たなければならないからです。
現代のコンピューティングは、思考の速度が「食料庫までの距離」に制限される段階に達しています。Nvidia H100のような最新チップは、毎秒数兆回もの計算が可能です。しかし、驚くべきことに、その稼働時間の多くを「何もしない待ち時間」に費やしています。
アプリで続きを読む
あと3段落 · プラス3問のクイズ