Graphics Processing Unit
画像処理装置画像処理向けに発展したプロセッサで、現在は機械学習や科学計算などの並列処理にも使われます。
公式・公的資料で確認GPUは画面描画のために多数の計算を並列に処理するプロセッサとして発展しました。その並列処理が、画像だけでなく行列演算の多い機械学習や科学計算にも向いていたため、AI計算基盤として利用が広がりました。 機械学習では大量の行列演算を同時に処理する必要があります。GPUを使うと学習や推論を短時間で実行しやすくなりますが、メモリ容量、対応ソフトウェア、消費電力、費用まで含めて選ぶ必要があります。 現在は、生成AIの学習・推論、画像処理、科学計算、クラウドのアクセラレーターなどで使われます。GPUの種類だけで性能は決まらず、モデル、精度、メモリ、ドライバー、CUDAなどの実行環境との組み合わせで評価します。