skinny.

Latest / いっかくのAI仕事術チャネル

CUDAとは?NVIDIAがAIで速い理由とMacとの差

CUDA(クーダ)とは何かを、やさしく解説します。前回お話しした「ローカルLLMはNVIDIAのGPUを積んだWindowsのほうが速い」の理由編です。そもそもGPUとは何か、CUDAの役割、NVIDIA向けに長年積み重なったソフト、MacのMetalとMLX、そして速さのNVIDIA・大きさのAppleという違いまでをお話ししています。 🕐タイムスタンプ 00:00 オープニング:NVIDIAがAIで速い理由はCUDA 01:27 前回のおさらい:ローカルLLMに100万円は必要か 01:50 RTX 5070で秒間93トークン 02:24 なぜNVIDIAは速いのか:理由は2つ 02:57 そもそもGPUとは何か 03:52 CPUは少数の職人、GPUは大人数のチーム 04:04 ゲームの画面とAIの計算は同じタイプ 04:29 VRAMが大事な理由 04:58 CUDAとは何か 05:39 大人数のチームへの指示の出し方の決まりごと 05:56 本当の強さはソフトの積み重ね 06:10 AlexNetとPyTorch 06:43 Macにも同じ位置づけの仕組み(Metal・MLX) 07:26 まだある2〜4倍の差 07:42 速さのNVIDIA、大きさのApple 08:21 仕事ではどう考えるか 08:37 CUDAまわりの組み合わせは泥沼だった 09:08…

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.