RTX4090 メモリ転送をもう少し深堀してみる。
タグ: fp32
CPU, GPU の FP32, FP64 性能の検証
格子数を変えて CPU, GPU 性能を検証してみる。
PyTorch の fp32, fp64 性能の謎
二次元 cavity 問題を fp32, fp64 で解いても計算時間が変わらない？？
RTX4090 メモリ転送をもう少し深堀してみる。
格子数を変えて CPU, GPU 性能を検証してみる。
二次元 cavity 問題を fp32, fp64 で解いても計算時間が変わらない？？