ソフトウェア技術者(ときどき科学)のつぶやき
日々の開発で思いついたことや苦労話をポストします
二次元 cavity 問題を fp32, fp64 で解いても計算時間が変わらない??
RTX4090 の fp64 性能の計測結果。意外に遅い。
今更 ResNet を触ってみる。