ローカル学習に必要なオンプレ環境について

現在、オンプレ環境でのローカル学習を検討しております。
NVIDIA Graphics Driver、NVIDIA CUDA Toolkit、Dockerのバージョン等、
ローカル学習に必要な環境がありましたらご教示ください。

ちなみに、DGX OS Desktop 4.0.6で検討しております。