分类目录归档：AI大模型

AI大模型相关，包括显卡优化等等

ubuntu 22.04使用L40显卡显存仅有46068 MiB

L40标称显存为48G，为何ubuntu装完驱动之后使用nvidia-smi查看仅显示46068 MiB，这里看到ECC为0，实际是开启了。

原因就出自L40默认开启了ECC纠错，ECC纠错会导致额外占用显存3%-5%

关闭ECC纠错后务必重启服务器，待服务器重启之后观察nvid[……]