notes/resource/ai/大模型安装笔记/000 autodl 机器信息.md

硬件：NVIDIA A800 80GB GPU，30GB 系统盘 和 100GB 数据盘 (/root/autodl-tmp)。

19.5 TFLOPS = 普通生产线能力 312 Tensor TFLOPS = AI 专用流水线能力

模型：deepseek-ai/DeepSeek-R1-Distill-Qwen-32B

Tensor type BF16 Tensor type（张量类型）通常指 PyTorch 或 TensorFlow 等框架中，用于表示多维数组的数据对象。通俗理解模型内部数字是用什么“数据格式”来存的。 33B × 2 字节 ≈ 66GB

服务器启动日志

+-----------------------------------------------AutoDL-----------------------------------------------------+
目录说明:
╔═════════════════╦════════╦════╦═════════════════════════════════════════════════════════════════════════╗
║目录             ║名称    ║速度║说明                                                                     ║
╠═════════════════╬════════╬════╬═════════════════════════════════════════════════════════════════════════╣
║/                ║系 统 盘║一般║实例关机数据不会丢失，可存放代码等。会随保存镜像一起保存。               ║
║/root/autodl-tmp ║数 据 盘║ 快 ║实例关机数据不会丢失，可存放读写IO要求高的数据。但不会随保存镜像一起保存 ║
╚═════════════════╩════════╩════╩═════════════════════════════════════════════════════════════════════════╝
CPU ：14 核心
内存：120 GB
GPU ：NVIDIA A800 80GB PCIe, 1
存储：
  系 统 盘/               ：1% 53M/30G
  数 据 盘/root/autodl-tmp：1% 12K/100G
+----------------------------------------------------------------------------------------------------------+
*注意:
1.系统盘较小请将大的数据存放于数据盘或文件存储中，重置系统时数据盘和文件存储中的数据不受影响
2.清理系统盘请参考：https://www.autodl.com/docs/qa1/
3.终端中长期执行命令请使用screen等工具开后台运行，确保程序不受SSH连接中断影响：https://www.autodl.com/docs/daemon/

显卡检测

root@autodl-container-c6d54aa471-4479d4d0:~# python -c "import torch; print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"
True
NVIDIA A800 80GB PCIe