题目

请选择大模型训练或大模型推理中的一个场景，解释数据、GPU 集群、通信、延迟、吞吐、能耗或成本之间的关系。请至少选择 3 个因素，说明它们为什么会相互影响，以及系统设计者可能需要优先优化什么。

提交要求

  • 在 Canvas 直接用文本提交。
  • 建议正文 100-200 字。
  • 请围绕一个具体例子展开，写清楚你的观察和解释。
  • 如果 Canvas 临时要求上传文件，一页普通文档即可。