在使用 PyTorch 进行训练时，出现 GPU 使用率达到 100% 并且训练速度变慢的问题可能是由于多种原因引起的，可以尝试以下几种方法来解决：

1. 减少模型复杂度： 如果模型过于复杂，可能会导致 GPU 负载过重。尝试减少模型的大小或复杂度，或者使用更轻量级的模型。

2. 优化代码： 检查代码中是否有不必要的计算或内存占用。确保代码中没有内存泄漏或者不必要的数据拷贝操作。

3. 调整批量大小： 试着减小批量大小，以减少 GPU 计算的负载。较大的批量大小可能会导致内存消耗过多，从而影响训练速度。

4. 使用更高效的优化器和学习率调度器： 尝试使用 PyTorch 中提供的不同优化器（如 Adam、SGD 等）和学习率调度器（如 ReduceLROnPlateau、CosineAnnealingLR 等），以优化模型的训练过程。

5. 数据预处理和增强： 对数据进行适当的预处理和增强可以减少模型训练时的计算负载，从而提高训练速度。

6. 监控内存使用情况： 使用 PyTorch 提供的内存管理工具（如 torch.cuda.memory_allocated() 和 torch.cuda.memory_cached()）监控 GPU 内存的使用情况，及时释放不再使用的内存。

7. 检查硬件故障： 有时候 GPU 训练速度变慢可能是由于硬件故障引起的。确保 GPU 和相关硬件没有故障，并且驱动程序是最新的。

8. 尝试降低精度： 尝试使用 FP16（半精度）训练，以减少内存占用和计算负载。

如果您尝试了上述方法仍然无法解决问题，那么可能需要进一步分析您的模型、数据和代码，以确定问题的根本原因。可能需要使用 PyTorch 提供的性能分析工具来进行更深入的分析和调试。