Cubin是最有效的部署格式吗？

Question

鉴于我事先已了解部署服务器的操作系统版本和设备功能。 cubin是最有效的部署文件吗？

Answer 1

从JIT compiling的appropriate switches开始，从代码编译方式的角度来看，唯一能够显着影响执行时间的是。{/ p>

假设JIT缓存足够大以容纳特定于设备的编译版本，那么只有在第一次运行应用程序时才能感受到这种影响。此后，JIT缓存将包含正确的代码。

如果你想避免这种首次运行的惩罚，唯一需要的是在编译应用程序时通过nvcc only contains device binary code来定位你的设备。

cubin文件avoid JIT start-up delay。 fatbin 可能包含多个设备的设备二进制代码。通过提供正确的设备二进制代码，您可以{{3}}。最终，这些格式（cubin或fatbin）将被收集到包含主机和设备代码的可执行文件中。您不需要显式地定位cubin或fatbin，这将生成仅包含设备代码的文件。