nvidia 相关问题

一家美国全球科技公司，总部位于加利福尼亚州圣克拉拉，以其图形处理器（GPU）而闻名。

如何在 aws sagemaker 的多模型端点中从 triton 服务器获取字符串响应？

我在 sagemaker 中使用 nvidia triton 设置了一个多模型端点。下面的示例代码 python 后端的 model.py 和 config.pbtxt。我已将输入类型设置为 int 并在

python machine-learning nvidia amazon-sagemaker

回答 0 投票 0

ModuleNotFoundError：没有名为“keras.utils.multi_gpu_utils”的模块

我很想在 anaconda Spyder 中执行这段代码将 tensorflow 导入为 tf 从 tensorflow.python 导入 keras 从 keras.models 导入模型从 keras.models 导入 load_model 来自 keras.optimiz...

python tensorflow keras gpu nvidia

回答 1 投票 0

在 ffmpeg 中使用“overlay_cuda”，输入帧具有透明度

我正在尝试使用尽可能多的硬件辅助在 ffmpeg 中将全帧图像覆盖在 MP4 之上。这是为 https://github.com/time4tea/gopro-dashboard-overlay 我有非 GPU

ffmpeg cuda nvidia

回答 0 投票 0

如何安装正确版本的 Tensorflow、cuda、cuDNN 和 TensorRT

这里是新手，我有一台 NVIDIA GeForce GTX 1650 Ti ubuntu-22.0.4 LTS 机器，安装了 Nvidia 驱动程序版本 530.41.03。这个版本的驱动推荐我应该在系统上使用cuda 12.1...

tensorflow cuda conda nvidia

回答 0 投票 0

如何在 nvidia triton 服务器中托管/调用多个模型进行推理？

基于此处的文档，https://github.com/aws/amazon-sagemaker-examples/blob/main/inference/nlp/realtime/triton/multi-model/bert_trition-backend/bert_pytorch_trt_backend_MME.ipynb，我有设置...

machine-learning nvidia amazon-sagemaker

回答 0 投票 0

Windows 和 Windows 11 中的 Windows.old 文件夹

我有一台搭载 Windows 11 操作系统的 NVIDIA Geforce RTX 3050 笔记本电脑。我已经使用 conda 在 Windows 11 Anaconda3、Jupyter Notebook 上安装，并且运行良好。我已经安装了 CUDA 11.1 和相关的 C...

anaconda cuda nvidia wsl-2

回答 0 投票 0

获取错误响应 503 Service Temporarily Unavailable

我设法让 docker 和 ubuntu 在我的电脑上运行。我的目标是让 cuOpt 在我的电脑上运行。我正在尝试按照 https://catalog.ngc.nvidia.com/orgs/nvidia/teams/cuopt/conta 中的说明进行操作...

docker nvidia

回答 0 投票 0

每个 warp 线程从共享内存加载一个相同的 32 字节（ulong4）

如果每个 warp 访问同一地址的共享内存，那将如何加载 32 字节的数据 (ulong4)？它会被“广播”吗？访问时间是否与每个线程加载 2

cuda gpu nvidia gpgpu gpu-shared-memory

回答 1 投票 0

CUDA shuffle 指令减少比共享内存减少慢？

Shuffle instruction based warp reduction is expected to perform faster reduction than reduction using shared memory or global memory,如开普勒和CUDA P上的更快并行减少中所述...

c++ cuda nvidia reduce gpu-shared-memory

回答 1 投票 0

带有 PCP + Redis 的 Grafana 收集和存储使用 RHEL Ansible 角色指标设置的指标 - NVIDIA 的一些指标未显示在 Grafana 中

我目前正在使用 Ansible Role Metrics 来收集性能指标。它使用 performance co pilot 和 redis 在 Grafana 上可视化这些指标。我遇到的问题特别是

redis grafana nvidia metrics

回答 0 投票 0

入口函数使用了过多的共享数据（0x8020 字节 + 0x10 字节系统，最大 0x4000）- CUDA 错误

我使用的是 Tesla C2050，它具有 2.0 的计算能力和 48KB 的共享内存。但是当我尝试使用这个共享内存时，nvcc 编译器给我以下错误入口函数'

cuda nvidia gpu-shared-memory

回答 2 投票 0

@njit(parallel=True) 使代码在新笔记本电脑上运行速度变慢

我最近买了一台新笔记本电脑，性能更好（理论上），但我在旧笔记本电脑上编写的代码相同，我使用 @njit(parallel=True) 来加速使用 numpy 和循环的功能现在