pytorch 相关问题

PyTorch是一个深度学习框架，它实现了一个动态计算图，它允许您改变神经网络在运行中的行为方式，并能够执行向后自动区分。

python python-3.x pytorch sparse-matrix tensor

回答 0 投票 0

python python-3.x pytorch sparse-matrix tensor

回答 0 投票 0

公路我有一个网络创建的网络如下： p = torch.nn.Sequeential（torch.nn.linear（self.inputsize，self.outputsize）））我知道我可以通过以下方式打印网络：打印（P）并得到：顺序（（0）：...

python pytorch

回答 1 投票 0

我可以将Pytorch与Django Web框架集成在一起？

django machine-learning pytorch

回答 1 投票 0

如何处理异源GNN？我创建了此数据：杂种（用户= {x = [100，16]}，关键字= {x = [321，16]}， tweet = {x = [1000，16]}，（用户，关注，用户）= {edge_index = [2，291]}，（用户，推文，推文）= {edge _...

HeteroData( user={ x=[100, 16] }, keyword={ x=[321, 16] }, tweet={ x=[1000, 16] }, (user, follow, user)={ edge_index=[2, 291] }, (user, tweetedby, tweet)={ edge_index=[2, 1000] }, (keyword, haskeyword, tweet)={ edge_index=[2, 3752] } )

python pytorch pytorch-geometric gnn

回答 1 投票 0

在本地运行稳定的扩散

here

pytorch torch stable-diffusion

回答 0 投票 0

oserror：[WinError 127]找不到指定的程序

导入火炬（导入火炬），我面临以下错误消息： Oserror：[Winerror 127]找不到指定的程序。错误加载“ c：\ users \ myusername naconda3 \ li ...

python pytorch conda windows-11

回答 2 投票 0

如何使用libtorch（C ++）加载模型和推理？

c++ pytorch torch libtorch

回答 1 投票 0

在QWEN2.5-CODER-1.5B的SFT培训期间：“张量的元素0不需要毕业，并且没有grad_fn”具有grad_fn`fn`fn`Fn`

BELOW是我的代码的简化版本和相应的日志输出：

python pytorch large-language-model

回答 1 投票 0

为什么我的Llama 3.1模型在Automodelforcausallm和Llamaforcausallm之间的作用有所不同？我有一组权重，一个令牌，同一提示和相同的生成参数。然而，不知何故，当我使用AutoModelForCausAllm加载模型时，我会得到一个输出，当我构造...

import torch from transformers import ( AutoTokenizer, AutoModelForCausalLM, LlamaForCausalLM, LlamaConfig ) # 1) Adjust these as needed model_name = "meta-llama/Llama-3.1-8B" prompt = "Hello from Llama 3.1! Tell me something interesting." dtype = torch.float16 # or torch.float32 if needed # 2) Get the tokenizer tokenizer = AutoTokenizer.from_pretrained(model_name, use_fast=False) # Prepare input inputs = tokenizer(prompt, return_tensors="pt").to("cuda") ############################################ # A) Load with AutoModelForCausalLM ############################################ print("=== Loading with AutoModelForCausalLM ===") model_auto = AutoModelForCausalLM.from_pretrained( model_name, attn_implementation="eager", # matches your usage torch_dtype=dtype ).cuda() model_auto.eval() # turn off dropout config = model_auto.config with torch.no_grad(): out_auto = model_auto(**inputs) logits_auto = out_auto.logits # shape: [batch_size, seq_len, vocab_size] del model_auto torch.cuda.empty_cache() ############################################ # B) Load with LlamaForCausalLM + config ############################################ print("=== Loading with LlamaForCausalLM + config ===") # Get config from the same checkpoint # Build Llama model directly model_llama = LlamaForCausalLM(config).cuda() model_llama.eval() # Load the same weights that AutoModelForCausalLM used model_auto_temp = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=dtype) model_llama.load_state_dict(model_auto_temp.state_dict()) del model_auto_temp torch.cuda.empty_cache() with torch.no_grad(): out_llama = model_llama(**inputs) logits_llama = out_llama.logits ############################################ # C) Compare the Logits ############################################ # Compute maximum absolute difference max_diff = (logits_auto - logits_llama).abs().max() print(f"\nMax absolute difference between logits: {max_diff.item()}") if max_diff < 1e-7: print("→ The logits are effectively identical (within floating-point precision).") else: print("→ There is a non-trivial difference in logits!")

python pytorch cuda huggingface llama

回答 1 投票 0

如何设置hydra的参数hydra_full_error？

python pytorch fb-hydra

回答 2 投票 0

在属性中安装隔离结果：模块'sift'没有属性'torchhook'

python pytorch pysyft

回答 2 投票 0

有一个API可以判断是否量化的Pytorch操作员受ONNX导出支持？在此Pytorch网页中，它有一个由ONNX导出支持/不支持的火有关操作员列表。我想知道的是，是否有一种基于pytorch/onnx api的方法来查找/确定aind

pytorch onnx

回答 1 投票 0

python pytorch pytorch-geometric gnn