HuggingFace Gated Model 如何使用（以 Llama-2-7b-hf 为例）

参考以下文章通过 HuggingFace 调用 Llama3 - 知乎满满的坑LLAMA3使用申请被拒绝rejected利用huggingface导入LLAMA3模型_your request to access this repo has been rejected-CSDN博客今天想用一下 HuggingFace 的 meta-llama/Llama-2-7b-hf 模型代码如下from transformers import AutoModelForCausalLM, AutoTokenizer model_name meta-llama/Llama-2-7b-hf tokenizer AutoTokenizer.from_pretrained(model_name) tokenizer.pad_token tokenizer.eos_token model AutoModelForCausalLM.from_pretrained( model_name, torch_dtypeauto, device_mapauto )但是会报 HuggingFace 连接的错误如下如何解决呢首先使用 HuggingFace 镜像站 hf-mirror.com。在脚本开头添加 HuggingFace 镜像配置如下import os os.environ[HF_ENDPOINT] https://hf-mirror.com其次meta-llama/Llama-2-7b-hf 模型属于Gated Model需要先在 HuggingFace 上申请访问权限并登录。如果还没登录在 conda 环境里运行pip install huggingface_hub # 开源模型和数据集托管平台 huggingface-cli login # 现在命令更新为 hf auth login 了https://huggingface.co/settings/tokens 在这里查看如何申请token血的教训Region 别写 China否则就会得到 Rejected选 United States选 United States选 United States