要實現T5模型,可以使用Hugging Face Transformers庫中提供的T5模型。首先安裝Transformers庫:
pip install transformers
然后可以使用下面的代碼來加載T5模型并進行推理:
from transformers import T5ForConditionalGeneration, T5Tokenizer
# 加載T5模型和tokenizer
model = T5ForConditionalGeneration.from_pretrained('t5-small')
tokenizer = T5Tokenizer.from_pretrained('t5-small')
# 輸入文本
text = "Translate English to French: Hello, how are you?"
# 對輸入文本進行編碼
input_ids = tokenizer.encode(text, return_tensors='pt')
# 生成翻譯文本
output = model.generate(input_ids)
# 解碼生成的文本
translated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(translated_text)
這段代碼會加載預訓練的T5模型(在這里使用的是t5-small模型),然后將輸入文本編碼并生成翻譯文本。最后解碼生成的文本并打印出來。