Jittor 可以如何利用Hugging Face的预训练模型吗?

直观上感觉,加载Hugging Face的模型,比如Bert后,将参数按某种方式赋值给Jittor的模型。

您好!

Jittor 可以加载 pytorch 模型保存的参数,与加载 Jittor 权重的接口相同。因此,只要您的 Jittor 模型定义与 pytorch 定义一致(模型名、参数名相同),即可在 Jittor 中使用 pytorch 的权重。

class MyModel(nn.Module):
    ...

my_model = MyModel()
my_model.load("torch_weights.pth")

参考文档:jittor — Jittor 1.3.1.18 文档