替换tokenier为chatglm-6b之后inference出错 #3
Description
您好，我想做一个中文任务，所以想把tokenizer换成chatglm的，替换之后需改了vocab_size，初始化完模型尝试inference的时候报错。如下，感觉应该是内部维度没对上，请问是否还有其他参数需要修改？
{{ message }}
您好，我想做一个中文任务，所以想把tokenizer换成chatglm的，替换之后需改了vocab_size，初始化完模型尝试inference的时候报错。如下，感觉应该是内部维度没对上，请问是否还有其他参数需要修改？