Skip to content

zhyDaDa/Text-Summarization-Based-Information-Retrieval

Repository files navigation

第一次拉取后的初始化操作

  1. 先node_module安装
  2. 安装python依赖(虚拟环境选择python=3.10)
  3. 测试bert-base-chinese模型是否正常工作

安装node_module

从文件夹根目录下执行cmd, 输入下面的命令

npm install

python依赖

在根目录下执行cmd, 输入下面的命令

pip install -r requirements.txt

测试bert-base-chinese

test/bert计算相似度.py中可以测试模型是否能正常使用
模型会从huggingface中下载并保存到cache中, 所以第一次很慢是正常的(大约300M)
如果希望一直从本地加载模型, 可以将以下代码:

# 加载预训练的BERT模型和tokenizer
model = BertModel.from_pretrained('bert-base-chinese')
tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
# 保存
# model.save_pretrained("./bert-base-chinese")
# tokenizer.save_pretrained("./bert-base-chinese")
# model = BertModel.from_pretrained('./bert-base-chinese')
# tokenizer = BertTokenizer.from_pretrained('./bert-base-chinese')

调整为:

# 加载预训练的BERT模型和tokenizer
model = BertModel.from_pretrained('bert-base-chinese')
tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
# 保存
model.save_pretrained("./bert-base-chinese")
tokenizer.save_pretrained("./bert-base-chinese")
# model = BertModel.from_pretrained('./bert-base-chinese')
# tokenizer = BertTokenizer.from_pretrained('./bert-base-chinese')

运行一次代码, 这样下载好的模型会被保存在bert-base-chinese
之后, 再修改代码为:

# 加载预训练的BERT模型和tokenizer
# model = BertModel.from_pretrained('bert-base-chinese')
# tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
# 保存
# model.save_pretrained("./bert-base-chinese")
# tokenizer.save_pretrained("./bert-base-chinese")
model = BertModel.from_pretrained('./bert-base-chinese')
tokenizer = BertTokenizer.from_pretrained('./bert-base-chinese')

就可以直接从本地加载模型了

在业务代码中统一从网络加载模型, 免去不必要的麻烦

启动系统

  1. 连接到数据库(建议使用Navicat, 打开数据库即可)
  2. 运行py manage.py runserver启动Django服务器
  3. 等待终端出现提示: Starting development server at http://127.0.0.1:8000/后, 打开浏览器, 访问该网址即可

注意, 使用虚拟环境后, 虽然安装了Django, 但是直接运行上述指令很可能调用的是全局的py
如果你的全局py没有安装Django或者安装了不同版本的Django, 就会出现形如:"ImportError: Couldn't import Django. Are you sure ..."的报错
解决方法: 直接填写虚拟环境中的python地址来运行, 例如: "D:\python\python.exe" manage.py runserver

笔者贴心的为你准备了一个runserver.bat, 双击即可运行! (假定你的虚拟环境名称是venv)

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors