Langchain-Chatchat

RAG系列:环境初体验

最近想着将公司里 Confluence 的内容拿来跑个智能知识库系统练练手,学习的是 Jiayuan (Forrest) 大大的 http://devv.ai 是如何构建高效的 RAG 系统的 这篇文章,找了一圈最终直接用的项目是 Langchain-Chatchat,结果在一启动的时候就报错了个错,UserWarning: CUDA initialization: The NVIDIA driver on your system is too old (found version 11080).,很明显,它是告诉我显卡驱动版本太低了,需要更新。这里其实有两种方式: 降低 pytorch 的版本 升级显卡驱动 先确定本机的驱动信息,以及项目的 pytorch 版本所对应的 cuda 版本信息。 基本信息 nvidia-smi 最开始的时候是单卡,初始的信息记录 $ lspci | grep -i nvidia af:00.0 3D controller: NVIDIA Corporation GP102GL [Tesla P40] (rev a1) $ nvidia-smi +-----------------------------------------------------------------------------+ | NVIDIA-SMI 520.61.05 Driver Version: 520.61.05 CUDA Version: 11.8 | |-------------------------------+----------------------+----------------------+ | GPU Name Persistence-M| Bus-Id Disp....

一月 26, 2024 · 5 分钟 · genffy