🌐
经济型：买域名、轻量云服务器、用途：游戏 网站等 《腾讯云》特点：特价机便宜 适合初学者用
点我优惠购买
🚀
拓展型：买域名、轻量云服务器、用途：游戏 网站等 《阿里云》特点：中档服务器便宜 域名备案事多
点我优惠购买
🛡️
稳定型：买域名、轻量云服务器、用途：游戏 网站等 《西部数码》 特点：比上两家略贵但是稳定性超好事也少
点我优惠购买
用本地Qwen+DeePseek大模型写的，自己也修改了一部分
想用来测试一下离线模型的效率~~~~~~
主要用来主动提前加载大模型，以节省首次和大模型交互的响应时间
或者手动从显存中卸载大模型，以便快速释放显存
**程序主要用于Ollama且基于默认的11434端口**
其他大模型调试软件，或者非Ollama默认端口的，请忽略！！
使用时注意点：
1.需要Ollama主程序正常运行中；
2.预加载大模型后还需要在交互客户端选择预加载的模型名称；
重申：本程序只时起到将模型提前载入显存或卸载出显存而已！！！
考虑到已经是手动操作了，就直接默认是永久加载，再设闲置时效好像意义不大！！！
扫一扫，支付¥2.00元
正在加载二维码...
支付完成后，请等待10秒左右，请勿关闭此页
文章版权声明：除非注明，否则均为AI虎哥的工具库原创文章，转载或复制请以超链接形式并注明出处。
还没有评论，来说两句吧...