白嫖AiStudio算力部署文心4.5开源大模型给Android调用

在上一篇文章《部署文心4.5开源模型给Android设备调用》,博主介绍了如何在自己的服务器部署文心4.5开源大语言模型,但对于没有GPU服务器的同学来说,可望而不可即。所以本篇文章就介绍如何白嫖AiStudio上面的算力来部署文心4.5开源大模型给自己使用。

阅读全文
快速从零部署一个DeepSeek-R1服务

这里使用最简单的几条命令介绍如何部署DeepSeek-R1的服务,默认已经安装了Anaconda,使用的是vllm框架,国内也可以轻松部署。

阅读全文
夜雨飘零·千问:解答您无尽的疑问

夜雨飘零·千问启动器是一款高效便捷的大语言模型启动工具。支持Windows系统,需NVIDIA显卡且驱动版本在516.01以上。启动器内置多种规格的模型,适用于不同场景需求,最小仅需1G显存。 界面分为三部分:启动页面、聊天页面和日志页面。启动页面用于选择并加载模型文件(本地无时自动下载),点击加载后无缝切换至聊天页面进行互动;聊天页面支持随时提问,模型即时回复提供智能对话体验;日志页面记录使用

阅读全文