【2727期】Herdsman AI

这段时间好多朋友看我之前发的内容，都在问本地大模型，说想试试，但部署起来太费劲了。

说实话，我刚接触那会也一样，一头雾水，折腾半天环境都没搞明白，踩了不少坑。尤其我一个人做号，平时写脚本、剪视频、找素材，时间本来就不够用，也没精力去啃那些复杂的技术教程。

这段时间，陆陆续续试了不少同类工具，找到一款上手特别简单的，今天跟大家聊聊我自己的使用感受。

它不用安装，点开就能用，全程本地离线运行，不用联网，数据都存在你自己电脑里，用着也比较放心。

里面的模型都按用途分好了类，像日常聊天对话、生成图片、虚拟角色对话、翻译、播客、写代码、写文章、总结内容、会议纪要，还有专门的NPU模型。

每个模型都标得明明白白，速度快慢、占多少显存，还会根据你自己的电脑配置给出建议，就算是刚接触的新手，也能很快找到适合自己电脑的模型。

下载、启动都是点一下就行，启动的时候还能调上下文长度、开启思考模式，侧边栏还能实时看到CPU、内存、显存占了多少，运行状态一眼就能瞅明白。

好多朋友觉得本地模型只能聊天，其实能做的事挺多的。

日常答疑、生成图片、翻译文档、写代码、出文案、总结长文、整理会议记录，这些功能都有。我自己平时写脚本、整理一堆素材的时候，就常用它来搭框架、找重点，省下来的时间刚好能多剪两条视频，确实挺方便。

除此之外它还带了标准的兼容接口，平时用惯的第三方工具也能接进来，相当于在自己电脑上搭了个专属的AI服务。

配套的接口说明、调用统计都做得很清楚，怎么调用、用了多少量都能看得明明白白，用着心里有数。

整体用下来，我个人的直观感受就是省事，不用折腾那些复杂的环境配置，对没接触过本地部署的朋友比较友好。

感兴趣的朋友可以自己去了解试试，有啥好用的玩法，或者踩过什么坑，也欢迎一起交流。