AI编程

6G显存就能跑!"越狱版"大模型来了,本地部署完全无审查,做AI开发的你一定要试试

6G显存就能跑!"越狱版"大模型来了,本地部署完全无审查,做AI开发的你一定要试试原创:凯哥Java本文标签:AI大模型、本地部署、Qwen3.6-35B、无审查模型、llama.cpp本文相关资源已经发布到凯哥公众号(凯哥Java)。回复:回复即可获取大家好,我是凯哥Java。最近凯哥一直在折腾本地大模型,踩了不少坑。你们知道那种感觉吗?就像你请了个很牛逼的私人助理,结果他跟

6G显存就能跑!"越狱版"大模型来了,本地部署完全无审查,做AI开发的你一定要试试

原创:凯哥Java

本文标签:AI大模型、本地部署、Qwen3.6-35B、无审查模型、llama.cpp

本文相关资源已经发布到凯哥公众号(凯哥Java)。回复:回复 即可获取


大家好,我是凯哥Java。

最近凯哥一直在折腾本地大模型,踩了不少坑。

你们知道那种感觉吗?就像你请了个很牛逼的私人助理,结果他跟你说"这个话题我不能聊"、"那个问题涉及安全限制"——你是不是想骂人?

花了显卡的钱,跑着本地的模型,结果还得看别人脸色?凭什么?

凯哥找了一圈,终于挖到了一个宝藏——Qwen3.6-35B-A3B 越狱版。

6G显存就能跑,中文溜得飞起,能看图片、能写代码、能当Agent用,而且完全没有官方那种"对不起我不能回答"的限制。

今天,凯哥就从零开始,手把手带大家把这个模型部署起来。


摘要内容:Qwen3.6-35B-A3B越狱版发布,最低仅需6G显存即可本地运行35B大模型;在代码生成、视觉识别、Agent接入三项实测中均达第一梯队水平;完全移除官方内容审查限制,支持NVIDIA/AMD/Intel全平台单卡部署,一张4060 Laptop 8G就能跑出10 tokens/s。


一:这模型到底有多能打?

生活中的例子:

你买了个充气游泳池,说明书上说"仅限儿童使用,成年人禁止入内"。你偷偷跳进去,水一点没溢出,体验还贼好——这就是越狱版的感觉。硬件还是那套硬件,但限制没了,能力全释放。

总结一下这模型的能耐:

能力项表现
🀄 中文理解同级别第一梯队
🧠 推理能力在线,不掉链子
👁 多模态视觉看图片、做OCR、分析截图
🤖 Agent支持Hermes、OpenWebUI、Cherry Studio等
�

原创不易,完成人机校验,阅读全文

相关推荐

© 凯哥Java · KAIGE.DEV · 记录真实开发问题与工程实践