6G显存就能跑!"越狱版"大模型来了,本地部署完全无审查,做AI开发的你一定要试试
6G显存就能跑!"越狱版"大模型来了,本地部署完全无审查,做AI开发的你一定要试试原创:凯哥Java本文标签:AI大模型、本地部署、Qwen3.6-35B、无审查模型、llama.cpp本文相关资源已经发布到凯哥公众号(凯哥Java)。回复:回复即可获取大家好,我是凯哥Java。最近凯哥一直在折腾本地大模型,踩了不少坑。你们知道那种感觉吗?就像你请了个很牛逼的私人助理,结果他跟
原创:凯哥Java
本文标签:AI大模型、本地部署、Qwen3.6-35B、无审查模型、llama.cpp
本文相关资源已经发布到凯哥公众号(凯哥Java)。回复:回复 即可获取

大家好,我是凯哥Java。
最近凯哥一直在折腾本地大模型,踩了不少坑。
你们知道那种感觉吗?就像你请了个很牛逼的私人助理,结果他跟你说"这个话题我不能聊"、"那个问题涉及安全限制"——你是不是想骂人?
花了显卡的钱,跑着本地的模型,结果还得看别人脸色?凭什么?
凯哥找了一圈,终于挖到了一个宝藏——Qwen3.6-35B-A3B 越狱版。
6G显存就能跑,中文溜得飞起,能看图片、能写代码、能当Agent用,而且完全没有官方那种"对不起我不能回答"的限制。
今天,凯哥就从零开始,手把手带大家把这个模型部署起来。
摘要内容:Qwen3.6-35B-A3B越狱版发布,最低仅需6G显存即可本地运行35B大模型;在代码生成、视觉识别、Agent接入三项实测中均达第一梯队水平;完全移除官方内容审查限制,支持NVIDIA/AMD/Intel全平台单卡部署,一张4060 Laptop 8G就能跑出10 tokens/s。

一:这模型到底有多能打?
生活中的例子:
你买了个充气游泳池,说明书上说"仅限儿童使用,成年人禁止入内"。你偷偷跳进去,水一点没溢出,体验还贼好——这就是越狱版的感觉。硬件还是那套硬件,但限制没了,能力全释放。
总结一下这模型的能耐:
| 能力项 | 表现 |
|---|---|
| 🀄 中文理解 | 同级别第一梯队 |
| 🧠 推理能力 | 在线,不掉链子 |
| 👁 多模态视觉 | 看图片、做OCR、分析截图 |
| 🤖 Agent | 支持Hermes、OpenWebUI、Cherry Studio等 |
| � 原创不易,完成人机校验,阅读全文 相关推荐工作小总结&小工具类阿里这款多级缓存框架一定要掌握,非常不错!网络文章最先被时代淘汰的8类人。不想被淘汰,一定要自我警醒AI编程3周累计7万亿Token!Agnes AI 把文本/图片/视频三大模型API全免费了AI相关本地部署了minerU,然后java调用后获取到中间产物:AI相关既然有官网,为什么还要本地部署DeepSeek-R1呢?AI相关本地部署dify,已经发布了,怎么通过API调用呢?怎么获取到对应应用Key?AI相关本地在docker中部署了dify,并且也配置好应用,发布后,怎么使用API调用?AI相关本地docker部署Dify之后,在添加硅基流动,提示错误:Internal Server Erro! 解决方案 |