首先,关于硬件配置。实际上没有官方说的要求那么高。我用的是ollama+chatbox 和cherry studio的方式,分别在本地测试了7b、14b、32b、70b的版本。
我的电脑配置比较老:
CPU:AMD R7 3800X
内存:32G DDR4-3733
硬盘:三星970evo
显卡: RTX 3090
在这个配置上,除了70b跑起来略感吃力以外,其他版本都没问题,14b以下的版本甚至非常丝滑;
比较以后我选定32b版本作为常用本地版本,一方面是速度可以接受的情况下本地可以部署的最大参数模型,另一方面是因为32b版本是用“千问”蒸馏的版本,相较于70b来说对中文的理解逻辑更好,对于绝大多数情况已经足够用。
其次,关于本地知识库。个人建议玩deepseek一定要做本地知识库或者调用别人训练好的知识库作为辅助。打个比方说,没有本地知识库,deepseek就是个思维缜密的聪明人,如果结合本地知识库,它就变成了一个特定领域的专家了。
我用cherry studio 做了个“宝石学”知识库,只喂给它《系统宝石学》《宝石学教程》。
然后我问Deepseek一个问题:4C相同的2颗钻石,交易价格差30%,可能是什么原因?
没挂知识库的情况下,它的回答大致是:季节因素、交易环境、品牌背书、渠道层级等等;而挂上“宝石学”知识库以后,它回答内容增加了:荧光、台冠比、相同净度下包裹体的种类、和位置差异,是否具备“非冲突地区产地证明”等等。
最后,关于deepseek与真人的可替代性。
我训练了一个“法律专家”的本地知识库,喂给它一大堆法律条文,还有很多优秀法律文书的范本,然后用我以往一个民事诉讼的案件,让它写出原被告双方的起诉书、答辩状、质证意见等。
总的来说,deepseek写的起诉书很规范,格式严谨,内容全面,逻辑清晰。
比如一个案子有10个关键点,我们一般的律师可能只会想到7-8个,尽管另外的可能并不是特别重要,但deepseek能非常全面地罗列出来。
相对于经验丰富的律师,deepseek在对内容要点的重要性侧重上略有不足,而且不太会运用后续诉讼进程逐步释放弹药,更不会采用给对方挖坑的诉讼策略。不过用deepseek作为防守一方,它倒是有可能预判到一些对方埋的雷。
总的来说,一个本地部署的deepseek 32b版本基本上胜过了3年以内从业经验的新手律师。
- 1. 用户在珠宝大家坛发布的内容仅为发布者个人的立场或观点,并不代表珠宝大家坛的立场或观点。作为内容的发布者,需自行对所发布内容负责,因发布内容引发的一切纠纷,由该内容的发布者承担全部法律及连带责任。珠宝大家坛不承担任何法律及连带责任。
2. 关于侵权:请阅读使用协议中的侵权举报条款,此为官方的侵权投诉唯一渠道,其他渠道视为无效申请。该服务为免费,大家坛拒绝任何性质的有偿删帖,不会和任何公关公司合作。
3. 本站为珠宝网站,请各位坛友不要在本站谈论政治和社会性话题,更不能攻击政府,否则后果非常严重,请务必遵守。