V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  diudiuu  ›  全部回复第 11 页 / 共 34 页
回复总数  662
1 ... 7  8  9  10  11  12  13  14  15  16 ... 34  
gemma+ocr 一套

https://huggingface.co/unsloth/gemma-4-26B-A4B-it-GGUF/tree/main

mmproj-BF16.gguf 这个是图片模型
4 月 20 日
回复了 jdjingdian 创建的主题 Local LLM 本地部署靠不靠谱?
楼上说的买得那些,还是直接买 token 划算
4 月 20 日
回复了 CareFreeSc 创建的主题 问与答 昨天和漂亮女孩 在一起了
呼叫心理委员
需要一场大雨,然后再高速上跑 100 多公里就干净了
@bojue
架子是自己搭建,内容自己写了一部分,其他都是 ai 搞得。

投放系统是自己写的
4 月 20 日
回复了 AnQiYang 创建的主题 Claude Code copilot 也被风控了嘛?那我没招了啊。。
网络不好吧
@puzzle1 3 万 2 大洋京东买的,个人感觉不划算这个机子带宽太低了,gemma4 31b 16bf 完全可以使用,就是带宽太低了导致他吐出 2.5token/s

真的要买,还是要多了解后自己组装吧。mac studio 不敢推荐啊,毕竟这玩意都挺贵的
还可以再安装 Aikido Safe Chain 自动扫描漏洞
npm install -g @aikidosec/safe-chain
safe-chain setup
4 月 19 日
回复了 nothingt 创建的主题 生活 人在无奈的时候真的会笑
@PhoenixDancing 没用的,自从结婚后,我给我爸妈开始说,已经说了 5 年了,我都麻木了
程序员就是喜吹牛逼
不知道这个系统跟你需要的差多少
删除生产环境服务器
@WhatTheBridgeSay 招商银行卡自己重新申请也没有选择新地址,直接还是旧的,我刚弄的,今天让我去取,太远了
@puzzle1 20 左右,这个非常消耗 128g 的,啥也不干就剩下 6%
4 月 18 日
回复了 Livid 创建的主题 Planet 这是不是就是本地 RAG?
现在这个针对某个博客内容可以说是个增强检索了

要是这个人整个博客可以进行 ai 相关的搜索总结,有相关向量储存和搜索或者最简单的分词器就是了

全是高级词,还有什么智能体,这都是话术

个人认为只要最后不是终极模型,前面再怎么加都是个高级的分词器+完美的提示语+循环提示
4 月 17 日
回复了 archxm 创建的主题 程序员 RAG 难以让人满意啊
我现在弄了一个多维度判断这个是不是同一个学者

就是数据量略大,自己没办法微调模型,就搞得 rag
4 月 17 日
回复了 hellodigua 创建的主题 程序员 2026 年了,这个世界还存在互联网精神🥹
done! 是不是这样翻译
淦!!!
4 月 16 日
回复了 PeanutMi 创建的主题 GitHub Copilot copilot 体验下来不错,是我的错觉吗?
你换个非顶级得模型,就又回去了
@hnbcinfo 上来就搜这个单词
1 ... 7  8  9  10  11  12  13  14  15  16 ... 34  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1055 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 46ms · UTC 18:55 · PVG 02:55 · LAX 11:55 · JFK 14:55
♥ Do have faith in what you're doing.