#幻觉问题

2周前

今天微信上有个朋友想拉我技术入伙，搞企业客服 Agent。宣称 “Benchmark 上 99% 的拒绝回答率，完全没有幻觉问题，而且不是基于微调不锁定模型”。我虽然不知道咋实现，但总感觉哪里怪怪的... 我对大模型的理解还停留在它本身就是个不确定的东西，99% 拒绝有点超出认知，是不是存在过度拒绝或伪拒绝？

#企业客服Agent #大模型 #拒绝回答率 #幻觉问题 #技术

1个月前

跑了几个深度研究的报告，分享给大家一起学习 LLM 预训练技术报告：深入浅出解读 SFT： RLHF 深度技术报告： LLM幻觉问题深度剖析与优化策略：

#LLM #预训练 #SFT #RLHF #幻觉问题

𝘁𝗮𝗿𝗲𝘀𝗸𝘆

4个月前

我为什么说AI 5年内替换不掉程序员了？ 1、AI还不知道自己回答的是正确的 2、AI还存在幻觉。 3、AI还需要从样本中去学习，而没有真正的自主意识能力。（这是人才有的能力） 4、AI无论是借助微调，RAG或其他的也好，这只是让AI少些幻觉，而不是没有幻觉。 5、AI是硅机生命，人（其他生灵）是碳机生命

#AI发展 #程序员 #科技前景 #人工智能 #幻觉问题