#大模型安全

avatar
网友投稿 8月22日，DeepSeek 一名 HR 在小红书发布招聘信息，公开招募安全方向的实习生或全职岗位，主要负责大模型敏感内容的审查和优化，并注明有转正机会。 招聘信息显示，岗位要求应聘者对互联网各类敏感话题有一定熟悉度，能够理解政治（zz）、涉黄（h）等不宜公开内容中的隐喻，同时具备一定的 Python 编程能力，并且能够稳定实习六个月以上，工作地点为北京或杭州。 该帖子发布后，评论区出现了大量涉及敏感隐喻的讨论，不久便被删除。 8月29日，该 HR 再次发布类似招聘信息，但更新了部分描述，明确提出希望应聘者喜欢讨论敏感话题，对互联网上不宜公开传播的信息有一定了解，能够看懂隐喻，最好有安全运营经验或参与过模型安全建设的经历，如果尝试过大模型 jailbreak 还会被优先考虑。 同时，该 HR 特别强调，DeepSeek 作为在国内立足的大模型公司，需要对模型生产的内容负责，并提醒大家理性评论，避免因过激言论导致其招聘账号被封。
#DeepSeek #大模型安全 #敏感内容审查 #招聘 #jailbreak
avatar
AIGCLINK
2个月前
自从有了claude code后，cursor、devin这些基本上很少用了，只需要不停的充值claude api就行了，基本上可以实现computer use和coding的75%场景，临界点已到。 强大的东西往往是最朴素的，teminal里的干净和全局权限让claude code无所不能，貌似近期官方做了一些bash命令调用的限制，估计是安全上的考虑吧，不然妥妥的一个全局运维，当然替代方案：让其写一个运维脚本再执行，而不是直接交给它。 昨天manus的人发布关于上下文的blog，里面比较有价值表达的是：告诉大家kv cache的命中方案来降低token消耗，这次是manus首次给行业发展做的一些贡献和build，值得肯定。但有其中一个观点我不认同：大模型未来对数万款mcp的调用问题，未来模型侧会有专门的针对此场景的训练，这个问题会得到解决。 近期看到还有人用一台mac独立跑cc，让cc自主决定干啥，也算是测试安全性的一种非常好的方式，安全这个方向在逐步崛起，值得关注。 #claudecode
AI编程工具激战：Claude Code、Gemini Cli崛起· 969 条信息
#Claude Code #AI 编码 #Manus kv cache #大模型安全 #AI 运维
avatar
探营第十一届上交会：脑机接口、大模型安全、跨境身份核验等...
#第十一届上交会 #脑机接口 #大模型安全 #跨境身份核验