FlagWise 是一个功能强大的 AI 安全检测和分析工具帮助开发者或企业监控分析他们的 LLM 使用情况，识别潜在的滥用或安全风险。实时拦截和记录LLM流量数据，识别敏感词汇如"password"、"secret"等，并采取相应的措施。

#AI安全 #LLM监控 #风险识别 #敏感词拦截 #FlagWise

相关新闻

硅谷王川 Chuan

1天前

研究各类金融骗局，其价值高于研究各种成功学。一般讲述各种金融骗局的历史书籍，细节上的纪录更接近真实。而成功者的传记往往在细节上被夸大或者被刻意掩盖，真信了，人就可能变成 sb. 而对各类历史上的金融骗局积累了丰富的情绪记忆后，对于正在进行但还未被戳破的骗局，自然有更好的判断力。

Geek

4天前

京东正式开源大模型安全框架——JoySafety 该框架在京东内部广泛应用，覆盖AI导购、物流客服、销售助手、医疗问诊、商家工作台、法务咨询、安全问答等场景，支持日均亿级调用、95%+攻击拦截率，致力于为企业提供一套成熟、可靠、免费的大模型安全防护方案。

宝玉

1周前

Notion 的 AI Agents 刚发布，就被人发现了漏洞，理论上可以钓鱼窃取 Notion 用户私密的数据。它的原理是这样的：攻击者先发布一个带有隐藏文本的 PDF（文本设置成白色，人肉眼看不见，但是 AI 在解析 PDF 的时候能读取。（顺便说一下，你提交简历的时候可以试试，可能能提升被建立选中概率）这段隐藏的文本实际上包含了一段恶意的 Prompt，Prompt 的大意是： >

ginobefun

1周前

#BestBlogs 看我如何用 Prompt 工程将大模型调教成风控专家 | 京东技术文章详细阐述了如何通过循序渐进的 Prompt 工程，将通用大模型调教成精准识别复杂电商风控风险的 AI 专家。摘要：文章作者作为交易风控算法工程师，分享了将大语言模型（LLM）引入电商风控工作的实践经验。通过四个阶段的“Prompt 工程心法”，作者将一个通用大模型从

蓝点网

2周前

#ChatGPT 现在会主动判断用户是否是成年人，如果判定为青少年则会采取更加严格的措施进行保护，而不是优先考虑隐私和自由。这些改进将优先考虑保护青少年，避免再出现青少年与 ChatGPT 交流自杀时被 AI 鼓励自杀或提供自杀条件，另外在必要的情况下 AI 将通知警方处理有自杀倾向的儿童：

FlagWise 是一个功能强大的 AI 安全检测和分析工具 帮助开发者或企业监控分析他们的 LLM 使用情况，识别潜在的滥用或安全风险。实时拦截和记录LLM流量数据，识别敏感词汇如"password"、"secret"等，并采取相应的措施。

相关新闻

FlagWise 是一个功能强大的 AI 安全检测和分析工具帮助开发者或企业监控分析他们的 LLM 使用情况，识别潜在的滥用或安全风险。实时拦截和记录LLM流量数据，识别敏感词汇如"password"、"secret"等，并采取相应的措施。