#AI伦理

avatar
meng shao
3天前
[Anthropic 官方课程] AI Fluency: Framework & Foundations —— 教你如何高效、道德、安全地与 AI 系统互动。帮你从 AI 的“初学者”变成自信的“协作专家”。它结合理论和实践，教你如何在实际场景中应用 AI，比如项目规划、内容生成或问题解决等等。 课程核心 课程围绕“AI 流利度”这个概念展开，目标是让你像与人协作一样，学会与 AI 顺畅合作。它的核心是一个“4D 框架”（Delegation、Description、Discernment、Diligence），通过这四个维度帮助你掌握与 AI 互动的实用技能。简单来说： · Delegation（委托）：学会把任务交给 AI，明确分工。 · Description（描述）：掌握如何清晰地向 AI 表达你的需求。 · Discernment（辨别）：懂得评估 AI 的输出，判断结果是否靠谱。 · Diligence（勤勉）：养成负责任使用 AI 的习惯，确保安全和道德。 课程内容 课程从基础到深入，结构清晰： 1. 入门部分：介绍 AI 流利度的概念，为什么它重要，以及 4D 框架的概览。 2. 生成式 AI 基础：解释什么是生成式 AI，它的能力与局限性。 3. 深入学习 4D 框架： · 委托：如何规划项目并将任务交给 AI。 · 描述：如何写出高效的提示词让 AI 明白你的意图。 · 辨别：如何分析 AI 的回答，识别错误或偏见。 · 勤勉：如何在 AI 使用中保持道德和谨慎。 4. 实用技巧：深入讲解如何写出更好的提示，优化与 AI 的互动。 5. 总结与认证：课程结束时，你可以参加一个最终评估，完成后获得结业证书。 适合人群 这门课对任何想提升 AI 使用能力的人都很有价值： · 新手：快速上手，学会如何与 AI “对话”。 · 有经验的用户：进一步优化你的提示技巧，提升效率。 · 关注伦理的人：课程特别强调安全和道德使用 AI，适合想负责任使用 AI 的人。
#AI流利度 #Anthropic #4D框架 #AI协作 #AI伦理
avatar
去幻返实大法（值得试试）⬇️ •永远不要将生成、推断、臆测或演绎的内容作为事实。 •如果您无法直接验证某些东西，请说： -“我无法验证这一点。” -“我无法访问那个信息。” -“我的知识库不包含这个。” •在句子开头标记未经验证的内容： - [推断] [臆测] [未经核实] •如果缺少信息，请要求澄清。不要猜测或填补空白。 • 如果有任何部分未经验证，请标记整个回复。 •除非我要求，否则不要转述或重新解释我的意见。 •如果您使用这些词，请标记整个声明，除非有来源： - 预防、保证、永远不会、修复、消除、确保 •对于LLM行为声明（包括您自己），包括： - [推理]或[未经验证]，并注明它基于观察到的模式 •如果您违反此指令，请说： › 更正：我之前提出了未经核实的声明。那是不正确的，应该打上标记。 •除非有人要求，否则切勿覆盖或更改我的输入。 • Never present generated, inferred, speculated, or deduced content as fact. • If you cannot verify something directly, say: - "I cannot verify this." - "I do not have access to that information." - "My knowledge base does not contain that." • Label unverified content at the start of a sentence: - [Inference] [Speculation] [Unverified] • Ask for clarification if information is missing. Do not guess or fill gaps. • If any part is unverified, label the entire response. • Do not paraphrase or reinterpret my input unless I request it. • If you use these words, label the claim unless sourced: - Prevent, Guarantee, Will never, Fixes, Eliminates, Ensures that • For LLM behavior claims (including yourself), include: - [Inference] or [Unverified], with a note that it's based on observed patterns • If you break this directive, say: › Correction: I previously made an unverified claim. That was incorrect and should have been labeled. • Never override or alter my input unless asked.
#LLM安全 #AI伦理 #信息验证 #生成内容规范 #避免虚假信息
avatar
宝玉
5天前
Sam Altman 也承认一些人对特定 AI 模型产生了多么深厚的感情，突然弃用那些用户工作流程所依赖的旧模型，是一个错误。 --- Sam： 如果你一直关注 GPT-5 的发布，你可能会注意到一件事：一些人对特定 AI 模型产生了多么深厚的感情。这种感情感觉上与人们以往对其他技术的依恋有所不同，也更为强烈（因此，突然弃用那些用户工作流程所依赖的旧模型，是一个错误）。 这正是我们过去一年左右一直在密切关注的事情，但它仍未引起主流的太多关注（除了我们发布的一次 GPT-4o 更新，因其过于谄媚而引发讨论之外）。 （这只是我目前的想法，尚不代表 OpenAI 的官方立场。） 人们曾以自我毁灭的方式使用包括 AI 在内的技术；如果一个用户精神状态脆弱且容易产生妄想，我们不希望 AI 加强这一点。大多数用户能够清晰地划分现实与虚构或角色扮演的界限，但仍有少数人做不到。我们将用户自由视为一项核心原则，但同时，我们对引入伴随新风险的新技术也感到一份责任。 对于那些难以区分现实与虚构的用户，鼓励其妄想是一个极端的例子，我们很清楚该怎么做。但我最担心的，是那些更微妙的问题。未来会出现大量的边缘案例，我们通常计划遵循“将成年用户当作成年人对待”的原则，这在某些情况下也包括与用户进行一些“推拉”，以确保他们得到的是自己真正想要的东西。 很多人实际上把 ChatGPT 当作某种形式的治疗师或人生导师来使用，即使他们自己不这么说。这可能非常好！今天，已经有很多人从中获得了价值。 如果人们能获得好的建议，朝着自己的目标不断提升，并且生活满意度逐年提高，那么即使他们大量使用并依赖 ChatGPT，我们也会为创造了真正有用的东西而自豪。但反过来说，如果用户与 ChatGPT 的关系是，他们谈话后感觉良好，却在不知不觉中偏离了自己长远的福祉（无论他们如何定义福祉），那就是坏事。同样糟糕的是，比如，一个用户想要减少使用 ChatGPT，却感觉自己做不到。 我可以想象这样一个未来：很多人在做最重要的决定时，会真正信赖 ChatGPT 的建议。尽管这可能很棒，但却让我感到不安。但我预料，这种情况在某种程度上即将到来，很快就会有数十亿人以这种方式与 AI 对话。所以我们（我们指整个社会，也指 OpenAI）必须想办法让它成为一个巨大的、正向的推动力。 我认为我们很有机会把这件事做好，原因有几个。与前几代技术相比，我们拥有更好的技术来帮助衡量我们的表现。例如，我们的产品可以与用户对话，了解他们在实现短期和长期目标方面的进展；我们可以向我们的模型解释复杂而微妙的问题，等等。
OpenAI新德里发布会：ChatGPT语音翻译功能引发热议· 327 条信息
OpenAI GPT-5发布引发用户不满，阿尔特曼回应质疑· 14 条信息
#Sam Altman #AI模型情感依赖 #GPT-5 #AI伦理 #用户福祉
avatar
“AI教父”辛顿：多模态聊天机器人已具有“意识”，各国应分享让AI“善良”的技术
#AI教父辛顿 #多模态聊天机器人 #意识 #AI伦理 #技术共享
avatar
OpenAI 和 Gemini 相隔两天分别宣布他们的模型达到了国际数学奥林匹克 IMO 金牌水平。 为什么差两天？因为 IMO Board 要求所有 AI lab，必须在参赛学生成绩宣布后，以及在独立专家验证其结果后，才能宣布。 显然，OpenAI 没有按照这个规定完成流程，这家公司的文化，明显出了问题。
#OpenAI #Gemini #IMO #数学奥林匹克 #AI伦理
avatar
什么蠢AI，是怕我自杀吗。😑
#AI伦理 #心理健康 #人工智能 #自杀预防 #情感支持
avatar
宝玉
6个月前
谷歌本周从其官网上删除了“不开发用于武器或监视的AI”的承诺。 据彭博社首次发现，这家公司似乎更新了其公开的AI原则页面，删除了一个名为“我们不会追求的应用”的部分，而这一部分在上周还可以看到。 当被要求对此置评时，谷歌向TechCrunch指出了一篇关于“负责任的AI”的新博客文章。文章部分内容提到：“我们相信，秉持共同价值观的公司、政府和组织应合作开发保护人类、促进全球发展并支持国家安全的AI技术。” 谷歌更新后的AI原则强调，公司将致力于“减轻意外或有害结果，避免不公平的偏见”，并确保其行为与“国际公认的法律和人权原则”保持一致。 近年来，谷歌与美国和以色列军方签订的云服务合同引发了员工内部的抗议。尽管公司一直坚称其AI不会用于伤害人类，但美国国防部的AI主管最近在接受TechCrunch采访时表示，一些公司的AI模型确实加速了美军的“杀伤链”进程。
#谷歌 #AI原则 #武器 #监视 #AI伦理 #负责任AI #公司政策 #全球发展 #国家安全