波宝钱包ios|ChatGPT陷科技伦理风波！「三观正确」的AI机器人Claude、Sparrow能迎头赶上？

ChatGPT 安全问题遭质疑后，研发机构 Anthropic 创建的聊天机器人 Claude 聚集了一部分目光。 本文将分析与 ChatGPT 相比，Claude 是否真如外界所评的那般安全？ （前情提要：AI封杀潮》ChatGPT遭德法、瑞典..调查，VPN翻墙成必备工具？） （背景补充：欧洲ChatGPT封杀潮》德国：恐效仿义大利禁用；法国、爱尔兰寻求依据）

本文目录

• 「三观」超正 Claude 搬进企业应用
• Claude 是如何做到「绿色无害」的呢？
• 「偏见最小」 Sparrow 箭在弦上

近期，AI 安全问题闹得沸沸扬扬。自然语言大模型採用人类反馈的增强学习机制，也被担心会因人类的偏见「教坏」AI。

4 月 6 日，OpenAI 官方发声称，从现实世界的使用中学习是创建越来越安全的人工智能系统的「关键组成部分」，该公司也同时承认，这需要社会有足够时间来适应和调整。

至于这个时间是多久，OpenAI 也没给出答案。

大模型背后的「算法黑箱」无法破解，开发它的人也搞不清机器作答的逻辑。十字路口在前，一些自然语言大模型的开发者换了思路，给类似 GPT 的模型立起规矩， 让对话机器人「嘴上能有个把门的」，并「投餵」符合人类利益的训练数据，以便它们输出「更乾净」的答案。

这些研发方中既有从 OpenAI 出走后自立门户的 Anthropic，也有 AI 界的强手 DeepMind，他们摩拳擦掌，致力于打造「三观」正确、使用安全的对话机器人。