初创公司发AI道德价值观 借鉴联合国有关人权宣言
原标题：人工智能“宪法”出炉 初创公司发布AI道德价值观
美东时间周二，谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观，该价值观主要适用于训练和保护人工智能。
Anthropic成立于2021年，创始团队大都来自ChatGPT的开发商OpenAI，也有类似于ChatGPT的人工智能聊天机器人，其名为“Claude”，可以处理一系列较为复杂的任务。
Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”，比如不会告诉用户如何制造武器，也不会使用带有种族偏见的语言。
这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”，这些准则借鉴了几个来源，包括联合国人权宣言，甚至还有苹果公司的数据隐私规则。
上周四，谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面，讨论了有关人工智能的一些关键问题，美国总统拜登也短暂出席了此次会议。
根据拜登在推特上发布的一段视频，他在会上对这些公司首席执行官们表示：“你们正在做的事情具有巨大的潜力，但同时也存大巨大的风险。”
哈里斯在一份声明中说：“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律，保护美国公民。”
没想到在会面几天之后，Anthropic首席执行官达里奥·阿莫代便做出了实际行动。
大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈，以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题，因此它们往往会避免一些可能有争议的话题，比如政治和种族。
Anthropic则采用了不同的方法，它为其人工智能聊天机器人Claude提供了一套书面的道德价值观，供其在决定如何回答问题时阅读和学习。
Anthropic在周二的一篇博文中提到，这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。
在一次采访中，Anthropic的联合创始人杰克·克拉克表示，可以修改系统的结构，以便在提供有用的答案和无害之间取得平衡。
克拉克认为：“几个月后，我预测政界人士将非常关注不同人工智能系统的道德价值观，而像‘Claude宪法’这样的方法将有助于这种讨论，因为我们认为有必要写下这些价值准则。”
女子乘轮渡想插队怒斥提醒者外地狗 12345回应：会反馈给港口去处理
昆山反杀案主办检察官评电影《第二十条》
特朗普回应“特朗普有大肚腩图”：假的，这些人真卑鄙！
改进型苏-57将服役，或成最快超音速战斗机
诬陷中国网攻、给乌克兰F-16，荷兰为啥成了急先锋？
日本又搅弄是非！
多次“担忧”中国船只研究活动，印度为何力阻中国科考船进印度洋？
低成本高威胁武器崭露头角，将改变战场规则？
一觉醒来，巴格达告急
长白山包车遭勒索？傅园慧称问题已解决 央媒：假如求助者不是傅园慧呢？
海口三港待渡车辆溢出路面，机票价格一路暴涨，有的已经突破万元
一家人旅游摆摊玩3天赚1000多元：过年玩了一圈，还赚了！
内塔尼亚胡反对！布林肯与以军参谋长单独会晤被取消
女婿因买茄子掀桌打架？官方辟谣：商丘及所属县市区均没有发生此事件
频频展示“杀手锏”，不可小觑的伊朗军工
节后气温“过山车”起伏 多地将有高等级流感气象风险
西方对俄罗斯能源制裁到底坑了谁？
开往新疆列车因大风中途折返 12306客服工作人员回应
力阻中国科考船进印度洋，印度到底在怕啥？
iOS系统首现木马病毒，可窃取用户的面部识别数据、身份证件并拦截短信
制造地区紧张气氛？驻日韩美军演练应对“大规模伤亡”
中国接力队让解说高喊帅呆了 成绩打破该项目全国记录
北方儿女节后回江苏上班 节后返程孙子孙女车中哭成泪人
“冲突至今最严重！”
女子返程高速4小时走了两三公里 被堵到“怀疑人生”
坎贝尔出任美副国务卿，美媒：主张与华竞争而非对抗
拜年礼盒被送一圈又回自己手里 返程时被妈妈硬塞带走
日记者观摩日美大规模海上军演，中国侦察舰抵近美航母
返程后备箱装了两只羊有300斤 网友：装不下了 真的装不下了
特朗普回应“特朗普有大肚腩图”：假的，这些人真卑鄙！
女子乘轮渡想插队怒斥提醒者外地狗 12345回应：会反馈给港口去处理
45载，中国机载火控雷达事业正青春
美军方：遭袭基地未能发现来袭无人机，也没有能击落无人机的武器
旅客反映火车票买不到 12306称车库的车都开出去了
昆山反杀案主办检察官评电影《第二十条》
相关新闻
质疑公司发假月饼被开除 当事人：老板应该不知情
原标题：女子称发现公司发假月饼后被开除当事人：老板应该不知情近日，据海报新闻援引锐目视频报道，一位女子吃公司发的美心月饼吃出一根头发后，发现该月饼是假货。
2023-09-28 13:06:12质疑公司发假月饼被开除公司团建给员工发3500元自由安排 让员工单独行动
原标题：公司团建给员工发3500元自由安排8月21日，湖南长沙。一公司发布年度放假通知，安排员工去云南团建，员工可自由安排行程。
2023-08-24 10:49:16公司团建给员工发3500元自由安排AI芯片第一股实控人发声 实际控制人自愿承诺不减持公司股份
财联社9月26日讯，昔日“AI芯片第一股”寒武纪今日早间表示，实际控制人自愿承诺不减持公司股份。而在这份承诺发布的节点，正是寒武纪的“多事之秋”，背后的的意味不由得引人深思。
2023-09-26 15:11:43AI芯片第一股实控人发声公司以数钱形式发年终奖 总额超1亿 数钱数到手抽筋
2024-02-06 09:42:43公司以数钱形式发年终奖英伟达H100 AI GPU利润率高达1000%：从AI热潮中获利
近日，有消息称英伟达公司的H100 AI GPU的利润率高达1000%，这一数字可能让人们感到震惊。
2023-08-18 14:36:07英伟达H100AI时政画报｜步履不停
党的十八大以来，习近平总书记每年都要多次深入基层一线考察调研。千沟万壑的高原路、蜿蜒曲折的盘山路、泥泞狭窄的乡村小道、麦浪滚滚的田间地头……乘飞机、坐火车、转汽车、搭轮船，跋山涉水，步履不停。
2024-01-28 22:07:31AI时政画报｜步履不停
