首页 > 新车生活 > 新车生活 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 15210273549

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

新车生活更多>>

摩托罗拉 Moto G75 手机发布:首配骁龙 6 Gen 3芯片、5000万主摄 索尼回应旗下PC游戏需绑PSN账号争议,称有助于维护线上环境 性价比标杆机皇,该怎么选?一加Ace 3 Pro与红米 K70至尊版深度对比 红米K80Pro再次强大,2K C9直屏+骁龙8至尊版,涨价到3599元贵吗? 魅族21系列手机灰度更新Flyme 11.2.0.0A稳定版 千元市场的黑马:红米、iqoo、真我、一加,选择哪个品牌更好? 官宣!小米15与小米15 Pro亮相:雷军称其为最精致流畅的数字旗舰 刚刚上手体验了小米15,真替雷军捏把汗,这参数,这体验太意外 OPPO性价比之王,16GB+512GB跌至3139元,骁龙8Gen3+6100mAh 本田雅阁:拥有6万优惠,轴距2830mm家用如何? 德系合资的品质之选,迈腾B9重新定义驾驶体验 路上遇到根本认不出?纯电日产轩逸即将到来 红旗全新超豪华行政轿车“国雅”将于11月15日广州车展上市 iOS 18.1正式版总算来了,足足1.7G,都是果粉日思夜想的功能 华为纯血鸿蒙再次确定,将于8日正式到来,系统更流畅! vivo X200 Pro mini评测,优缺点都罗列出来了,值得入手吗? 6500毫安:荣耀X60 Pro、vivo Y300 Pro、OPPO K12 Plus,选谁? 荣耀大消息!IPO加速,29家荣耀“天团”出炉,杠杆资金盯上17只TMT股 一加站起来了,ACE 3跌落神坛,2299突然变得更香了! 近期换机推荐,这三款手机接近完美,已经降至冰点价 2024年双十一手机选购攻略,1000-2000元手机推荐一加 Ace3 V, iQOO Z9 Turbo, 荣耀 100 Pro 买Min LED电视,选海信E7N还是TCL Q9K?答案其实很清楚 摩托罗拉为一款配备“无限”指纹扫描仪的智能手机申请了专利 中兴通讯在上海成立浦瞻科技公司 注册资本5亿 这才叫设计!诺基亚新机太炸裂,瞬间爱了 索尼PlayStation 5主机2024年Q3销量380万台,同比降幅超两成 索尼总裁回应PS5 Pro价格争议:专为硬核玩家设计 红米K80开始预热!价格曝光,小米15突然不香了 LG新能源与美国造车新势力Rivian签署超5年电池供应协议 iQOO13、一加13和真我GT7 Pro一文看到三款骁龙8至尊版旗舰该咋选