将AI带来的风险直接以“灭绝”措辞
2023-06-05 09:01:49 来源: 财经新闻网
财经新闻网消息：
“来自 AI 的风险是其他规模的风险，例如战争。”
22个字构成了一份“人工智能风险声明”，直接将AI带来的风险表述为“灭绝（）”，其严重程度堪比“流行病（）”和“核战争（战争）”，控制度是 程度表示为“ be a ”。
5月30日，包括科学家和商界领袖在内的350多人在非营利组织“人工智能安全中心（for AI）”官网发布的声明上签名。
AI三巨头CEO名字亮相榜单
“我们必须在这个问题上站出来，因为很多人只是在默默地互相交谈，”人工智能安全中心执行主任 Dan 在谈到该声明的目的时说，声明的简洁性是为了让科学家们形成“广泛的联盟”，其中一些人可能尚未就人工智能带来的风险以及预防这些风险的最佳解决方案达成一致。
在这350个签名中，前两位是图灵奖得主杰弗里·辛顿（ ）和约书亚·本吉奥（ ），其次是戴米斯·哈萨比斯（Demis）、山姆·奥特曼（Sam）和达里奥·阿莫迪（Dario）三人，他们分别是谷歌和三个世界知名的人工智能开发公司。
清华大学智能产业研究院院长张亚勤、中科院自动化研究所曾毅教授、中科院自动化研究所副研究员詹贤元等国内知名学者也签字。清华大学智能产业.
如果把“以知识服务人类”作为知识分子的社会责任，专家学者的落款就很好理解了。 被誉为“人工智能教父”的欣顿今年4月从谷歌辞职，此后一直在公开场合表达自己的不满。 对失控的人工智能的担忧； 签署了非营利组织 of Life 于 3 月发表的“中度巨人 AI 实验”公开信。
不过，在两个月前的信中，谷歌和这三家公司的负责人并没有署名。 与此次“22字声明”相比，信中还详细阐述了人工智能可能带来的各种可能性。 具体的风险，甚至是明确的风险管理原则，至今已经积累了31810个签名。
最后一封信引发的 AI 社区明显的分歧是，AI 实验是否应该因为风险而暂停。
当时，人工智能领域的学者吴恩达在网上表示，暂停AI训练6个月的想法是一个糟糕的、不现实的想法。 随后，CEO Sam Sam更直观地表达了停牌的无意义，“我们停牌6个月，然后？我们再停牌6个月？”
而这一次，AI企业三大巨头的负责人却率先签署了“22字声明”，这份声明含糊不清，但风险重重。 从他们对声明的认可中，可以看出控制人工智能风险的紧迫性。
短短两个半月，是什么让AI企业转变态度？
客流量增长放缓
现在，即使人类没有被人工智能灭绝，生成式人工智能也暴露了它被作恶者驱使的“阴暗面”。
例如，人工智能模仿声音和外表的能力被用作欺诈工具。 人工智能生成图片和文字的能力，不仅被用来编造新闻，还会制造直接损害普通人名誉的“色情谣言”。
相较于生成式AI对常识的“胡说八道”、陷入逻辑陷阱、不善于解决数学问题、数据隐私和安全等缺陷，AI在受害案例中所展现的破坏力更加具体、直观地呈现给了被害人。民众。 对于AI开发企业来说，最直接的影响就是那些刚刚对外开放AI应用的开发企业，在负面舆论中能获得多少增量市场？
以访问量增长最快的提供文本生成应用为例，其网页访问量从去年秋天的每月约2000万次增长到2023年4月的18亿次，刷新了互联网流量增长的神话。 但从网络分析公司收集的数据来看，中国网页访问量的增长速度正在放缓。
的网络访问量增长速度较慢
网页的流量贡献主要来自美国，占比10.25%，其次是印度（8.82%）、日本（7.48%）、印度尼西亚（3.84%）、加拿大（3.06%）。 月度增量也来自这些国家中，日本的访问量增幅最大，达到28.86%。 但俄罗斯、中国和欧洲国家基本没有为其贡献明显的流量，这些国家和地区的网民访问量有限。
切断这些市场的最大原因是各国对互联网的管理政策不同。 与俄罗斯和中国相比，欧洲似乎是人工智能公司更向往的市场。 但是，欧盟对人工智能有明确的立法规定。
此后，这三个公司的CEO都出现在了欧洲。
欧盟立法前欧洲的三位首席执行官
4 月 27 日，欧洲议会议员就《人工智能法案》（Act）提案达成临时政治协议。 5月11日，欧洲议会两个委员会通过了《人工智能法案》（以下简称《法案》）提案的谈判授权草案。 该草案将于6月12日至15日提交欧洲议会全体会议进行表决，之后欧洲议会将与欧盟理事会就该法的最终形式进行谈判。
该法案中的立法者根据风险级别对不同的人工智能工具进行了分类，从最低到有限、高和不可接受。 使用这些工具的政府机构和企业将根据风险级别承担不同的义务。 该法案还将严格禁止“对人类安全构成不可接受风险的人工智能系统”，包括故意操纵技术、利用人类弱点或根据行为、社会地位和个人特征进行评估的系统。
如果《法案》顺利通过，这将是人类历史上第一部针对人工智能的法律。 由于《法案》适用于在欧盟运行的所有人工智能系统，领先人工智能技术的美国企业想要进入欧洲市场显然会受到制约。
例如，该法案要求开发生成人工智能工具的公司披露他们是否在其系统中使用了受版权保护的材料。 对于使用来自各种来源的大量数据训练大型模型的人工智能公司来说，这一要求只会让他们远离欧洲。
,, 所有人都开始关注欧洲的趋势。
5月下旬，CEO Sam 多次出访欧洲，与西班牙、波兰、法国、英国等国政府首脑举行会谈，探讨人工智能的发展潜力、威胁和监管。 首席执行官 Demis 和 Dario 还会见了英国首相苏纳克。
英国首相苏纳克会见人工智能三巨头CEO
与欧洲国家元首交流，人工智能技术公司试图影响该法案的进程。 不仅如此，萨姆·奥特曼还通过演讲、采访等多种方式向欧洲公众发声，希望“舆论”与他们站在一起。
在伦敦大学学院的一次演讲中，奥特曼坚持了自己的观点：人们对人工智能的担忧是有道理的，但人工智能的潜在好处要大得多。 谈到人工智能监管，奥特曼表示欢迎监管，但需要“以正确的方式监管”，因为“过度监管会损害小公司和开源运动”。
5月25日，奥特曼向英国媒体表达了对《法案》的看法。 “很多措辞都不合适。” 他认为，目前的欧盟 AI 法案草案会造成过度监管，“但我们听他们说会调整，他们还在谈。”
距离《法案》最终表决还有不到半个月的时间，奥特曼的“游说之旅”仍在继续。 公开资料显示，奥特曼接下来将与欧盟工业界负责人伊莱·布雷顿（Eli ）会面，讨论欧盟应如何实施在人工智能领域引领世界的规则。
经过一系列欧洲之行，AI 三巨头的三位 CEO 签署了“22 个字的声明”，认同声明中提出的全球优先控制 AI 风险的声明。 姿态背后，是AI企业试图在可控范围内拓展市场的“求生欲”。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com
