来源：澎湃新闻

记者 方晓

·“在人工智能取代你所有的工作之前，它肯定会在垃圾邮件发送者手中造成很大的损害，这些人想要操纵选举。”

·大型科技公司对AI研究的控制如此之大，以至于就职这些公司的许多科学家害怕表达他们的担忧，因为担心会损害职业前景。

美国监管人工智能的行动上升到白宫层面。当地时间5月4日，美国副总统卡马拉·哈里斯（Kamala Harris）将与顶级人工智能企业Alphabet（谷歌母公司）、微软、OpenAI和Anthropic的首席执行官会面，向企业施压以围绕AI实施保障措施。

同时，美国联邦贸易委员会（FTC）主席莉娜·汗（Lina Khan）在《纽约时报》撰文称，必须监管人工智能，保护美国人免受不公平或欺诈行为的侵害。

美国联邦贸易委员会主席莉娜·汗。

继“人工智能教父”杰夫里·辛顿（Geoffrey Hinton）发出警报后，微软首席经济学家迈克尔·施瓦茨（Michael Schwarz）当地时间5月3日表示，相信人工智能将被不良分子利用，造成真正的破坏。

英国也对AI市场展开审查

彭博社援引一位白宫官员的话称，哈里斯和政府官员计划告诉上述科技企业领导人，他们有责任减轻人工智能工具的潜在危害。

这次会面的邀请函称，美国政府正在寻求“坦诚讨论我们每个人在当前和近期人工智能发展中看到的风险、减轻这些风险的行动，以及我们可以共同努力以确保美国人民受益于人工智能的进步，同时免受其危害。”

除副总统外，白宫办公厅主任杰夫·齐恩茨、商务部长吉娜·雷蒙多、国家安全顾问杰克·沙利文和拜登的技术顾问阿拉蒂·普拉巴卡尔预计将出席。拜登的经济顾问莱尔·布雷纳德、高级顾问苏珊·赖斯和布鲁斯·里德以及白宫顾问斯图尔特·德勒里也将参加会议。

白宫官员说，这次会议是让企业、研究人员和民间社会参与进来的更广泛努力的一部分。

在ChatGPT发布后，最近几个月全球生成式人工智能工具的使用激增，批评者对这项技术提出了担忧，包括可能存在的偏见、侵犯隐私、导致错误信息或诈骗蔓延。

上周，七国集团数字与技术部长会议同意对人工智能采取“基于风险的”监管。而欧盟立法者也就人工智能法案达成了初步协议。

据《金融时报》当地时间5月3日报道，英国竞争和市场管理局（CMA）将对人工智能市场展开审查。该机构负责人萨拉·卡德尔（Sarah Cardell）表示，CMA将审查“基础模型”以及“围绕这些模型的市场如何发展”。CMA将评估“该领域的真正机会”，同时“在确保竞争有效运作和消费者得到保护方面，我们应该制定什么样的护栏措施和原则”。

而在美国，商务部4月曾表示正在考虑要求AI模型在发布前经过认证程序的法规。

“正面临另一个选择时刻”

当地时间5月3日，美国联邦贸易委员会主席莉娜·汗撰文称，“由于生成式人工智能的快速发展，我们中的许多人现在已经体验了这种潜在的革命性技术，它对世界各地人们的生活、工作和交流方式产生了巨大影响。生成式人工智能的全部潜力仍有待商榷，但毫无疑问它将具有高度破坏性。”

汗回忆了2000年代中期Web 2.0时代的到来，像Facebook和谷歌这样的新兴创新公司彻底改变了通信方式，并为快速增长的用户群提供了流行的服务。然而，这些创新服务的成本很高。“我们最初设想的免费服务是通过对使用这些服务的人员和企业进行广泛监控而变现的。其结果是出现了在线经济，在这种经济中，越来越多基本服务的获取取决于我们个人数据的广泛囤积和销售。”

“这些商业模式驱使企业开发无休止的侵入性方式来跟踪我们，联邦贸易委员会后来找到理由确认其中几家公司违法了。再加上收购或锁定威胁其地位的公司的激进战略，这些策略巩固了少数公司的主导地位。”汗写道，“最初是一组革命性的技术，最终将巨大的私人权力集中在关键服务上，并锁定了以我们的隐私和安全为代价的商业模式。”

而现在，正面临另一个选择时刻。“人工智能的广泛采用存在进一步锁定现有大型科技公司市场主导地位的风险。少数强大的企业控制着初创企业和其他公司开发和部署人工智能所需的必要原材料、工具，这包括云服务和计算能力，以及海量数据存储。”汗写道，占主导地位的公司可以利用对这些关键投入的控制来排除或歧视下游竞争对手，与此同时，AI企业用来为各种商品定价的工具可能会助长抬高价格的串通行为，以及精准定位的价格歧视。

此外，汗表示，AI可能还没有准备好取代专业作家，但已经可以比骗子更好地制作看似真实的信息，甚至指示机器人使用针对特定群体和社区的单词或短语。例如，诈骗者可以根据个人用户的社交媒体帖子起草针对性很强的网络钓鱼电子邮件。除了创建深度伪造视频和语音克隆的工具外，这些技术还可用于促进大规模欺诈和勒索。

汗表示，面对1960年代后期的反垄断审查，计算机巨头IBM将软件从其硬件系统中分离出来，促进了美国软件行业的崛起并创造了数万亿美元的增长。政府行动要求AT&T开放其专利库，同样释放了数十年的创新，并刺激了无数年轻公司的扩张。现在，联邦贸易委员会正在密切关注，如何才能促进公平竞争并保护美国人免受不公平或欺诈行为的侵害。

微软经济学家也发声

包括Twitter首席执行官埃隆·马斯克在内的一些知名科技领导者，已经呼吁美国联邦政府实施新规定。辛顿5月1日加入批评者行列，称大型科技公司在向公众部署人工智能方面进展太快，人工智能实现类似人类的能力的速度超过了专家预测，很快会对人类构成威胁，他还宣布已辞去谷歌的研究工作。

被称为“人工智能教父”的杰夫里·辛顿。

在5月3日的世界经济论坛活动上，微软首席经济学家施瓦茨也发布了警告。他在一个关于生成式人工智能的小组会议上发言称，“在人工智能取代你所有的工作之前，它肯定会在垃圾邮件发送者手中造成很大的损害，这些人想要操纵选举。”

施瓦茨的警告值得关注，因为微软2019年就向OpenAI投资了10亿美元，今年1月又宣布对OpenAI进行新的投资。OpenAI依靠微软提供计算能力，这种关系可能会为微软带来高达300亿美元的年收入。

但施瓦茨的态度仍然十分缓和，他说，人工智能显然必须受到监管，但立法者应该谨慎行事，等到该技术造成 “真正的伤害”。

施瓦茨表示，所有新技术，甚至汽车，在首次进入市场时都会带来一定程度的风险。 “当人工智能让我们更有生产力时，我们人类应该过得更好。”他说，“因为我们能够生产更多的东西。”

彭博社专栏作家帕米·奥尔森（Parmy Olson）当地时间5月3日撰文称，辛顿的警报如果早几年出现会更有效。这一事件凸显了AI研究中的一个长期问题：大型科技公司对AI研究的控制如此之大，以至于就职这些公司的许多科学家害怕表达担忧，因为担心会损害职业前景。

2018年，谷歌前研究经理梅雷迪思·惠特克（Meredith Whittaker）在协助组织2万名谷歌员工罢工后，不得不花费数千美元聘请律师。两年后，谷歌AI研究人员蒂姆尼特·格布鲁（Timnit Gebru）和玛格丽特·米切尔（Margaret Mitchell）在发布了一篇强调大型语言模型风险的研究论文后被解雇。

2015年，《纽约客》的一篇文章描述了辛顿当时的态度。在被问到为什么还在从事AI研究时，他说，“发现的前景太美好了”，谷歌在部署人工智能方面表现得“非常负责任”。如今，辛顿的离职和警告，将有望激发大型科技公司的其他研究人员说出自己的担忧。