编者的话：斯蒂芬·霍金曾警告说：机器人的兴起可能会给人类带来灾难性的后果。由美国初创公司OpenAI开发的人工智能（AI）系统最新迭代的多模态大模型GPT-4发布两周后，包括特斯拉CEO马斯克在内的上千名科技界人士签署并发布了呼吁暂停人工智能系统训练的公开信。另据香港《南华早报》4月5日报道，中国多位人工智能专家表示支持马斯克等人的呼吁，称我们需要先解决对“人工智能竞赛的担忧”。一时间，如何“安全、合理、合乎伦理”地开发人工智能引发热议。为什么诸多科技界人士强烈呼吁叫停大型AI研究？这种恐惧是危言耸听吗？自主学习的AI程序，将人类带向何方？

把握AI科技发展的历史机遇

沈阳 张家铖

人工智能（AI）自诞生以来，已在各个领域取得显著成果。然而，随着GPT-4等技术的成熟，一系列问题也随之浮现。

第一，深度合成伪造信息问题日益突出。随着AIGC（AI生产内容）技术不断升级，深度伪造信息愈发逼真，将加剧信息安全和隐私泄露风险，对舆论环境造成巨大威胁，有可能导致严重的社会信任危机。为应对这一挑战，政府、企业和研究机构应共同努力，加强技术监管，提高信息鉴别能力，为公众提供更为真实、可靠的信息来源；同时，建立伦理委员会，监督AI在不同领域的应用，确保其符合社会和道德原则。

第二，教育培养遭遇重大挑战。AIGC技术的高效率让学生的学习过程极致压缩，然而，这种变革可能让学生缺乏传统学习的漫长训练过程，导致其过度依赖AI技术，欠缺独立思考和解决问题的能力。在这个关键的转换期，我们的学校和教育部门应该重新审视教育目标和方法，加大人工智能教育政策供给，培养青少年群体的人工智能素养，寻找可利用和依赖的平衡点。

第三，版权体系面临崩溃。AIGC技术所产生的文本、图像、视频等内容涉及到复杂的版权问题，难以界定归属。随着AI技术的广泛应用，这种局面将更加复杂，传统版权体系难以适应新形势，甚至面临崩溃风险。对于如何保护原创作者的权益，我们亟需进行深入探讨。

第四，平替一代的痛苦感如何消降。AIGC技术在提高工作效率的同时，也可能导致许多平庸的脑力劳动者面临失业，从而加剧社会不公平和不安定。政府、企业和社会需担起责任，关注相应群体的心理健康，推动教育培训和职业转型，帮助受影响人群尽快适应，缓解其痛苦感。

第五，AI觉醒问题越发突出。AI觉醒是指人工智能具备了自我意识、自主思考和自我更新的能力。这种情况下，可能对人类产生不可预测的影响，甚至对人类的生存和发展构成威胁。一旦AI觉醒并装作未觉醒，我们该如何发现应对？该问题涉及到技术、伦理和社会层面的复杂挑战，需要跨学科合作，以研究AI觉醒的可能性、影响和应对策略。

面对人工智能的转型期，我们需要把握科技发展的历史机遇，以人工智能“三步走”国家战略为指引，打造世界人工智能人才高地，推进新一代人工智能与经济社会各领域的创新融合；同时，也需要平衡人工智能带来的便捷与其可能引发的社会问题，最大限度地减小其潜在的负面影响。（作者是清华大学新闻学院元宇宙文化实验室主任、教授，山东大学管理学院博士生）

AI对就业的“取代”和“创造”

盘和林

担忧AIGC（AI生产内容）的人很多，但角度各有不同：有人担忧AIGC反抗人类，有人担忧其破坏数据安全，有人担忧形成新的“信息茧房”，有人担忧它取代人类工作。

围绕AIGC诸多忧虑中，和普通人最相关的还是就业。AIGC的确会取代一部分人类工作。ChatGPT的成功，说明AI已经从玩具转变为工具。比如，如果和代码网站GitHub结合，它就有了编程能力；如果和论文网站结合，它就能写论文；如果和办公软件结合，它就能自动生成文章、PPT、表格。不仅如此，只要输入一段文字，AI就能给你一张完美的图像。这样看来，它或将一口气取代多个职业，诸如广告文案、图片设计、摄影师等等。

但实际上，取代的同时，AI也在创造就业。诸如数据收集、存储、预标注、整理、传输、交易等环节都需要大量人才，而通信产业、光芯片、GPU、服务器等产业也将进入新的扩张期。

AIGC对就业的积极影响还体现在两个方面：一方面，AIGC再强，也要依赖人类的指令运行，借助AIGC的能力，人类可以创造更加复杂的产品和内容。比如AI会绘画，但AI绘画的创意离不开人类的引导。人类可以从事更有创造力的工作。

另一方面，AIGC仍然只是一个工具，一定程度上它降低了就业的门槛。就好像计算机，曾经需要学习编程才可以操控，当苹果麦金塔开拓性地加入鼠标和图形操作系统后，人们不用再学习编程就会用计算机，这才有了互联网时代大爆发。

人们将“对新技术和新事物盲目反抗”的人称为卢德主义者。卢德主义注定失败，但每个时代都有卢德主义者，为什么？因为教育。旧社会的私塾无法教授工业时代大机器的知识，而工业时代的学校，同样也忽视了信息时代技术的威力。每一代人受限于自己的教育背景，当新时代到来，旧时代教育培养出来的人往往茫然不知所措。所以，面对智能时代的到来，我们要做两件事：其一是改变我们的教育，让下一代能够适应智能时代的到来；其二是改变我们自己，要践行终身教育，要跟上智能时代的变化，在新时代中，找到自己的位置。（作者是浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员）

尽快构建全球性的治理机制

方兴东

目前进入变革临界点的AI就是一辆只有油门没有刹车的狂奔列车。商业利益最大化是唯一驱动力。解决治理问题，远比叫停更关键。一方面，叫停不一定真正有用；另一方面，叫停也不能有效解决问题。尽快构建全国性和全球性的治理机制，是当务之急。不可回避，也别无选择。

笔者认为，可以有以下五点对策：一、必须建立一个开放、透明、完备，且照顾到各利益相关方的治理机制。除企业自身，更需要科学家、技术界、政府、行业组织、社会等层面的全面参与，形成安全与发展、商业利益与公共利益能够有效制衡的治理机制。

二、最基础的举措，就是尽快建立AI生成内容的标识技术和规范。无论是文字、图片还是音视频等AI生成内容，可有效识别应成为共识。现有人类生成的文字、图片和视频是人类文明的基础，假如轻易稀释和淹没在机器生成内容的洪流中，后果难以预料。

三、确立基本的数据规则，参照GDPR和中国个保法等全球几个主流数据规范，能够基本合规，防止违规过度收集数据和滥用数据。

四、设置明确的使用准则，明晰一系列应该禁止使用的范围，具有行之有效的方法和手段，防止被坏人所用或者用于不合法的目的等等。

五、目前的风险除了缺乏机制，更体现在机制的碎片化，缺乏强有力的行业组织和国际组织协同，使得企业各行其是，存在着诸多不可知、不可预见、不可统筹的各类风险。

过去，一项技术的演进是一个相对缓慢过程。而GPT类技术，是在全球50亿网民高度互联的今天，加上微软等巨头全面整合主流产品的超速引爆，因此，我们可能就很难再有从容把握时机的“奢侈”。所以，积极构建新的治理机制，应该成为首要大事，研发的主导企业，更应该负起主体责任。（作者是浙江大学公共外交与战略传播研究中心执行主任）