AI 发展中的停滞与前景

关键要点

呼吁暂停：业内重量级人物如埃隆马斯克和史蒂夫沃兹尼亚克等发布了一封信，呼吁暂停人工智能研究与开发，获得千余名技术领导者和研究者的支持。技术进展未停滞：尽管有暂停的呼声，AI的研究与开发依然持续，相关企业仍在推进自家项目。安全隐忧：生成式AI可能导致网络安全风险，包括网络钓鱼和虚假信息传播。积极应用：生成式AI具备巨大的潜力，能够提高工作效率和安全性。

两个月前，埃隆马斯克和史蒂夫沃兹尼亚克等科技界大咖联合发布了一封公开信，建议暂停人工智能的研发。此信已获得超过1000名技术领袖与研究者的签名。

然而，即使有这样的停滞呼吁，这封信并没有阻止AI的发展。实际上，它甚至未能阻止部分签署者的行动，例如埃隆马斯克已宣布正在开发TruthGPT，旨在与ChatGPT竞争。随着研究人员、技术专家和消费者的关注与担忧，如何确保生成式AI不会对社会、人类和安全构成威胁，依然是个亟待解答的问题。

暂停AI开发是否可能？

对这个问题的简短回答是“不”。最近，ChatGPT的创始人山姆奥特曼在五月份向国会作证，讨论了这一问题，并呼吁进行广泛的监管。人工智能已经存在多年，并在我们生活中充当着重要角色。直到去年底，ChatGPT发布之前，没人真正能够理解生成式AI的颠覆性力量。如今，随着公司和个人开始认识到其潜力，并打破了可及性的壁垒，AI的采用与研究加速，围绕其应用的治理讨论也愈加频繁。分析数据和提供基于规则的回应曾是AI行业的起步阶段，现在我们已经取得了进展，无法回到从前。

此外，试图暂停AI进展可能带来的后果，尤其是从安全角度来看也不容小觑。随着海外公司持续推进生成式AI的发展，美国用户最终可能开始使用这些外国产品，因为它们可能会更加优越。这可能会导致大量敏感信息落入安全规章相对宽松的外国公司手中，从而增加隐私和身份的风险。

AI的风险有哪些？

要真正理解为何一些专家呼吁暂停开发，首先要了解生成式AI所带来的风险。从网络安全的角度来看，黑客已经开始使用生成式AI工具创造更加真实的网络钓鱼攻击，模仿品牌语气或更轻松地将文本翻译成多种语言，使其更难被识别，亦能有效连接黑客与全球受害者。

攻击者还可以利用AI技术制作深度伪造内容。无论是信息、视频，还是音乐，真实与虚假之间的界限将持续模糊。更广泛地看，这项技术可能会进一步侵蚀互联网信任，助长虚假信息的传播。互联网用户将不断需要自问，他们看到的图像、视频或信息有多“真实”。近日，一张AI生成的教皇穿白色羽绒服与镶嵌十字架的图片在网上走红，欺骗了成千上万的人。虽然这是一个相对无害的例子，但攻击者也可以利用这些技术制作虚假的图像、视频或音频片段，损害知名人士的

海外加速器