3月29日，未来生命研究所（Future of Life Institute）发布了一封公开信，呼吁所有人工智能（AI）实验室暂停一切大规模人工智能系统的训练，至少停止六个月，这些系统比目前最先进的GPT-4更强大。我和其他一些业内知名人士一起签署了这封“暂停信”，其中包括埃隆·马斯克（Elon Musk）和史蒂夫·沃兹尼亚克（Steve Wozniak）。我不知道呼吁有没有用，但我相信前方确实有危险，以下是为什么我这么说的原因。

一段时间以来，我一直都在担心人工智能对社会的影响，我指的不是超级智能、人工智能突然接管世界这种人类面临的长期存亡风险，而是人工智能被用来操纵社会的短期风险，即通过人工智能有意影响我们接收的信息，并决定这些信息如何在人群中传播。这种风险在过去12个月里迅速上升，原因是两种重叠技术的重大性能提升，这两种技术通常被称为“生成式AI”和“对话式AI”。下面我来谈谈自己为什么对这两种技术感到担忧。

生成式AI指的是大型语言模型（LLM）根据人类要求创造原创内容的能力。现在，人工智能生成的内容包括图像、艺术作品、视频、散文、诗歌、计算机软件、音乐和科学类文章等。在过去，生成式内容让人叹为观止，但没有人会把它误认为是人类的创造。这一切在过去12个月里发生了变化。人工智能系统突然能够创造出可以轻易欺骗我们的东西，让我们相信这些东西要么真的是人类创造的，要么是真实的视频或在现实世界中捕捉到的照片。这种能力目前正在被大规模部署，给社会带来了许多重大风险。

就业市场面临的风险最显而易见。由于LLM系统创造的东西让人叹为观止，专业人士现在将LLM系统称为“能与人类竞争的智能”，可以取代内容创作者。