从天才作家斯蒂芬-霍金到硅谷科技公司，在人工智能快速发展的当下，许多人们不止一次的对此发出警告：不合理的使用人工智能（AI）将会对人类造成巨大威胁，甚至有朝一日可能会“毁灭人类”。

资源掠夺

目前，科技巨头们正竞相创造比人类聪明得多的人工智能，这促使美国总统拜登实施紧急监管，欧盟也在寻求在今年年底前达成重大立法。最近在伦敦举行的为期两天的峰会将探讨针对人工智能风险的监管保障措施。

显而易见的是此前OpenAI的ChatGPT的成功，引发了关于“生成式人工智能”是否能够通过日常语言的简单指令，快速生成文本、图像和音频并对人类的工作构成巨大威胁的讨论。虽然在工厂、仓库和田间地头，人们已经在使用自动化机械从事劳动。但生成式人工智能可以瞄准白领工作，如律师、医生、教师、记者，甚至计算机程序员、记者，甚至计算机程序员。

麦肯锡咨询公司（McKinsey consulting fi rm）的一份报告估计，到本年末，美国多达30%的工作时间将实现自动化，显然是生成式人工智能加速了这一趋势。有趣的是，这种技术的推动者甚至提出了全民基本收入的概念：机器产生的财富将与摆脱了工作负担的人们共享。

但是，公司也有可能通过提高效率来获取利润，而让那些没有工作的人该怎么办，如果让失业者自生自灭，这个社会真的会更加稳定吗？

模仿与创造

好莱坞的大罢工已经在过去一年为文艺界造成了诸多损失，除此之外，还有不少艺术家对Dall-E、Midjourney和Stable Diffusion等软件提出了抗议。因为这些软件几乎可以按需制作任何风格的图像，其他行业如计算机编码员和作家也紧随其后，批评人工智能创造者用他们的作品“训练”软件，使其能够复制他们的作品，并且在未经许可或补偿的情况下复制他们的风格或技能。

“诚然人工智能模型是通过网上的海量信息和图像学习出来的。”OpenAI联合创始人萨姆-奥特曼（Sam Altman）在九月份的一次会议上说，但他同时强调：“我认为这将是一个放大人类的工具，而不是取代人类的工具。”

造谣与欺诈

假新闻和深度伪造已经存在多年，但使用生成式人工智能就能轻松制造假新闻，这不禁让人担心网络欺骗行为的猖獗。认知科学家和人工智能专家加里-马克斯（Gary Marc）认为，选举有可能被那些最擅长传播虚假信息的人赢得。“民主取决于能否获得做出正确决策所需的信息。”马库斯先生说：”如果没有人知道什么是真的，什么是假的，一切都完了。”

同时生成式人工智能让骗子们更容易制作出令人信服的网络钓鱼电子邮件，或许甚至可以了解到足够多的目标信息，从而采取个性化的方法。技术可以让他们复制一张脸或一个声音，从而诱使人们上当受骗，例如声称亲人有危险。

美国总统乔-拜登（Joe Biden）最近签署了一项旨在打击人工智能的行政命令，称人工智能模仿人们声音的能力“令人震惊”，甚至还有专门训练的语言模型来制作此类恶意内容。

以人类为榜样

与其他同时具有善恶潜能的技术一样，究其原因，人工智能主要的危险来自于掌握这些技术的人类。由于人工智能是根据人类在网络上发布的数据进行训练的，因此它可以反映社会的偏见、偏颇和不公正。人工智能还有可能让制造生物武器、入侵银行或电网变得更容易；以及实施压迫性的政府监控等等。一些业内人士担心，人工智能可能会变得非常聪明，从而夺取人类的控制权。

“不难想象，在未来的某个时刻，我们的智能计算机将变得和人一样聪明，甚至比人更聪明。”Sutskever在最近的TED人工智能大会上说。”这种人工智能的影响将是真正巨大的“。OpenAI及其竞争对手坚持认为，人工智能的目标是造福人类，解决诸如气候变化等长期棘手的问题。

不过与此同时，人工智能行业的领导者们也在呼吁制定周到的法规，以防止出现人工智能风险。