首页 科技快讯 对生成式AI的风险到了该“重新思考”的时候了

对生成式AI的风险到了该“重新思考”的时候了

来源:晰数塔互联网快讯 时间:2023年11月10日 11:34

从创造栩栩如生的艺术到如同真人般的精度模仿人类语言,生成式AI正在改写创新和自动化的规则。AI大模型训练的高耗能、AI对语言情感和伦理道德的把握程度、AI对假消息和公众舆论的操纵、生成式AI在人类创新创造中的角色……在生成式AI加速奔跑的今天,有些问题依然值得我们细细思考。近日,国外一档专门探讨AI发现的栏目《AI Uncovered》总结了生成式AI发展过程中值得重新思考的10个问题,一起来看看。

一、碳足迹

生成式AI大模型的运行会消耗大量电力,从而产生更多的碳足迹(Carbon footprint,也称“温室气体足迹”)。因我们的活动而释放到大气中的温室气体和有害气体,也被视为人类的污染足迹。人工智能大模型的运行所消耗的电力越大,产生的污染就越多,最终给人类的生存家园带来巨大的风险。

根据2019年进行的一项研究,使用GPU训练Transformer模型的过程,耗电量惊人,将会导致约313吨二氧化碳的排放,这一数量相当于55个美国人平均一年电力消耗产生的碳排放量。而这项研究中训练的Transformer模型已经拥有2.13亿个参数。如果模型的参数更多,则需要的电力也更多,产生的碳足迹和环境污染更加难以忽视。

二、虚假信息

生成式AI拥有捏造信息的能力,客观数据的偏差或主观需求的操控都有可能让生成式AI生产出充满迷惑性的虚假信息。这些虚假信息充满迷惑性,让人一眼觉得是真实信息,但事实上是虚构的,这使得区分事实与假消息变得具有挑战性,这是当今社会的一个紧迫问题。信息时代,错误信息和虚假信息像野火一样传播,预先训练的大语言模型,例如ChatGPT,表现出有限的适应性,只能对已有的信息进行总结和判断,无法跟上新出现的信息。

尽管这些人工智能系统的创造力令人印象深刻,但缺乏人类与生俱来的对真相的洞察力。如此发展的后果,就是很容易传播假新闻,制造假视频,并有可能借此操纵公众舆论,弱化我们对在线内容的感知和信任能力。打击人工智能生成的虚假信息,需要拿出切实可行的技术解决方案,并结合事实审查制度、媒介素养培育、批判性思维养成以及优先考虑准确性高、透明度高的人工智能系统开发等。这些都是解决这一挑战的重要组成部分,单一的技术升级无法解决这一复杂的挑战。

三、缺乏语境理解

生成式AI有生成连贯文本的能力,但在真正的理解方面却存在不足。深入了解其生成的内容,会发现这些AI模型仅具有有限的能力来掌握上下文的意思,这就导致有可能出现错误的响应。生成式AI通过学习模式预测序列中的下一个单词,以此来处理庞大的数据集,但它缺乏对人类解释语言的深刻理解,无法真正理解生成话语背后的情感或细微差别,这种限制可能会导致其提供表面上看起来正确但实际上错误的文本。

上下文理解不正确不仅会影响AI做出正确的判断,也会导致使用AI的用户产生反感,极大削弱了用户使用AI的热情。解决AI大模型缺乏语境理解问题是推进人工智能系统研发的一个关键挑战,目前研究人员正致力于改进模型,提高模型的上下文理解能力,使AI交互更加自然、准确,以达到真正理解用户需求的目的。

四、数据依赖

生成式AI的研发和训练通常需要数百GB甚至TB的数据。大模型的研发对数据的质量和数量要求极高,数据的有效性是影响语言模型能否发挥作用的重要因素,数据不足或不相关的数据过多会严重影响大模型运行的效果,例如在基于生成式AI的问答系统中,如果训练数据与手头的特定任务缺乏相关性,则大模型的干预能力会直线下降。比如用不相关或质量差的材料教某人外语,学习过程就变得很艰巨,最终的结果也会受到影响。

这便是生成式AI的数据依赖性对其训练和运行的影响。所以训练人工智能大模型离不开高质量的数据集,必须提前策划如何获取与模型训练相关的数据集,这对模型是否成功而言至关重要。这也凸显了如今生成式AI研究的严峻挑战,确保人工智能系统能够有效地在各种背景和场景中提供准确的响应,需要仔细地选择和准备有效的数据集。

五、潜在的舆论操纵风险

在信息爆炸的今天,假新闻已变得司空见惯,而生成式AI的出现正在加剧这一问题。生成式AI有能力制作让人高度信服的虚假文章,并在社交媒体发布虚假视频,当各种形式的虚假信息充斥网络,这对网络信息的可信程度提出了严峻的挑战,同时任何人都可以获得和使用生成式AI,这也让有恶意动机的个人更容易利用AI传播虚假信息操纵公众舆论,谋取私利。

显然,研究者们开发生成式AI的目的不是为了给犯罪提供便利,而是想协助人类激发他们的创造力,实现生成式AI的个性化发展。但是带有恶意动机的人对生成式AI的错误使用无疑会对数字系统的安全性和完整性构成重大威胁。

六、对人类生存的威胁

一些专家对生成式AI构成的潜在生存威胁表示担忧,他们担心随着生成式AI越来越先进,理论上它们会被利用,去做一些伤害社会和人类的事情,比如出于政治目的操纵公众舆论,制作虚假视频抹黑竞争对手,开发新的武器伤害他人,甚至还有可能因为错误的信息导致AI系统做出损害人类的决策或者给出错误的指导意见,从而达到AI对个人的潜在操控。

我们已经见证了社交媒体对公众舆论的影响,而生成式AI可能会将这种舆论操控升级到前所未有的水平,这会给人类的生存带来威胁,使人类处于危险的生存空间中。

七、专用模型的前景

特定领域的专用模型在某些任务的处理上性能优于GPT-4。AI大模型经常被区分为最大和最强大,但随着AI大模型的不断发展,它的使用者们开始认识到规模并总是等同于优势,尽管通用大模型拥有数十亿甚至数万亿的参数,看起来很强大,但它们对计算资源的无尽需求往往超过了芯片生产或扩展的速度,这给服务器容量带来了沉重的负担,并导致特定业务的模型训练时间过长。

与现在世界广泛应用的通用大模型GPT-4相比,一些小众领域的专用AI模型在特定任务中表现出了卓越的性能,这些专用模型经过微调,可在特定领域表现出色,展示了定制AI大模型的优势和广阔前景。这些专用模型经过广泛的训练,数据集有可能挑战当前各类LLM(语言大模型)的霸主地位,例如OpenAI的GPT-4,Meta的LLama 2或Google的Palm 2。此外,这些专用模型由于规模较小,其实更易于管理,运行效率也更高,还可以在训练期间针对特定用例进行定制。

八、存在偏见

生成式AI有可能放大预先存在的偏见。这些偏见来源有很多,超出公司控制范围的训练数据、训练使用生成式AI的目的等都会造成其存在偏见。有问题的训练数据将某些职业与特定性别联系起来,造成性别偏见,或延续种族刻板印象,产生歧视。训练生成式AI的数据来自算法,而算法本身可能带有偏见,这些带有偏见的数据在使用时自然也影响到了生成式AI发挥作用。

此外,系统可能被故意设计成表现出偏见,例如优先考虑正式写作而不是创意表达或仅迎合某些行业,从而无意中强化了现有偏见,排除了不同的观点。监管不足、社会公正系统失衡或财务激励措施不合理,都有可能导致偏见持续存在,想要解决这种偏见,就需要采取一套全面的方案,包括道德设计、观点多样化和强有力的监督,以此促进公平和公正的AI技术发展。

九、本质上不理解伦理

生成式AI的快速发展引发了人们对伦理问题的担忧。AI与人类互动之间的法律伦理和安全问题成为大家热议的对象。

生成式AI缺乏对伦理问题的内在把握,它们通过学习分析大量数据集、辨别模式和关联来作出判断,发挥作用,在这些过程中都不具备对人类社会内在的道德理解,缺乏这种道德理解,很可能会导致AI模型生成存在道德问题甚至是冒犯性的内容。

在生成式AI的研发和使用中要如何避免出现这种道德问题,关键在于开发者和运营商,需要对他们建立明确的道德准则,并纳入监督和干预机制中,用清晰的规则来约束生成式AI的开发者和运营商,明确道德责任的主体。此外,人类专家的指导也是解决这种道德挑战的有效方式,他们能够做出关键决策来减轻AI生成内容造成的危害。

十、是否会取代人类的创造力

AI可以通过融合现有概念产生新想法的方式来复制人类的创造力,这种方式与人类创新有些类似。相似的创新方法让一些人认为人工智能可以轻易取代人类,但这并不准确。虽然人工智能系统可以从数据中学到内容生产模式,但真正的人类创新,本质是一种综合经验、情感和独特视角的能力。

从目前的研发情况来看,生成式AI的内容生产模式还不能取代人类创新创造,并且开发生成式AI的核心目的是增强人类的创造力而不是取代它,AI只是一个有价值的合租者,协助创意过程并提供灵感。保留艺术和创新中不可替代的人类接触,仍然是生成式AI对创新创造领域发挥有效作用的关键。

本文来自微信公众号:中国企业家杂志(ID:iceo-com-cn),整理:吴莹

相关推荐

生成式AI,可以设计芯片了?
生成式AI变革电信行业的有所为与有所不为
生成式AI来了,我们还能相信自己的眼睛吗?
微软盯上ChatGPT,一场关于生成式AI的豪赌
“生成式 AI”时代:“超现实”会让人失去对现实的兴趣吗?
不甘人后:被生成式AI弥漫的亚马逊
生成式AI未来会开源吗?
媒体人请听题:把生成式AI关进笼子里,一共分几步?
拆解生成式AI首部新规:监管、边界与平衡
AI“写”的文章,到底该归谁?

网址: 对生成式AI的风险到了该“重新思考”的时候了 http://www.xishuta.com/newsview97357.html

所属分类:行业热点

推荐科技快讯