代码生成:基于 AI 大模型的挑战与前景
作者 | Ben Linders
译者 | 马可薇
策划 | 丁晓昀
使用 AI 通用模型来完成代码生成这类非常具体的任务可能会带来问题。人工智能生成的代码就像是陌生人的代码,它们可能并不符合你的代码质量标准。这种情况下,创建专业或专用的模型不失为一条出路。
Luise Freese 和 Iona Varga 在 2023 年的 NDC Oslo 大会上探讨了 AI 模型的实践困境和伦理相关问题。
Varga 提到,“人工智能”这个词给人一种智慧的感觉,虽然这个名字实际只是代表了这些模型的构建方式。以节点相连的形式模仿人脑中神经元与突触连接而成的网络,这类模型因此而得名“人工网络”或“人工智能”。
Freese 补充道,抽象来说,计算机是完全依赖于或开或关的晶体管,通过这些开关的组合,我们得以操纵比特。由于晶体管之间没有相互的纠缠,这些开关最终会带来这样的结果:
因此,计算机并不会思考,不过是我们的人工智能算法赋予了它们个性和特征,比如“让我考虑一下”这类礼貌说辞。AI 仅仅是利用统计数据对事物进行预测、分类或组合。
Varga 提到,AI 的问题在与使用极其通用的模型或是基础模型完成非常具体的任务。大语言模型(LLM)的工作原理是先分析问题、创建一两个词语,再根据统计数据预测下一个标记的最佳匹配。此外,LLM 本身是无法对事实进行核查的,因为这类模型的设计目的是生成而非验证。
如果我们试图建立一个能解决所有 AI 问题的 AI 模型,那么我们将会创造出一种自我放大的螺旋式下降,Freese 补充道。若想实现螺旋式上升,那就应该少用基础模型,多用更为具体的模型,后者中有一部分实际就是搭建在基础模型之上的。
AI 或许能生成代码,但这些代码是否能安全地使用,是否能满足我们对质量的标准要求?Varga 认为这些问题只能由真正的人类来回答,这一过程并不容小觑。归根结底,就像是代码的编写一样,调试陌生人的代码远比自己从头到尾参与其中的代码更为困难。
一般模型的理解能力也更为通用,这在代码生成问题上可能会带来问题,正如 Varga 所解释的:
举例来说,React v17 或 v16 这些可能没有直接反应在模型的上下文中,但模型也能了解这些代码库。或许你会发现自己生成的一个函数中会混杂有两个版本的代码。
Varga 认为,多数情况下 AI 都是解决问题的好帮手。但使用 AI 就意味着你要去检查、验证、修改、编辑或重写部分内容,而这一部分可能才是我们低估 AI 工具带来工作量的地方。
InfoQ 针对人工智能所带来的挑战问题采访了 Luise Freese 和 Iona Varga。
InfoQ:什么因素会造成 AI 的失败?
Iona Varga: 一般来说,AI 并不是命中注定要失败的。我是医学物理出身的,我也见过很多优秀的 AI 工具,它们能出色地完成波弹性成像的实时剪切,早期阶段的婴儿检测,甚至能检测出肿瘤专家都无法发现的肺癌细小结节。
但由于虚假数据和扭曲事实问题的存在,这些结果并不完全可信。举例来说,川普就职典礼上,实际的到场人数是要少于最初公布的数据。试着问模型就职典礼的公园有多热闹,你大概会得到一个出乎意料的答案。但同样,数据的来源时至今日也有颇具争议的历史背景,它们可能会出于政治剧本或标准等原因而被修改。
InfoQ:伦理道德如何才能帮助我们解决 AI 所带来的问题?
Luise Freese:伦理道德作为工具本身是帮不上太多忙的。伦理只是一种工作的方式,就像是 DevOps 一样。一旦你有了规划,知道该做什么了,“伦理道德”就是你对“完成”的定义。我所用的数据是否覆盖了所有产品使用相关的人或事?通过这些道德的检测,我们的工作方式将会在可访问性、包容性和避免偏见方面得到改善。
原文链接:
The Challenges of Producing Quality Code When Using AI-Based Generalistic Models(https://www.infoq.com/news/2023/10/producing-quality-code-AI/)
声明:本文为 InfoQ 翻译,未经许可禁止转载。
发布于:辽宁
相关推荐
代码生成:基于 AI 大模型的挑战与前景
大模型重塑财富管理业,80%软件代码在未来将由AI生成
大模型API上的新商业逻辑,生成式AI彻底改变组织经营
百度大模型To B落地新动作,推出代码助手、企业级大模型生产平台
AI大模型闪聊会:中美顶流AI大模型的碰撞与契机
润和软件推出基于大模型的新一代AI中枢平台和四款行业应用内测产品
一文看懂:全球AI巨头的大模型进化史
Copilot大升级,五年实现代码自动生成
生成式AI变革电信行业的有所为与有所不为
未来AI生态:少数通用大模型与无数专用模型
网址: 代码生成:基于 AI 大模型的挑战与前景 http://www.xishuta.com/newsview94126.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94831
- 2人类唯一的出路:变成人工智能 18279
- 3报告:抖音海外版下载量突破1 17828
- 4移动办公如何高效?谷歌研究了 17547
- 5人类唯一的出路: 变成人工智 17382
- 62023年起,银行存取款迎来 10009
- 7网传比亚迪一员工泄露华为机密 8000
- 8顶风作案?金山WPS被指套娃 6446
- 9大数据杀熟往返套票比单程购买 6423
- 1012306客服回应崩了 12 6370