核心概念
生成式人工智能
以生成模型为核心,能在条件输入下合成文本、图像、音频、代码等开放式输出的系统与应用。
简明解释
生成式人工智能(generative artificial intelligence;generative AI;GenAI)是以生成模型为核心、能依照提示或其他条件合成文本、图像、音频、代码等开放式输出的系统与应用。NIST 的生成式 AI 风险管理画像同时把“生成能力”与捏造、隐私、偏见、信息安全、知识产权等风险分开治理。[1, Executive Summary and §§1.1–1.2]
为何出现
分类器通常从预设标签中选择;生成式 AI 面向的是答案、图像、波形或程序等结构化程度和长度可变的输出。规模化训练、条件控制和可用的采样方法让同一底层模型能支持许多生成任务,但“生成式 AI”描述系统用途,不是一种单独的网络架构。
如何工作
系统先用数据训练生成模型,使其近似数据分布或一条产生样本的过程;推断时再把提示、类别、草图、检索材料等作为条件,经采样或搜索取得候选,并可能接上过滤、执行测试和人工编辑。自回归、VAE、GAN 与扩散模型是四条生成路线;基础模型描述广泛预训练和复用范围,与这些路线交叉,不是第五条生成路线。
能做什么、不能做什么
它能起草文本、合成媒体、生成代码或科学候选,并辅助改写和探索。一次输出“新生成”只表示由本次生成过程得到,不保证训练集中从未出现近似内容,也不保证事实正确、原创、有权使用或适合高风险决策。流畅度不是证据;关键结论仍需外部来源、领域测试和人工负责。NIST 列出的风险类别也说明,单一“幻觉率”不能代替完整评估。[1, §§2.1–2.13 and Appendix A]
相关章节
技术路线、条件、采样与证据边界见第17章:生成式 AI 与基础模型;语言模型的专门机制见第18章:大语言模型,评估原则见模型评测。