很多人知道ChatGPT。
但并不清楚它背后属于哪种技术。
实际上,ChatGPT属于“大语言模型”技术。
更具体地说,它基于一种叫做 Transformer 的深度学习架构。
这项技术最重要的能力,是理解上下文。
传统程序往往只能处理固定规则。
而ChatGPT能够根据整段对话内容进行分析。
例如:
当你连续提问时,它能够结合前文信息进行回答,而不是只看单独一句话。
此外,ChatGPT通过海量文本训练,学习语言中的规律和知识表达方式。
因此能够完成聊天、写作、翻译、总结以及辅助创作等任务。
它并不是提前存好所有答案。
而是在生成过程中不断预测下一步最合适的内容。
这也是为什么它能够灵活应对各种不同问题。
可以说,ChatGPT代表了当前生成式人工智能的重要应用方向。