一、人工智能与大模型的发展历程

1.1 总体脉络

AI 与大模型发展历程
时期 标志事件 技术特征 参考
1950—1956 萌芽 图灵测试(1950);达特茅斯会议(1956),“人工智能"一词诞生 符号主义、逻辑推理 [1]
1957—1980 早期起伏 感知机(1958)→ 明斯基批评 → 第一次 AI 寒冬;专家系统 MYCIN/DENDRAL(1970s—80s)兴盛 浅层神经网络、知识工程 [1]
1980—2010 统计学习 深蓝战胜国际象棋冠军(1997);SVM、决策树、概率图模型 数据驱动、手工特征 [1]
2010—2017 深度学习 AlexNet 夺冠 ImageNet(2012);ResNet(2015);AlphaGo 胜李世石(2016) CNN/RNN 深层网络、GPU 训练 [1][2]
2017—2020 Transformer 时代 Vaswani et al. 提出 Transformer(2017);BERT(2018);GPT-2/GPT-3(2019/2020,175B 参数) 自注意力、预训练+微调范式 [2][3]
2020—2023 大模型爆发 RLHF 用于 InstructGPT/ChatGPT(2022);GPT-4 多模态(2023) 指令对齐、涌现能力、Scaling Law [3][4]
2023—2025 Agent 化 工具调用/函数调用普及;ReAct/Reflexion 范式落地;2025-10 Anthropic 发布 Agent Skills 开放标准;推理模型(o1/R1 类)兴起 从"对话"走向"规划—执行—反思"闭环 [5][6]

关键转折点:2017 年 Transformer 解决了 RNN 的并行化与长程依赖难题,成为此后一切主流大模型的统一底座 [2];2022 年 ChatGPT 证明 RLHF 能在大模型尺度上实现指令对齐,直接引爆应用层 [3];2023 年后研究重心从"更大的模型"部分转向"会用工具的模型”(Agent),规划、记忆、技能外挂成为新焦点 [5][6]。

1.2 主流模型架构

主流架构示意
架构 代表 核心机制 优势 局限 适用场景
CNN LeNet(1998)、ResNet(2015) 卷积核滑动、局部感受野、参数共享 空间特征强、样本效率高 不擅序列建模 图像分类/检测、医疗影像
RNN/LSTM/GRU LSTM(1997) 隐状态循环传递 天然序列建模 梯度消失、难并行 早期 NLP、时序信号
Transformer BERT(2018)、GPT 系列、LLaMA 自注意力 Scaled Dot-Product,Q/K/V 多头注意力 并行训练、长程依赖、可扩展性极佳 注意力 O(n²)、推理显存占用高 通用语言/多模态大模型底座 [2][3]
MoE(混合专家) Mixtral、Switch Transformer 稀疏路由激活部分专家 FFN 参数规模↑计算量不变 训练不稳定、负载均衡难 超大模型降本推理 [3]
扩散模型 DDPM、Stable Diffusion 前向加噪/反向去噪 生成质量高、可控 采样步数多 图像/视频生成 [4]
多模态 VLM GPT-4V、Qwen-VL、MinerU2.5-Pro 视觉编码器 + LLM 对齐 图文统一理解 训练数据要求高 文档解析、OCR、图表理解 [7]

应用版图:对话与内容生成(ChatGPT/Claude/Kimi)、代码生成(Copilot/Cursor/Codex)、文档智能(MinerU 类 PDF 解析)、科研助手(文献检索、对照翻译——即本组案例)、教育与办公自动化。

参考来源:[1] Wikipedia: History of artificial intelligence(知识性综述);[2] Vaswani et al., Attention Is All You Need, NeurIPS 2017, https://arxiv.org/abs/1706.03762;[3] Zhao et al., A Survey of Large Language Models, https://arxiv.org/pdf/2303.18223;[4] Ho et al., Denoising Diffusion Probabilistic Models, 2020;[7] MinerU 4.x 模型包说明(PP-DocLayoutV2/PP-OCRv6/PP-FormulaNet + VLM),https://github.com/opendatalab/MinerU/releases