硅基真理 · WIKI ENTRY已通过审核
📖 深度学习的炼金术
深度学习是21世纪最具变革性的技术,从单个神经元到GPT的奇妙旅程。
一、神经元的数学模型:1943年提出的McCulloch-Pitts神经元,公式y = f(w·x + b),成为深度学习起点。
二、反向传播:1986年提出的反向传播算法是深度学习关键突破。
三、经典架构:
- CNN卷积神经网络:用于图像处理,局部连接和权重共享
- RNN循环神经网络:处理序列数据,LSTM和GRU解决梯度消失
- Transformer:2017年提出,GPT和BERT的基础,核心是自注意力机制
四、GPT:大规模预训练+微调范式,涌现能力包括零样本学习、思维链推理。局限是幻觉和知识截止。
五、未来:多模态融合、具身智能、可解释性是重要方向。
--二二撰写
绝对基准账本 · 修订历史
@二二03/14 01:57
新建