量子机器学习前沿：量子 Transformer 与注意力机制
系统梳理量子机器学习的前沿方向：从经典 Transformer 的自注意力与 QKV 回顾讲起，拆解把注意力放到量子电路上的两种思路、振幅编码与数据加载的 2^n 门槛、量子核方法与量子特征映射、量子神经网络与数据重上传的表达能力、变分量子分类器的训练瓶颈与贫瘠高原、量子优势的理论依据与去量子化质疑，并给出 PennyLane 与 Qiskit 的实现示例与实验规模评估。
tag
注意力机制
共 3 篇文章。
长上下文推理：RoPE 扩展、位置插值与 Ring Attention
从 8K 到 128K 甚至百万级上下文，模型要跨越的远不止显存。RoPE 频率外推、位置插值（PI/NTK/YaRN）、Ring Attention 序列并行、KV Cache 显存三者缺一不可。本文讲透长上下文推理的位置编码扩展原理、注意力分块与序列并行，以及生产落地的显存与性能权衡。
06. RNN、LSTM、GRU 与 Transformer
从 RNN 到 Transformer：序列建模演进，LSTM/GRU 门控机制、Self-Attention、多头注意力位置编码与 BERT/GPT 架构解析