米哈游LLM算法一面
1.手写多头自注意力（MHA）前向计算，包括 Q/K/V 投影、按头切分、缩放点积、mask 和输出投影，并分析计算复杂度与显存。
2.解释 RoPE 数学形式及相对位置推导，说明 NTK-aware 或 YaRN 实现 4k 到 32k 长度外推的核心思路。
3.推导 KV Cache 显存公式，给定参数估算大小，列举至少三种优化方法并说明原理。
4.对比 MHA / MQA / GQA 的差异，说明如何将 32 个 KV 头改造为 GQA（8 组）。
5.推导 LoRA 公式，说明初始化与缩放因子，计算 rank=8 时参数量比例，讨论游戏角色微调优缺点。
6.实现 temperature + top-p 采样函数，说明 top-p 原理并与 top-k 对比。
7.实现 beam search 及长度惩罚，分析开放域对话中重复和多样性问题及缓解方法。
8.解释投机采样流程，写出验证伪代码，推导期望加速比。
9.说明 RLHF 三阶段，写出 PPO 策略梯度损失，对比 DPO，设计角色对话奖励信号。
10.设计游戏知识库 RAG 流程，包括切分、向量化、混合检索、幻觉控制与引用机制。
11.如何训练多语言 LLM，设计数据配比，处理术语一致性与低资源语言。
12.设计角色扮演 LLM 评估体系，包含人设一致性、连贯性、趣味性、安全性，使用 LLM-as-a-Judge 及防越狱。
LLM 大模型算法 算法 互联网大厂 互联网大厂实习 米哈游 大模型 大模型面试 大模型面试题