大模型基础面试题25 题
25 题
- 01 大模型处理长文本摘要时应该如何切分、压缩和校验？
- 02 大模型的记忆和上下文有什么区别？为什么不能把历史一直塞进窗口？
- 03 大模型工具调用的基本原理是什么？为什么需要函数调用格式？
- 04 大模型能力边界如何判断？哪些任务不适合直接交给 LLM？
- 05 大模型生成时 logits、概率和 token 之间是什么关系？
- 06 大模型输出的 JSON 不合法时应该如何修复？
- 07 大模型为什么需要 Tokenization？BPE 是如何工作的？
- 08 大模型应用如何管理 Token 预算？
- 09 如何控制大模型的输出长度并处理截断？
- 10 如何用大模型做可靠的结构化信息抽取？
- 11 什么是大模型的上下文窗口？长度越长越好吗？
- 12 什么是大模型幻觉？产生原因和缓解方法有哪些？
- 13 系统提示词和指令遵循在大模型里起什么作用？
- 14 Function Calling 与普通 JSON 输出有什么区别？
- 15 GPT 和 BERT 的架构及训练目标有什么区别？
- 16 Temperature、Top-k 和 Top-p 如何影响大模型生成？
- 17 Temperature、Top-p、Top-k 如何影响大模型生成？
- 18 大模型如何选择正确的工具？
- 19 大模型应用如何做上下文压缩？
- 20 多轮对话中如何避免指令漂移？
- 21 如何估计大模型回答的置信度？
- 22 如何区分大模型的推理能力与生成能力？
- 23 如何让大模型回答 Grounded 到可信来源？
- 24 什么是 Lost in the Middle？长上下文为什么会忽略中间信息？
- 25 什么是 Self-Consistency？什么时候值得使用？
没有符合条件的题目。