LLM训练分为无监督预训练和RLHF精炼两个阶段，预训练通过预测序列学习知识，RLHF通过人类反馈优化模型输出。Prompt Engineering通过设计有效指令确保LLM生成准确回答，但Prompt Injection攻击通过操纵指令获取敏感信息。攻击分类包括Prompt Injection、Prompt Leaking、Token Smuggling和Jailbreaking。防护方法包括Gamification学习、双LLM模型隔离和Prompt准确性跟踪认证。