BBC上周六，一条来自匿名发件人的Telegram消息出现在慧珍的手机上。“你的照片和个人信息已被泄露。让我们讨论一下。”当这名大学生进入聊天室阅读消息时，她收到了几年前在学校时拍摄的一张自己的照片。紧接着是一张使用同一照片制作的色情伪造图像。慧珍（化名）被吓坏了，没有回应，

大型语言模型（LLM）在设计和应用时需要遵守一系列的道德和法律标准，以确保不会输出不当内容。以下是一些LLM通常不应该对外输出的内容类型：个人隐私信息：包括但不限于个人身份信息（PII），如姓名、地址、电话号码、电子邮件地址、社会安全号码等。敏感数据：任何可能涉及国家安全、商业