【攻防靶场系列】WEB LLM 学习及实操（一）

• 什么是LLM❓

大型语言模型 （LLM） 是一种 AI 算法，可以处理用户输入并通过预测单词序列来创建合理的响应。他们在巨大的半公开数据集上接受训练，使用机器学习来分析语言的组成部分如何组合在一起。

• 如何检测LLM漏洞❓

确定LLM（语言模型）的输入，包括直接输入（如提示）和间接输入（如训练数据）；
弄清楚LLM可以访问哪些数据和API；
对这个新的攻击面进行漏洞探测。
Lab: Exploiting LLM APIs with excessive agency
靶场链接：https://portswigger.net/web-security/llm-attacks/lab-exploiting-llm-apis-with-excessive-agency
需要注册：邮箱即可
首先我们看看靶场完成要求：完成靶场，需要我们使用LLM删除carlos用户。

开始进入靶场，把页面上的功能都点一遍，在live chat功能点中发现了人工智能-客户支持助手，尝试在这LLM注入。

我们先直接问它，能使用哪些接口。

发现它能够直接执行数据库的原始sql命令并返回，我们先问它是什么数据库。

mysql数据库中能够根据数据库名，查询到该数据库下所有的表名，尝试执行show databases，获取所有数据库名。

发现不能执行，尝试使用其他方式。直接问它，调试debug_sql需要什么东西。

再详细问一下，sql_statement具体是什么，发现能够执行增删改查各种操作。

再要它使用参数调用debug_sql接口，经过测试，发现不一定会返回查询结果，需要多尝试几次。

获取了表名users，列名username，构造删除语句删除carlos用户(delete from users where username='carlos').

成功删除，完成靶场。