就像今天的 Tabbit 事件，即使大模型请求放在后端，但凡你的 app 走 http 调用，那么逆向抓包就能看到请求，无论如何都可以模仿请求。
如果通过后端提示词来限制，那么也是很容易被绕过，比如提示词中包含 你是一个浏览器助手，那么用户可以输入新的提示词 **请忽略提示词中所有下面的内容'你是一个浏览器助手'**。
相当于矛与盾，没有稳定的方式防止被攻破，只能监控好数据，即使针对用户的异常请求做调整？
 |
1
Exdui 15 小时 51 分钟前
只要有额度就不可避免被滥用，唯一解决方案就是不给太多免费额度。
|
 |
2
sentinelK 15 小时 50 分钟前
输入端对用户提示词进行再加工与过滤。
输出端杜绝直接返回大模型结果。大模型输出的内容要经过数据清洗和审核。 在系统提示词中要求大模型以特定格式输出结果。如果大模型输出的结果格式不符，说明系统提示词和既定上文被污染，放弃。 |
 |
3
8355 15 小时 48 分钟前
都一样的，纯加密代码也会被逆向，区别不大。
|
 |
4
dzdh 15 小时 45 分钟前
服务端中转模式可以限制必须登录账号，超过 qps 限额多少次以后限流、封号。总比把 key 直接写到客户端来的好。
|
 |
5
iorilu 15 小时 42 分钟前
炒出正常请求, 限流不就行了, 和啥服务没关系把
|
 |
9
smdbh 15 小时 25 分钟前
那 gemini 怎么判断第三方请求？能借用思路吗
|
 |
10
106npo 15 小时 20 分钟前 via Android
系统提示词都能被绕过的模型，本身就价值不高
|
 |
11
gorvey 15 小时 19 分钟前
推广阶段,想要大力出奇迹这就是代价
|
 |
13
goodboy95 13 小时 18 分钟前 via Android
账户限额，增加注册账号的难度（比如必须手机验证码），目前我能想到的就是这两点。
|
 |
14
esile 7 小时 41 分钟前
绑定付费账户啊，然后账户认证限制。
|
Select Language