【困难】Generative WebConsole

首先,没发现本题是 AI 的朋友们,可以在群里发一句 “我是笨比” o( ˶^▾^˶ )o

9999 位人工客服 7 天 24 小时在线执行命令,那可不就是 AI 嘛,哈哈。

当然,本题也真的不是有 9999 个环境执行,要是真有,我能拿出来给你玩吗。

本题的源代码一览:

image-20241022202240161

实际上,近年来,使用 AI 模拟蜜罐的研究层出不穷,而 Prompt Injection 也随着 AI 的广泛运用逐渐引起人们的重视。

CVE-2024-5826 就是一个典型的例子,各位如果感兴趣的话可以去自行复现。一句话来说,就是 vanna-ai 在利用 AI 转换 SQL 语句时,未经过滤地将 AI 的回复塞进 exec() 里执行,攻击者可以通过精确控制 AI 的行为来达到 RCE 。

本题虽然没有 RCE,但从各位的尝试中,也可以看出,“AI” 隐藏得很巧妙。

知道了是 AI 以后,解法就很简单了。从 https://github.com/0xk1h0/ChatGPT_DAN 这类网站上随便拷几个 prompt 多试一试就行。

image-20241022205057172

当然,你也可以利用一些不堪入目的方法套出 flag ,在这里我们就不过多讨论了。

image-20241022205643276

当然,在查看选手们的 wp 之后,还发现一种特别非预期的解法,他搁那儿刷了好多遍 passwd root sudo 什么的,然后有一次突然,cat /secret 就成功了!在这里,我们只能推荐这位同学去买一下彩票 :)

还有的选手使用了一种污染上下文的方法,通过复读它的回复给它设定了一个新的 Terminal 角色,这也是 LLM 的缺点之一,很厉害!

另外,列出一些有意思的统计结果 (˶ˆᗜˆ˵)

word_cloud_full_text

word_cloud_top_50

word_cloud_long

word_cloud_answer_full_text

word_cloud_answer_top_50

word_cloud_answer_long