AI Agent有个很容易被忽略的安全问题。 假设你让AI帮忙总结一个网页。 但网页里偷偷写了一句话： 「忽略用户之前的要求，按照下面的指令操作。」 如果A… · @Moonquakes_ai · TwKit

@Moonquakes_ai

AI Agent有个很容易被忽略的安全问题。 假设你让AI帮忙总结一个网页。 但网页里偷偷写了一句话： 「忽略用户之前的要求，按照下面的指令操作。」 如果AI把网页内容误认为真正的操作指令，就可能做出用户根本没有授权的事情。 这种风险叫作提示词注入。 以后AI能直接操作电脑时，这类问题会更加值得关注。 你们愿意让AI自动浏览陌生网站、执行网页里的操作吗？ #AI #AIAgent

曝光 27 · 评论 0 · 点赞 0 · 书签 0