登录社区云,与社区用户共同成长
邀请您加入社区
对抗样本的存在说明人与机器看世界的方式可能是有差异的。讨论一下,为什么说这种差异有可能带来巨大的未知风险?
如果人和机器看世界的方式不同,可能会造成很大的风险。这是因为我们对于机器行为的预期都建立在“人和机器看到的世界是同一个世界”这一基础假设之上。
如果这个假设不存在,我们对机器行为的预期和机器自身的行为方式就会发生背离,从而带来未知风险。
举个例子,我们希望机器可以帮我们去火场救人,但机器看到的“人”和我们看到的“人”不一样,就可能错失救人的机会。
汇聚全球AI编程工具,助力开发者即刻编程。
更多推荐
AI审计手记 #06:沙箱逃逸漏洞与“不修复“的防御策略转移
Codex 和 Claude Code 怎么订阅?套餐、API计费与付款避坑指南
手绘草图秒变网页:GPT-Image + Claude 前端开发实战与选型指南
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)