闹麻了,复习期末被AI当成高考作弊

0 阅读6分钟

凌晨两点,我的AI被“高考”封印了

回想起去年6月初的凌晨两点,宿舍里只剩下键盘的敲击声,和我面前那杯已经凉透的热美式

期末周的折磨,大学生应该是懂的都懂。当时面对操作系统(OS)里那堆令人头秃的进程调度算法,我习惯性地掏出手机,拍了一张书上的流程图,随手丢给豆包,想让它帮我提炼几个核心考点

深夜学习.png

加载圈转了两秒,屏幕上弹出一行略显突兀的提示: “检测到疑似考试相关内容,为保障高考公平,该功能暂不可用”

我盯着屏幕愣了几秒,才猛然反应过来:哦对哦,明天高考了诶

那是我印象最深的一次遭遇AI的“高考封印”。去年的时候,这种拦截机制还带着点初出茅庐的试探意味,规则也没那么严丝合缝——偶尔还能靠换个委婉的问法,或者把图片边缘的题号裁掉可以蒙混过关。当时的我只觉得荒诞且好笑:我一个苦哈哈复习期末的大学生,怎么就莫名其妙地被卷进了这场面向千万人的 赛博安保 行动的?

如果说去年只是封禁的试探,那今年就是彻底地将这个开关关上了

我们大学生成了“赛博连坐”的无辜炮灰

如果在这两天逛逛社交媒体,会发现大学生群体正在经历一场集体的 赛博连坐

不仅是拍图搜题被拦,有人试着纯文字提问:“帮我翻译一段英文文献”,被拒。还有人试图在提问前加上一句卑微的声明:“大哥,我是大学生,我在复习期末,真不是高考”,但国内的AI依然拦截,将这一开关完全关上

连坐.png

各大国内主流AI平台,像是约好了一样,在高考期间给自己的核心功能装上了一个“定时开关”

这不是关停服务器,而是精确到功能颗粒度的 限时上锁

从工程实现的角度看,这本质上是一个典型的“边缘情况”与“假阳性”博弈的困局

在风控策略的配置上,开发团队往往会把阈值调得极其保守。在二分类问题中,召回率被强行拉满,代价就是精准率的牺牲。说白了,就是宁可误报,绝不漏报。毕竟,大模型并没有真正的我们所说的常识。在OCR提取特征后,一个标准化的题号排列加上几行印刷体文本,在特征向量空间中,它怎么区分这个到底是“某省高考数学卷”,还是“某个苦逼大二学生正在死磕的线性代数作业”?多模态模型目前还做不到这种细粒度的上下文感知

二分图.png

有人可能会说,为什么不加个身份鉴权?比如接入学信网API?如果这样做了,那么从架构和体验来看,这是否有点太重了?为了一个一年只触发几天的低频场景,强行引入重型认证链路,会彻底破坏面向C端的AI产品的 即开即用 的核心体验,甚至可能引发不必要的并发瓶颈

那用LBS做地理围栏屏蔽考场周边呢?坦白说,全国几万个考点,GPS漂移、室内定位盲区,再加上《个人信息保护法》对位置数据收集的严格合规审查,这绝对是个填不满的技术与法务深坑

所以,从系统设计的角度进行权衡,当“1290万人的高考绝对公平”与“几千万大学生的期末复习便利”发生策略冲突时,优先级,只能也不得不使得前者的权重被永久置顶。毕竟,和一千多万人的公平相比,短短三天的功能禁用,在公共利益的秤杆上轻得几乎微不足道

作为初出茅庐的大学生来说,我完全理解这种残酷但绝对理性的工程取舍。而作为曾经以及现在仍然在被“误伤”的用户来说,我虽然一边吐槽一边继续改代码,但也只能苦笑接受:在这72小时里,我们这些复习期末的大学生,就是风控系统为了守住社会底线,而不得不吞下的 异常处理成本

当“魔法棒”变成“水电煤”

但吐槽归吐槽,这次被“封印”的经历,却让我突然对AI这个东西,有了一层新的认知

以前,我们总觉得AI是手里那根随叫随到的“赛博魔法棒”。只要你有Prompt,它就能帮你写代码、做PPT、甚至陪你聊天解闷。我们习惯了它的无所不能,也习惯了它的绝对服从

管制.png

但这次高考的“限时上锁”,像是一个温柔的提醒:AI,早就不是单纯的玩具或工具了,它正在变成像自来水、电网、高速公路一样的社会基础设施

既然是基础设施,就必然要有并且必须接受它的  “交通管制”

就像春运时火车会限流,极端天气时高速公路会封闭,现在,轮到AI了

当它的算力强大到足以影响一场决定千万人命运的考试公平时,它就不能再仅仅遵循“用户至上”的商业逻辑,而是必须背负起某种 社会义务

目前,这种“交通管制”还是企业的自觉行为。暂没有哪条法律明文规定高考期间必须锁死AI的拍题功能,各大平台是在监管的暗示和舆论的注视下,主动给自己戴上了紧箍咒

这让我隐隐感觉,我们这代人,正在见证一个行业规则的成型。也许用不了三年,就会出台专门的法规,明确界定AI在重大社会事件中的能力管控义务,就像现在的互联网平台有内容审核义务一样,未来的AI平台,也必须学会在关键时刻拉下那个开关。

给AI放个短假,也给自己放个短假

写到这里,夜已经深了

我看着桌上那本被翻得卷边的教材,突然觉得,往后被AI“拒绝”的这三天,也许并不全是坏事

它强行切断了我对技术的依赖,把我按回了书桌前,按回现实,逼着我用自己的大脑去理解那些枯燥的算法和理论。这对我而言,何尝不是一种另类的“期末复习保护法”?何尝不是一种另类的  “大脑恢复法”

所以,这三天,我就老老实实自己啃书本吧

清晨.png

就当是给这个正在努力学习如何承担“社会责任”的AI行业,放一个短暂的假。等高考结束的铃声响起,那个“开关”重新打开时,我希望到时候的AI能变得更聪明一点

至少,它能分清什么是“全国卷”,什么是“我的期末考试的救命稻草”

晚安,各位高考生。也晚安,正在期末周里挣扎的我们

(本文插图均由GPT Image生成)