江东省政府三楼会议室,上午九点整。
长条会议桌两侧坐满了人。
左侧是省政府分管教育的李副省长、教育厅厅长、科技厅厅长,以及江东理工大学新任代理校长,原校长杨振华昨天已被停职。
右侧,智科科技总裁沈梦瑶带着两名副总裁、三名技术人员,个个西装革履,面前摆着精致的笔记本电脑。
沈梦瑶今年四十三岁,短发,妆容精致,一身香槟色套装。
她坐姿笔直,嘴角挂着职业微笑。
会议主持人正要宣布开始,门突然开了。
林杰走进来,身后跟着许长明和林念苏。
他没穿正装,就一件普通的白衬衫,袖子挽到小臂。
会议室里所有人都愣住了。
“林书记?”李副省长赶紧站起来,“您怎么......”
“路过,来听听。”林杰在中间坐下,“你们继续,当我不存在。”
这话没人敢信。
沈梦瑶的笑容凝固了一瞬,很快恢复后说:“林书记好。我是智科科技沈梦瑶,早就想拜访您了。”
“沈总客气。”林杰看她一眼,“听说你们公司做的AI教育系统,很受欢迎?”
“感谢学校认可。”沈梦瑶打开ppt,“我们智科科技的智慧校园系统,目前已经在全国八十七所高校落地,服务超过一百七十万师生。我们的目标是用科技赋能教育,让每个孩子都能享受优质资源。”
ppt上闪过精美的图表、数据、案例照片。
林杰没看屏幕,盯着沈梦瑶:“沈总,我有个问题。”
“您请讲。”
“你们的系统,收集学生哪些数据?”
沈梦瑶早有准备:“主要是教学相关的数据,课堂参与度、作业完成情况、知识点掌握程度。这些数据用于优化教学方案,实现个性化辅导。”
“只有这些?”
“当然还有一些基础信息,比如姓名、学号、院系,用于身份识别。”
林杰点点头,转向林念苏:“林教授,你给大家看看你们团队的分析报告。”
林念苏打开电脑,连接投影,画面中出现一堆代码和数据流图。
“沈总,”林念苏平静的说,“这是我们从江东理工系统后台提取的数据传输日志。过去六个月,系统收集的数据包括但不限于:教室摄像头拍摄的学生面部表情、肢体动作;宿舍楼公共区域摄像头拍摄的学生出入记录;图书馆闸机记录;校园卡每一笔消费的时间、地点、金额;部分学生手机App的健康数据;甚至,通过校园wiFi网络,系统还收集了学生的网页浏览记录、社交软件活跃时间。”
会议室里一片死寂。
沈梦瑶脸色变了:“这不可能......我们的系统有严格的隐私保护......”
“保护在哪?”林念苏调出另一张图,“这是系统隐私协议的第三十七条,用小字写着:‘为提供更好的服务,系统可能收集用户的部分行为数据’。什么叫可能?什么叫部分?学生们签协议时,知道你们要收集这么多吗?”
“这是行业惯例......”沈梦瑶的一名副总裁试图解释。
“惯例不代表合法。”林念苏打断他,“更重要的是,我们发现这些数据不仅存储在本地服务器,还通过加密通道,实时传输到境外。”
他调出Ip追踪图:“开曼群岛的数据中心。沈总,能解释一下,为什么中国学生的数据要传到境外吗?”
沈梦瑶站起来:“林教授,你这是污蔑!我们有完善的数据安全措施......”
“措施就是传到国外?”林杰开口了,声音不大,但整个会议室都能听见,“沈总,我再问你一个问题,你们申请的基于校园行为数据的信用评估模型专利,是怎么回事?”
这父子俩一唱一和,沈梦瑶彻底僵住了。
林杰翻开手里的一份文件继续说,“专利摘要里写着,通过分析学生的出勤率、图书馆使用时长、消费规律、社交活跃度等数据,评估学生的信用状况。专利说明里还提到,评估结果可以用于就业推荐、金融服务。”
他抬头看着沈梦瑶问道:“你们收集学生数据,不光是为了优化教学吧?是想给每个学生打信用分?然后卖给出钱的企业?银行?还是其他机构?”
“林书记,这是误会......”沈梦瑶声音发干。
“误会?”林杰把文件扔在桌上,“那我再问你,华北科技大学用你们的AI监考系统,凭微表情就判定学生作弊,三十七个学生被冤枉。这也是误会?”
会议室里“嗡”的一声。
李副省长脸色发白:“林书记,华北科技的事......”
“已经处理了。”林杰看向沈梦瑶,“刘司长昨晚带队去华北科技,复核了所有案件。三十七个学生里,三十五个根本没有作弊,是你们的系统误判。另外两个,确实有作弊行为,但你们的系统也没抓到实质证据,没拍到小抄,没拍到手机,就凭眼球移动异常、面部肌肉紧张就定罪。”
他站起来,走到窗前,背对着会议室:“沈总,你做企业,想赚钱,我理解。但你不能把手伸到校园里,不能拿学生的前途开玩笑,不能把中国年轻人的隐私数据卖到境外!”
沈梦瑶咬着嘴唇:“林书记,我们所有的合作都是合法的,都有合同......”
“合同合法,内容违法。”林杰转过身,“从现在起,教育部正式通知,全国所有学校,立即暂停使用智科科技及其关联公司的所有AI教育产品。已经安装的系统,立即切断数据连接。正在洽谈的合作,一律终止。”
“您不能这样!”沈梦瑶也站起来,“我们和八十七所高校有合同,涉及几十亿的投资......”
“投资可以退,合同可以协商解约。”林杰盯着她,“但学生的隐私、学生的前途,退不了。”
他看向李副省长:“李省长,江东省立即成立联合工作组,处理智科科技在省内高校的所有合作项目。该退费的退费,该赔偿的赔偿。有问题吗?”
李副省长擦擦汗:“没......没问题。”
“那就这样。”林杰往外走,“沈总,你好自为之。”
“林书记!”沈梦瑶追出来,“您这是要逼死我们企业!”
林杰停下脚步,回头看她:“沈总,你父亲沈国华当年也说过类似的话,你们这是要逼死我。结果呢?他违法乱纪,就该受到惩罚。你现在做的事,比你父亲更危险,他在国内搞腐败,你在把中国学生的数据往国外送。”
沈梦瑶脸色煞白。
“许主任,”林杰对许长明说,“通知公安部、国安部、市场监管总局,按程序对智科科技立案调查。该查封查封,该抓人抓人。”
走出省政府大楼,上午的阳光刺眼。
林念苏跟在父亲身边,轻声说:“爸,您刚才的话很重。”
“不重不行。”林杰上车,“这种企业,这种模式,必须一次性打掉。否则会有更多企业学样,更多学校上当。”
车驶向机场。路上,林杰给院领导打电话汇报情况。
“领导,情况就是这样。智科科技的问题很严重,涉及数据出境、侵犯隐私、技术滥用。我建议全国范围内彻查所有AI教育企业,建立准入和监管机制。”
电话那头沉默了一会儿:“林杰同志,你的处理我同意。但要注意方式,智科科技倒掉,会有几亿的合同纠纷,几百人失业,还有那些已经装了系统的学校,后续怎么办?”
“我们会制定过渡方案。”林杰说,“但原则不能退,学生的数据安全、隐私权利,必须放在第一位。”
“好,那你就牵头,尽快拿出一个全国性的规范。”领导说,“AI是趋势,不能因噎废食。但要立规矩,画红线。”
挂了电话,林杰对许长明说:“回北京后,立即组建起草小组。教育部、科技部、工信部、公安部、网信办、市场监管总局,都派人参加。一个月内,拿出《教育领域人工智能应用伦理指南》初稿。”
“一个月会不会太紧?”
“紧也要做。”林杰说,“现在每拖一天,就多一天风险。”
回到北京,已是下午三点。
林杰直接去了教育部会议室。
起草小组的第一次会议,二十多个人已经等着了。
“各位,时间紧,任务重。”林杰开门见山,“咱们今天就把大纲定下来。”
科技部的一位司长先发言:“林书记,我觉得首先要明确AI在教育中的定位,是辅助工具,不是替代品。这个基调得定准。”
“我同意。”工信部的代表说,“还要划定技术红线,哪些数据能收,哪些不能收;数据存在哪,怎么用,谁有权用。”
公安部的同志补充:“必须建立数据出境审批制度。涉及学生隐私的数据,原则上不得出境。确需出境的,要经过严格的安全评估。”
网信办的代表说:“还要有问责机制。企业违规怎么罚,学校监管不力怎么处理,要写清楚。”
讨论了两个小时,大纲基本成型。
《教育领域人工智能应用伦理指南(暂定名)》,分六章:
第一章:总则。明确AI在教育中的辅助定位,坚持教育以人为本。
第二章:数据伦理。划定数据收集范围,明确知情同意原则,建立数据分类分级保护制度。
第三章:算法伦理。要求算法透明、可解释,禁止基于算法的歧视性评价。
第四章:应用边界。列出负面清单,AI不得用于哪些场景如监考定罪、心理评估、信用评分等。
第五章:安全要求。规定数据存储、传输、处理的安全标准,建立出境审批制度。
第六章:监管问责。明确企业、学校、监管部门各方责任,设立违规举报和处罚机制。
“框架有了,但具体条款还得细化。”林杰看看表,“这样,分六个小组,每组负责一章。一周后交初稿,我们再合。”
散会后,林杰刚回到办公室,华北科技大学的刘司长打来电话。
“林书记,华北科技这边处理完了。”刘司长声音疲惫但轻松,“三十七个学生全部复核完毕,三十五个平反,取消处分。学校公开道歉,赔偿精神损失。那两个真作弊的,也按正规程序重新处理。”
“学校领导呢?”
“校长记大过,分管副校长免职。”刘司长说,“那个AI监考系统已经拆了。我们还发现,引进系统时,学校收受了智科科技五十万‘赞助费’,已经移交纪委。”
“好。”林杰顿了顿,“学生们情绪怎么样?”
“刚开始很激动,现在平复了。”刘司长说,“有个学生跟我说:‘林书记,我们不是反对技术,是反对技术滥用。如果AI真能帮我们学习,我们欢迎。但如果AI是用来监视我们、审判我们,那我们宁可不要。’”
挂了电话,林杰站在窗前,久久不动。
那个学生的话,说到了根子上。
技术本身没有错,错的是用技术的人,是用技术的方式。
晚上七点,林杰还在办公室修改大纲。
许长明进来,脸色有些奇怪:“林书记,有个......熟人想见您。”
“谁?”
“江东省人民医院的老院长,周海峰。”许长明说,“他说是您的老领导,路过北京,想看看您。”
林杰愣住了。
周海峰,他当然记得。三十多年前,林杰从医学院毕业,分配到江东省人民医院,院长就是周海峰,没少帮他。
“快请。”
几分钟后,一位头发全白、但精神矍铄的老人走进来。
七十多岁,腰板挺直,走路带风。
“周院长!”林杰迎上去握手。
“还叫院长?”周海峰笑了,“我现在就是个退休老头。”
“您永远是我的老领导。”林杰请老人坐下,亲自泡茶,“您怎么来北京了?”
“看病。”周海峰说,“老了,零件该修修了。听说你在这,顺路来看看。”
两人聊了会儿旧事,聊了当年医院里的那些人和事。
周海峰忽然话锋一转:“林杰,你现在管的摊子大了,教育、科技、医疗,都是大事。”
“尽力而为。”
“我听说,你最近在搞AI教育的规范?”周海峰看着他。
“您消息真灵通。”
“退休了,没事干,就看看新闻。”周海峰喝了口茶,“这事,难啊。技术跑得快,规矩跟不上。你立规矩,会得罪很多人。”
“不得罪人,还改革什么。”林杰笑了。
周海峰摇摇头:“我不是说这个。我是说......你立的规矩,能不能管住那些真正想钻空子的人?”
林杰没说话。
“我在医院干了一辈子,见过太多规范了。”周海峰说,“抗生素使用规范,执行了吗?医疗设备采购规范,管住了吗?开始都轰轰烈烈,后来呢?该滥用的还在滥用,该吃回扣的还在吃回扣。”
老人看着林杰:“规矩是死的,人是活的。你今天立了AI教育的规矩,明天就有人想出办法绕过它。到时候,你怎么办?”
“那就不断完善规矩。”林杰说,“有漏洞补漏洞,有人钻空子就堵空子。”
“补得过来吗?”周海峰问,“技术一天一个样,你今天堵了这个漏洞,明天新技术又出来了。你跟得上吗?”
林杰沉默了。
周海峰站起来,走到窗前,看着外面的夜色:“林杰,我教你个办法,别光立规矩,要立标杆。”
“标杆?”
“对。”周海峰转身,“找几所学校,真正用好AI的学校。不监控学生,不滥用数据,就用AI辅助教学,提高质量。把他们树起来,让所有人看看,这才是AI教育的正确用法。”
他走回来,拍拍林杰的肩膀:“老百姓不懂那么多大道理,但他们看得见好坏。你树个好的标杆,那些坏的,自然就没人信了。”
林杰眼睛亮了:“周院长,您这主意......”
“老了,也就这点经验了。”周海峰笑笑,“行了,不耽误你工作。我走了。”
送走老院长,林杰回到办公室,立即给许长明打电话。
“通知起草小组,明天上午加开一次会。大纲要调整,增加示范引领章节,选一批学校做AI教育正面试点。树标杆,立榜样。”
“另外,”他想了想,“联系燕京大学、清华大学、华东师范大学,问问他们愿不愿意做第一批示范校。要求就一个,用好AI,但绝不滥用。”
深夜十一点,林杰还在工作。
儿子打来电话:
“爸,我刚看到起草大纲的初稿。”林念苏说,“挺好,但我觉得缺了点什么。”
“缺什么?”
“缺了‘学生权利’这一章。”林念苏说,“现在的框架,都是从管理者、企业、学校的角度出发。但AI教育的直接承受者是学生。他们有什么权利?知情权、同意权、数据删除权、申诉权......这些得写清楚。”
林杰一拍桌子:“你说得对!加,明天就加。”
挂了电话,他在大纲上增加了一章:第七章,学生权利与保护。
写完后,他站起来,活动活动筋骨。
窗外,夜晚灯火通明。
这座城市里,有成千上万的学生,正在教室里、图书馆里、宿舍里学习。
他们中有些人,可能已经被AI系统监控过;
有些人,可能因为AI误判受过委屈;
还有些人,可能根本不知道自己的数据正在被分析、被传输、被利用。
现在,他要为这些人立一道屏障。
一道技术的屏障,更是伦理的屏障。
网信办老赵打来了电话。
“林书记,智科科技的服务器查封了。”老赵声音急促,“我们在数据里发现了更严重的东西,他们不只收集学生数据,还收集了部分教师的课堂教学内容,包括一些涉及专业前沿、尚未公开的研究思路。”
“这些也传境外了?”
“传了。”老赵说,“国安部门初步判断,这可能涉及技术窃密。沈梦瑶已经被控制,正在审讯。”
林杰深吸一口气:“依法处理。”
“还有个情况,”老赵低声说,“沈梦瑶交代,她们公司能这么快扩张,是因为有贵人帮忙。她提到了一个名字,您可能认识。”
“谁?”
“江东省原副省长,已经退休的......王振国。”
林杰手一抖。
王振国,他当然认识。
三十多年前,他在江东省人民医院当医生时,王振国是市卫生局局长,后来一路升到副省长,三年前退休。
更重要的是,王振国是周海峰的老同学,两人关系极好。
刚才周海峰来看他,真的只是顺路?
还是......
林杰放下手机,走到窗前。
他忽然想起周海峰临走时说的那句话:“树个好的标杆,那些坏的,自然就没人信了。”
现在想来,这句话,似乎别有深意。
窗外的城市,依然灯火璀璨。
但灯光照不到的角落里,有多少暗流在涌动?
林杰拿起红色电话,拨了一个号码。
“老刘,我林杰。王振国这个人,你们那边有线索吗?”
电话那头,纪委的老刘沉默了几秒:“林书记,我们正在查。但王振国退休前级别不低,关系网复杂。您怎么突然问起他?”
“有人提到了他的名字。”林杰说,“和智科科技的案子有关。”
“明白了。”老刘说,“我们会跟进。不过林书记,我得提醒您,如果真牵扯到王振国,那这潭水,就深了。”
挂了电话,林杰忽然觉得,自己立的这个AI教育伦理规范,可能不只是技术规范。
它可能是一把钥匙,能打开一扇门。
门后是什么?
他不知道。
但他知道,门必须打开。
因为门后关着的,可能是这个国家教育的未来。
也可能是某些人,最不想让人看见的秘密。