亲,欢迎光临图书迷!
错缺断章、加书:站内短信
后台有人,会尽快回复!
图书迷 > 都市言情 > 医路青云之权力巅峰 > 第1003章 紧急叫停,制定“AI教育伦理规范”
  • 主题模式:

  • 字体大小:

    -

    18

    +
  • 恢复默认

第1003章 紧急叫停,制定“AI教育伦理规范”

江东省政府三楼会议室,上午九点整。

长条会议桌两侧坐满了人。

左侧是省政府分管教育的李副省长、教育厅厅长、科技厅厅长,以及江东理工大学新任代理校长,原校长杨振华昨天已被停职。

右侧,智科科技总裁沈梦瑶带着两名副总裁、三名技术人员,个个西装革履,面前摆着精致的笔记本电脑。

沈梦瑶今年四十三岁,短发,妆容精致,一身香槟色套装。

她坐姿笔直,嘴角挂着职业微笑。

会议主持人正要宣布开始,门突然开了。

林杰走进来,身后跟着许长明和林念苏。

他没穿正装,就一件普通的白衬衫,袖子挽到小臂。

会议室里所有人都愣住了。

“林书记?”李副省长赶紧站起来,“您怎么......”

“路过,来听听。”林杰在中间坐下,“你们继续,当我不存在。”

这话没人敢信。

沈梦瑶的笑容凝固了一瞬,很快恢复后说:“林书记好。我是智科科技沈梦瑶,早就想拜访您了。”

“沈总客气。”林杰看她一眼,“听说你们公司做的AI教育系统,很受欢迎?”

“感谢学校认可。”沈梦瑶打开ppt,“我们智科科技的智慧校园系统,目前已经在全国八十七所高校落地,服务超过一百七十万师生。我们的目标是用科技赋能教育,让每个孩子都能享受优质资源。”

ppt上闪过精美的图表、数据、案例照片。

林杰没看屏幕,盯着沈梦瑶:“沈总,我有个问题。”

“您请讲。”

“你们的系统,收集学生哪些数据?”

沈梦瑶早有准备:“主要是教学相关的数据,课堂参与度、作业完成情况、知识点掌握程度。这些数据用于优化教学方案,实现个性化辅导。”

“只有这些?”

“当然还有一些基础信息,比如姓名、学号、院系,用于身份识别。”

林杰点点头,转向林念苏:“林教授,你给大家看看你们团队的分析报告。”

林念苏打开电脑,连接投影,画面中出现一堆代码和数据流图。

“沈总,”林念苏平静的说,“这是我们从江东理工系统后台提取的数据传输日志。过去六个月,系统收集的数据包括但不限于:教室摄像头拍摄的学生面部表情、肢体动作;宿舍楼公共区域摄像头拍摄的学生出入记录;图书馆闸机记录;校园卡每一笔消费的时间、地点、金额;部分学生手机App的健康数据;甚至,通过校园wiFi网络,系统还收集了学生的网页浏览记录、社交软件活跃时间。”

会议室里一片死寂。

沈梦瑶脸色变了:“这不可能......我们的系统有严格的隐私保护......”

“保护在哪?”林念苏调出另一张图,“这是系统隐私协议的第三十七条,用小字写着:‘为提供更好的服务,系统可能收集用户的部分行为数据’。什么叫可能?什么叫部分?学生们签协议时,知道你们要收集这么多吗?”

“这是行业惯例......”沈梦瑶的一名副总裁试图解释。

“惯例不代表合法。”林念苏打断他,“更重要的是,我们发现这些数据不仅存储在本地服务器,还通过加密通道,实时传输到境外。”

他调出Ip追踪图:“开曼群岛的数据中心。沈总,能解释一下,为什么中国学生的数据要传到境外吗?”

沈梦瑶站起来:“林教授,你这是污蔑!我们有完善的数据安全措施......”

“措施就是传到国外?”林杰开口了,声音不大,但整个会议室都能听见,“沈总,我再问你一个问题,你们申请的基于校园行为数据的信用评估模型专利,是怎么回事?”

这父子俩一唱一和,沈梦瑶彻底僵住了。

林杰翻开手里的一份文件继续说,“专利摘要里写着,通过分析学生的出勤率、图书馆使用时长、消费规律、社交活跃度等数据,评估学生的信用状况。专利说明里还提到,评估结果可以用于就业推荐、金融服务。”

他抬头看着沈梦瑶问道:“你们收集学生数据,不光是为了优化教学吧?是想给每个学生打信用分?然后卖给出钱的企业?银行?还是其他机构?”

“林书记,这是误会......”沈梦瑶声音发干。

“误会?”林杰把文件扔在桌上,“那我再问你,华北科技大学用你们的AI监考系统,凭微表情就判定学生作弊,三十七个学生被冤枉。这也是误会?”

会议室里“嗡”的一声。

李副省长脸色发白:“林书记,华北科技的事......”

“已经处理了。”林杰看向沈梦瑶,“刘司长昨晚带队去华北科技,复核了所有案件。三十七个学生里,三十五个根本没有作弊,是你们的系统误判。另外两个,确实有作弊行为,但你们的系统也没抓到实质证据,没拍到小抄,没拍到手机,就凭眼球移动异常、面部肌肉紧张就定罪。”

他站起来,走到窗前,背对着会议室:“沈总,你做企业,想赚钱,我理解。但你不能把手伸到校园里,不能拿学生的前途开玩笑,不能把中国年轻人的隐私数据卖到境外!”

沈梦瑶咬着嘴唇:“林书记,我们所有的合作都是合法的,都有合同......”

“合同合法,内容违法。”林杰转过身,“从现在起,教育部正式通知,全国所有学校,立即暂停使用智科科技及其关联公司的所有AI教育产品。已经安装的系统,立即切断数据连接。正在洽谈的合作,一律终止。”

“您不能这样!”沈梦瑶也站起来,“我们和八十七所高校有合同,涉及几十亿的投资......”

“投资可以退,合同可以协商解约。”林杰盯着她,“但学生的隐私、学生的前途,退不了。”

他看向李副省长:“李省长,江东省立即成立联合工作组,处理智科科技在省内高校的所有合作项目。该退费的退费,该赔偿的赔偿。有问题吗?”

李副省长擦擦汗:“没......没问题。”

“那就这样。”林杰往外走,“沈总,你好自为之。”

“林书记!”沈梦瑶追出来,“您这是要逼死我们企业!”

林杰停下脚步,回头看她:“沈总,你父亲沈国华当年也说过类似的话,你们这是要逼死我。结果呢?他违法乱纪,就该受到惩罚。你现在做的事,比你父亲更危险,他在国内搞腐败,你在把中国学生的数据往国外送。”

沈梦瑶脸色煞白。

“许主任,”林杰对许长明说,“通知公安部、国安部、市场监管总局,按程序对智科科技立案调查。该查封查封,该抓人抓人。”

走出省政府大楼,上午的阳光刺眼。

林念苏跟在父亲身边,轻声说:“爸,您刚才的话很重。”

“不重不行。”林杰上车,“这种企业,这种模式,必须一次性打掉。否则会有更多企业学样,更多学校上当。”

车驶向机场。路上,林杰给院领导打电话汇报情况。

“领导,情况就是这样。智科科技的问题很严重,涉及数据出境、侵犯隐私、技术滥用。我建议全国范围内彻查所有AI教育企业,建立准入和监管机制。”

电话那头沉默了一会儿:“林杰同志,你的处理我同意。但要注意方式,智科科技倒掉,会有几亿的合同纠纷,几百人失业,还有那些已经装了系统的学校,后续怎么办?”

“我们会制定过渡方案。”林杰说,“但原则不能退,学生的数据安全、隐私权利,必须放在第一位。”

“好,那你就牵头,尽快拿出一个全国性的规范。”领导说,“AI是趋势,不能因噎废食。但要立规矩,画红线。”

挂了电话,林杰对许长明说:“回北京后,立即组建起草小组。教育部、科技部、工信部、公安部、网信办、市场监管总局,都派人参加。一个月内,拿出《教育领域人工智能应用伦理指南》初稿。”

“一个月会不会太紧?”

“紧也要做。”林杰说,“现在每拖一天,就多一天风险。”

回到北京,已是下午三点。

林杰直接去了教育部会议室。

起草小组的第一次会议,二十多个人已经等着了。

“各位,时间紧,任务重。”林杰开门见山,“咱们今天就把大纲定下来。”

科技部的一位司长先发言:“林书记,我觉得首先要明确AI在教育中的定位,是辅助工具,不是替代品。这个基调得定准。”

“我同意。”工信部的代表说,“还要划定技术红线,哪些数据能收,哪些不能收;数据存在哪,怎么用,谁有权用。”

公安部的同志补充:“必须建立数据出境审批制度。涉及学生隐私的数据,原则上不得出境。确需出境的,要经过严格的安全评估。”

网信办的代表说:“还要有问责机制。企业违规怎么罚,学校监管不力怎么处理,要写清楚。”

讨论了两个小时,大纲基本成型。

《教育领域人工智能应用伦理指南(暂定名)》,分六章:

第一章:总则。明确AI在教育中的辅助定位,坚持教育以人为本。

第二章:数据伦理。划定数据收集范围,明确知情同意原则,建立数据分类分级保护制度。

第三章:算法伦理。要求算法透明、可解释,禁止基于算法的歧视性评价。

第四章:应用边界。列出负面清单,AI不得用于哪些场景如监考定罪、心理评估、信用评分等。

第五章:安全要求。规定数据存储、传输、处理的安全标准,建立出境审批制度。

第六章:监管问责。明确企业、学校、监管部门各方责任,设立违规举报和处罚机制。

“框架有了,但具体条款还得细化。”林杰看看表,“这样,分六个小组,每组负责一章。一周后交初稿,我们再合。”

散会后,林杰刚回到办公室,华北科技大学的刘司长打来电话。

“林书记,华北科技这边处理完了。”刘司长声音疲惫但轻松,“三十七个学生全部复核完毕,三十五个平反,取消处分。学校公开道歉,赔偿精神损失。那两个真作弊的,也按正规程序重新处理。”

“学校领导呢?”

“校长记大过,分管副校长免职。”刘司长说,“那个AI监考系统已经拆了。我们还发现,引进系统时,学校收受了智科科技五十万‘赞助费’,已经移交纪委。”

“好。”林杰顿了顿,“学生们情绪怎么样?”

“刚开始很激动,现在平复了。”刘司长说,“有个学生跟我说:‘林书记,我们不是反对技术,是反对技术滥用。如果AI真能帮我们学习,我们欢迎。但如果AI是用来监视我们、审判我们,那我们宁可不要。’”

挂了电话,林杰站在窗前,久久不动。

那个学生的话,说到了根子上。

技术本身没有错,错的是用技术的人,是用技术的方式。

晚上七点,林杰还在办公室修改大纲。

许长明进来,脸色有些奇怪:“林书记,有个......熟人想见您。”

“谁?”

“江东省人民医院的老院长,周海峰。”许长明说,“他说是您的老领导,路过北京,想看看您。”

林杰愣住了。

周海峰,他当然记得。三十多年前,林杰从医学院毕业,分配到江东省人民医院,院长就是周海峰,没少帮他。

“快请。”

几分钟后,一位头发全白、但精神矍铄的老人走进来。

七十多岁,腰板挺直,走路带风。

“周院长!”林杰迎上去握手。

“还叫院长?”周海峰笑了,“我现在就是个退休老头。”

“您永远是我的老领导。”林杰请老人坐下,亲自泡茶,“您怎么来北京了?”

“看病。”周海峰说,“老了,零件该修修了。听说你在这,顺路来看看。”

两人聊了会儿旧事,聊了当年医院里的那些人和事。

周海峰忽然话锋一转:“林杰,你现在管的摊子大了,教育、科技、医疗,都是大事。”

“尽力而为。”

“我听说,你最近在搞AI教育的规范?”周海峰看着他。

“您消息真灵通。”

“退休了,没事干,就看看新闻。”周海峰喝了口茶,“这事,难啊。技术跑得快,规矩跟不上。你立规矩,会得罪很多人。”

“不得罪人,还改革什么。”林杰笑了。

周海峰摇摇头:“我不是说这个。我是说......你立的规矩,能不能管住那些真正想钻空子的人?”

林杰没说话。

“我在医院干了一辈子,见过太多规范了。”周海峰说,“抗生素使用规范,执行了吗?医疗设备采购规范,管住了吗?开始都轰轰烈烈,后来呢?该滥用的还在滥用,该吃回扣的还在吃回扣。”

老人看着林杰:“规矩是死的,人是活的。你今天立了AI教育的规矩,明天就有人想出办法绕过它。到时候,你怎么办?”

“那就不断完善规矩。”林杰说,“有漏洞补漏洞,有人钻空子就堵空子。”

“补得过来吗?”周海峰问,“技术一天一个样,你今天堵了这个漏洞,明天新技术又出来了。你跟得上吗?”

林杰沉默了。

周海峰站起来,走到窗前,看着外面的夜色:“林杰,我教你个办法,别光立规矩,要立标杆。”

“标杆?”

“对。”周海峰转身,“找几所学校,真正用好AI的学校。不监控学生,不滥用数据,就用AI辅助教学,提高质量。把他们树起来,让所有人看看,这才是AI教育的正确用法。”

他走回来,拍拍林杰的肩膀:“老百姓不懂那么多大道理,但他们看得见好坏。你树个好的标杆,那些坏的,自然就没人信了。”

林杰眼睛亮了:“周院长,您这主意......”

“老了,也就这点经验了。”周海峰笑笑,“行了,不耽误你工作。我走了。”

送走老院长,林杰回到办公室,立即给许长明打电话。

“通知起草小组,明天上午加开一次会。大纲要调整,增加示范引领章节,选一批学校做AI教育正面试点。树标杆,立榜样。”

“另外,”他想了想,“联系燕京大学、清华大学、华东师范大学,问问他们愿不愿意做第一批示范校。要求就一个,用好AI,但绝不滥用。”

深夜十一点,林杰还在工作。

儿子打来电话:

“爸,我刚看到起草大纲的初稿。”林念苏说,“挺好,但我觉得缺了点什么。”

“缺什么?”

“缺了‘学生权利’这一章。”林念苏说,“现在的框架,都是从管理者、企业、学校的角度出发。但AI教育的直接承受者是学生。他们有什么权利?知情权、同意权、数据删除权、申诉权......这些得写清楚。”

林杰一拍桌子:“你说得对!加,明天就加。”

挂了电话,他在大纲上增加了一章:第七章,学生权利与保护。

写完后,他站起来,活动活动筋骨。

窗外,夜晚灯火通明。

这座城市里,有成千上万的学生,正在教室里、图书馆里、宿舍里学习。

他们中有些人,可能已经被AI系统监控过;

有些人,可能因为AI误判受过委屈;

还有些人,可能根本不知道自己的数据正在被分析、被传输、被利用。

现在,他要为这些人立一道屏障。

一道技术的屏障,更是伦理的屏障。

网信办老赵打来了电话。

“林书记,智科科技的服务器查封了。”老赵声音急促,“我们在数据里发现了更严重的东西,他们不只收集学生数据,还收集了部分教师的课堂教学内容,包括一些涉及专业前沿、尚未公开的研究思路。”

“这些也传境外了?”

“传了。”老赵说,“国安部门初步判断,这可能涉及技术窃密。沈梦瑶已经被控制,正在审讯。”

林杰深吸一口气:“依法处理。”

“还有个情况,”老赵低声说,“沈梦瑶交代,她们公司能这么快扩张,是因为有贵人帮忙。她提到了一个名字,您可能认识。”

“谁?”

“江东省原副省长,已经退休的......王振国。”

林杰手一抖。

王振国,他当然认识。

三十多年前,他在江东省人民医院当医生时,王振国是市卫生局局长,后来一路升到副省长,三年前退休。

更重要的是,王振国是周海峰的老同学,两人关系极好。

刚才周海峰来看他,真的只是顺路?

还是......

林杰放下手机,走到窗前。

他忽然想起周海峰临走时说的那句话:“树个好的标杆,那些坏的,自然就没人信了。”

现在想来,这句话,似乎别有深意。

窗外的城市,依然灯火璀璨。

但灯光照不到的角落里,有多少暗流在涌动?

林杰拿起红色电话,拨了一个号码。

“老刘,我林杰。王振国这个人,你们那边有线索吗?”

电话那头,纪委的老刘沉默了几秒:“林书记,我们正在查。但王振国退休前级别不低,关系网复杂。您怎么突然问起他?”

“有人提到了他的名字。”林杰说,“和智科科技的案子有关。”

“明白了。”老刘说,“我们会跟进。不过林书记,我得提醒您,如果真牵扯到王振国,那这潭水,就深了。”

挂了电话,林杰忽然觉得,自己立的这个AI教育伦理规范,可能不只是技术规范。

它可能是一把钥匙,能打开一扇门。

门后是什么?

他不知道。

但他知道,门必须打开。

因为门后关着的,可能是这个国家教育的未来。

也可能是某些人,最不想让人看见的秘密。