青锋
民盟上海市委副主委、上海市静安区副区长龙婉丽在全国两会期间建议,“制定教育场景生成式AI使用负面清单和推荐清单,强调杜绝‘代劳式’使用,并按学段、学科、任务类型细化”,同时还建议,“要把学术诚信教育前置到义务教育阶段,把‘引用规范、事实核验、来源标注、AI输出可疑点识别’纳入课堂常规训练”。
青锋认为,龙婉丽的建议很好,而且,恰到其时。
在此之前,有人曾发表看法认为,未来学生可以不用学习数学,靠AI就能完成日常计算任务。青锋当时曾为之一惊,如此观点,岂不是在当下科技迅速发展大背景下,让学习无用论死灰复燃?不论是对下一代,还是对一个国家的发展,都将贻害无穷。
青锋注意到,龙婉丽在提出前述建议时,指出了人工智能尤其是生成式大模型会给教育带来负面影响,诸如未成年人数据与隐私保护存在风险,和生成式AI“代劳化”趋势日渐明显。即“不少一线教师与家长表示孩子越来越会‘出答案’,却越来越不愿‘走过程’。也就是说,孩子们利用AI根本不用通过自己思考完成作业,只需通过AI就能生成准确答案。因为,让不少教师担忧,学生一旦将“能力外包”养成习惯,就“会在不自知中失去耐心、推理力与判断力,甚至影响到学习品质与学术诚信”。
龙婉丽认为,人工智能,尤其是生成式大模型还可能给教育带来的负面影响,“是模型输出的不确定性,可能导致教育的不稳定性”。她认为,“生成式AI构建学生画像时,易因数据片面、算法偏见产生价值偏差和错误引导”。同时,还将形成的负面影响是,“缺少教育可用的可信基础设施与治理闭环”。也即“学校既难统一数据安全与合规要求,也难形成可复用的教学范式与评价机制,更难压实平台与供应商责任”。
青锋认为,龙婉丽的担忧不无道理,而且,AI给人们带来的负面影响,不仅仅在教育行业,在其他行业的负面影响也日趋出现。如通过人工大模型,很容易搜集到人们的各种信息,甚至是隐私。因而,全国政协委员熊水龙建议,修订居民身份证法及相关法规,取消在居民身份证实体卡片上印刷“住址”信息,进一步保护人们的隐私,有其一定道理。
青锋还认为,如果放任人们使用AI撰写公文,或者放任利用AI创作,不仅会让公文有可能千篇一律,还有可能引发信息泄露,而放任利用AI创作,更有可能让抄袭成风,能够给人带来心灵震颤,或者能够引发人们深入思考的作品,将很可能再难出现。
因此,一定要采取措施,制定法律法规,给AI套上笼头,绝不能让其成为脱缰之马,到时候再做所谓的深刻反思,就将悔之晚矣。
民盟上海市委副主委、上海市静安区副区长龙婉丽在全国两会期间建议,“制定教育场景生成式AI使用负面清单和推荐清单,强调杜绝‘代劳式’使用,并按学段、学科、任务类型细化”,同时还建议,“要把学术诚信教育前置到义务教育阶段,把‘引用规范、事实核验、来源标注、AI输出可疑点识别’纳入课堂常规训练”。
青锋认为,龙婉丽的建议很好,而且,恰到其时。
在此之前,有人曾发表看法认为,未来学生可以不用学习数学,靠AI就能完成日常计算任务。青锋当时曾为之一惊,如此观点,岂不是在当下科技迅速发展大背景下,让学习无用论死灰复燃?不论是对下一代,还是对一个国家的发展,都将贻害无穷。
青锋注意到,龙婉丽在提出前述建议时,指出了人工智能尤其是生成式大模型会给教育带来负面影响,诸如未成年人数据与隐私保护存在风险,和生成式AI“代劳化”趋势日渐明显。即“不少一线教师与家长表示孩子越来越会‘出答案’,却越来越不愿‘走过程’。也就是说,孩子们利用AI根本不用通过自己思考完成作业,只需通过AI就能生成准确答案。因为,让不少教师担忧,学生一旦将“能力外包”养成习惯,就“会在不自知中失去耐心、推理力与判断力,甚至影响到学习品质与学术诚信”。
龙婉丽认为,人工智能,尤其是生成式大模型还可能给教育带来的负面影响,“是模型输出的不确定性,可能导致教育的不稳定性”。她认为,“生成式AI构建学生画像时,易因数据片面、算法偏见产生价值偏差和错误引导”。同时,还将形成的负面影响是,“缺少教育可用的可信基础设施与治理闭环”。也即“学校既难统一数据安全与合规要求,也难形成可复用的教学范式与评价机制,更难压实平台与供应商责任”。
青锋认为,龙婉丽的担忧不无道理,而且,AI给人们带来的负面影响,不仅仅在教育行业,在其他行业的负面影响也日趋出现。如通过人工大模型,很容易搜集到人们的各种信息,甚至是隐私。因而,全国政协委员熊水龙建议,修订居民身份证法及相关法规,取消在居民身份证实体卡片上印刷“住址”信息,进一步保护人们的隐私,有其一定道理。
青锋还认为,如果放任人们使用AI撰写公文,或者放任利用AI创作,不仅会让公文有可能千篇一律,还有可能引发信息泄露,而放任利用AI创作,更有可能让抄袭成风,能够给人带来心灵震颤,或者能够引发人们深入思考的作品,将很可能再难出现。
因此,一定要采取措施,制定法律法规,给AI套上笼头,绝不能让其成为脱缰之马,到时候再做所谓的深刻反思,就将悔之晚矣。
1
院前急救车装化肥,岂能以“身份”避重就轻?
2
助力高校毕业生、农民工就业创业 18项具体举措发布
3
学术造假何以频现?其是否已经成为学术界的一颗毒瘤,剪而不掉?
4
地级及以上城市、县级市今年将全面开展城市体检
5
会议尚未结束,企业家焉何走了一大半?
6
一个月三陷舆论风波,OPPO又因“粉色天空”翻车
7
“自来水有较大异味”,怎能一句“异味已消除,水质安全”就罢了
8
南方电网:立即停止一切非法行为
9
志愿服务标识使用管理有了基本规范
10
肯德基指数成消费升级拐点,这样的专家要把我们“拐”向何方?
11
人民日报:“一把手”错误政绩观有“虚、急、蛮”三副面孔
12
座椅太脏并不可怕,可怕的是本该接受投诉、解决问题的官方账号,却反手将投诉人拉黑
13
中小银行再掀“降息”潮
14
4只皮皮虾1035元:既然电子秤都是联网,为何不能据实公开回应?
15
杭州一街道被知名奢侈品牌“拉黑”?
16
不论是谁,不论干什么,都不能冲击法律底线
17
抖音回应“宾利车主高速救助被弃新人系摆拍”
18
年轻是其“标签”,他为何最终倒在了违纪违法上
19
母亲节活动文案引发争议 OPPO致歉
20
盗采河水售卖:历时十年,监管部门怎么就没发现?