把AI套上籠頭，絕不能讓其成為脫韁之馬

青鋒
民盟上海市委副主委、上海市靜安區(qū)副區(qū)長(zhǎng)龍婉麗在全國(guó)兩會(huì)期間建議，“制定教育場(chǎng)景生成式AI使用負(fù)面清單和推薦清單，強(qiáng)調(diào)杜絕‘代勞式’使用，并按學(xué)段、學(xué)科、任務(wù)類型細(xì)化”，同時(shí)還建議，“要把學(xué)術(shù)誠(chéng)信教育前置到義務(wù)教育階段，把‘引用規(guī)范、事實(shí)核驗(yàn)、來(lái)源標(biāo)注、AI輸出可疑點(diǎn)識(shí)別’納入課堂常規(guī)訓(xùn)練”。
青鋒認(rèn)為，龍婉麗的建議很好，而且，恰到其時(shí)。
在此之前，有人曾發(fā)表看法認(rèn)為，未來(lái)學(xué)生可以不用學(xué)習(xí)數(shù)學(xué)，靠AI就能完成日常計(jì)算任務(wù)。青鋒當(dāng)時(shí)曾為之一驚，如此觀點(diǎn)，豈不是在當(dāng)下科技迅速發(fā)展大背景下，讓學(xué)習(xí)無(wú)用論死灰復(fù)燃？不論是對(duì)下一代，還是對(duì)一個(gè)國(guó)家的發(fā)展，都將貽害無(wú)窮。
青鋒注意到，龍婉麗在提出前述建議時(shí)，指出了人工智能尤其是生成式大模型會(huì)給教育帶來(lái)負(fù)面影響，諸如未成年人數(shù)據(jù)與隱私保護(hù)存在風(fēng)險(xiǎn)，和生成式AI“代勞化”趨勢(shì)日漸明顯。即“不少一線教師與家長(zhǎng)表示孩子越來(lái)越會(huì)‘出答案’，卻越來(lái)越不愿‘走過(guò)程’。也就是說(shuō)，孩子們利用AI根本不用通過(guò)自己思考完成作業(yè)，只需通過(guò)AI就能生成準(zhǔn)確答案。因?yàn)椋尣簧俳處煋?dān)憂，學(xué)生一旦將“能力外包”養(yǎng)成習(xí)慣，就“會(huì)在不自知中失去耐心、推理力與判斷力，甚至影響到學(xué)習(xí)品質(zhì)與學(xué)術(shù)誠(chéng)信”。
龍婉麗認(rèn)為，人工智能，尤其是生成式大模型還可能給教育帶來(lái)的負(fù)面影響，“是模型輸出的不確定性，可能導(dǎo)致教育的不穩(wěn)定性”。她認(rèn)為，“生成式AI構(gòu)建學(xué)生畫像時(shí)，易因數(shù)據(jù)片面、算法偏見(jiàn)產(chǎn)生價(jià)值偏差和錯(cuò)誤引導(dǎo)”。同時(shí)，還將形成的負(fù)面影響是，“缺少教育可用的可信基礎(chǔ)設(shè)施與治理閉環(huán)”。也即“學(xué)校既難統(tǒng)一數(shù)據(jù)安全與合規(guī)要求，也難形成可復(fù)用的教學(xué)范式與評(píng)價(jià)機(jī)制，更難壓實(shí)平臺(tái)與供應(yīng)商責(zé)任”。
青鋒認(rèn)為，龍婉麗的擔(dān)憂不無(wú)道理，而且，AI給人們帶來(lái)的負(fù)面影響，不僅僅在教育行業(yè)，在其他行業(yè)的負(fù)面影響也日趨出現(xiàn)。如通過(guò)人工大模型，很容易搜集到人們的各種信息，甚至是隱私。因而，全國(guó)政協(xié)委員熊水龍建議，修訂居民身份證法及相關(guān)法規(guī)，取消在居民身份證實(shí)體卡片上印刷“住址”信息，進(jìn)一步保護(hù)人們的隱私，有其一定道理。
青鋒還認(rèn)為，如果放任人們使用AI撰寫公文，或者放任利用AI創(chuàng)作，不僅會(huì)讓公文有可能千篇一律，還有可能引發(fā)信息泄露，而放任利用AI創(chuàng)作，更有可能讓抄襲成風(fēng)，能夠給人帶來(lái)心靈震顫，或者能夠引發(fā)人們深入思考的作品，將很可能再難出現(xiàn)。
因此，一定要采取措施，制定法律法規(guī)，給AI套上籠頭，絕不能讓其成為脫韁之馬，到時(shí)候再做所謂的深刻反思，就將悔之晚矣。