以ChatGPT為代表的生成式人工智能發(fā)展迅猛,為各行各業(yè)的創(chuàng)新和發(fā)展提供了新的工具和視角,教育行業(yè)也不例外。人們對(duì)于生成式人工智能的使用,生成式人工智能對(duì)教育、對(duì)學(xué)生影響的討論也有著不同的態(tài)度。的確,科技是發(fā)展的利器,也可能成為風(fēng)險(xiǎn)的源頭。生成式人工智能在教育應(yīng)用中潛力巨大,但其嵌入教育全過(guò)程的教學(xué)實(shí)踐也帶來(lái)前所未有的倫理風(fēng)險(xiǎn)。
首先,生成式人工智能的新知識(shí)生產(chǎn)形式有可能帶來(lái)教學(xué)主體地位的混淆。生成式人工智能憑借自主學(xué)習(xí)和知識(shí)遷移實(shí)現(xiàn)創(chuàng)造性的知識(shí)生產(chǎn),其強(qiáng)大的知識(shí)儲(chǔ)備能夠直接呈現(xiàn)答案,消解傳統(tǒng)教師由知識(shí)所賦予的權(quán)威和聲望,造成教師的主體地位被質(zhì)疑。學(xué)生運(yùn)用生成式人工智能快捷途徑獲取知識(shí),雙向知識(shí)探索轉(zhuǎn)變?yōu)閱蜗蛑R(shí)灌輸,不利于學(xué)生創(chuàng)造性思維、批判性思維的培養(yǎng),一定程度上有悖于“培養(yǎng)全面發(fā)展的人”的教育理念。
其次,生成式人工智能的語(yǔ)言模型依賴將暴露技術(shù)本身的缺陷。生成式人工智能技術(shù)依托海量的數(shù)據(jù)、先進(jìn)的算法、強(qiáng)大的算力優(yōu)化教育內(nèi)容的供給,促進(jìn)教學(xué)方式的創(chuàng)新。然而這種智能技術(shù)自身缺陷也引發(fā)一定技術(shù)風(fēng)險(xiǎn)。一方面,生成式人工智能受訓(xùn)練數(shù)據(jù)集來(lái)源不確定的影響,可能會(huì)生成虛假或錯(cuò)誤的內(nèi)容,導(dǎo)致學(xué)生將錯(cuò)誤信息當(dāng)作正確答案,長(zhǎng)期下去可能擾亂學(xué)生的知識(shí)體系;另一方面,基于人類反饋的強(qiáng)化學(xué)習(xí)技術(shù)的模型訓(xùn)練存在人的主觀價(jià)值滲透進(jìn)算法設(shè)計(jì)的可能,導(dǎo)致算法偏見(jiàn)的產(chǎn)生,進(jìn)一步強(qiáng)化教育不公平問(wèn)題。
再其次,生成式人工智能的強(qiáng)人機(jī)交互技術(shù)將可能消解傳統(tǒng)師生的倫理關(guān)系。生成式人工智能可以賦能沉浸式教學(xué)環(huán)境的構(gòu)建,增強(qiáng)學(xué)生的學(xué)習(xí)體驗(yàn)。然而這種賦能一旦過(guò)多地介入師生互動(dòng),將會(huì)使師生之間的直接溝通和情感交流大大減少,甚至產(chǎn)生能夠代替教師的錯(cuò)覺(jué),導(dǎo)致在教育過(guò)程中,生成式人工智能技術(shù)與人的關(guān)系更加緊密,而真實(shí)的人與人之間的關(guān)系難以建立,一定程度上影響師生關(guān)系,妨礙學(xué)生情感發(fā)展和健全人格的形成。
2022年中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》,2023年7月國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部等六部門出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》,從國(guó)家層面加強(qiáng)科技倫理治理、促進(jìn)人工智能健康發(fā)展和規(guī)范應(yīng)用。對(duì)教育實(shí)踐來(lái)說(shuō),這既是把好人工智能技術(shù)在教育應(yīng)用中向善的核心點(diǎn),更是主動(dòng)應(yīng)對(duì)人工智能技術(shù)倫理挑戰(zhàn)的關(guān)鍵。
一是明確智能教育應(yīng)用限度,提升人工智能素養(yǎng)。一方面,要堅(jiān)守人工智能技術(shù)教育應(yīng)用的倫理底線,讓其始終處在適合的閾值內(nèi),最大限度釋放生成式人工智能賦能教育的活力。明確教育始終以人的自由全面發(fā)展為根本目的,生成式人工智能技術(shù)的應(yīng)用只是為了更好地服務(wù)教學(xué)實(shí)踐,不能為了技術(shù)而技術(shù)。另一方面,隨著教育場(chǎng)景中融入生成式人工智能技術(shù),社會(huì)對(duì)教師和學(xué)生的角色也賦予更高的要求。對(duì)教師來(lái)說(shuō),由知識(shí)傳授者轉(zhuǎn)變?yōu)閮r(jià)值觀的引導(dǎo)者。對(duì)此,良好的人工智能素養(yǎng)不僅能消解和防范自我主體變化,還能夠更好地為學(xué)生提供更加優(yōu)質(zhì)的教學(xué)服務(wù)。對(duì)學(xué)生來(lái)說(shuō),提升人工智能素養(yǎng)關(guān)乎其適應(yīng)未來(lái)智能社會(huì)的能力,是激發(fā)其高階創(chuàng)造能力的重要基礎(chǔ)。這在一定程度上能夠防范單向知識(shí)灌輸造成的思維惰化和個(gè)性消弭風(fēng)險(xiǎn)。
二是規(guī)制人工智能生成內(nèi)容,實(shí)現(xiàn)智能技術(shù)旨?xì)w。在生成式人工智能教育應(yīng)用的研發(fā)階段,不僅要構(gòu)建適用于教育領(lǐng)域的大模型訓(xùn)練數(shù)據(jù)池,從源頭防止錯(cuò)誤、虛假信息和不良內(nèi)容出現(xiàn),還要提升語(yǔ)言模型算法的穩(wěn)定性,避免生成式人工智能造成的倫理傷害。在推進(jìn)生成式人工智能教育倫理治理階段,要加強(qiáng)對(duì)智能技術(shù)的監(jiān)管,強(qiáng)化輸出信息的準(zhǔn)確性,建立生成式人工智能問(wèn)責(zé)機(jī)制,建立健全法規(guī)制度體系來(lái)規(guī)范生成式人工智能賦能教育,確保其透明性、安全性,加強(qiáng)其魯棒性,實(shí)現(xiàn)生成式人工智能技術(shù)向善賦能教育發(fā)展。
三是重設(shè)向善教育倫理規(guī)范,助推育人本質(zhì)回歸。生成式人工智能賦能教育全過(guò)程,使“人—人”交互轉(zhuǎn)變?yōu)椤叭恕獧C(jī)—人”交互,為了保持教育主體與生成式人工智能的和諧共生關(guān)系,必須重設(shè)向善教育倫理規(guī)范,把握好人機(jī)協(xié)同的倫理尺度,讓教育者和教育對(duì)象之間更加信任、從容接納智能技術(shù),進(jìn)而實(shí)現(xiàn)人智協(xié)同與共生。在這種良性發(fā)展軌道中,生成式人工智能將教師從重復(fù)性任務(wù)中解放出來(lái),不斷凸顯教師的育人功能。而教師,也要不斷發(fā)揮生成式人工智能所不能替代的德育引導(dǎo)作用和價(jià)值,詮釋言傳身教、保持師道尊嚴(yán),回歸育人本質(zhì)。
技術(shù)發(fā)展永遠(yuǎn)在路上。從人類發(fā)展的歷史長(zhǎng)河來(lái)看,技術(shù)對(duì)人類的革命性影響一直都在。面對(duì)智能技術(shù)的變遷和影響,我們要認(rèn)識(shí)到倫理道德對(duì)技術(shù)發(fā)展的規(guī)約、引領(lǐng)和價(jià)值塑造的能動(dòng)作用,在教育實(shí)踐中以“智能向善”為導(dǎo)向目標(biāo),積極識(shí)變、主動(dòng)應(yīng)變、科學(xué)求變,進(jìn)一步規(guī)范技術(shù)應(yīng)用過(guò)程,變革教育教學(xué)方式,完善人才培養(yǎng)體系,以期培養(yǎng)符合社會(huì)需求的時(shí)代新人。
(作者王國(guó)鵬系數(shù)字化學(xué)習(xí)技術(shù)集成與應(yīng)用教育部工程研究中心專職研究員、浙江師范大學(xué)教育學(xué)院特聘教授,余菲系浙江師范大學(xué)馬克思主義學(xué)院碩士研究生;本文系國(guó)家開(kāi)放大學(xué)資助項(xiàng)目[課題號(hào):Q23C0023-20220101]階段研究成果)
《中國(guó)教育報(bào)》2024年06月15日第4版
工信部備案號(hào):京ICP備05071141號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證 10120170024
中國(guó)教育報(bào)刊社主辦 中國(guó)教育新聞網(wǎng)版權(quán)所有,未經(jīng)書(shū)面授權(quán)禁止下載使用
Copyright@2000-2022 www.pdsfzw.cn All Rights Reserved.