人工智能教育應(yīng)用的倫理與限制

人工智能技術(shù)在各行各業(yè)的應(yīng)用，促進(jìn)了技術(shù)變革和產(chǎn)業(yè)升級(jí)，有力地推動(dòng)了數(shù)字中國和現(xiàn)代化建設(shè)，也為促進(jìn)教育數(shù)字化轉(zhuǎn)型提供了強(qiáng)大動(dòng)力。習(xí)近平總書記在致國際人工智能與教育大會(huì)的賀信中指出，中國高度重視人工智能對(duì)教育的深刻影響，積極推動(dòng)人工智能和教育深度融合，促進(jìn)教育變革創(chuàng)新。

2022年11月，基于人工智能的聊天工具ChatGPT上線僅兩個(gè)月，活躍用戶超過了1億。ChatGPT能根據(jù)上下文理解用戶輸入的信息，幫助用戶生成問題的解決方案，如寫論文、編代碼、當(dāng)客服等。當(dāng)其逐漸應(yīng)用到教與學(xué)的過程中，出現(xiàn)了如人機(jī)協(xié)同教學(xué)、個(gè)性化學(xué)習(xí)、智能化評(píng)價(jià)、輔助學(xué)術(shù)研究等典型應(yīng)用。但是，應(yīng)用中的倫理問題，如學(xué)術(shù)不端、數(shù)據(jù)泄露、社會(huì)偏見、教育價(jià)值偏頗等，逐漸浮現(xiàn)并產(chǎn)生了負(fù)面影響。因此，如何在充分發(fā)揮人工智能教育應(yīng)用價(jià)值的同時(shí)，有效規(guī)避其中的倫理風(fēng)險(xiǎn)亟待探討和解決。

    ChatGPT的教育應(yīng)用助力學(xué)與教變革

ChatGPT的應(yīng)用有利于促進(jìn)學(xué)生的個(gè)性化學(xué)習(xí)。ChatGPT能夠?yàn)閷W(xué)生提供個(gè)性化的自適應(yīng)學(xué)習(xí)體驗(yàn)，通過ChatGPT的自然語言處理技術(shù)，將學(xué)生提出的問題轉(zhuǎn)化為結(jié)構(gòu)化的數(shù)據(jù)，并將其與相關(guān)知識(shí)庫進(jìn)行匹配，提供最優(yōu)解答，并且ChatGPT會(huì)記錄每一次的問答，針對(duì)學(xué)生的問題進(jìn)行分析，深入了解學(xué)生的學(xué)習(xí)習(xí)慣、學(xué)習(xí)水平等從而使學(xué)生可以獲得個(gè)性化和高效的學(xué)習(xí)指導(dǎo)，提高學(xué)生的學(xué)習(xí)效率。

ChatGPT的應(yīng)用有助于推動(dòng)教師的自動(dòng)化教學(xué)。ChatGPT可以與教師實(shí)現(xiàn)協(xié)同工作，輔助教師進(jìn)行課程設(shè)計(jì)和材料生成，為教師生成有針對(duì)性的學(xué)科知識(shí)、教學(xué)材料、教學(xué)大綱、教學(xué)案例和教學(xué)策略等。通過與ChatGPT進(jìn)行模擬課堂對(duì)話，教師可以更好地了解學(xué)生的問題，提高課堂教學(xué)的靈活性。在課后教師可以使用ChatGPT對(duì)學(xué)生上課的提問與回答進(jìn)行教學(xué)診斷，幫助教師了解學(xué)生的學(xué)習(xí)情況、困難，及時(shí)調(diào)整教學(xué)策略和內(nèi)容。ChatGPT會(huì)自動(dòng)對(duì)學(xué)生的作業(yè)或試卷進(jìn)行評(píng)分和批改，教師可以快速而準(zhǔn)確地對(duì)學(xué)生的作業(yè)和試卷進(jìn)行評(píng)分和批改。

ChatGPT的應(yīng)用有益于輔助學(xué)術(shù)研究。ChatGPT可以為研究者提供模型預(yù)測和數(shù)據(jù)分析的支持。

研究者提供相關(guān)數(shù)據(jù)，這些數(shù)據(jù)可以包括實(shí)驗(yàn)數(shù)據(jù)、問卷數(shù)據(jù)、統(tǒng)計(jì)數(shù)據(jù)等，ChatGPT將使用自然語言處理技術(shù)分析這些數(shù)據(jù)，從中發(fā)現(xiàn)有價(jià)值的信息，并進(jìn)行數(shù)據(jù)分析和模型預(yù)測，之后ChatGPT將提供分析報(bào)告，其中包括數(shù)據(jù)可視化展示、結(jié)果說明和推薦建議等內(nèi)容，讓研究者更加便捷地了解數(shù)據(jù)和模型的特征、趨勢。最后，研究者可以基于分析結(jié)果進(jìn)行進(jìn)一步的科研探索和實(shí)驗(yàn)研究，同時(shí)對(duì)模型和數(shù)據(jù)進(jìn)行優(yōu)化和改進(jìn)，從而促進(jìn)科研工作的深入開展。

    ChatGPT應(yīng)用引發(fā)的教育倫理問題亟待破解

教師和學(xué)生在應(yīng)用ChatGPT的過程中產(chǎn)生了亟待解決的倫理問題，包括數(shù)據(jù)泄露、算法偏見與歧視、學(xué)術(shù)不端、教育價(jià)值偏頗、人文關(guān)懷缺失等，這些問題給教育的可持續(xù)發(fā)展帶來了很大的挑戰(zhàn)。

數(shù)據(jù)泄露有可能引起學(xué)生權(quán)益受損。ChatGPT需要處理與存儲(chǔ)大量數(shù)據(jù)，這些數(shù)據(jù)存在被泄露的風(fēng)險(xiǎn)。在學(xué)習(xí)、教學(xué)與評(píng)價(jià)場景中，學(xué)生、教師與ChatGPT對(duì)話中可能涉及個(gè)人隱私信息、學(xué)術(shù)記錄、行為模式、學(xué)生成績、班級(jí)信息與答題信息等。由于技術(shù)漏洞、相關(guān)人員缺乏安全意識(shí)、黑客攻擊等使這些數(shù)據(jù)的安全不能得到保障，可能會(huì)導(dǎo)致被未經(jīng)授權(quán)的人員訪問、篡改或?yàn)E用。如果不采取相應(yīng)措施來規(guī)避風(fēng)險(xiǎn)，將會(huì)給學(xué)生與教育機(jī)構(gòu)帶來嚴(yán)重的后果，包括個(gè)人信息被利用引來學(xué)生被詐騙或騷擾、對(duì)學(xué)生的學(xué)業(yè)產(chǎn)生負(fù)面影響、學(xué)校聲譽(yù)受損從而家校關(guān)系惡化等。

算法不透明或可導(dǎo)致教育偏見與歧視。ChatGPT在算法設(shè)計(jì)與調(diào)整時(shí)，可能存在一定的偏見。由于算法設(shè)計(jì)人員本身的偏見或盲區(qū)，或收集的語料本身存在的如種族、地區(qū)等偏見，ChatGPT的輸出也會(huì)受到影響。若算法不透明，我們無法判斷其作出決策的依據(jù)，也無法得知其中是否存在隱含偏見。學(xué)生與ChatGPT進(jìn)行知識(shí)問答時(shí)，ChatGPT可能會(huì)給出不準(zhǔn)確的回答，或者以不當(dāng)?shù)姆绞揭龑?dǎo)學(xué)生學(xué)習(xí)和行為，影響學(xué)生的學(xué)習(xí)效果和公平性，加劇數(shù)字技能鴻溝甚至損害教育的公平性。

過度依賴或可導(dǎo)致學(xué)術(shù)不端與教育價(jià)值偏頗。ChatGPT可以根據(jù)研究任務(wù)生成說服性強(qiáng)且有一定邏輯的文本，若濫用可能產(chǎn)生剽竊、抄襲等學(xué)術(shù)不端問題。ChatGPT在一定程度上可以幫助學(xué)生提升學(xué)習(xí)效率，但學(xué)生若對(duì)其呈現(xiàn)的結(jié)果不加批判地全盤接受，會(huì)導(dǎo)致思維的惰化，從而其影響全面發(fā)展。長此以往，學(xué)生的元認(rèn)知、創(chuàng)新性思維、批判性思維、獨(dú)立解決問題的能力均可能受到不同程度的損害，這與教育“培養(yǎng)全面發(fā)展的人”背道而馳。同時(shí)，在教學(xué)中，若教師過分依賴ChatGPT，在教育中忽視和缺失了人文關(guān)懷的情感教育，也不利于培養(yǎng)學(xué)生的健全人格與身心健康。

    應(yīng)對(duì)ChatGPT教育應(yīng)用倫理問題的策略

規(guī)范開發(fā)人工智能教育應(yīng)用場景。ChatGPT具有強(qiáng)大的文本生成能力，可能的應(yīng)用場景包括教、學(xué)、管、考、評(píng)、測、研等諸多方面，學(xué)校可以加強(qiáng)應(yīng)用場景的規(guī)范開發(fā)，明確人工智能技術(shù)的育人價(jià)值，從教學(xué)全流程、全要素、全業(yè)務(wù)的角度深度思考，將智能技術(shù)與教學(xué)深度融合，打造典型的應(yīng)用模式，破解教育和教學(xué)的核心問題，從而塑造學(xué)校人工智能教育應(yīng)用的特色場景。

明確制定人工智能教育應(yīng)用限度。正確認(rèn)識(shí)ChatGPT等人工智能的功能特點(diǎn)、核心價(jià)值，謹(jǐn)慎處理其潛在風(fēng)險(xiǎn)。人工智能教育應(yīng)用過程中，在數(shù)據(jù)采集、數(shù)據(jù)篩選、數(shù)據(jù)處理、數(shù)據(jù)應(yīng)用等方面，容易出現(xiàn)個(gè)人信息泄露、數(shù)據(jù)安全受損、育人價(jià)值偏頗等問題。在應(yīng)用過程中，從數(shù)據(jù)的全生命周期角度，需明確應(yīng)用的具體限度，指導(dǎo)教師和學(xué)生在安全可信的前提下合理使用ChatGPT等人工智能，確保數(shù)據(jù)安全，保證教育的育人價(jià)值不出偏頗。

提高師生的人工智能素養(yǎng)和倫理意識(shí)。教師和學(xué)生的人工智能素養(yǎng)是將新一代人工智能技術(shù)融入教和學(xué)的基礎(chǔ)，而倫理風(fēng)險(xiǎn)意識(shí)則是保證師生安全可靠應(yīng)用人工智能技術(shù)的前提條件。為提高師生的人工智能素養(yǎng)和倫理意識(shí)，組織開發(fā)人工智能教育應(yīng)用與倫理意識(shí)相關(guān)課程和培訓(xùn)，并將相關(guān)內(nèi)容滲透到各科課程中去，讓學(xué)生了解智能技術(shù)的應(yīng)用可能帶來的倫理風(fēng)險(xiǎn)。同時(shí)可引入人工智能檢測工具，建立相應(yīng)的監(jiān)督和管理機(jī)制對(duì)學(xué)生的學(xué)術(shù)行為進(jìn)行監(jiān)督，對(duì)學(xué)術(shù)不端行為進(jìn)行懲處。

強(qiáng)化學(xué)生的高階思維能力培養(yǎng)。ChatGPT等生成性人工智能對(duì)學(xué)生的邏輯思維、提問能力、批判性思維、協(xié)作能力、溝通能力等提出了新的要求，只有具備了這些高階思維能力，學(xué)生才能與ChatGPT等人工智能應(yīng)用形成良性的人機(jī)協(xié)同，促進(jìn)自身的全面發(fā)展。要充分利用智能工具，推動(dòng)教學(xué)理念更新、課堂范式轉(zhuǎn)型、教學(xué)模式轉(zhuǎn)變，推動(dòng)學(xué)生高階思維能力的培養(yǎng)，讓學(xué)生能夠在未來復(fù)雜和不確定的世界中詩意地生存。

（作者楊俊鋒系杭州師范大學(xué)經(jīng)亨頤教育學(xué)院教授、教育部教育信息化戰(zhàn)略研究基地［北京］副主任，陳睿寧系杭州師范大學(xué)研究生。本文系國家社科基金重點(diǎn)課題“人工智能教育場景應(yīng)用的倫理與限度［ACA220027］”的成果）

《中國教育報(bào)》2023年05月13日第4版