生成式人工智能如何規(guī)范應(yīng)用健康發(fā)展

7月，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部等多部門公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），自2023年8月15日起施行，旨在促進(jìn)生成式人工智能規(guī)范應(yīng)用和健康發(fā)展。生成式人工智能技術(shù)是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

技術(shù)發(fā)展與教育之需

5G、大數(shù)據(jù)、人工智能等新一代數(shù)字技術(shù)對(duì)教育產(chǎn)生了深遠(yuǎn)的影響，同時(shí)也暴露了目前教育存在的一些弊端，如過于注重知識(shí)和技能的傳授導(dǎo)致學(xué)生個(gè)性化需求難以滿足、教育資源分配不均衡、師生互動(dòng)反饋實(shí)效性低等。生成式人工智能作為人工智能的一個(gè)重要分支，具有較大潛力解決這些教育問題。通過深度學(xué)習(xí)和生成模型，為學(xué)生提供個(gè)性化的學(xué)習(xí)路徑，根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度和興趣生成相應(yīng)的內(nèi)容資源。此外，生成式人工智能還可以協(xié)助教師編制教案、創(chuàng)新教學(xué)活動(dòng)設(shè)計(jì)、拓寬評(píng)估方式等，教育工作者充分利用智能工具，建設(shè)更智能、適應(yīng)性更強(qiáng)的教育系統(tǒng)，實(shí)現(xiàn)優(yōu)質(zhì)教育資源的共享與傳遞，推動(dòng)教育向更高水平邁進(jìn)。

從國(guó)際視角來看，多國(guó)相繼出臺(tái)有關(guān)生成式人工智能在教育領(lǐng)域應(yīng)用的政策。如英國(guó)發(fā)布《生成式人工智能在教育中的應(yīng)用》報(bào)告，強(qiáng)調(diào)學(xué)校須提供針對(duì)性的教學(xué)內(nèi)容，包括理解生成式人工智能的局限性、可靠性以及潛在偏見，互聯(lián)網(wǎng)所呈現(xiàn)的信息如何組織以及網(wǎng)絡(luò)安全相關(guān)知識(shí)等。日本發(fā)布《初等中等教育階段生成式人工智能利用暫行指南》，認(rèn)為應(yīng)從有限利用生成式人工智能開始，檢查驗(yàn)證利用過程的有效場(chǎng)景；學(xué)校要培養(yǎng)包含確認(rèn)信息真?zhèn)卧趦?nèi)的信息利用能力，提高人工智能時(shí)代所需的素質(zhì)和能力。聯(lián)合國(guó)教科文組織發(fā)布《生成式人工智能與教育的未來》報(bào)告，對(duì)生成式人工智能在教育的影響進(jìn)行了批判性反思，并呼吁在生成式人工智能整合到教育系統(tǒng)的過程中應(yīng)加強(qiáng)審查和監(jiān)管，以確保生成式人工智能與教育的融合符合教育目標(biāo)和人類價(jià)值觀?？v觀多國(guó)政策內(nèi)容，在闡述育人的基礎(chǔ)上均強(qiáng)調(diào)生成式人工智能在教育中應(yīng)用的規(guī)范性，即教育相關(guān)人員如何規(guī)范化、合理化、安全化應(yīng)用生成式人工智能。

人機(jī)融合與規(guī)范應(yīng)用

人機(jī)融合是人類與計(jì)算機(jī)或其他智能設(shè)備之間的協(xié)同合作，以實(shí)現(xiàn)更高效的信息處理、決策和創(chuàng)新。教育領(lǐng)域人機(jī)融合過程中，機(jī)器需要發(fā)揮計(jì)算智能，快速接收、存儲(chǔ)、分析數(shù)據(jù)信息，并為用戶高效提供解決方案。人類需要發(fā)揮主體特性，進(jìn)行思考批判、融合創(chuàng)新和情感溝通等，來彌補(bǔ)機(jī)器的不足和缺陷。

在這一過程中，規(guī)范應(yīng)用生成式人工智能對(duì)教育管理者、教師和學(xué)生都至關(guān)重要。教育管理者：關(guān)注并跟進(jìn)技術(shù)發(fā)展，有針對(duì)性制定明確的規(guī)范與準(zhǔn)則，指導(dǎo)生成式人工智能在教育中的應(yīng)用；應(yīng)投入相關(guān)教育資源，包括基礎(chǔ)設(shè)施和專業(yè)培訓(xùn)，確保教師和學(xué)生能夠充分利用生成式人工智能的教學(xué)工具和資源；定期審查和評(píng)估生成式人工智能生成的教學(xué)資源，確保其質(zhì)量和適用性，避免錯(cuò)誤或有害內(nèi)容對(duì)學(xué)生產(chǎn)生負(fù)面影響。教師：主動(dòng)接受相關(guān)培訓(xùn)，熟悉生成式人工智能的相關(guān)應(yīng)用，掌握其關(guān)鍵技術(shù)和使用技巧；根據(jù)學(xué)生的特點(diǎn)和需求，進(jìn)行個(gè)性化的教學(xué)活動(dòng)設(shè)計(jì)，讓人工智能技術(shù)更好地為學(xué)生服務(wù)；當(dāng)生成式人工智能提供的內(nèi)容不完全符合實(shí)際需求時(shí)，教師應(yīng)有能力進(jìn)行干預(yù)和糾正。學(xué)生：在使用人工智能輔助學(xué)習(xí)時(shí)應(yīng)保持主動(dòng)性和自主性，而不是完全依賴于人工智能系統(tǒng)；可以充分利用個(gè)性化學(xué)習(xí)輔導(dǎo)特性，根據(jù)自己的學(xué)習(xí)需求和進(jìn)度，獲取量身定制的學(xué)習(xí)材料和練習(xí)題目；同時(shí)可利用相關(guān)應(yīng)用進(jìn)行作業(yè)評(píng)估和獲取即時(shí)反饋。

風(fēng)險(xiǎn)防范與健康發(fā)展

《辦法》的出臺(tái)，標(biāo)志著生成式人工智能服務(wù)在我國(guó)的應(yīng)用開始進(jìn)入規(guī)范化和標(biāo)準(zhǔn)化的階段。因此，不僅要積極探索生成式人工智能技術(shù)在教育教學(xué)中的應(yīng)用，同時(shí)也需要對(duì)其潛在問題進(jìn)行風(fēng)險(xiǎn)防范。

目前，生成式人工智能應(yīng)用主要存在以下風(fēng)險(xiǎn)。一是生成式人工智能自身模型存在缺陷，精確度低，推理能力一般，可解釋性和可信任性有待提高，并存在用戶隱私泄露隱患。二是無法滿足高層次教育需求，缺乏高階思維能力，不能提供人性化的互動(dòng)。三是弱化師生思維能力，可能會(huì)引起師生對(duì)生成式人工智能應(yīng)用的依賴性，降低其獨(dú)立思考能力。四是可能會(huì)成為“作弊”工具，給一些學(xué)生帶來“走捷徑”的想法，甚至成為考試作弊的工具。

對(duì)生成式人工智能教育應(yīng)用的研究和監(jiān)管，需要重點(diǎn)考慮以下幾個(gè)方面：

第一，確定使用目的，教師、學(xué)生等教育相關(guān)人員要避免過度依賴工具而忽略了其他教學(xué)資源和方法。第二，思考應(yīng)用情境，生成式人工智能應(yīng)用可以在一些特定的情境下發(fā)揮作用，如內(nèi)容創(chuàng)作、數(shù)據(jù)分析、方案生成等。值得注意的是，教師需要有選擇性地將此類應(yīng)用融入教學(xué)環(huán)節(jié)中，并根據(jù)不同教學(xué)場(chǎng)景特點(diǎn)進(jìn)行有針對(duì)性的管理和規(guī)范。第三，確保數(shù)據(jù)和師生隱私安全，應(yīng)用提供方需要遵循相關(guān)法律法規(guī)，確保數(shù)據(jù)的合法性和安全性，同時(shí)保護(hù)師生的隱私不受侵犯。第四，注意內(nèi)容質(zhì)量，生成式人工智能應(yīng)用的質(zhì)量取決于訓(xùn)練數(shù)據(jù)的質(zhì)量，用戶需要對(duì)其輸出的內(nèi)容進(jìn)行二次辨別。第五，強(qiáng)化監(jiān)管和指導(dǎo)，教育領(lǐng)域的生成式人工智能技術(shù)需要加強(qiáng)監(jiān)管和指導(dǎo)，確保其應(yīng)用符合教育規(guī)律和學(xué)生成長(zhǎng)規(guī)律。相關(guān)部門應(yīng)建立完善的監(jiān)管機(jī)制，對(duì)技術(shù)的應(yīng)用進(jìn)行審批和監(jiān)督，同時(shí)為技術(shù)的應(yīng)用提供指導(dǎo)和支持。第六，促進(jìn)技術(shù)創(chuàng)新，生成式人工智能技術(shù)的應(yīng)用需要不斷進(jìn)行技術(shù)創(chuàng)新，以滿足教育的需求和發(fā)展的需要。需要鼓勵(lì)企業(yè)和研究機(jī)構(gòu)進(jìn)行技術(shù)研發(fā)和創(chuàng)新，提高技術(shù)的質(zhì)量和水平，同時(shí)避免技術(shù)濫用和低水平重復(fù)。

（作者單位系北京郵電大學(xué)教育技術(shù)研究所）

《中國(guó)教育報(bào)》2023年09月04日第4版