2024年12月08日 星期日
首頁>青記微評 > 正文

詹新惠:培育AI素養(yǎng)正當(dāng)時

2024-10-21 09:22:36

來源:“青年記者雜志”微信公眾號   作者:詹新惠

摘要:隨著人工智能時代的到來,AI素養(yǎng)將是我們和這個時代對話所必備的、基本的、不可或缺的重要素養(yǎng)。

  每逢重陽節(jié),都有一波關(guān)于老年人的話題。在今年有一類話題尤為突出,即老年人如何在人工智能(AI)時代到來后識別AI偽造、辨識AI詐騙。其實(shí), AI音頻偽造、視頻偽造、環(huán)境偽造、人臉偽造的騙局不僅指向?qū)I一無所知的老年人,對AI知之甚少的年輕人有時也未能幸免。當(dāng)產(chǎn)業(yè)界在推出一個個大模型、開發(fā)者在研發(fā)出一個個智能體時,AI對現(xiàn)實(shí)生活的侵入和危害也在同步發(fā)生著。

  今年年初,網(wǎng)絡(luò)安全公司奇安信發(fā)布的《2024人工智能安全報告》稱,2023年基于AI的深度偽造欺詐暴增了3000%,來自AI的重要威脅多達(dá)12種,包括深度偽造、黑產(chǎn)大語言模型基礎(chǔ)設(shè)施、利用AI的自動化攻擊、AI武器化、LLM自身安全風(fēng)險、惡意軟件、釣魚郵件、虛假內(nèi)容和活動生成、硬件傳感器安全等。報告預(yù)計,未來十年,AI技術(shù)的惡意使用還會快速增長,將在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。有“AI教父”之稱的約書亞·本吉奧則警告稱,我們正在創(chuàng)造比人類更強(qiáng)大的怪物(AI)。

  眾所周知,AI是一種通用技術(shù),通用就意味著既可以用來做好事,也可以用來干壞事。當(dāng)AI被濫用,“雙刃劍”的負(fù)面效應(yīng)危及人類社會文明、秩序和生命財產(chǎn)安全時,一方面,我們需要法律、法規(guī)和網(wǎng)絡(luò)安全管理來保護(hù);另一方面,恐怕就需要每一個網(wǎng)民都擁有AI認(rèn)知、AI技能和AI素養(yǎng)了。

  其實(shí), 2022年,國家多個部委就聯(lián)合出臺了與大數(shù)據(jù)、算法、人工智能、深度合成等技術(shù)相關(guān)的法規(guī)辦法,包括《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》,特別是今年9月,國家網(wǎng)信辦發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》,幾乎囊括了當(dāng)前所有AI生成內(nèi)容類型,征求意見稿明確要求網(wǎng)絡(luò)信息服務(wù)提供者按照有關(guān)強(qiáng)制性國家標(biāo)準(zhǔn)進(jìn)行標(biāo)識,生成合成內(nèi)容下載、復(fù)制、導(dǎo)出的文件中也需要含有滿足要求的顯式標(biāo)識。

  制定規(guī)則、完善法規(guī)是勒緊AI泛濫使用的韁繩,但另一個迫在眉睫的任務(wù)是要讓網(wǎng)民認(rèn)知AI、使用AI和駕馭AI,從知識、技能、態(tài)度、價值觀、倫理等多個層面來培育每一個網(wǎng)民的AI素養(yǎng)。畢竟,AI會直接威脅到每一個網(wǎng)民的切身利益,而且相比互聯(lián)網(wǎng)技術(shù)帶來的問題,AI的問題和影響更為嚴(yán)峻,危害和損失會更大。

  認(rèn)知AI,涉及學(xué)習(xí)了解AI的基本概念、技術(shù)原理、數(shù)據(jù)要素、算法算力等知識,但這些對于普通網(wǎng)民來說,并不是最關(guān)鍵的。最為緊要的是要讓網(wǎng)民知曉,我們將要進(jìn)入一個大模型之下的AI時代, AI技術(shù)給未來的社會、經(jīng)濟(jì)和文化帶來的影響是未知的和不確定的,甚至有可能是人類無法控制和駕馭的。在認(rèn)知AI的過程中,樹立AI風(fēng)險意識、了解AI的各種威脅比學(xué)習(xí)AI知識更為優(yōu)先。

  使用AI,包含擁有使用AI的各種技能,比如數(shù)據(jù)分析能力、編程能力、人機(jī)協(xié)作能力、創(chuàng)新創(chuàng)造能力、計算思維等,歸結(jié)為一點(diǎn)就是運(yùn)用AI技術(shù)解決問題的能力。今年1月,獲得第170屆芥川文學(xué)獎的日本女作家九段理江坦言,生成式AI有助于釋放創(chuàng)造力,自己在創(chuàng)作過程中使用了AI,書中大約有5%的內(nèi)容一字不差地取自ChatGPT。英國高等教育政策研究所發(fā)布的調(diào)研報告稱,1250名英國本科生中有53%的學(xué)生正在使用AI寫論文。使用AI的學(xué)生中,25%的人用AI來制定論文主題。姑且不論用AI生成內(nèi)容存在的爭議,單就使用AI提升效能而言,“吃螃蟹者”確實(shí)能走在前面。

  駕馭AI,即是我們對AI的基本態(tài)度,包括對AI的發(fā)展和應(yīng)用包容謹(jǐn)慎和批判性共存,不盲目相信和依賴AI,對AI技術(shù)局限性和潛在風(fēng)險的清醒判斷,對AI的公平性、透明度、責(zé)任性的要求。隨著AI在日常生活和教育環(huán)境中越來越普及,能夠批判性地理解、評估和使用AI系統(tǒng)和工具,安全有效地參與日益數(shù)字化世界是駕馭AI的終極目標(biāo)。

  當(dāng)下,從全球到國內(nèi),都在將培育AI素養(yǎng)列入日程。聯(lián)合國教科文組織發(fā)表了《人工智能與教育北京共識》《K-12 AI 課程:政府認(rèn)可的 AI 課程圖譜》,美國“數(shù)字承諾”組織發(fā)布了《人工智能素養(yǎng):理解、評估和使用新興技術(shù)的框架》,我國北京師范大學(xué)發(fā)布了《青少年人工智能素養(yǎng)核心框架》,南京大學(xué)將AI素養(yǎng)列入學(xué)校通識核心課程。隨著人工智能時代的到來,AI素養(yǎng)將是我們和這個時代對話所必備的、基本的、不可或缺的重要素養(yǎng)。

 ?。ㄗ髡邽橹袊鴤髅酱髮W(xué)新聞學(xué)院教授)

來源:“青年記者雜志”微信公眾號

編輯:小青