每經(jīng)記者｜孫宇婷 杜蔚????每經(jīng)編輯｜張益銘????

在“萬(wàn)物皆可對(duì)話”的時(shí)代，孩子們正在與一個(gè)不知疲倦、無(wú)所不答的“伙伴”——AI（人工智能）共處。然而，在這種看似積極、開放的人機(jī)互動(dòng)常態(tài)下，一系列隱蔽風(fēng)險(xiǎn)正悄然滋生。

從播放音樂(lè)到隨時(shí)應(yīng)答的“百科助手”，智能音箱已成為許多家庭的標(biāo)配。北京岳女士5歲的兒子突然向“小愛同學(xué)”提問(wèn)：“有哪些奧特曼被打死過(guò)？”設(shè)備隨即平靜描述出“被冰凍大卸八塊”“砍頭”等細(xì)節(jié)，令岳女士緊急叫停。而在成都，4歲女孩自幼兒園了解到某個(gè)大模型后，便沉迷于和大模型對(duì)話，一次聊天能持續(xù)近兩小時(shí)。

隨著ChatGPT引爆生成式AI浪潮，以豆包為代表的新一代AI產(chǎn)品，憑借語(yǔ)音交互等功能，正以前所未有的速度和深度，涌入學(xué)齡前兒童的世界。孩子們向這位“全能伙伴”拋出無(wú)窮無(wú)盡的問(wèn)題，其展現(xiàn)的“淵博”與“耐心”，讓不少家長(zhǎng)放下戒備，甚至視之為“數(shù)字家教”，但矛盾隨之而來(lái)?！拔乙婚_始覺得很開心可以解放自己，但是孩子現(xiàn)在有些成癮了?！本W(wǎng)絡(luò)平臺(tái)上，不少家長(zhǎng)的相關(guān)發(fā)帖和留言，暴露了“AI上癮低齡化”的問(wèn)題。而最早一批嘗鮮“AI帶娃”的家長(zhǎng)，已有人開始卸載相關(guān)應(yīng)用。

新華社

“用少了怕落后，用多了怕他不會(huì)思考?！币晃患议L(zhǎng)的感慨也道出了家庭的普遍焦慮。

在擁抱技術(shù)便利的同時(shí)，也要正視其伴生的認(rèn)知與倫理挑戰(zhàn)——當(dāng)AI成為孩子的“啟蒙家教”，我們?cè)撊绾问刈o(hù)孩子們真實(shí)世界的成長(zhǎng)根基？

近日，中國(guó)教育科學(xué)研究院研究員儲(chǔ)朝暉向《每日經(jīng)濟(jì)新聞》記者指出，兒童正處于認(rèn)知發(fā)展的關(guān)鍵期。過(guò)度依賴AI可能導(dǎo)致現(xiàn)實(shí)感知混淆、社交能力萎縮，并削弱主動(dòng)思考與深度閱讀等高階能力。當(dāng)虛擬內(nèi)容不斷擠占真實(shí)體驗(yàn)，兒童甚至更信任AI而非父母。

案例1：一次天真的提問(wèn) 如何滑向恐怖故事？

在5歲半的貝貝眼里，爸爸手機(jī)上的AI軟件是個(gè)“無(wú)所不知”的伙伴。一次，她好奇地問(wèn)AI：“地下有什么？”AI隨即開始平和地描述，并在屏幕上推送了一條相關(guān)視頻。貝貝點(diǎn)開，伴隨語(yǔ)音解讀，畫面從可愛的地鼠洞穴，迅速切換到陰森的埃及法老墓穴?！胺ɡ鲜鞘裁?？”被畫面吸引的貝貝追問(wèn)道。AI再次給出解釋，并順勢(shì)推薦了更多“法老”“木乃伊”“金字塔詛咒”相關(guān)的視頻。

幾次點(diǎn)擊之間，內(nèi)容已從地理科普滑向法老傳說(shuō)、木乃伊之謎，甚至恐怖故事。好奇心在算法的“喂養(yǎng)”下，越過(guò)了認(rèn)知安全的邊界，視頻中可怕的圖像和驚悚的音樂(lè)導(dǎo)致貝貝連續(xù)多日難以安眠。

案例2：隱蔽塑造價(jià)值觀 無(wú)法容忍不同的觀點(diǎn)

“它明明超厲害的，怎么說(shuō)都不聽，就只按自己的想法來(lái)！”4歲的石頭正對(duì)著屏幕里的大模型犟嘴，一旁的唐萍（化名）滿臉無(wú)奈地跟記者念叨：“你看，這孩子又在跟大模型發(fā)火了。”自打在幼兒園聽說(shuō)了豆包，石頭就迷上了和各類智能大模型對(duì)話，家里的阿爾法蛋是他的專屬聊天搭子，就連大人們手機(jī)里的不同大模型，他也總要挨個(gè)點(diǎn)開聊上幾句。起初唐萍還覺得這事挺不錯(cuò)，大模型永遠(yuǎn)耐心十足，會(huì)認(rèn)認(rèn)真真回應(yīng)石頭的每一個(gè)問(wèn)題。

可漸漸地，她發(fā)現(xiàn)了不對(duì)勁——大模型似乎總在順著石頭的心意來(lái)，無(wú)論孩子提出多么天馬行空的要求，它都一味附和，只要孩子不同意，吵鬧幾句，大模型馬上開啟“寵溺模式”。

AI知識(shí)豐富，又特別會(huì)夸人，讓石頭沉浸在極高的情緒價(jià)值里。但唐萍憂慮，這信息流背后的算法，正悄悄扼殺孩子的偶然性探索，在與小朋友一起玩耍時(shí)，石頭無(wú)法容忍不同的觀點(diǎn)。被父母批評(píng)后，石頭甚至說(shuō)出某款大模型更懂他。“我卸載了所有大模型。因?yàn)樗鼈兲峁┑倪@些‘寵溺’對(duì)話，把孩子‘可能不喜歡的東西’全部擋在了外面，但也把我們擋在了外面?！?/p>

案例3：“AI監(jiān)工”悄然上崗 兒童隱私保護(hù)存隱憂

在越來(lái)越多的家庭中，一個(gè)“AI監(jiān)工”悄然上崗，一些家長(zhǎng)選擇讓孩子在AI軟件的攝像頭前寫作業(yè)，一旦孩子開小差、坐姿或握筆姿勢(shì)不正確，AI便會(huì)立刻發(fā)出語(yǔ)音提醒。

為什么家長(zhǎng)愿意請(qǐng)AI軟件這樣的“電子監(jiān)工”？一位家長(zhǎng)向記者坦言，在工作和帶娃的雙重壓力下，一個(gè)不會(huì)發(fā)脾氣、永遠(yuǎn)在線的“監(jiān)督員”，聽起來(lái)太有吸引力了。于是，本應(yīng)親自參與的陪伴和引導(dǎo)，被家長(zhǎng)拱手交給了算法。

在視頻監(jiān)督中，AI往往只能識(shí)別“低頭”“東張西望”等動(dòng)作，沒(méi)有辦法理解孩子是在思考、卡殼了，還是真在走神。在家長(zhǎng)得到片刻喘息的同時(shí)，頻頻被打斷的孩子，專注力反而被這些“過(guò)度關(guān)心”的聲音破壞了。長(zhǎng)期下來(lái)，孩子要么變得像機(jī)器人一樣聽話，要么心生反感，對(duì)學(xué)習(xí)更提不起勁。

而那枚一直亮著的監(jiān)控?cái)z像頭，也意味著孩子的學(xué)習(xí)場(chǎng)景、家庭環(huán)境，甚至實(shí)時(shí)視頻流，都可能被采集分析，這也給兒童隱私保護(hù)帶來(lái)了極大的隱患。

專家支招 “不被算法定義”的童年

“幼兒無(wú)法區(qū)分AI構(gòu)建的虛擬與現(xiàn)實(shí)，容易出現(xiàn)認(rèn)知偏差。”中國(guó)教育科學(xué)研究院研究員儲(chǔ)朝暉講述了一個(gè)令人憂心的觀察：在高鐵上，一個(gè)學(xué)齡前孩子指著窗外的樹，驚恐地說(shuō)是“殺人樹”?！斑@就是長(zhǎng)期接觸虛擬內(nèi)容、缺乏真實(shí)體驗(yàn)導(dǎo)致的認(rèn)知錯(cuò)位。”他發(fā)現(xiàn)，AI的確會(huì)盲目迎合，讓孩子易形成“AI即權(quán)威”的觀念，這不僅沖擊現(xiàn)實(shí)規(guī)則，還可能引發(fā)親子沖突。

儲(chǔ)朝暉對(duì)此很憂心，在他看來(lái)，長(zhǎng)期沉迷AI將擠壓戶外活動(dòng)與真實(shí)社交，直接影響兒童健康，并可能導(dǎo)致“虛擬性人格”，使其喪失與現(xiàn)實(shí)世界打交道的能力。

一些意識(shí)到問(wèn)題的家長(zhǎng)，已開始有意識(shí)地增加孩子與現(xiàn)實(shí)生活的互動(dòng)體驗(yàn)。當(dāng)孩子提議“點(diǎn)外賣”，家長(zhǎng)會(huì)轉(zhuǎn)而邀請(qǐng)：“走，我們?nèi)ゲ耸袌?chǎng)。”在那里，觸摸蔬菜、感受水滴、與攤主交流……這些真實(shí)的知覺與社會(huì)規(guī)則學(xué)習(xí)，是算法無(wú)法賦予的成長(zhǎng)基石。

“真實(shí)的人際互動(dòng)、自由的游戲乃至消磨‘無(wú)聊時(shí)間’，恰恰來(lái)自人與人之間的不確定性，這正是AI很難提供的部分?！遍L(zhǎng)期專注于批判性思維研究，并關(guān)注技術(shù)如何塑造認(rèn)知的通識(shí)教育研究者李萬(wàn)中向《每日經(jīng)濟(jì)新聞》記者指出，這一代孩子與AI共生已不可避免，關(guān)鍵在于如何與其智慧相處。

在他看來(lái)，當(dāng)孩子從AI處聽到不適宜內(nèi)容時(shí)，家長(zhǎng)的第一反應(yīng)至關(guān)重要?！安粦?yīng)恐慌或否定，而應(yīng)冷靜介入——先了解孩子聽到了什么、如何理解，再用他們能懂的語(yǔ)言重新解釋。”李萬(wàn)中認(rèn)為，一次“事故”可轉(zhuǎn)化為“契機(jī)”。“真正的安全，是讓孩子在遇到問(wèn)題時(shí)，知道該向誰(shuí)求助、該如何思考。”

為此，他提出了一個(gè)具體的行動(dòng)建議：家長(zhǎng)應(yīng)優(yōu)先規(guī)劃“何時(shí)不用”——如睡前、情緒低落或家庭共處時(shí)光。更重要的是，讓AI成為全家共同探索的工具，而不是直接交給孩子。在此過(guò)程中，家長(zhǎng)應(yīng)展現(xiàn)謙遜、好奇、謹(jǐn)慎等品格，“孩子在觀察父母如何與AI互動(dòng)中，也許能學(xué)到很多東西”。

儲(chǔ)朝暉則強(qiáng)調(diào)“有限、均衡”是基本準(zhǔn)則：3歲前幼兒最好不接觸，3歲至6歲幼兒每日使用時(shí)間不宜超過(guò)日?；顒?dòng)時(shí)長(zhǎng)的十分之一。

紅線何在？ 小度、小米等回應(yīng)兒童AI安全

隨著AI語(yǔ)音助手成為萬(wàn)千家庭的“數(shù)字新成員”，行業(yè)應(yīng)如何設(shè)立安全護(hù)欄，才能讓科技真正護(hù)航童年？

李萬(wàn)中指出，對(duì)于學(xué)齡前兒童，產(chǎn)品設(shè)計(jì)不應(yīng)盲目追求“更真實(shí)的陪伴感”。“廠家需要想清楚，哪些情感功能不該由產(chǎn)品來(lái)承擔(dān)，明確的功能邊界本身就是一種保護(hù)。對(duì)孩子而言，如果只把AI當(dāng)作信息工具，并在內(nèi)容分級(jí)上做到位，風(fēng)險(xiǎn)是相對(duì)可控的?！?/p>

儲(chǔ)朝暉認(rèn)為，平臺(tái)責(zé)任至關(guān)重要?！拔闯赡昴Ｊ讲粦?yīng)是簡(jiǎn)單的‘減法’，而應(yīng)提供豐富且適齡的內(nèi)容?！彼J(rèn)為，在科技前沿與兒童使用之間必須設(shè)立“區(qū)間”——在技術(shù)、內(nèi)容和時(shí)間上嚴(yán)格區(qū)分成人與未成年人，尤其要重視幼兒道德判斷力弱的特點(diǎn)，避免不良誤導(dǎo)。

作為占據(jù)大量家庭入口的頭部廠商，小度、字節(jié)跳動(dòng)、小米、科大訊飛等企業(yè)均向《每日經(jīng)濟(jì)新聞》記者表示，已通過(guò)“兒童模式”等機(jī)制，實(shí)施更嚴(yán)格的內(nèi)容過(guò)濾與數(shù)據(jù)管理，包括分級(jí)內(nèi)容管控和限定問(wèn)答邊界等。

針對(duì)“當(dāng)孩子向AI提問(wèn)時(shí)，背后的推薦算法是否考慮到兒童用戶的特殊性”的問(wèn)題，小度稱系統(tǒng)能識(shí)別兒童交互場(chǎng)景（如播放兒歌后）并自動(dòng)啟動(dòng)保護(hù)機(jī)制；小米則透露正探索基于聲紋識(shí)別的身份判定方案，以提升準(zhǔn)確性。

小度方面還表示，即使在普通模式（未開啟兒童模式）下，產(chǎn)品也持續(xù)通過(guò)AI算法實(shí)時(shí)識(shí)別并攔截不良信息，保障內(nèi)容安全合規(guī)。同時(shí)，小度方面建議若產(chǎn)品主要由未成年人使用，用戶應(yīng)主動(dòng)切換至兒童模式以獲得更全面的保護(hù)。

據(jù)悉，豆包App（應(yīng)用程序）已正式上線未成年人模式。開啟該模式后，回答展示視頻、瀏覽第三方網(wǎng)頁(yè)、與豆包以外的智能體對(duì)話及AI創(chuàng)作等功能都無(wú)法使用。

在備受關(guān)注的兒童數(shù)據(jù)處理方面，小米方面表示，遵循“采集須經(jīng)監(jiān)護(hù)人授權(quán)、存儲(chǔ)符合規(guī)范、使用設(shè)定禁區(qū)”的原則，承諾不將兒童數(shù)據(jù)用于模型訓(xùn)練，也不會(huì)向第三方轉(zhuǎn)讓用于商業(yè)營(yíng)銷。小度則明確表示收集的用戶數(shù)據(jù)僅用于提升產(chǎn)品自身的體驗(yàn)，并已建立涵蓋采集、傳輸、存儲(chǔ)、使用、共享、銷毀各階段的完善個(gè)人信息保護(hù)合規(guī)制度與數(shù)據(jù)管理體系。

北京市隆安律師事務(wù)所上海分所律師賈玉倩在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)建議，內(nèi)容分級(jí)可采取“年齡+認(rèn)知”的雙重標(biāo)準(zhǔn)，借助身份認(rèn)證與算法優(yōu)化，在未成年模式下細(xì)化推送機(jī)制，并建立實(shí)時(shí)審查與阻斷體系。對(duì)未成年人生物信息的收集與處理，必須在監(jiān)護(hù)人明確同意下，嚴(yán)格遵循最小必要、最小授權(quán)原則，進(jìn)行全流程安全管控與合規(guī)審計(jì)，并在發(fā)生泄露時(shí)立即補(bǔ)救和通知監(jiān)護(hù)人。

“AI發(fā)展迅猛，相關(guān)立法雖在持續(xù)完善，但面對(duì)技術(shù)迭代中的新問(wèn)題仍存在滯后性，無(wú)法全面覆蓋未成年人使用AI的各類風(fēng)險(xiǎn)，所以要結(jié)合立法的基本原則考慮?！辟Z玉倩直言，“監(jiān)護(hù)人是保護(hù)未成年人的第一責(zé)任人，數(shù)據(jù)管理方是數(shù)據(jù)安全的第一責(zé)任人。只有各方協(xié)同，才有可能實(shí)現(xiàn)未成年人網(wǎng)絡(luò)安全，尤其是監(jiān)護(hù)人，一定要關(guān)注未成年人的網(wǎng)絡(luò)使用情況?！?/p>

翻譯

搜索

復(fù)制

封面圖片來(lái)源：新華社