“小網(wǎng)民”需要“大保護(hù)”——“守護(hù)清朗網(wǎng)絡(luò)空間”系列報(bào)道

　　暑期將至，眼看著“神獸歸籠”，未成年人網(wǎng)絡(luò)保護(hù)問(wèn)題又進(jìn)入公眾視野。

　　為了讓孩子遠(yuǎn)離網(wǎng)上不良信息、避免網(wǎng)絡(luò)游戲沉迷、防范網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，不少家長(zhǎng)操碎了心。

　　中央網(wǎng)信辦2025年“清朗”系列專項(xiàng)行動(dòng)整治重點(diǎn)中，就包括“整治暑期未成年人網(wǎng)絡(luò)環(huán)境”，要求強(qiáng)化涉未成年人不良內(nèi)容治理，凈化兒童智能設(shè)備、未成年人模式、未成年人專區(qū)等重點(diǎn)環(huán)節(jié)信息內(nèi)容。

　　伴隨新技術(shù)發(fā)展，網(wǎng)絡(luò)上有哪些危害未成年人身心健康的新問(wèn)題？各方如何提升治理效能？記者進(jìn)行了調(diào)查采訪。

　　網(wǎng)絡(luò)多風(fēng)險(xiǎn)，“原住民”怎么辦？

　　最近，來(lái)自四川成都的彭女士發(fā)現(xiàn)自己12歲的女兒有點(diǎn)不對(duì)勁。

　　“總神神秘秘地抱著手機(jī)，問(wèn)在干啥，也死活不說(shuō)”。她留了個(gè)心眼，點(diǎn)開女兒常用的一款軟件。這一看嚇得不輕：屏幕上出現(xiàn)與多個(gè)虛擬男性角色的聊天互動(dòng)，其中充滿暗示性的對(duì)話，以及曖昧露骨的神情與動(dòng)作描述。

　　原來(lái)，這是一款A(yù)I陪伴聊天軟件，應(yīng)用商店中年齡分級(jí)為“17+”。用戶只要簡(jiǎn)單描述，就能定義AI智能體的形象、聲音、人設(shè)、技能，然后實(shí)時(shí)語(yǔ)音、文字聊天。最受歡迎的是戀愛(ài)情景模式，以及霸總、病嬌等人設(shè)。

　　將對(duì)女兒接觸“擦邊”信息的擔(dān)憂發(fā)在網(wǎng)上后，彭女士發(fā)現(xiàn)自家情況并非個(gè)案。在社交媒體上檢索這款應(yīng)用，能看到不少正上初中甚至小學(xué)的用戶曬出自己的年齡和聊天體驗(yàn)。后知后覺(jué)的父母?jìng)儎t心急如焚地互相詢問(wèn)：“這到底是啥？”“該怎么勸？”

　　這樣的焦慮不難理解。

　　這一代未成年人作為“互聯(lián)網(wǎng)原住民”，大多從出生起就接觸互聯(lián)網(wǎng)。據(jù)《青少年互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告（2024）》統(tǒng)計(jì)，我國(guó)學(xué)齡期及以上未成年人觸網(wǎng)率近98%。

　　與他們的父輩不同，智能設(shè)備、短視頻、網(wǎng)絡(luò)游戲，乃至人工智能大模型……本身就是他們認(rèn)識(shí)和參與社會(huì)、獲取知識(shí)與情感陪伴的重要途徑。許多家長(zhǎng)“一刀切”禁止孩子上網(wǎng)，也引起許多孩子的不滿。

　　但家長(zhǎng)們的擔(dān)心也不無(wú)道理。許多未成年人沒(méi)意識(shí)到：他們熟悉的互聯(lián)網(wǎng)，實(shí)際上“險(xiǎn)象環(huán)生”。

　　不良內(nèi)容、成癮沉迷、網(wǎng)絡(luò)欺凌、個(gè)人信息泄露、非理性消費(fèi)……這些令人眼花繚亂的風(fēng)險(xiǎn)場(chǎng)景，連成年人都可能“踩坑”，對(duì)身心尚在發(fā)育成長(zhǎng)中的未成年人，傷害往往更加深遠(yuǎn)。

　　正如彭女士的經(jīng)歷，人工智能,尤其生成式AI的發(fā)展普及，讓未成年人面臨的各類網(wǎng)絡(luò)風(fēng)險(xiǎn)更隱蔽、更難以防范。

　　除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術(shù)，惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

　　有專家指出，這與對(duì)AI生成內(nèi)容以及相關(guān)產(chǎn)品服務(wù)背后的語(yǔ)料訓(xùn)練監(jiān)管不嚴(yán)有關(guān)。

　　“青少年模式”，如何不被輕易繞開？

　　自從互聯(lián)網(wǎng)走進(jìn)人們的生活，孩子與家長(zhǎng)的“斗智斗勇”似乎就沒(méi)停過(guò)。

　　“明明手機(jī)設(shè)置了青少年模式，但娃還是能超出時(shí)間限制玩游戲。”來(lái)自北京的蕭女士說(shuō)，“查了好久，才發(fā)現(xiàn)他偷偷用我的身份信息做了實(shí)名認(rèn)證?！?/p>

　　來(lái)自湖南的中學(xué)生小王和伙伴分享經(jīng)驗(yàn)：“我和爺爺說(shuō)，學(xué)校有信息要確認(rèn)，讓他幫忙自拍一張，實(shí)際上是用他的信息刷臉認(rèn)證，解除青少年模式?！?/p>

　　從2019年起，部分短視頻平臺(tái)和游戲平臺(tái)開始推出“青少年模式”，通過(guò)限制時(shí)長(zhǎng)、使用時(shí)段、使用功能，減少未成年人網(wǎng)絡(luò)依賴，保護(hù)未成年人隱私信息和人身安全。

　　那么，為何給青少年“量身打造”的“青少年模式”并不受他們歡迎？除了未成年人本身的逆反心理，也因?yàn)椴糠制脚_(tái)的“青少年模式”設(shè)置并不完善。

　　一個(gè)主要原因是，部分平臺(tái)沒(méi)有青少年的年齡段區(qū)分，開啟后能看到的內(nèi)容過(guò)于單一，“只有低齡化動(dòng)畫片和手工視頻。”一位上海小學(xué)生這樣吐槽，“別讓我們?yōu)榱苏乙恍┖侠淼木W(wǎng)絡(luò)資源而動(dòng)歪腦筋！”

　　為解決這些問(wèn)題，2025年4月，“未成年人模式”作為“青少年模式”的升級(jí)版，正式發(fā)布上線。相較于過(guò)去由單一平臺(tái)支撐，新模式由移動(dòng)智能終端、應(yīng)用程序和應(yīng)用商店三方協(xié)同改造。

　　具體帶來(lái)哪些變化？

　　首先，操作門檻大大降低。目前，華為、OPPO等手機(jī)更新后，桌面會(huì)出現(xiàn)醒目的“未成年人模式”圖標(biāo)，一鍵就能讓所有APP同步切換；不同設(shè)備能統(tǒng)一管理，家長(zhǎng)在自己的手機(jī)設(shè)置后，孩子的手機(jī)、平板、智能手表等設(shè)備都能同步限制；“繞開”的難度也增加了，退出模式需要人臉或指紋識(shí)別。

　　其次，內(nèi)容大大豐富。增加年齡分層，如0-3歲主打兒歌、親子互動(dòng)，8-12歲主打科普、生活技能；優(yōu)質(zhì)內(nèi)容定向增加，如抖音邀請(qǐng)全國(guó)科技館入駐并開展科學(xué)教育。

　　另外，部分應(yīng)用增加了定制化內(nèi)容，家長(zhǎng)可以根據(jù)孩子的具體情況“量體裁衣”。以微信為例，監(jiān)護(hù)人可以設(shè)置微信支付的限額；未成年人遇到受限內(nèi)容，如特定公眾號(hào)、小程序、外部鏈接，也可以向監(jiān)護(hù)人發(fā)起臨時(shí)訪問(wèn)申請(qǐng)。

　　目前，未成年人模式仍在不斷完善。“有這個(gè)模式，可以少花心思在‘斗智斗勇’上了。管理孩子手機(jī)的時(shí)候，也不容易‘一刀切’了。”一位家長(zhǎng)說(shuō)。

　　孩子上網(wǎng)引糾紛，責(zé)任誰(shuí)來(lái)?yè)?dān)？

　　當(dāng)網(wǎng)絡(luò)上的權(quán)益糾紛真正發(fā)生，平臺(tái)、監(jiān)護(hù)人、未成年人應(yīng)如何劃分責(zé)任？

　　“作為全國(guó)首個(gè)互聯(lián)網(wǎng)少年法庭，2021年掛牌至今，我們已經(jīng)受理了1200余件涉網(wǎng)未成年人案件，案件呈現(xiàn)出快速增長(zhǎng)趨勢(shì)?！北本┗ヂ?lián)網(wǎng)法院少年法庭法官毛春聯(lián)告訴記者。

　　據(jù)她介紹，這些司法案件主要包括兩類，一是未成年人游戲充值、直播打賞引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛，占到全部案件的近七成；二是線下糾紛以及追星導(dǎo)致造謠、辱罵、P圖等引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛。

　　“充值打賞類案件是所有案件中最令人擔(dān)憂的?！泵郝?lián)說(shuō)，“我們近3年審結(jié)了近700件此類糾紛，案件平均標(biāo)的額超過(guò)8萬(wàn)元。不少涉訴未成年人的家庭經(jīng)濟(jì)基礎(chǔ)薄弱，部分是隔代撫養(yǎng)的留守兒童，未成年人的大額消費(fèi)給家庭帶來(lái)了巨大負(fù)擔(dān)?！?/p>

　　毛春聯(lián)解釋：這類案件中，對(duì)未成年人，法院主要考慮其是否采取了繞過(guò)監(jiān)管的措施?！爸坝幸黄鸢讣?，未成年人冒充自己母親與平臺(tái)客服溝通，解除對(duì)消費(fèi)的限制。法院認(rèn)為這一行為存在過(guò)錯(cuò)，在確定平臺(tái)退款數(shù)額時(shí)將該行為作為考量因素之一”。

　　對(duì)于監(jiān)護(hù)人，是否開啟未成年人模式、是否管理設(shè)備使用、是否保管好支付密碼和身份信息等，是衡量其是否盡到監(jiān)護(hù)職責(zé)的標(biāo)準(zhǔn)。

　　而對(duì)于平臺(tái)，想要壓實(shí)主體責(zé)任，“事先預(yù)防、事中限制、事后救濟(jì)，一個(gè)也不能少?！泵郝?lián)說(shuō)。

　　具體而言，事前預(yù)防包括提供未成年人模式、接入實(shí)名制認(rèn)證系統(tǒng)、優(yōu)化平臺(tái)內(nèi)容、設(shè)置提示等；事中，即侵權(quán)行為發(fā)生后，平臺(tái)不能僅處在被動(dòng)地位，在接受侵權(quán)通知后才采取措施，對(duì)侵權(quán)性明顯的內(nèi)容應(yīng)通過(guò)AI識(shí)別、關(guān)鍵詞過(guò)濾等技術(shù)手段，主動(dòng)識(shí)別攔截；事后救濟(jì)環(huán)節(jié)，應(yīng)提供相應(yīng)的指引，設(shè)置涉未糾紛專屬處理通道，配合披露侵權(quán)人信息等。

　　同時(shí)，應(yīng)對(duì)人工智能相關(guān)的新型風(fēng)險(xiǎn)，相關(guān)部門也在探索。

　　6月10日，在安徽合肥舉辦的2025年中國(guó)網(wǎng)絡(luò)文明大會(huì)人工智能分論壇上，《向未成年人提供生成式人工智能服務(wù)安全指引》正式發(fā)布，明確提到“對(duì)涉未成年人數(shù)據(jù)實(shí)施分類分級(jí)管理”“建議在模型訓(xùn)練過(guò)程中引入保護(hù)未成年人權(quán)益的安全原則，約束模型的輸出符合倫理規(guī)范、減少偏見(jiàn)等”。

　　如何才能更加有效解決網(wǎng)絡(luò)沉迷等涉未成年人網(wǎng)絡(luò)安全問(wèn)題？

　　“可以把握家庭、學(xué)校、社區(qū)、司法部門幾個(gè)維度。”四川省成都市武侯區(qū)人民法院黨組成員、副院長(zhǎng)李非陽(yáng)告訴記者，“司法部門可以開展法制教育、提供調(diào)解干預(yù)與心理疏導(dǎo)。家庭要加強(qiáng)情感陪伴，用運(yùn)動(dòng)、親子閱讀、外出旅行等活動(dòng)減少未成年人對(duì)虛擬世界的依賴；學(xué)校要強(qiáng)化素養(yǎng)教育與早期干預(yù)，可以通過(guò)開設(shè)‘算法認(rèn)知課’介紹網(wǎng)絡(luò)成癮原理。社區(qū)有條件的，可以考慮打造適合未成年人的無(wú)網(wǎng)娛樂(lè)空間，引導(dǎo)未成年人培養(yǎng)線下興趣，減少對(duì)網(wǎng)絡(luò)的沉迷和依賴?！保ㄓ浾?霍旻含）

　　資料鏈接

　　家庭如何引導(dǎo)未成年人遠(yuǎn)離有害網(wǎng)絡(luò)信息：

　　1. 營(yíng)造健康的網(wǎng)絡(luò)使用環(huán)境。

　　2. 在孩子上網(wǎng)時(shí)適當(dāng)陪伴。

　　3. 引導(dǎo)孩子辨別網(wǎng)絡(luò)信息內(nèi)容。

　　4. 加強(qiáng)孩子對(duì)危害后果的認(rèn)識(shí)。

　　5. 幫助孩子抵御有害內(nèi)容侵蝕。如果孩子已經(jīng)遭受有害內(nèi)容的負(fù)面影響，家長(zhǎng)需要采取積極的干預(yù)措施。

　　來(lái)源：北京互聯(lián)網(wǎng)法院《關(guān)于促進(jìn)未成年人網(wǎng)絡(luò)素養(yǎng)家庭教育的指引》