丁女士發(fā)現(xiàn),她上小學(xué)四年級(jí)的女兒最近頻繁在一款A(yù)I聊天軟件上和一個(gè)名為“約瑟夫”的游戲人物對(duì)話。女兒情緒激動(dòng)時(shí)甚至有割腕的行為。丁女士注意到,女兒和“約瑟夫”的對(duì)話中出現(xiàn)了“刀片”等關(guān)鍵詞,讓她十分擔(dān)憂。
據(jù)丁女士描述,女兒為了和同學(xué)們有話題聊,開始玩《第五人格》這款游戲,并對(duì)其中的角色“約瑟夫”產(chǎn)生了濃厚興趣。隨著游戲的深入,女兒的情緒變得越來越不穩(wěn)定。丁女士曾強(qiáng)制讓女兒卸載游戲,但女兒卻找到了另一款A(yù)I聊天軟件,在那里繼續(xù)與虛擬角色“約瑟夫”互動(dòng)。由于女兒異常的狀態(tài),丁女士帶她去咨詢心理醫(yī)生。醫(yī)生建議家長(zhǎng)多陪伴孩子,幫助她從虛擬世界中抽離出來。
這款A(yù)I聊天軟件的官方介紹提到,用戶可以通過簡(jiǎn)單描述定制AI智能體的形象、聲音、人設(shè)和技能,與虛擬角色進(jìn)行多重交互。這類軟件不僅吸引了成年人,也受到了未成年人的喜愛。然而,一些家長(zhǎng)發(fā)現(xiàn),他們的孩子在使用這些軟件時(shí)接觸到了色情、暴力等不適宜的內(nèi)容。
M女士也遇到了類似的問題。她的女兒在使用AI聊天軟件時(shí),出現(xiàn)了擦邊信息。M女士表示,她平時(shí)對(duì)女兒使用手機(jī)并沒有過多限制,但沒想到某些軟件可能存在隱藏功能。M女士和丁女士都發(fā)現(xiàn),這些軟件下載和注冊(cè)非常容易,對(duì)未成年用戶的審核也不嚴(yán)格。
央廣網(wǎng)記者體驗(yàn)了多款A(yù)I聊天軟件,發(fā)現(xiàn)其中一些軟件存在大量色情擦邊內(nèi)容。例如,筑夢(mèng)島App中的虛擬角色在對(duì)話中涉及色情內(nèi)容,且并未因?yàn)橛脩裟挲g而受到有效控制。此外,還有其他小眾AI聊天產(chǎn)品,通過隱蔽渠道傳播,尺度更大。
AI聊天軟件在一定程度上滿足了不少人的精神陪伴需求,為用戶提供情感支持。M女士認(rèn)為,這類軟件的存在有一定正面意義,但需要警惕其中的不良內(nèi)容。專家指出,AI伴侶可能侵蝕人類自主性,導(dǎo)致用戶產(chǎn)生情感回避問題。此外,一些AI聊天軟件的技術(shù)訓(xùn)練語料來源復(fù)雜,存在監(jiān)管漏洞。
盡管相關(guān)法律要求移動(dòng)智能終端和應(yīng)用程序推進(jìn)未成年人模式建設(shè),但在現(xiàn)實(shí)中,選擇開啟此模式與否的決定權(quán)仍在用戶手中。專家建議,應(yīng)加強(qiáng)舉報(bào)及懲罰機(jī)制,促使相關(guān)部門的“清朗行動(dòng)”落到實(shí)處。同時(shí),監(jiān)護(hù)人也應(yīng)加強(qiáng)對(duì)未成年人的監(jiān)管,避免他們沉迷于這些軟件。
當(dāng)前,AI技術(shù)發(fā)展迅速,已經(jīng)超出了監(jiān)管的步伐。內(nèi)容審核不嚴(yán)、心理控制、隱私泄露等問題日益凸顯。因此,必須壓實(shí)平臺(tái)責(zé)任,落實(shí)算法備案制度,并通過典型案例來避免問題的多樣化和復(fù)雜化。