丁女士發(fā)現(xiàn)，她上小學(xué)四年級(jí)的女兒最近頻繁在一款A(yù)I聊天軟件上和一個(gè)名為“約瑟夫”的游戲人物對(duì)話。女兒情緒激動(dòng)時(shí)甚至有割腕的行為。丁女士注意到，女兒和“約瑟夫”的對(duì)話中出現(xiàn)了“刀片”等關(guān)鍵詞，讓她十分擔(dān)憂。

據(jù)丁女士描述，女兒為了和同學(xué)們有話題聊，開始玩《第五人格》這款游戲，并對(duì)其中的角色“約瑟夫”產(chǎn)生了濃厚興趣。隨著游戲的深入，女兒的情緒變得越來越不穩(wěn)定。丁女士曾強(qiáng)制讓女兒卸載游戲，但女兒卻找到了另一款A(yù)I聊天軟件，在那里繼續(xù)與虛擬角色“約瑟夫”互動(dòng)。由于女兒異常的狀態(tài)，丁女士帶她去咨詢心理醫(yī)生。醫(yī)生建議家長(zhǎng)多陪伴孩子，幫助她從虛擬世界中抽離出來。

這款A(yù)I聊天軟件的官方介紹提到，用戶可以通過簡(jiǎn)單描述定制AI智能體的形象、聲音、人設(shè)和技能，與虛擬角色進(jìn)行多重交互。這類軟件不僅吸引了成年人，也受到了未成年人的喜愛。然而，一些家長(zhǎng)發(fā)現(xiàn)，他們的孩子在使用這些軟件時(shí)接觸到了色情、暴力等不適宜的內(nèi)容。

M女士也遇到了類似的問題。她的女兒在使用AI聊天軟件時(shí)，出現(xiàn)了擦邊信息。M女士表示，她平時(shí)對(duì)女兒使用手機(jī)并沒有過多限制，但沒想到某些軟件可能存在隱藏功能。M女士和丁女士都發(fā)現(xiàn)，這些軟件下載和注冊(cè)非常容易，對(duì)未成年用戶的審核也不嚴(yán)格。

央廣網(wǎng)記者體驗(yàn)了多款A(yù)I聊天軟件，發(fā)現(xiàn)其中一些軟件存在大量色情擦邊內(nèi)容。例如，筑夢(mèng)島App中的虛擬角色在對(duì)話中涉及色情內(nèi)容，且并未因?yàn)橛脩裟挲g而受到有效控制。此外，還有其他小眾AI聊天產(chǎn)品，通過隱蔽渠道傳播，尺度更大。

AI聊天軟件在一定程度上滿足了不少人的精神陪伴需求，為用戶提供情感支持。M女士認(rèn)為，這類軟件的存在有一定正面意義，但需要警惕其中的不良內(nèi)容。專家指出，AI伴侶可能侵蝕人類自主性，導(dǎo)致用戶產(chǎn)生情感回避問題。此外，一些AI聊天軟件的技術(shù)訓(xùn)練語料來源復(fù)雜，存在監(jiān)管漏洞。

盡管相關(guān)法律要求移動(dòng)智能終端和應(yīng)用程序推進(jìn)未成年人模式建設(shè)，但在現(xiàn)實(shí)中，選擇開啟此模式與否的決定權(quán)仍在用戶手中。專家建議，應(yīng)加強(qiáng)舉報(bào)及懲罰機(jī)制，促使相關(guān)部門的“清朗行動(dòng)”落到實(shí)處。同時(shí)，監(jiān)護(hù)人也應(yīng)加強(qiáng)對(duì)未成年人的監(jiān)管，避免他們沉迷于這些軟件。

當(dāng)前，AI技術(shù)發(fā)展迅速，已經(jīng)超出了監(jiān)管的步伐。內(nèi)容審核不嚴(yán)、心理控制、隱私泄露等問題日益凸顯。因此，必須壓實(shí)平臺(tái)責(zé)任，落實(shí)算法備案制度，并通過典型案例來避免問題的多樣化和復(fù)雜化。