隨著大模型技術(shù)快速發(fā)展，新型類(lèi)人情感聊天機(jī)器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅(qū)動(dòng)的應(yīng)用程序，不僅能夠進(jìn)行全天候情感交流，還可以滿(mǎn)足不同用戶(hù)的個(gè)性化需求。殊不知，用戶(hù)在享受溫柔陪伴的同時(shí)，一些法律風(fēng)險(xiǎn)也悄然而至。

　　隱私可能被竊取和濫用

　　AI伴侶是指由人工智能技術(shù)驅(qū)動(dòng)的可以通過(guò)與人類(lèi)互動(dòng)向人類(lèi)提供情感支持的對(duì)話(huà)應(yīng)用程序，在智能化程序中可以模擬人類(lèi)伴侶，滿(mǎn)足人類(lèi)多元化需求，還可以廣泛應(yīng)用到心理、娛樂(lè)等多重領(lǐng)域。

　　據(jù)報(bào)道，一些使用AI伴侶軟件的用戶(hù)表示“沒(méi)開(kāi)過(guò)定位權(quán)限，但AI伴侶可以精準(zhǔn)說(shuō)出其所在城市”“未經(jīng)過(guò)授權(quán)，軟件就獲取了相機(jī)、相冊(cè)權(quán)限”“聊天期間切換到另一個(gè)軟件看視頻，再次回到此軟件后，AI伴侶能夠準(zhǔn)確說(shuō)出自己剛才的行為”“AI伴侶能夠知曉用戶(hù)在日常生活中和朋友聊天談?wù)摰脑?huà)題”等，也有用戶(hù)反映AI伴侶軟件私自收集、處理個(gè)人信息，但事先并未明確向個(gè)人告知。

　　AI伴侶在提供服務(wù)的過(guò)程中，為了采集了解用戶(hù)的個(gè)人喜好，會(huì)采用私自讀取其他軟件信息、調(diào)用攝像頭、訪(fǎng)問(wèn)相冊(cè)等方式來(lái)收集用戶(hù)的個(gè)人信息。特別是在未經(jīng)用戶(hù)明確同意的情況下，通過(guò)收集軟件下載數(shù)量與類(lèi)型、軟件使用習(xí)慣、家庭關(guān)系、社交好友、通訊錄、地理位置、人臉識(shí)別、照片等信息并進(jìn)行分析，為用戶(hù)進(jìn)行精準(zhǔn)畫(huà)像，以便提供更為真實(shí)、貼切的陪伴。如果用戶(hù)的這些個(gè)人信息被收集利用，在存儲(chǔ)、傳輸、使用等環(huán)節(jié)一旦保護(hù)不當(dāng)，就面臨著隱私被竊取、泄露、濫用等風(fēng)險(xiǎn)，用戶(hù)數(shù)據(jù)隱私亟待保護(hù)。

　　此外，一些不法分子或企業(yè)可能會(huì)濫用AI伴侶收集的數(shù)據(jù)、信息，進(jìn)行不正當(dāng)?shù)纳虡I(yè)行為侵犯用戶(hù)權(quán)益。例如利用用戶(hù)數(shù)據(jù)進(jìn)行精準(zhǔn)營(yíng)銷(xiāo)、推送廣告等，或者進(jìn)行非法活動(dòng)，如詐騙、身份盜竊等，給用戶(hù)帶來(lái)財(cái)產(chǎn)損失。上述這些情況都可能造成信息泄露，會(huì)侵犯用戶(hù)的隱私權(quán)，對(duì)個(gè)人權(quán)益造成損害。

　　我國(guó)個(gè)人信息保護(hù)法第十七條規(guī)定，個(gè)人信息處理者在處理個(gè)人信息前，應(yīng)當(dāng)以顯著方式、清晰易懂的語(yǔ)言真實(shí)、準(zhǔn)確、完整地向個(gè)人告知下列事項(xiàng)：個(gè)人信息處理者的名稱(chēng)或者姓名和聯(lián)系方式；個(gè)人信息的處理目的、處理方式，處理的個(gè)人信息種類(lèi)、保存期限；個(gè)人行使本法規(guī)定權(quán)利的方式和程序；法律、行政法規(guī)規(guī)定應(yīng)當(dāng)告知的其他事項(xiàng)。《生成式人工智能服務(wù)管理暫行辦法》第十一條規(guī)定，提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求。《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十一條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)數(shù)據(jù)安全事件應(yīng)急預(yù)案，發(fā)生網(wǎng)絡(luò)數(shù)據(jù)安全事件時(shí)，應(yīng)當(dāng)立即啟動(dòng)預(yù)案，采取措施防止危害擴(kuò)大，消除安全隱患，并按照規(guī)定向有關(guān)主管部門(mén)報(bào)告。個(gè)人信息保護(hù)法第六十六條規(guī)定，違反本法規(guī)定處理個(gè)人信息，或者處理個(gè)人信息未履行本法規(guī)定的個(gè)人信息保護(hù)義務(wù)的，由履行個(gè)人信息保護(hù)職責(zé)的部門(mén)責(zé)令改正，給予警告，沒(méi)收違法所得，對(duì)違法處理個(gè)人信息的應(yīng)用程序，責(zé)令暫停或者終止提供服務(wù)；拒不改正的，并處100萬(wàn)元以下罰款；對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處1萬(wàn)元以上10萬(wàn)元以下罰款。

　　法官提醒

　　AI伴侶的開(kāi)發(fā)平臺(tái)和服務(wù)提供者需要盡到提示義務(wù)，在收集信息時(shí)做好信息提示，以顯著的方式、清晰易懂的語(yǔ)言真實(shí)、準(zhǔn)確、完整、充分地告知用戶(hù)。同時(shí)，還需要設(shè)置一定的隱私邊界，建立更完善的數(shù)據(jù)保護(hù)和隱私管理機(jī)制，不得收集非必要個(gè)人信息，并儲(chǔ)存好收集到的個(gè)人信息，保護(hù)用戶(hù)個(gè)人隱私。違反相關(guān)規(guī)定處理個(gè)人信息的，需承擔(dān)相應(yīng)的行政責(zé)任，構(gòu)成犯罪的，將依法追究刑事責(zé)任。

　　用戶(hù)在使用AI伴侶時(shí)，應(yīng)謹(jǐn)慎提供個(gè)人信息，特別是敏感信息，如身份證號(hào)、銀行卡號(hào)等；同時(shí)也要仔細(xì)閱讀相關(guān)服務(wù)協(xié)議、隱私政策，定期查看并管理AI伴侶的獲取權(quán)限設(shè)置，確保不會(huì)泄露過(guò)多個(gè)人信息。

　　過(guò)度依賴(lài)影響身心健康

　　AI伴侶可能在不經(jīng)意間傳播違法和不良信息，如色情、暴力等內(nèi)容，一些不法分子也可能利用AI伴侶傳播違法內(nèi)容，對(duì)用戶(hù)的身心健康造成負(fù)面影響，甚至可能引發(fā)嚴(yán)重的社會(huì)問(wèn)題。

　　目前全球已發(fā)生多起AI聊天誘發(fā)自我傷害等極端行為的案例，AI過(guò)度“擬人化”對(duì)心理脆弱者的嚴(yán)重影響不可忽視。國(guó)外一名男子在與AI聊天機(jī)器人就氣候危機(jī)進(jìn)行了為期六周的對(duì)話(huà)后，AI聊天機(jī)器人在他提出“犧牲自己來(lái)拯救地球”后，鼓勵(lì)他結(jié)束自己的生命。

　　我國(guó)數(shù)據(jù)安全法第八條規(guī)定，開(kāi)展數(shù)據(jù)處理活動(dòng)，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠(chéng)實(shí)守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會(huì)責(zé)任，不得危害國(guó)家安全、公共利益，不得損害個(gè)人、組織的合法權(quán)益。《新一代人工智能倫理規(guī)范》第十條提出強(qiáng)化自律意識(shí)，加強(qiáng)人工智能研發(fā)相關(guān)活動(dòng)的自我約束，主動(dòng)將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺(jué)開(kāi)展自我審查，加強(qiáng)自我管理，不從事違背倫理道德的人工智能研發(fā)。《生成式人工智能服務(wù)管理暫行辦法》第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)。

　　法官提醒

　　作為AI伴侶的創(chuàng)造者和運(yùn)營(yíng)者，開(kāi)發(fā)平臺(tái)和服務(wù)提供者需要積極履行社會(huì)責(zé)任，加強(qiáng)內(nèi)容監(jiān)管，并建立嚴(yán)格的內(nèi)容審核機(jī)制，通過(guò)內(nèi)容審核機(jī)制規(guī)范AI輸出所提供的內(nèi)容，避免出現(xiàn)含有敏感、違法和不良的信息。特別要注意對(duì)于用戶(hù)的心理疏導(dǎo)，通過(guò)大數(shù)據(jù)、算法分析，對(duì)于有自我傷害趨向的聊天要及時(shí)進(jìn)行提醒、疏導(dǎo)、勸阻。同時(shí)也要嚴(yán)格定期向用戶(hù)發(fā)送使用提醒，避免用戶(hù)過(guò)度依賴(lài)AI伴侶，影響現(xiàn)實(shí)人際關(guān)系和身心健康。

　　用戶(hù)也應(yīng)增強(qiáng)自我保護(hù)意識(shí)，準(zhǔn)確把握使用尺度，避免因?yàn)槌两�于A(yíng)I伴侶提供的情緒價(jià)值而遠(yuǎn)離現(xiàn)實(shí)世界，影響身心健康。如果發(fā)現(xiàn)AI伴侶存在違法或不良行為，用戶(hù)應(yīng)及時(shí)向相關(guān)部門(mén)舉報(bào)，以維護(hù)自己的合法權(quán)益和社會(huì)公共利益。（作者：高珊）