云財經(jīng)訊，周一OpenAI 表示，其正與心理健康專業(yè)人士合作，以改進(jìn) ChatGPT 對特定用戶群體的響應(yīng)方式 —— 這些用戶或顯現(xiàn)出精神病性癥狀、躁狂癥狀，或有自殘、自殺傾向，亦或?qū)υ摿奶鞕C(jī)器人產(chǎn)生情感依戀。作為研究發(fā)現(xiàn)的一部分，OpenAI 估算，在任意一周內(nèi)，約 0.07% 的活躍用戶會顯現(xiàn) “與精神病性癥狀或躁狂相關(guān)的潛在心理健康緊急狀況跡象”。根據(jù) OpenAI 首席執(zhí)行官山姆?奧特曼(Sam Altman)本月早些時候透露的信息，ChatGPT 每周活躍用戶達(dá) 8 億。以此計算，上述顯現(xiàn)相關(guān)跡象的用戶約合 56 萬人。這家人工智能(161631)公司表示，由于此類對話較為罕見，很難對其進(jìn)行識別和量化。目前，頭部人工智能(161631)公司及科技巨頭正面臨提升用戶安全的壓力，尤其是在保護(hù)青少年用戶方面。OpenAI 正面臨一起持續(xù)推進(jìn)的訴訟，原告是 16 歲少年亞當(dāng)?雷恩(Adam Raine)的父母。訴訟稱，在雷恩于 4 月 11 日離世前的數(shù)月間，ChatGPT “主動協(xié)助” 其探尋自殺方法。OpenAI 此前曾表示，對雷恩的離世感到悲痛，且 ChatGPT 設(shè)有安全防護(hù)機(jī)制。在周一發(fā)布的研究報告中，OpenAI 還指出，在任意一周內(nèi)，約 0.15% 的活躍用戶會顯現(xiàn) “潛在自殺計劃或自殺意圖的明確指征”。結(jié)合 ChatGPT 的活躍用戶數(shù)據(jù)推算，這意味著約有 120 萬用戶會顯現(xiàn)此類指征。