OpenAI推出「可信聯絡人」功能,ChatGPT自傷干預再升級
OpenAI於5月7日宣布為ChatGPT推出「可信聯絡人」安全功能,當系統檢測到用戶對話中出現可能涉及自我傷害或自殺傾向的內容時,會將預設緊急聯絡人的資訊推送給相關用戶。此舉是OpenAI在AI心理健康防護領域的一系列延伸措施之一,標誌著大型語言模型公司在用戶安全干預方面的責任邊界進一步擴展。該功能反映了監管壓力與公眾期待雙重作用下,AI平台從被動響應向主動防護的轉型趨勢。
OpenAI於5月7日宣布為ChatGPT推出「可信聯絡人」安全功能,當系統檢測到用戶對話中出現可能涉及自我傷害或自殺傾向的內容時,會將預設緊急聯絡人的資訊推送給相關用戶。此舉是OpenAI在AI心理健康防護領域的一系列延伸措施之一,標誌著大型語言模型公司在用戶安全干預方面的責任邊界進一步擴展。該功能反映了監管壓力與公眾期待雙重作用下,AI平台從被動響應向主動防護的轉型趨勢。