人工智能心理產業倫理與安全研討會在橫琴圓滿舉行

2025年5月20日，由復旦大學無錫研究院人工智能心理學重點實驗室、澳門城市大學大健康學院共同主辦，由科大訊飛、思圖幸福、西湖心辰、聆心智能、厚德明心、歸墟機器人六家頭部優秀企業共同協辦的"人工智能心理產品倫理與安全研討會暨橫琴倡議發布會"在橫琴深度合作區榛林國際度假園區舉行。會議通過了《人工智能心理產品倫理與安全橫琴倡議書》，并初步研討并確立了成立“人工智能心理產品產業聯盟”的計劃和發展規劃。會議邀請了清華大學、復旦大學、澳門城市大學、山東大學、科大訊飛、思圖幸福、西湖心辰、聆心智能、厚德明心、歸墟機器人等十余位學界專家學者及業界代表與會，圍繞人工智能心理產品的倫理規約、法律規章、安全防范、行業自律、未來發展等議題展開深入探討。

《人工智能心理產品倫理與安全橫琴倡議書》提出了五項核心原則：一是注重人工智能心理產品開發初期的安全與倫理設計；二是開展充分的人工智能心理產品倫理與安全測試以驗證產品可靠性；三是強化人工智能心理產品使用過程中的倫理與安全監測與應急能力；四是組織人工智能心理產品安全與倫理理論與技術的深入研究；五是推動人工智能心理產品倫理與安全方面的規范和標準制定與發布；五是積極參與人工智能心理產品相關法律法規的制定和遵守；六是明確了行業自律、用戶保護、技術創新等多項原則；七是規劃了國內乃至國際的人工智能心理產品產業聯盟成立事宜。

會議全程由澳門城市大學大健康學院孫沛教授主持。

清華大學心理與認知科學系彭凱平教授在致辭中指出，人工智能正逐漸融入大眾生活，成為心理健康支持和情感關懷的重要補充。但在推動技術創新的同時，必須堅守倫理底線，確保用戶權益和數據安全。他認為，當前人工智能產品存在三大突出問題：騷擾泛濫、誘導消費陷阱及生物特征偽造。“當AI實施欺騙行為時，責任主體難以界定——是開發者、平臺還是用戶？”彭凱平強調，現有法律對AI行為的追責機制尚未明確，導致此類問題陷入監管盲區。作為心理學家，彭凱平坦言，本次研討會發布的《橫琴倡議書》主要從安全與倫理角度出發，“我們呼吁產業關注人工智能倫理與安全問題，但法律層面的責任劃分仍需立法機構介入?！彼忉?，我們的倡議是安全與倫理倡議，而徹底解決問題需依賴“明確的法律責任歸屬與懲戒規則”，這需要有識之士、法律人士、決策人士共同來解決。

研討環節，線下與線上與會嘉賓圍繞人工智能心理產品的倫理規范、數據安全、用戶隱私保護、產品創新等議題展開了熱烈討論。

澳門城市大學大健康學院孫沛教授發言提出，青少年與老年人作為“脆弱群體”，需在人工智能心理產品設計中獲得特殊保護。孫教授表示，當前行業內部分產品開發存在盲目套用模型的現象，忽視了對用戶隱私與行為依賴的潛在風險。如何比較認真細致的考慮人工智能倫理規范問題，也是這次會議的主要目的。孫沛教授表示：“今天只是一個倡議，后期的話就要產業聯盟，比如說幾十家甚至上百家的企業，共同往一個方向去努力，這是未來的一個形態，雖然目前僅六家企業參與聯合發布倡議，但行業對此類規范存在普遍需求”。

科大訊飛智慧心育研究院院長常雪亮博士就AI陪伴產品面臨的倫理與安全隱患與制約問題；西湖星辰的陳燕玲老師就AI心理產品的數據安全、倫理等問題；清華大學社會心理研究中心管委會副主任、厚德銘心的倪子君老師就AI心理產品與真人的不同點、AI咨詢與人類咨詢受場所的影響、心理智能體的邊界界定以及情感和承載人類無法承載的情感壓力、危機進行溝通、法律責任界定等方面；清華大學積極心理學研究中心、思圖幸福CTO汪明浩老師就學生AI游戲類產品上癮與AI心理產品上癮的異同、產品不上癮與上癮的邊界劃分等問題；智普大模型的肖錫堯老師就LLM部署在云端的數據安全、AI陪伴、人類對AI陪伴產品上癮后依賴更強、人類對心理大模型過度信任導致過度依賴甚至成癮以及利用心理模型交互數據操控人類情感問題；歸墟機器人劉雪楠老師就具身智能時代的心理學方面的可能危險、復刻和模仿時代如何被規范、工作流的規范制定、未來機器人陪伴人類的情感等問題；

浙江傳媒大學、思圖幸福余思博士就AI心理產品的數據拒絕銷售、安全與倫理、建立聯盟、自由是創作基礎但也要有約束等問題均踴躍展開了積極的發言和討論。

山東大學計算心理學研究院院長、復旦大學無錫研究院人工智能心理學重點實驗室主任姜斌祥教授在閉幕總結中提出“行業發展離不開‘政府引導+法律法規+行業自律+社會監督’的多重保障，學界與業界要緊密結合，構建產業聯盟，以開放心態推動技術標準化與倫理體系建設，打造‘安全可信、有溫度’的人工智能心理產業生態”。姜斌祥教授呼吁：“人工智能心理是全球性問題，不止是中國面對，國際上也要一起面對，因此，我們除在國內研究和倡議以外，還要積極與國際同行進行聯結，構建國際性聯盟，并建立聯盟的科學研究機構，大家一起發力，迎戰人工智能心理產業所面臨的挑戰，造福于全人類。”

會議提出，人工智能心理產業聯盟計劃于今年9月正式成立，屆時將進一步推動行業規范與協同創新，為用戶帶來更優質、更安全的人工智能產品心理體驗。未來將通過產業聯盟的方式，聯合國內外學界與業界共同推動倡議書的落地實施。