美國加州擬出新法案要求AI公司提醒兒童：聊天機器人不是人類
摘要: 2月6日消息，近日，美國加利福尼亞州參議員Steve Padilla提出的一項新法案要求AI公司定期提醒兒童，聊天機器人是 AI 而非真實的人類。 據(jù)介紹，這項法案旨
2月6日消息，近日，美國加利福尼亞州參議員Steve Padilla提出的一項新法案要求AI公司定期提醒兒童，聊天機器人是 AI 而非真實的人類。
據(jù)介紹，這項法案旨在保護兒童免遭AI“容易使人上癮、造成孤立和誤導”等危害。該法案將制定的要求還包括：禁止AI公司“向用戶提供獎勵”以提升參與度;要求AI公司向州衛(wèi)生保健服務部報告說明平臺檢測到的未成年人出現(xiàn)自殺意念跡象的頻率，該法案還要求公司告知用戶，他們的聊天機器人可能并不適合部分兒童使用。
劍橋大學的研究表明，與成年人相比，兒童更有可能將聊天機器人視為值得信賴的，甚至將其視為準人類。當兒童與聊天機器人之間的對話出現(xiàn)問題時，可能會危及兒童的安全。一個例子是，就在2024年10月，《紐約時報》的一篇報道顯示，一名青少年在與Character.ai的聊天機器人深度對話數(shù)月之后選擇自殺，逝者母親隨后向Character.ai發(fā)起了法律訴訟。
Steve Padilla表示： “孩子們不是科技公司以犧牲心理健康為代價進行實驗的小白鼠。我們需要為聊天機器人的用戶提供常識性保護，以防止開發(fā)人員采取那些令人上癮的策略。”
相關推薦
100億！《哪吒2》背后是一個“新系統(tǒng)”的勝利
原標題：100億！《哪吒2》背后是一個新系統(tǒng)的勝利 100億！ 《哪吒2》到底做對
快資訊2025-02-14 19:13:38
《哪吒2》火到國外，激活一個高校專業(yè)，動畫專業(yè)擇校
原標題：《哪吒2》火到國外，激活一個高校專業(yè)，動畫專業(yè)擇校策略 近年來，
快資訊2025-02-12 20:30:03
新教育 · 新觀察 · 新視點
Copyright ? 2009-2024 青橘網(wǎng)—專注教育產(chǎn)業(yè)信息挖掘傳遞業(yè)內(nèi)資訊
粵ICP備2022102098號-1 深圳蜂?？萍加邢薰景鏅嗨?/a>
浙公網(wǎng)安備 33052102000373號