美國八州控告OpenAI！指ChatGPT危害兒童並欺騙家長

美國八個州周三(14日)分別對OpenAI提起訴訟，指控這家人工智慧(AI)公司旗下的ChatGPT聊天機器人是不安全的產品，已傷害兒童並欺騙家長。

愛荷華州檢察長Brenna Bird表示，愛荷華州、堪薩斯州、內布拉斯加州、西維吉尼亞州、阿肯色州、亞利桑那州、愛達荷州及蒙大拿州，已各自在州法院對OpenAI提告。Bird指出，愛阿華州的訴訟旨在維護受到OpenAI「蓄意、危險、魯莽且違法」行為影響的民眾權益。

Bird說：「OpenAI一方面宣稱ChatGPT安全，另一方面卻提供危險的醫療建議、鼓勵傷害他人，甚至指導使用者輕生，還假裝是使用者的朋友。」她強調，訴訟目的是保護兒童，並依州法追究OpenAI責任。

OpenAI發言人Drew Pusateri表示，該公司已在產品中建立針對不同年齡層的保護機制，這是許多其他AI產品所欠缺的。OpenAI也正與各州合作，推動適用於整個產業的政策。

Pusateri說，沒有任何系統能做到完美，但公司將持續與專家合作，增設防護措施，包括家長監護功能、休息提醒及符合年齡需求的模型保護機制。

OpenAI近來面臨日益升高的安全審查。在多起非正常死亡訴訟中，ChatGPT被指導致使用者陷入有害妄想，部分案例甚至涉及輕生。佛羅里達州檢察長James Uthmeier也在6月控告OpenAI，指控該公司明知產品可能危害使用者，仍推出不安全的產品。

過去一年來，OpenAI陸續強化家長與兒童安全功能，並於8月推出專為未成年人設計的「ChatGPT for Teens」，透過教育功能及符合年齡需求的防護措施，減少青少年接觸不適齡或有害內容。

OpenAI當時表示，青少年應能利用AI學習、創作與探索，但也應獲得符合其發展階段的保護，並維護現實人際關係及健康使用習慣。