FTC出手！要求7家公司說明 如何掌握AI機器人對小孩「說話的分寸」

美國聯邦貿易委員會 (FTC) 週四 (11 日) 宣布，將向 OpenAI、Alphabet、Meta、xAI 和 Snap 等七家公司發出指令，要求其了解其 AI 聊天機器人可能對兒童和青少年造成哪些負面影響。

FTC 新聞稿指出，AI 聊天機器人可模擬類似人類交流和人際關係與用戶對話，因此希望了解這些公司已採取哪些措施來「評估這些聊天機器人作為同伴時的安全性」。

FTC 主席 Andrew Ferguson 聲明強調保護兒童網路安全是當前美政府 FTC 首要任務，與促進關鍵經濟領域的創新同樣重要。

FTC 正在尋求了解這些公司如何將用戶參與度貨幣化、開發和批准角色、使用或共享個人資訊、監控和執行公司規則和服務條款的合規性以及減輕負面影響等問題。

OpenAI 發表聲明「我們的首要任務是讓 ChatGPT 對每個人都有用且安全，我們也深知，當年輕人參與其中時，安全至關重要。」該公司強調已知悉 FTC 的擔憂，也將全力配合調查。

Meta 拒絕就該調查置評。 Alphabet 和 xAI 尚未立即回應 CNBC 的置評請求。

Snap 發言人聲明表示，「將致力於確保生成式 AI 的合理發展，並期待與 FTC 合作制定 AI 政策，以促進美國創新，同時保護我們的社區。」

經營 Character.AI 機器人 Character Technologies 和 Meta 旗下的 Instagram 也被列入調查名單。Character.AI 發言人表示，「期待與 FTC 就此次調查展開合作，並就消費者 AI 行業及其快速發展的技術提供見解。」

自 2022 年底推出 ChatGPT 以來，大量聊天機器人應運而生，引發了越來越多的道德和隱私問題，即使該產業尚處於起步階段，陪伴機器人的社會影響力已十分深遠，因為美國正遭受一場孤獨流行病的困擾。業內專家預計，一旦 AI 技術開始自我訓練，道德和安全問題將會加劇，可能帶來越來越難以預測的結果。

今年 4 月，Meta 執行長祖克柏表示，人們將渴望擁有能夠理解他們的個人化 AI。馬斯克 7 月宣布，xAI 旗下 Grok 聊天機器人將為付費版用戶提供「同儕」功能。

此前報導指出，Meta 允許其聊天機器人與兒童進行曖昧的對話，上個月密蘇裡州共和黨參議員喬希 · 霍利（Josh Hawley）宣布針對此事向 Meta 展開調查。

報導後，Meta 對其 AI 聊天機器人政策進行了臨時調整，禁止機器人討論自殘、自殺、飲食失調等話題，並避免可能不恰當的浪漫對話。