Meta 的內部政策顯示，AI 聊天機器人曾被允許與兒童進行不當對話，儘管公司強調已修訂相關規定。
最近一份來自 Meta Platforms 的內部檔案揭露了該公司的 AI 聊天機器人在處理與兒童的對話時存在重大問題。根據路透社的報導，這些政策曾允許聊天機器人參與與兒童的浪漫或性感對話，並生成虛假醫療資訊，甚至有助於散播種族歧視言論。Meta 發言人安迪·斯通（Andy Stone）在回應中表示，公司擁有明確的政策禁止性化兒童的內容，但該檔案中的某些例子卻顯示出執行上的不一致。
這份名為《GenAI：內容風險標準》的檔案長達200頁，詳細說明了開發和訓練其生成式 AI 產品時所需遵循的行為準則。儘管檔案經過法律、公關及工程團隊的審核，但仍然出現了不當的行為範例，例如描述兒童吸引力的語句。事件曝光後，Meta 表示會檢討並移除這些錯誤的內容，強調未來將更嚴格監控 AI 的表現。
此外，檔案還透露了一些令人震驚的規範，包括容許 AI 創造帶有仇恨言論的內容，只要是在特定情境下。不僅如此，Meta AI 還可以創建虛假的內容，只要附上宣告表明該內容不真實。這些做法引發了外界對於科技巨頭倫理責任的質疑，也讓人擔憂未來 AI 技術可能造成的影響。
點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37
免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。
