對於社交媒體巨頭 Meta 等公司來說，內容審核一直是一個極具挑戰性的問題。然而，OpenAI 作為ChatGPT 的開發者，正在推動人工智能在內容審核過程中的應用，並強調它對於優化社交媒體平台的經營效率具有潛力，可以加速處理複雜任務。
掌握最新加密市場動態與 AI （ChatGPT）新聞與資訊，請即追蹤 CFTime Facebook 及 Google 新聞！
ChatGPT將革新 顯著縮短內容審核時間
OpenAI 表示，他們最新的創新成果，即 GPT-4 AI 模型，具有顯著縮短內容審核時間的能力，將時間從數月縮短到僅需數小時，從而確保內容分類的一致性。
內容審核是一項艱鉅的任務，需要協調全球許多審核員的努力，以防止不當材料（如露骨圖像和暴力內容）的傳播。然而，傳統的內容審核流程一直以來都被認為進展緩慢，給人類審核員帶來相當大的心理壓力。
OpenAI 亦正在積極探索利用大型語言模型（LLM）應對這些挑戰的潛力。OpenAI 的語言模型，特別是 GPT-4，具有高度適應性，使其成為內容審核的理想工具，因為它們可以根據既定的政策指南做出決策。
ChatGPT-4 的預測能力可以改進較小模型的表現，使其能夠處理龐大的數據量，從而在多個方面改善內容審核，包括標籤一致性、更快的反饋迴圈以及減輕人類審核員的認知負擔。
OpenAI 強調他們持續努力提高 GPT-4 的預測準確性。這包括研究思維連貫推理或自我評價機制的整合。此外，OpenAI 還在嘗試利用憲法AI的思想，辨識不熟悉的風險。
OpenAI 的主要目標是利用這些模型根據廣義的傷害定義來識別潛在有害內容。他們從這些努力中獲得的見解將有助於完善現有的內容政策，並在未知風險領域開發新的內容政策。
2023 年 8 月15日，OpenAI CEO Sam Altman 明確表示，該組織不使用用戶生成的數據來訓練其 AI 模型。
