本文來自微信微信官方賬號:量子位 （ID：QbitAI），作者:克雷西，原標題:“OpenAI已經進入內容審核行業(yè)，學校圖書館已經用ChatGPT選擇了色情描述”。第一張圖片來自:unsplash

學院圖書管理員，已開始使用ChatGPT來選擇帶有色情內容的書籍。
 

根據(jù)一項新規(guī)定，愛荷華州的美國大學需要將包含性生活描述在圖書館的書籍下架，但“按照新的要求閱讀每本書并選擇它們是不可行的”。

借助ChatGPT，一個學區(qū)終于在開學前選出了19本符合條件的書。

第二天，OpenAI還正式宣布將GPT-4引入內容審計系統(tǒng)。

就OpenAI而言，GPT-4本審查功能可以將審查更新周期從幾個月縮短到幾個小時，并且具有更強的靈活性。

高效率自動化內容審核
 

這一新功能不僅提高了效率，減輕了人類的工作量，而且解決了人工審計中不一致的問題。

最為重要的是，它可以避免有害內容對審計人員造成的身心傷害。

Reed編輯是一家科技媒體。 Albergoti表示：

使用大型語言模型進行內容審查是前進的一步。

 

 

并非因為它有多完美，而是因為它的尺度會更加一致，而且不容易受到人類情感和文化差異的影響。

 

在工作過程中，關鍵環(huán)節(jié)是用戶政策的設計，這部分是人工主導的。

未來GPT-4將使用一些例子來檢驗和提高準確性。

通過對GPT-4的預測微調小型篩選器，可以對信息進行批量檢查。

OpenAI發(fā)言人還透露，一些客戶已經使用GPT-4進行了內容審查，但是沒有給出具體的清單。

另外，OpenAI正在研究將這個功能從文本審批擴展到圖像和視頻的識別。 。

所以，這個功能到底好不好？

OpenAI：有信心做得很好
 

GreggregOpenAI總裁兼創(chuàng)始人 Brockman說，這個功能“非常可靠”。

與此同時，Brockman還顯示了測試結果的依據(jù)。

判斷色情、暴力等多種類型的有害內容，GPT-4人的表現(xiàn)超過了經過少量訓練的人。

然而，與經驗豐富的審批人員相比，確實存在一些差距。

但是OpenAI安全和認可部門原主管Davee Willner面對著名的科技媒體人Casey “這種情況不會持續(xù)太久，”Newton說。

還有負面觀點認為，總會有人想盡辦法鉆AI規(guī)則的漏洞。

歸根結底，大型越獄事件已不止一兩次發(fā)生。

Frank，美聯(lián)社 更有甚者，Bajak表示，像ChatGPT這樣的大型語言模型“很難控制”。

對于這一點，Weng也承認，確實沒有辦法做到100%沒有漏洞，但是有信心會很好。

從一開始，我們就不能建立一個100%的“防彈”系統(tǒng)。

 

 

每個人都在幫助我們抓住模型中的錯誤，但是我很有信心它會做得很好。

 

One More Thing

GPT-4內容審核功能的實用性暫時按下不表，OpenAI的安全工作本身也有很多爭議。

根據(jù)Time雜志的消息，OpenAI在肯尼亞雇傭數(shù)據(jù)標記人員標記有害內容的過程中，一些參與者表示，暴力、折磨等有害內容給他們帶來了心理創(chuàng)傷。

新的方法出臺后，人類仍然需要參與內容審查，但是這種情況可能會大大減少。

參考鏈接：

[1]https://openai.com/blog/using-gpt-4-for-content-moderation

[2]https://www.popsci.com/technology/iowa-chatgpt-book-ban/

[3]https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator

[4]https://twitter.com/gdb/status/1691500101187805185

[5]https://twitter.com/caseynewton/status/1691602324366786575

本文來自微信微信官方賬號:量子位 （ID：QbitAI），作家：克雷西 

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com