當(dāng)?shù)貢r(shí)間周二(8月15日),人工智能研究公司OpenAI在官網(wǎng)稱,其開發(fā)了一種使用GPT-4進(jìn)行內(nèi)容審核的解決方案,有望減輕人工審核員的負(fù)擔(dān)。
圖片來源:OpenAI官網(wǎng)
OpenAI表示,將GPT-4用于內(nèi)容策略開發(fā)和內(nèi)容審核決策,從而實(shí)現(xiàn)更一致的標(biāo)記、更快的策略優(yōu)化反饋循環(huán),以及減少人工審核人員的參與。
(資料圖)
OpenAI稱,內(nèi)容審核在維持?jǐn)?shù)字平臺(tái)的健康方面發(fā)揮著至關(guān)重要的作用。使用GPT-4的內(nèi)容審核系統(tǒng)可以更快地迭代策略更改,將周期從幾個(gè)月縮短到幾個(gè)小時(shí)。GPT-4還能夠解釋長內(nèi)容策略文檔中的規(guī)則和細(xì)微差別,并立即適應(yīng)策略更新,從而實(shí)現(xiàn)更一致的標(biāo)記。
OpenAI相信,這為數(shù)字平臺(tái)的未來提供了一個(gè)更積極的愿景,在數(shù)字平臺(tái)上,人工智能可以根據(jù)特定平臺(tái)的政策幫助調(diào)節(jié)在線流量,并減輕大量人類版主的心理負(fù)擔(dān)。任何擁有OpenAI API訪問權(quán)限的人都可以實(shí)現(xiàn)這種方法來創(chuàng)建自己的人工智能輔助審核系統(tǒng)。
OpenAI一直在測(cè)試該技術(shù),并邀請(qǐng)客戶也進(jìn)行試驗(yàn)。OpenAI表示,其工具有望幫助企業(yè)在一天左右的時(shí)間內(nèi),就完成原本需要六個(gè)月才能做完的工作。
內(nèi)容審核需要細(xì)致的努力、敏感度、對(duì)上下文的深刻理解,以及對(duì)新用例的快速適應(yīng),這使得它既耗時(shí)又具有挑戰(zhàn)性。傳統(tǒng)上,這項(xiàng)任務(wù)的負(fù)擔(dān)落在了人類主持人身上,他們?cè)谳^小的垂直特定機(jī)器學(xué)習(xí)模型的支持下,篩選大量內(nèi)容,過濾出有毒有害的材料。這個(gè)過程本身就很慢,可能會(huì)給人類調(diào)節(jié)者帶來心理壓力。
OpenAI表示,我們正在探索使用LLM來應(yīng)對(duì)這些挑戰(zhàn)。我們的大型語言模型,如GPT-4,可以理解并生成自然語言,使其適用于內(nèi)容審核。模型可以根據(jù)提供給它們的政策指導(dǎo)方針做出適度的判斷。
有了這個(gè)系統(tǒng),開發(fā)和定制內(nèi)容策略的過程從幾個(gè)月縮短至幾個(gè)小時(shí)。一旦制定了政策指南,政策專家就可以通過識(shí)別少量示例并根據(jù)政策為其分配標(biāo)簽來創(chuàng)建一組黃金數(shù)據(jù)。然后,GPT-4讀取策略并為同一數(shù)據(jù)集分配標(biāo)簽,但看不到答案。
通過檢查GPT-4的判斷與人類判斷之間的差異,政策專家可以要求GPT-4提出標(biāo)簽背后的推理,分析政策定義中的歧義,解決困惑,并相應(yīng)地在政策中提供進(jìn)一步的澄清。我們可以重復(fù)步驟操作,直到我們對(duì)政策質(zhì)量感到滿意為止。
這個(gè)迭代過程產(chǎn)生了精細(xì)的內(nèi)容策略,這些策略被轉(zhuǎn)換為分類器,從而能夠大規(guī)模部署策略和內(nèi)容審核。
在審核能力上,OpenAI承認(rèn)GPT-4的標(biāo)記質(zhì)量與經(jīng)過輕度訓(xùn)練的人類審核員相似,但與經(jīng)驗(yàn)豐富、訓(xùn)練有素的人類審核員相比仍有差距。對(duì)此,OpenAI強(qiáng)調(diào),審核的過程不應(yīng)該完全自動(dòng)化。
值得注意的是,OpenAI的工具并不是該領(lǐng)域第一個(gè)引入人工智能的先行者。早于2017年,谷歌的技術(shù)團(tuán)隊(duì)就開發(fā)了一個(gè)基于AI的內(nèi)容審核API,名為“Perspective”,已經(jīng)被多家媒體組織所使用。
但即使如此,一些企業(yè)仍選擇將審核工作外包給其他人力公司來節(jié)省成本。
OpenAI稱,其最新的內(nèi)容審核系統(tǒng)為數(shù)字平臺(tái)的未來提供了一個(gè)更積極的愿景,即AI可以根據(jù)平臺(tái)特定的政策減輕大量人工審核人員的精神負(fù)擔(dān)。公司還透露,已經(jīng)有一些客戶在使用這一流程。
(文章來源:每日經(jīng)濟(jì)新聞)
關(guān)鍵詞:
- 重磅!OpenAI曝光GPT-4這一新功能:一天可以完成六個(gè)月的工作
- 7月民航客運(yùn)規(guī)模創(chuàng)月度歷史新高!多家航司運(yùn)力大增 對(duì)全年業(yè)績有信心
- A股利好!“國家隊(duì)”最新出手!拜登緊急發(fā)聲!暴力加息350個(gè)基點(diǎn) 俄羅斯突然宣布!
- 朝中社:越界美軍士兵對(duì)美軍內(nèi)部非人虐待和種族歧視抱有反感,下決心倒戈
- 惠譽(yù)或全面下調(diào)數(shù)十家銀行評(píng)級(jí):美國銀行業(yè)或再經(jīng)歷動(dòng)蕩
- 釋放夜經(jīng)濟(jì)更大活力
- 紀(jì)錄片的“新”與“?!?/a>
- 中信證券:首次給予人形機(jī)器人行業(yè)“強(qiáng)于大市”評(píng)級(jí)
- 以色列AI初創(chuàng)企業(yè)Vesttoo被指欺詐后申請(qǐng)破產(chǎn)
- 中信證券:浮法玻璃行業(yè)基本面持續(xù)向上 預(yù)計(jì)需求將持續(xù)向好
- 三星電子二季度拋售355萬股ASML股票
- 浙商證券:整車新一輪價(jià)格促銷更多是淡季來臨的一種應(yīng)對(duì)
- 降息之后,可能還有降準(zhǔn)、降息
- 新華報(bào)業(yè)傳媒集團(tuán)淮安印務(wù)有限公司招標(biāo)公告
- 特朗普卸任后第四次遭刑事指控 或進(jìn)一步加劇美政治和社會(huì)撕裂
- 三部門調(diào)整海南自貿(mào)港交通工具及游艇“零關(guān)稅”政策
- 7月民航客運(yùn)規(guī)模創(chuàng)月度歷史新高
- 跨境電商成外貿(mào)增長新引擎
- 加快補(bǔ)齊農(nóng)村商業(yè)設(shè)施短板 推動(dòng)縣域商業(yè)高質(zhì)量發(fā)展——多部門解讀《縣域商業(yè)三年行動(dòng)計(jì)劃(2023-2025年)》
- 前7個(gè)月我國服務(wù)零售額同比增長20.3%
- ?西平縣人民政府與上海京嶸科技有限公司智能針織服
- 今亮點(diǎn)!?商城縣發(fā)改委:炎炎夏日“送清涼” 項(xiàng)目
- ?信陽市人民政府與河南省科學(xué)技術(shù)協(xié)會(huì)會(huì)市合作簽約
- 羅山縣召開創(chuàng)建全國文明城市工作動(dòng)員會(huì)
- ?正陽縣陡溝鎮(zhèn)舉行防汛搶險(xiǎn)綜合演練
- 世界速讀:新蔡縣陳店鎮(zhèn):組織參觀反邪教警示教育基
- 天天亮點(diǎn)!護(hù)助健康成長 拒絕有害內(nèi)容——駐馬店市
- 動(dòng)態(tài):?快速反應(yīng) 羅山靈山派出所48小時(shí)追回被騙資金
- 今日播報(bào)!?西平縣應(yīng)急管理局開展“八一”走訪慰問
- 環(huán)球簡(jiǎn)訊:?西平縣專探鄉(xiāng)召開“倡廉潔·守初心”廉
- 1 重磅!OpenAI曝光GPT-4這一新功能:一天可以完成六
- 2 7月民航客運(yùn)規(guī)模創(chuàng)月度歷史新高!多家航司運(yùn)力大增
- 3 A股利好!“國家隊(duì)”最新出手!拜登緊急發(fā)聲!暴力
- 4 朝中社:越界美軍士兵對(duì)美軍內(nèi)部非人虐待和種族歧視
- 5 惠譽(yù)或全面下調(diào)數(shù)十家銀行評(píng)級(jí):美國銀行業(yè)或再經(jīng)歷
- 6 釋放夜經(jīng)濟(jì)更大活力
- 7 8 中信證券:首次給予人形機(jī)器人行業(yè)“強(qiáng)于大市”評(píng)級(jí)
- 9 以色列AI初創(chuàng)企業(yè)Vesttoo被指欺詐后申請(qǐng)破產(chǎn)
- 10 中信證券:浮法玻璃行業(yè)基本面持續(xù)向上 預(yù)計(jì)需求將