報(bào)告稱OpenAI采集了超一百萬(wàn)小時(shí)的YouTube視頻來(lái)訓(xùn)練GPT-4

  4 月 7 日消息，本周早些時(shí)候，《華爾街日?qǐng)?bào)》報(bào)道稱 AI 公司在收集高質(zhì)量訓(xùn)練數(shù)據(jù)方面遇到了困難。今天，《紐約時(shí)報(bào)》詳細(xì)介紹了 AI 公司處理此問(wèn)題的一些方法，其中涉及到屬于 AI 版權(quán)法模糊灰色區(qū)域的內(nèi)容。

  報(bào)道稱，OpenAI 迫切需要訓(xùn)練數(shù)據(jù)，并開(kāi)發(fā)了 Whisper 音頻轉(zhuǎn)錄模型來(lái)克服困難，轉(zhuǎn)錄了超過(guò) 100 萬(wàn)小時(shí)的 YouTube 視頻來(lái)訓(xùn)練其最先進(jìn)的大型語(yǔ)言模型 GPT-4。

  報(bào)道提到，OpenAI 在 2021 年耗盡了有用的數(shù)據(jù)供應(yīng)，并在耗盡其他資源后討論了轉(zhuǎn)錄 YouTube 視頻、播客和有聲讀物的可行性。此外，OpenAI 使用了包括來(lái)自 Github 的計(jì)算機(jī)代碼、國(guó)際象棋走棋數(shù)據(jù)庫(kù)和來(lái)自 Quizlet 的作業(yè)內(nèi)容。

  據(jù)報(bào)道，OpenAI 公司知道這在法律上存在問(wèn)題，但認(rèn)為這是合理使用。《泰晤士報(bào)》則透露，OpenAI 總裁 Greg Brockman 親自參與了所使用視頻的收集。

  OpenAI 發(fā)言人 Lindsay Held 在一封電子郵件中告訴 The Verge，該公司為其每個(gè)模型策劃了“獨(dú)特”的數(shù)據(jù)集，以“幫助他們了解世界”并保持其全球研究競(jìng)爭(zhēng)力。Held 補(bǔ)充說(shuō)，該公司使用“眾多來(lái)源，包括公開(kāi)數(shù)據(jù)和非公開(kāi)數(shù)據(jù)的合作伙伴”，并且正在考慮生成自己的合成數(shù)據(jù)。

  谷歌發(fā)言人 Matt Bryant 在一封電子郵件中表示，該公司“看到了有關(guān) OpenAI 活動(dòng)的未經(jīng)證實(shí)的報(bào)告”，并補(bǔ)充說(shuō)“我們的 robots.txt 文件（注：網(wǎng)站與爬蟲(chóng)間的君子協(xié)定）和服務(wù)條款都禁止未經(jīng)授權(quán)的抓取或下載 YouTube 內(nèi)容”。

  值得注意的是，YouTube 首席執(zhí)行官 Neal Mohan 近日在采訪中公開(kāi)表示，盡管沒(méi)有直接證據(jù)表明 OpenAI 使用 YouTube 視頻來(lái)訓(xùn)練 Sora（文本生成視頻的 AI 模型），但警告稱這種行為違反了 YouTube 現(xiàn)行的平臺(tái)服務(wù)條款。

  Meta 同樣也遇到了數(shù)據(jù)可用性的限制，在《泰晤士報(bào)》聽(tīng)到的錄音中，Meta 的 AI 團(tuán)隊(duì)為了努力追趕 OpenAI，討論了未經(jīng)許可使用版權(quán)作品的情況。該公司在瀏覽了“互聯(lián)網(wǎng)上幾乎可用的英語(yǔ)書(shū)籍、散文、詩(shī)歌和新聞文章”后，顯然考慮采取一些措施，例如支付圖書(shū)許可費(fèi)用，甚至直接收購(gòu)一家大型出版商。