轉(zhuǎn)載于：ScienceAI ScienceAI 

編輯 | 白菜葉

來(lái)自包括麻省理工學(xué)院在內(nèi)的多個(gè)組織的 14 名研究人員在《Science》上發(fā)表了一篇評(píng)論文章，這有助于為更廣泛地討論生成式人工智能對(duì)創(chuàng)造性工作和社會(huì)的直接影響奠定基礎(chǔ)。

論文鏈接：https://www.science.org/doi/10.1126/science.adh4451

一類新工具的功能，俗稱生成人工智能 (AI)，是一個(gè)備受爭(zhēng)議的話題。迄今為止，一個(gè)突出的應(yīng)用是為視覺(jué)藝術(shù)、概念藝術(shù)、音樂(lè)和文學(xué)以及視頻和動(dòng)畫制作高質(zhì)量的藝術(shù)媒體。例如，擴(kuò)散模型可以合成高質(zhì)量的圖像，大型語(yǔ)言模型 (LLM) 可以在廣泛的上下文中生成聽起來(lái)合情合理、令人印象深刻的散文和詩(shī)歌。

這些工具的生成能力可能會(huì)從根本上改變創(chuàng)作者形成想法并將其投入生產(chǎn)的創(chuàng)作過(guò)程。隨著創(chuàng)造力被重新構(gòu)想，社會(huì)的許多部門架構(gòu)也可能被重新構(gòu)想。了解生成式人工智能的影響——并圍繞它制定政策決策——需要對(duì)文化、經(jīng)濟(jì)學(xué)、法律、算法以及技術(shù)與創(chuàng)造力的相互作用進(jìn)行新的跨學(xué)科科學(xué)研究。

生成式人工智能工具，乍一看，似乎完全自動(dòng)化了藝術(shù)創(chuàng)作——這種印象反映了過(guò)去傳統(tǒng)主義者認(rèn)為新技術(shù)威脅「藝術(shù)本身」的例子。事實(shí)上，這些技術(shù)變革的時(shí)刻并不表示「藝術(shù)的終結(jié)」，而是產(chǎn)生了更為復(fù)雜的影響，重塑了創(chuàng)作者的角色和實(shí)踐，并改變了當(dāng)代媒體的美學(xué)。例如，一些 19 世紀(jì)的藝術(shù)家將攝影的出現(xiàn)視為對(duì)繪畫的威脅。然而，攝影并沒(méi)有取代繪畫，而是最終將其從現(xiàn)實(shí)主義中解放出來(lái)，從而引發(fā)了印象派和現(xiàn)代藝術(shù)運(yùn)動(dòng)。相比之下，人像攝影確實(shí)在很大程度上取代了人像繪畫。同樣，音樂(lè)制作的數(shù)字化（例如數(shù)字采樣和聲音合成）被譴責(zé)為「音樂(lè)的終結(jié)」。相反，它改變了人們制作和聆聽音樂(lè)的方式，并幫助催生了新的流派。與這些歷史類比一樣，生成式 AI 并不是藝術(shù)消亡的預(yù)兆，而是一種具有自己獨(dú)特功能的新媒體。作為人類創(chuàng)作者使用的一套工具，生成式 AI 的定位是顛覆創(chuàng)意產(chǎn)業(yè)及其他領(lǐng)域的許多領(lǐng)域——在短期內(nèi)威脅現(xiàn)有的工作和勞動(dòng)模式，同時(shí)最終實(shí)現(xiàn)新的創(chuàng)意勞動(dòng)模式并重新配置媒體生態(tài)系統(tǒng)。

然而，與過(guò)去的顛覆不同，生成式人工智能依賴于人類制作的訓(xùn)練數(shù)據(jù)。這些模型通過(guò)從現(xiàn)有藝術(shù)媒體中提取統(tǒng)計(jì)模式來(lái)「學(xué)習(xí)」生成藝術(shù)。這種對(duì)訓(xùn)練數(shù)據(jù)的依賴引發(fā)了新的問(wèn)題——例如數(shù)據(jù)的來(lái)源、它如何影響輸出以及如何確定作者身份。通過(guò)利用現(xiàn)有工作來(lái)自動(dòng)化創(chuàng)作過(guò)程的各個(gè)方面，生成式 AI 挑戰(zhàn)了作者身份、所有權(quán)、創(chuàng)意靈感、采樣和混音的傳統(tǒng)定義，從而使媒體制作的現(xiàn)有概念復(fù)雜化。因此，重要的是要考慮生成式人工智能對(duì)美學(xué)和文化的影響、所有權(quán)和信用的法律問(wèn)題、創(chuàng)意作品的未來(lái)以及對(duì)當(dāng)代媒體生態(tài)系統(tǒng)的影響。在這些主題中，有一些關(guān)鍵的研究問(wèn)題可以為這項(xiàng)技術(shù)的政策和有益用途提供信息。

要正確研究這些主題，首先有必要了解用于描述 AI 的語(yǔ)言如何影響對(duì)技術(shù)的看法。「人工智能」這個(gè)詞本身可能會(huì)誤導(dǎo)性地暗示這些系統(tǒng)表現(xiàn)出類似人類的意圖、代理甚至自我意識(shí)。基于自然語(yǔ)言的界面現(xiàn)在伴隨著生成人工智能模型，包括使用「我」代詞的聊天界面，這可能會(huì)給用戶一種類人交互和代理的感覺(jué)。當(dāng)這些系統(tǒng)造成損害時(shí)，這些看法可能會(huì)損害對(duì)創(chuàng)造者的信任，他們的勞動(dòng)是系統(tǒng)輸出的基礎(chǔ)，并轉(zhuǎn)移開發(fā)者和決策者的責(zé)任。未來(lái)的工作需要了解對(duì)生成過(guò)程的看法如何影響對(duì)輸出和作者的態(tài)度。這可以促進(jìn)系統(tǒng)的設(shè)計(jì)，公開生成過(guò)程并避免誤導(dǎo)性的解釋。

生成式 AI 的特定功能反過(guò)來(lái)會(huì)產(chǎn)生新的美學(xué)，可能對(duì)藝術(shù)和文化產(chǎn)生長(zhǎng)期影響。隨著這些工具變得越來(lái)越普遍，并且它們的使用變得司空見慣（就像一個(gè)世紀(jì)前的攝影一樣），它們輸出的美學(xué)將如何影響藝術(shù)輸出仍然是一個(gè)懸而未決的問(wèn)題。生成人工智能的低門檻可以通過(guò)擴(kuò)大從事藝術(shù)實(shí)踐的創(chuàng)作者群體來(lái)增加藝術(shù)產(chǎn)出的整體多樣性。與此同時(shí)，訓(xùn)練數(shù)據(jù)中嵌入的審美和文化規(guī)范和偏見可能會(huì)被捕獲、反映甚至放大——從而降低多樣性。AI 生成的內(nèi)容也可以為未來(lái)的模型提供支持，創(chuàng)造一個(gè)自我參照的審美飛輪，可以延續(xù) AI 驅(qū)動(dòng)的文化規(guī)范。未來(lái)的研究應(yīng)該探索量化和增加輸出多樣性的方法，并研究生成式人工智能工具如何影響美學(xué)和審美多樣性。

社交媒體平臺(tái)的不透明、最大化參與度的推薦算法，可以通過(guò)產(chǎn)生「聳人聽聞」內(nèi)容與可共享內(nèi)容的反饋循環(huán)，進(jìn)一步強(qiáng)化審美規(guī)范。由于算法和內(nèi)容創(chuàng)建者試圖最大限度地提高參與度，這可能會(huì)進(jìn)一步使內(nèi)容同質(zhì)化。然而，一些初步實(shí)驗(yàn)表明，在管理 AI 生成的內(nèi)容時(shí)結(jié)合參與度指標(biāo)在某些情況下可以使內(nèi)容多樣化。推薦算法會(huì)放大哪些風(fēng)格，以及這種優(yōu)先順序如何影響內(nèi)容創(chuàng)作者制作和分享的類型，這仍然是一個(gè)懸而未決的問(wèn)題。未來(lái)的工作必須探索由生成模型、推薦算法和社交媒體平臺(tái)之間的相互作用形成的復(fù)雜動(dòng)態(tài)系統(tǒng)，以及它們對(duì)美學(xué)和概念多樣性的影響。

生成式 AI 依賴訓(xùn)練數(shù)據(jù)來(lái)自動(dòng)化創(chuàng)作的各個(gè)方面，這引發(fā)了關(guān)于作者身份的法律和倫理挑戰(zhàn)，因此應(yīng)該促使對(duì)這些系統(tǒng)的性質(zhì)進(jìn)行技術(shù)研究。版權(quán)法必須平衡創(chuàng)造者、生成人工智能工具的用戶和整個(gè)社會(huì)的利益。如果不直接復(fù)制受保護(hù)的作品，法律可以將訓(xùn)練數(shù)據(jù)的使用視為非侵權(quán)；如果培訓(xùn)涉及基礎(chǔ)數(shù)據(jù)的實(shí)質(zhì)性轉(zhuǎn)換，則合理使用；只有在創(chuàng)作者給予明確許可的情況下才允許；或受制于允許將數(shù)據(jù)用于培訓(xùn)的法定強(qiáng)制許可，前提是創(chuàng)作者得到補(bǔ)償。許多版權(quán)法都依賴于司法解釋，因此目前尚不清楚收集第三方數(shù)據(jù)進(jìn)行培訓(xùn)或模仿藝術(shù)家的風(fēng)格是否侵犯版權(quán)。

法律和技術(shù)問(wèn)題交織在一起：模型是直接從訓(xùn)練數(shù)據(jù)中復(fù)制元素，還是產(chǎn)生全新的作品？即使模特不直接復(fù)制現(xiàn)有作品，也不清楚藝術(shù)家的個(gè)人風(fēng)格是否應(yīng)該受到保護(hù)以及如何受到保護(hù)。什么樣的機(jī)制可以保護(hù)和補(bǔ)償作品被用于培訓(xùn)的藝術(shù)家，甚至允許他們選擇退出，同時(shí)仍然允許使用生成式 AI 模型做出新的文化貢獻(xiàn)？要回答這些問(wèn)題并確定版權(quán)法應(yīng)如何處理訓(xùn)練數(shù)據(jù)，需要進(jìn)行大量技術(shù)研究以開發(fā)和理解人工智能系統(tǒng)，進(jìn)行社會(huì)科學(xué)研究以了解對(duì)相似性的看法，以及進(jìn)行法律研究以將現(xiàn)有先例應(yīng)用于新技術(shù)。

一個(gè)明顯的法律問(wèn)題涉及誰(shuí)可以要求對(duì)模型輸出擁有所有權(quán)。回答這個(gè)問(wèn)題需要了解系統(tǒng)用戶與其他利益相關(guān)者（例如系統(tǒng)開發(fā)人員和訓(xùn)練數(shù)據(jù)的創(chuàng)建者）的創(chuàng)造性貢獻(xiàn)。AI 開發(fā)人員可以通過(guò)使用條款聲明對(duì)輸出的所有權(quán)。相比之下，如果系統(tǒng)的用戶以有意義的創(chuàng)造性方式參與（例如，該過(guò)程不是完全自動(dòng)化的，或者不模仿特定作品），那么他們可能被視為默認(rèn)版權(quán)所有者。但是，用戶的創(chuàng)造性影響力有多大才能讓他們擁有所有權(quán)？這些問(wèn)題涉及研究使用基于 AI 的工具的創(chuàng)作過(guò)程，如果用戶獲得更直接的控制，這些問(wèn)題可能會(huì)變得更加復(fù)雜。

無(wú)論法律結(jié)果如何，生成式人工智能工具都可能改變創(chuàng)造性工作和就業(yè)。流行的經(jīng)濟(jì)理論 [即偏向技能的技術(shù)變革 (SBTC)] 假設(shè)認(rèn)知和創(chuàng)造性工作者面臨較少的自動(dòng)化對(duì)勞動(dòng)力的干擾，因?yàn)閯?chuàng)造力不容易編碼為具體規(guī)則（即波蘭尼悖論）。然而，新工具引發(fā)了對(duì)作曲家、平面設(shè)計(jì)師和作家等創(chuàng)造性職業(yè)就業(yè)的擔(dān)憂。這種沖突的產(chǎn)生是因?yàn)?/span> SBTC 未能區(qū)分分析工作和創(chuàng)造性思維等認(rèn)知活動(dòng)。需要一個(gè)新的框架來(lái)描述創(chuàng)意過(guò)程的具體步驟，這些步驟中的哪些步驟可能會(huì)受到生成 AI 工具的影響，以及對(duì)工作場(chǎng)所要求和不同認(rèn)知職業(yè)活動(dòng)的影響。

盡管這些工具可能會(huì)威脅到一些職業(yè)，但它們可以提高其他人的生產(chǎn)力，并可能創(chuàng)造新的職業(yè)。例如，從歷史上看，音樂(lè)自動(dòng)化技術(shù)使更多的音樂(lè)家能夠創(chuàng)作，即使收入出現(xiàn)偏差也是如此。生成式 AI 系統(tǒng)每分鐘可以創(chuàng)建數(shù)百個(gè)輸出，這可以通過(guò)快速構(gòu)思來(lái)加速創(chuàng)意過(guò)程。然而，這種加速也可能通過(guò)消除與白板相關(guān)的原型制作的初始階段來(lái)破壞創(chuàng)造力的各個(gè)方面。無(wú)論哪種情況，生產(chǎn)時(shí)間和成本都可能下降。反過(guò)來(lái)，對(duì)創(chuàng)造性工作的需求可能會(huì)增加。然而，創(chuàng)意產(chǎn)品的生產(chǎn)可能會(huì)變得更有效率，從而以更少的工人獲得相同數(shù)量的產(chǎn)出。此外，許多使用傳統(tǒng)工具（如插圖或股票攝影）的雇傭工作可能會(huì)被取代。幾個(gè)歷史例子證明了這一點(diǎn)。最值得注意的是，工業(yè)革命使傳統(tǒng)手工藝品（例如陶瓷、紡織品和煉鋼）的大規(guī)模生產(chǎn)成為可能，而無(wú)需非手工業(yè)者的勞動(dòng)；手工制品成為特產(chǎn)。同樣，攝影取代了肖像畫。音樂(lè)的數(shù)字化消除了學(xué)習(xí)物理操作樂(lè)器的限制，并使更多貢獻(xiàn)者能夠進(jìn)行更復(fù)雜的安排。這些工具可能會(huì)改變誰(shuí)可以作為藝術(shù)家工作，在這種情況下，即使平均工資下降，藝術(shù)家的就業(yè)率也可能會(huì)上升。

由于這些工具會(huì)影響創(chuàng)造性勞動(dòng)，它們還會(huì)對(duì)更廣泛的媒體生態(tài)系統(tǒng)帶來(lái)潛在的下游危害。隨著大規(guī)模制作媒體的成本和時(shí)間的減少，媒體生態(tài)系統(tǒng)可能會(huì)因合成媒體的創(chuàng)建而變得容易受到 AI 生成的錯(cuò)誤信息的影響，尤其是為聲明提供證明證據(jù)的媒體。這些生成逼真的合成媒體的新可能性，可能會(huì)通過(guò)所謂的「說(shuō)謊者的紅利」（虛假內(nèi)容通過(guò)破壞對(duì)真相的信任而使說(shuō)謊者受益）破壞對(duì)真實(shí)捕獲媒體的信任，并且還會(huì)增加欺詐和非自愿性圖像的威脅。這提出了重要的研究問(wèn)題：平臺(tái)干預(yù)（例如跟蹤源出處和檢測(cè)下游合成媒體）在治理和建立信任方面的作用是什么？合成媒體的激增如何影響對(duì)真實(shí)媒體（例如未經(jīng)編輯的新聞?wù)掌�）的信任？隨著內(nèi)容生產(chǎn)的增加，集體注意力可能會(huì)減少。AI 生成內(nèi)容的激增反過(guò)來(lái)可能會(huì)阻礙社會(huì)在氣候和民主等重要領(lǐng)域進(jìn)行集體討論和采取行動(dòng)的能力。

每一種藝術(shù)媒介都反映和評(píng)論其時(shí)代的問(wèn)題，圍繞當(dāng)代人工智能生成藝術(shù)的爭(zhēng)論反映了圍繞自動(dòng)化、企業(yè)控制和注意力經(jīng)濟(jì)的當(dāng)前問(wèn)題。最終，我們通過(guò)藝術(shù)表達(dá)我們的人性，因此理解和塑造人工智能對(duì)創(chuàng)造性表達(dá)的影響是關(guān)于其對(duì)社會(huì)影響的更廣泛?jiǎn)栴}的核心。對(duì)生成人工智能的新研究應(yīng)該為政策和技術(shù)的有益用途提供信息，同時(shí)與關(guān)鍵的利益相關(guān)者，特別是藝術(shù)家和創(chuàng)造性勞動(dòng)者本身進(jìn)行接觸，他們中的許多人積極參與解決社會(huì)變革先鋒的難題。

相關(guān)報(bào)道： https://techxplore.com/news/2023-06-qa-art-humanity-ai.html