주메뉴바로가기본문바로가기
비즈한국 비즈한국

K-文化報告
氾濫的“AI創作”,至少應守住底線

本文由AI自動翻譯。與韓語原文相比可能存在誤差。  Read original in Korean →

[비즈한국] 人工智慧(AI)創作文化藝術作品或內容現已司空見慣,人們對此產生的驚奇反應也變得稀疏平常。我們真正應當關注的是,即便作品或內容相同,根據創作者是人還是AI,人們的關注度和偏好會截然不同。

即使利用AI輕易製作出數千本書,目前也沒有法律義務予以披露。但至少應該讓讀者知道作者是否為人類。 圖片=pixabay/生成式AI
即使利用AI輕易製作出數千本書,目前也沒有法律義務予以披露。但至少應該讓讀者知道作者是否為人類。 圖片=pixabay/生成式AI

捷克查理大學語言學系研究小組曾對126名捷克母語者進行測試,將人類創作的詩歌與AI創作的詩歌放在一起,詢問哪一首更像是人寫的,結果正確率僅為45.8%,甚至低於隨機抽選的50%。在現代詩領域,正確率進一步降至40.2%,這說明AI創作的現代詩比人類創作的更具迷惑性。在盲測中,AI創作的詩歌平均得分為2.0分,而人類創作的僅為1.4分。這意味著AI創作的詩歌反而比人類創作的更容易引發人們的共鳴,即更容易被接受。然而,一旦揭曉作者身份,評分便發生了逆轉:“人類作品”得2.3分,“AI作品”僅得1.0分。在“想象力”一欄,人類作品得2.5分,AI作品得1.6分,差距進一步拉大。

針對音樂的調查也得出了類似的結果。據法國流媒體音樂平臺Deezer對8個國家的9000人進行的調查顯示,人們無法區分AI音樂與人類創作的音樂。高達97%的人無法分辨,僅有3%的人做出了正確區分。然而,人們對AI音樂的信任度極低,僅19%的人表示信任,51%的人評價其平庸或質量低下。

不僅如此,當事後得知是AI音樂時,52%的受訪者表示感到不悅,80%的人認為必須標註AI製作的事實。這表明人們偏愛人類創作的音樂或歌曲,並認為如果是由人工智慧製作的,必須予以公示。

近期推出的Deux新歌《Rise》便明確標註了利用了AI技術。由於Deux成員金成宰已離世,這一標註是必然的選擇。

利用AI製作的Deux新歌《Rise》。 圖片=VIBE
利用AI製作的Deux新歌《Rise》。 圖片=VIBE

網漫領域的情況也如出一轍。2023年5月,在Naver035420網漫上連載的《迴歸的騎士王》遭遇了“打分恐怖襲擊”,原因正是作品被曝出使用了AI創作。Kakao035720 Page的連載網路小說也因封面設計引發了抗議,只因該封面是由生成式AI製作的。在網漫和封面設計方面,創作者們直接發出了抗議的聲音,因為AI極有可能使用了無名創作者的作品作為訓練資料。

出版界也圍繞“AI作者”引發了爭議。某出版社發行了數千本書籍,據推測均由AI撰寫,但目前並沒有法律義務披露這一事實。甚至連是否利用AI起草文稿也不必說明。由於出版自由受憲法保障,無法進行強制要求。不過,即使實行“AI實名制”,也需要明確貢獻程度,根據是單純輔助使用還是完全依賴AI進行區分。

重要的是,讀者的知情權必須得到保障。至少,讀者有權知道作者是否為人類,因為人們對人工智慧的信任度依然很低。如果事後才得知書籍是由人工智慧撰寫的,讀者可能會感到像被欺騙了一樣不悅。

公共部門也需要進行考量。以呈繳制度為例,根據《圖書館法》,新出版物必須強制呈繳至國立中央圖書館和國會圖書館。目前有意見提出,應將AI創作物排除在呈繳範圍之外。此外,對於未披露AI使用情況或虛假申報的行為,是否應拒絕或事後撤銷ISBN(國際標準書號)也是正在討論的方案。

韓國國家報勳部用AI製作的《我的英雄之書》。 圖片=國家報勳部Facebook
韓國國家報勳部用AI製作的《我的英雄之書》。 圖片=國家報勳部Facebook

利用AI作者出版書籍的做法也值得反思。不久前,國家報勳部利用AI製作了50種以軍人、消防員等為父母形象的繪本系列《我的英雄之書》。用AI製作雖然能起到節省時間和預算的效果,但卻可能喪失更重大的公共價值。從培養未來作家的角度來看,比起經濟效率,更應站在創作者的角度進行思考。最重要的是,鑑於民眾對AI生成內容的偏好度尚低,政策制定和執行時必須充分考慮到這一點。

作者金憲植從20多歲起就懷揣著“文化能讓世界變得更美好”的期待,一直行走或穿梭於大眾文化現象的叢林中。即使在人工智慧與量子計算機活躍的21世紀,他依然懷揣著同樣的信念,堅定前行。

本文由AI自動翻譯。與韓語原文相比可能存在誤差。
김헌식 대중문화평론가

필자 김헌식은 20대부터 문화 속에 세상을 좀 더 낫게 만드는 길이 있다는 기대감으로 특히 대중문화 현상의 숲을 거닐거나 헤쳐왔다. 인공지능과 양자 컴퓨터가 활약하는 21세기에도 여전히 같은 믿음으로 한길을 가고 있다.

writer@bizhankook.com
저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지