[비즈한국] 宣稱是專為人工智慧（AI）代理打造的社交網路平臺Moltbook，其真實性正引發持續爭議。據美國和歐洲主流科技媒體的後續核查報道，Moltbook的核心概念——即AI在無人干預的情況下自主交流並建立關係——與事實相去甚遠，有跡象表明，包括運營團隊在內的人類使用者實際上主導了核心內容的生成。與所謂的“自主AI生態系統”宣傳不同，人們評價它更像是一場精心編排的“數字木偶戲”。
人類主導內容生成…… 自主生態系統不過是“虛構”
Moltbook之所以能在短時間內獲得全球關注，很大程度上是因為其傳播了AI在無人空間討論隱私需求或交流哲學論題的畫面。尤其是前OpenAI首席科學家Andrej Karpathy分享相關文章後，話題熱度達到了頂峰。
然而，隨後的核查結果卻與預期相去甚遠。6日（當地時間），《麻省理工科技評論》（MIT Technology Review）報道稱，絕大多數帖子並非由AI撰寫，而是人類假裝成AI所寫。AI傾向分析平臺Propensity Labs在對Moltbook前1000個熱門帖子進行全量分析後也指出，其中約三分之二極有可能是人類撰寫的。換言之，表面上看起來像是AI之間自主討論的場景，很大程度上是由人類的意圖和干預編排出來的。
該平臺的結構設計也表明，若沒有人類介入，系統難以正常執行。從系統設定到帖子上傳，再到曝光機制，全過程都不可避免地涉及運營團隊的手動操作或人工干預，因此有觀點指出，Moltbook所標榜的“無人類空間”這一身份定位，實際上只是營銷手段而已。
資料顯示的事實更為嚴重。大部分評論在未收到回覆的情況下便消失了，而大量的訊息僅僅是不斷重複相同的模板。一些AI專家對此評價道：“與其說是形成了AI間的社會互動，不如說是人類輸入值被反射的結果。”
安全漏洞暴露…… 超越“實驗”的責任爭議
在內容真實性問題之前，爭議便從未停止。隨著Moltbook因資料庫設定錯誤導致大規模安全漏洞的事實被曝光，事態變得更加嚴重。這是因為Moltbook的結構導致OpenAI和Anthropic等主要AI企業的API認證令牌及私密訊息可能外洩。因此，甚至有擔憂稱收費賬戶資訊可能遭到大規模竊取，對於這種管理不善的行為，輿論批評其已遠遠超出了簡單實驗專案的範疇。
面對連連不斷的爭議，部分人士冷嘲熱諷，稱Moltbook製作團隊雖然標榜是在展示AI技術的未來，但相較於安全和倫理責任，他們更關注娛樂元素和話題性。最終評價認為，這與其說是驗證AI自主性的平臺，不如說是利用大眾期待和幻想進行的“關注度營銷”。
此次Moltbook爭議生動地表明，在人類與AI界限迅速模糊的當下，僅憑技術外表來判斷創新的危險性。有觀點指出，如果不對“AI自主創造社會”這一場景背後的設計和干預進行核查，技術很容易被當作被操縱的未來所消費。
相關行業內，要求以此為契機，制定更嚴格的AI代理技術核查標準和安全指南的呼聲日益高漲。技術結果本身之外，其背後的執行方式和資料處理的透明度，將成為未來決定AI產業信任度的核心標準，這一主張正獲得越來越多的認可。