人工智慧（AI）技術發展一日千里，大型語言模型（LLM）在處理各種任務及複雜運算上展現驚人進步。然而，在創意寫作領域，AI的能力自早期聊天機器人問世以來，似乎停滯不前，未見顯著突破。有專家分析指出，這可能源於早期AI模型所具備的創造性與獨創性，在商業化考量下遭到抑制，轉而專注於商業應用。
《The Atlantic》彙集多位專家觀點，探討AI寫作能力停滯不前的原因。其中一個關鍵在於當前LLM的設計理念。這些模型首先透過大量網路文本進行預訓練，並利用「下一個詞元預測」（next token prediction）機制生成語句。然而，預訓練過程往往側重於資料的數量而非品質，導致模型可能從低品質文本中學習，進而影響寫作表現。
後續的訓練階段，為使AI產出符合預期「特徵」，會提供對話範例、導入安全過濾器，並透過「人類回饋強化學習」（reinforcement learning with human feedback）根據評估標準對AI輸出內容進行評分。專家們指出，現行AI發展方向高度優先考量安全性和準確性，實施諸多限制以避免政治偏見、不當內容及錯誤資訊。然而，這類限制卻導致AI生成內容趨於平淡且同質化，扼殺了自由思考並降低創造力。
前某大型AI研究機構的文本評估員舉例說明，將模糊的「寫作語氣」轉換為明確標準時，可能會規定「最多只能使用兩個驚嘆號」。即便某段文字整體情感表達較佳，若因包含三個驚嘆號而不符合規定，AI仍會依技術標準選擇另一段較為平淡的內容。詩人兼電腦科學家 Katie Gero 更表示，AI的創意寫作能力在 2019 年 GPT-2 問世時達到巔峰。
OpenAI 執行長 Sam Altman 曾於 2025 年 11 月受訪時預測，未來的 LLM 將能解決氣候變遷、建造太空殖民地等問題，但在創意寫作方面，即便 GPT-6、GPT-7 問世，也可能僅能產出「一個真實詩人所寫的普通好詩」。Sudowrite 共同創辦人 James Yu 認為，優秀的寫作常是反抗規則、挑戰形式的結果，而AI缺乏人類的經驗與情感，其隱喻和描述顯得不自然、缺乏深度。他甚至提出，AI若要寫出引人入勝的敘事，或許需要一個「曾歷經人生起伏、瀕臨死亡的模型」。
Katie Gero 也指出，大型企業如 Google 和 OpenAI 的目標是開發能創造收益的聊天機器人。她認為，當前的AI模型被要求同時具備高階數學能力與程式設計技能，並納入安全防護措施，這使得「以準確性為主的商業寫作」與「高度創意、自由的寫作」之間產生衝突，甚至可能導致模型無法產出內容。商業利益導向，使得獲利能力成為優先考量，而非純粹的創意表現。
