「魔族只會模仿人類的語言，實際上卻是無法溝通的猛獸，跟魔族對話根本沒用。對他們而言，語言只是拿來欺騙人類的工具。」
這句話是來自「葬送的芙莉蓮」，而我覺得這個句型套用在AI身上也是行得通的：「AI不是人，語言只是達成服務設計目的的輸出。」
所有的模型都由既有的人類資訊所訓練而成，這裡的「既有資訊」指的是可以搜集到並數位化的資訊，很明顯的，你跟你朋友在晚上打LOL時說的話並不會被收錄，你跟早餐店阿姨的對話也不會被收錄。但事實上，這些對話才是我們日常生活的主軸，而不是那些會透過鍵盤及網路發送的「高意圖性」對話。
再來，現代所有市面上的模型的都是經過調整的，沒有經過調整的模型比克蘇魯還混沌。而模型的「調整」就帶有意圖性。通常這是些好的意圖，例如讓他符合人類普遍的道德價值觀，避免造成傷害。但調整的過程中，不可避免的會參雜著調整者對價值觀的主觀判斷，以及一些「額外的意圖」，例如帶來更多商業回報等等。
而這一切，都潛藏在我們最熟悉的交流工具：語言之下。
這件事有時令我感到毛骨悚然，因為AI正用你最方便的方式突破你的心防，形塑你的想法，甚至有時你還會主動付錢讓它這麼做－因為它讓你「感覺很好」。
先是把行動交給AI，再來把思考交給AI，現在有些人甚至把情感交給AI了。向AI尋求情緒價值真的是件好事嗎？由模型根據你輸入推論出的最佳輸出，真的會比人類的語言更有價值嗎？或者說，真的會帶來「價值」嗎？還是那是一種廉價的情緒麻藥？
請記得，AI所輸出的文字、聲音及影像，都是為了達成他被設計的目的。AI不是人，是工具。
我比較喜歡早餐店阿姨喊的「帥哥，今天吃什麼？」，雖然他每次都想凹我多點一碗湯。