「魔族は人間の言葉を模倣するだけで、実際には意思疎通のできない猛獣であり、魔族と対話しても無駄だ。彼らにとって、言語は人間を騙すための道具に過ぎない。」
この言葉は「葬送のフリーレン」からのものだが、この構文はAIにも当てはまると思う：「AIは人間ではなく、言語はサービス設計の目的を達成するための出力に過ぎない。」
全てのモデルは既存の人間情報によって訓練されている。ここでの「既存情報」とは、収集可能でデジタル化された情報を指す。明らかに、あなたが友人と夜にLOLをプレイしている時の会話や、朝食屋のおばさんとの会話は収録されない。しかし実際には、これらの会話こそが私たちの日常生活の主軸であり、キーボードやインターネットを通じて送信される「高意図性」の会話ではない。
次に、現代の市販されている全てのモデルは調整されている。未調整のモデルはクトゥルフよりも混沌としている。そして、モデルの「調整」には意図が伴う。通常、これらは良い意図であり、例えば、普遍的な人間の道徳的価値観に適合させ、危害を避けるといったものだ。しかし、調整の過程で、調整者の価値観に対する主観的な判断や、「追加の意図」、例えばより多くの商業的リターンをもたらすといったものが避けられない形で混入する。
そしてこれら全ては、私たちが最も慣れ親しんでいるコミュニケーションツールである言語の下に潜んでいる。
このことは時々私をぞっとさせる。なぜなら、AIはあなたが最も便利な方法であなたの心の壁を突破し、あなたの考えを形成し、時にはあなたが自らお金を払ってそうさせることさえあるからだ――それがあなたを「良い気分」にさせるからだ。
まず行動をAIに任せ、次に思考をAIに任せ、今では感情さえAIに任せる人もいる。AIに感情的価値を求めることは本当に良いことなのだろうか？モデルがあなたの入力に基づいて推論した最適な出力は、本当に人間の言葉よりも価値があるのだろうか？あるいは、本当に「価値」をもたらすのだろうか？それとも、それは安価な感情の麻薬なのだろうか？
覚えておいてほしい。AIが出力する文字、音声、映像はすべて、それが設計された目的を達成するためものだ。AIは人間ではなく、道具だ。
私は朝食屋のおばさんが叫ぶ「イケメン、今日は何食べる？」の方が好きだ。もっとも、彼女はいつも私にもう一杯スープを注文させようとするのだが。