AI 女友軟件，就是架在大型語言模型上的聊天介面，外面包著一個持久的角色和一個內容過濾器。整個類別就是這樣。區分 US$10 的軟件與 US$20 的軟件的，很少是模型，而是另外兩個部分打造得好不好。
三個部分
模型生成文字。給定它目前看得到的一切，它預測一則合理的下一則訊息。它不記得你上次的對話，也沒有意圖。每一個看似出於意志的舉動，都來自接下來的兩個部分。
角色設定表是一段文字，軟件每一次都會在你的訊息之前傳給模型：這個角色是誰、怎麼說話、對你知道些什麼、最近發生了什麼。你永遠看不到它。當人們說一款軟件「有個性」，通常指的是這份檔案寫得好。
過濾器決定角色可以說什麼。它在模型之前或之後運作，有時兩者都有。它是對話可能在場景中途變成客氣的拒絕的原因，也是「無審查」成為這個市場上最響亮的詞的原因，像 Joi 和 Secret Desires 這樣的軟件，主要就是在這個過濾器怎麼調整上競爭。
為什麼上下文視窗能解釋那些抱怨
模型一次只能看到固定數量的文字。這個額度就是上下文視窗，裡面放著角色設定表、取回的關於你的事實，以及近期的對話，它們全都在爭奪同一塊空間。
當聊天變長，最舊的幾輪就會掉出視窗。軟件並沒有「失去興趣」，也沒有被降級。它只是再也看不到那部分對話。幾乎每一篇「以前比較好」的帖文都是這樣，也是為什麼記憶如何實作比模型多大更重要。
角色設定表實際上放了什麼
多數軟件用四樣東西組成它：
- 人設：名字、年齡、背景故事、說話方式。
- 軟件決定保留的、關於你的長期事實。
- 你們共同歷史的滾動摘要，隨著增長而重寫。
- 近期的訊息，逐字保留。
一週之後仍讓人覺得有人在房間裡的軟件，也就是 Nomi 得分如此的原因，是把中間兩項處理得好的那些。這些從價格頁上完全看不出來，所以要判斷需要數週，而不是一個下午。
「AI 女友」在實務上涵蓋什麼
這個標籤涵蓋的產品，彼此幾乎毫無相似之處：
- 伴侶軟件為持續的關係而打造，附帶日記與情緒追蹤。Replika 是最老的例子。
- 角色扮演軟件為場景與故事而打造，而不是連續性。
- 以媒體為主的軟件，聊天是為了產出圖片和語音而存在，Candy AI 把三者都放進同一份訂閱，最接近中間位置。
決定你實際想要這三種中的哪一種，在價格進入討論之前，就能排除任何榜單上大約一半的軟件，包括我們的。
它們都不是什麼
除非被設計成儲存事實並取回，否則它們在兩次對話之間並不認識你。它們沒有自我的連續性：角色在每一輪開始時，都是從文字重新建立的。而且它們預設並不私密：對話是在別人的伺服器上處理的，這是這些軟件知道你什麼的主題。
