有人問過我:我的知識庫是怎麼做的? 但比起用了哪些工具,我覺得更重要的事情是資料源頭的正確性,所以每一筆資料整理進去之後,我都會自己再看過一遍,看看 AI 有沒有解讀不對的地方。
這個知識庫只有我自己會打開。 我問 AI 問題,有時候是要找某一筆資料,有時候是想從一堆資料裡看出新的脈絡。 AI 從知識庫中拿來讀的參考資料,都是我看過、檢查過的,所以 AI 找錯了、脈絡推歪了,或腦補了不存在的內容,我看得出來。
但很多人想做的知識庫是要讓別人來問的,像是老師做給學生,或是做給同事、客戶用。 別人會來問,通常就是因為自己不知道答案。 既然不知道答案,AI 答錯了,也就分辨不出來。
我以前做過一個系統,讓不熟資料庫的人也能查資料。 做法跟我的知識庫很像,都是問 AI 問題,讓 AI 去讀一批資料,把答案找出來。
來問的人不清楚每個欄位代表什麼,用的詞也常常不是資料裡用的那個詞。 AI 給出了數據,他們看不出來對不對,最後還是得回頭問做系統的人。
後來系統多做了一步:請 AI 把查詢的內容用白話解釋一次。 字面看得懂了,但這個數據是怎麼推出來的、思路對不對,還是判斷不了。
不只知識庫。 客服機器人、自動回覆,只要需要讓 AI 先讀一批資料再回答別人,就是同一件事。
自己用的時候,AI 讀的資料都是你看過的,答錯你看得出來;給別人用的時候,來問的人通常就是不知道答案的人。
別人用你的東西問問題時,有哪些答案,他們只能選擇相信 AI?
答不出來的話,歡迎加我的 Line 官方帳號,告訴我你做的東西是給誰用、他們最常問什麼,我陪你找出哪些答案他們只能選擇相信 AI。