我朋友 R 不會寫程式，他和 AI 做了一個給家長記錄小孩狀況的網站，後來我接手。

家長填進來的記錄，網站會算成趨勢，R 根據那個趨勢判斷下一步要做什麼。

趨勢就是這個網站存在的理由。

所以我最擔心的，是上線之後趨勢算錯了。

算錯的時候，網站不會當掉，不會跳出錯誤訊息。畫面照樣顯示一條趨勢，只是那條趨勢是錯的。

我這邊也收不到任何通知。R 和家長看到的趨勢，畫面上沒有任何地方告訴他們它是錯的。

錯的趨勢，就會這樣被拿去做決定。

網站出錯的時候，有沒有人會發現？

會被發現的錯不可怕，有人看到就會去修。 安靜的錯才可怕，因為在被發現之前，已經有人拿著錯誤的東西去做事了。

這種錯誤在上線之後很難抓到，所以我在上線前，為計算趨勢的那段邏輯補上了自動測試。

你做的東西如果出錯，誰會第一個發現？

「使用者會跟我說」的前提是：他知道看到的東西是錯的，才能告訴你。