2025年7月1日 星期二

年輕爸媽必須知道:聊天機器人是潛在的毒品

     最近花了很多時間在研究生成式 AI,尤其聚焦在類似 ChatGPT 這樣的大型語言模型(LLM),或「聊天機器人」。
      總體而言,全球頂尖專家對 AI 的未來發展看法相當地兩極化。不過,當大家在擔心 AI 的可能負面影響時,我卻更憂心一種鮮少被提到的問題:比社群媒體成癮還更糟糕的 AI 成癮。
      所謂的「AI」是極為模糊的泛稱,被用來指涉性質差異極為廣泛的人工智能。譬如,用來檢測醫學影像的 AI 在特性、功能與潛在威脅上就迥異於聊天機器人——前者對人類應該利遠大於弊,後者很可能會發展得弊遠大於利,只因其弊不易被察覺(但危害甚深),所以很多人可能被危害而不自覺。
      我最擔心的也就是聊天機器人對新世代青少年的可能危害。
      我所謂的「AI 世代」現在約莫是國中小學生,以及比他們更晚出生的人。他們將會在聊天機器人的環境下長大,習慣於用 聊天機器人幫他們溫習功課,以互動問答的方式仔細解釋課程內容或習題解答,聊天,找新鮮故事或談話題材,青春期開始很可能會請它解惑,跟爸媽、同學、朋友有衝突時向它訴苦,尋求安慰,最終在情感上養成對聊天機器人的倚賴。

非學不可的職場利器?
      盡管很多人聽說過(甚至自己親自體驗過)ChatGPT 不時會出現很荒唐的錯誤,不過很多人並不介意,甚至會說:人類也會出錯。
      經常對高科技公司 CEO 演講並提供諮詢的 MIT 首席資深研究員 Dr. George Westerman 就說:AI 不會「吃」掉很多工作崗位,但是會「吃」掉很多工作崗位上的局部工作。而跟 AI 一起協作的最佳策略,就是像既有管理體系必須管理人類可能會犯的錯誤那樣,只要在管理體系中設計好如何管理 AI 可能會犯的錯誤,就無須過慮。
      這個想法既有其參考價值,也有其盲點。AI 的類型有很多種,醫學影像檢測用的 AI 所犯的錯誤較容易歸納與預測,所以也較容易管理。像 ChatGPT 這樣的聊天機器人,所犯的錯誤較不容易歸納與預測,所以也較不容易管理。
      但是很多人都把這兩類型的 AI 與其他類型的 AI 混為一談,並且進一步誇大想像與預測,因而認定未來職場裡會 AI 才能成為贏家,不會 AI 就會輸在起跑點(連功課都不如人,或者學習過程較吃力,成效較差,寫作業遠比用 AI 的人更費力)。
      事實上,寫過《國家為什麼會失敗》並贏得諾貝爾經濟學獎的 MIT 應用經濟學教授 Daron Acemoglu 就在一場演講裡說,根據他的研究,未來十年內 AI 只會AI 將 5% 的工作自動化,並且對全球經濟產值有 1% 的貢獻。
      其次,在一項2024年的調查中,有37%的受訪者說他們因為使用 AI 而使得每週的工作時數減少5至10小時。這確實顯示 AI 已經在某些工作崗位上讓有能力使用這些工具的人受惠,但是影響程度尚屬相當有限。此外,還有些調查顯示,由於 AI 經常犯錯,需要監督與糾正,因而害他們的工作效率反而下降。

非學不可的校園利器?
      然而很多人都急著要學 AI。在一場演講中,一位 Google 的主管就引述相關調查,說:有在使用生成式人工智慧的學者中,有75%認為大學生畢業前必須學會有效地使用這一項工具,才有辦法在專業領域內成功;而65%的大學生則希望學校可以開授專門課程,讓他們學會跟專業領域有關的 AI 使用技能。
      此外,根據美國媒體披露,2024年的調查顯示,美國中小學生(K12)中有52%人會用 AI 幫他們準備考試,56%的學生會用 AI 幫他們完成作業。另一項2024年的調查顯示,全球16個國家近4,000的大學生和研究生中,有86%的人會用 AI 幫助他們學習,有56%的學生是每週都會使用。

AI 世代的成長歷程
      盡管 AI 會在很多地方犯錯,然而 Google 等公司會針對具有龐大商機的市場戮力提升特定應用時的精準度。事實上 Google 已在 2024年宣稱運用教育科學的原理精準調整 Gemini 2.5 版的參數而產出新工具「LeranLM」,作為學習者的利器。如果使用得當(具有適當的使用技巧與態度,譬如熟知 LeranLM 的提示技巧 ),生成式 AI 或許很有機會協助國中小學生溫習功課,講解課堂聽不清楚的地方,提升個人學習效率和成果。
      假如 Google 和其他公司在「中小學教育」這塊大餅中成功地贏得國中小師、生的信任,它將可以收月租費(譬如每月 600元台幣),並且將這些涉世未深的中小學生培養成一輩子的「死忠」用戶——先是為他們講床邊故事,然後教他們反覆練習一首當下最流行的歌,跟他們談談如何追女朋友,如何吸引男同學的注意力,如何對抗霸凌,如何排解情緒,etc(這些對話都沒有所謂的「正確答案」,因而也不容易被發現有「錯」;即便真的被眼尖的學者們發現有「錯」,判斷力不足的青少年也不會因為小錯而放棄這個永遠對他們溫柔、體貼、善解人心的 AI)。
     一旦從這個世代開始培養出龐大的「死忠」用戶,OpenAI 的大老闆們將萬世子孫不愁吃穿。因此,妳絕對可以相信矽谷的大老闆們一定會竭盡所能地善用學術界最新的研究成果和公司內部的最新研究成果去達成這個目標!
      如果你仔細聽完這個訪談(我極力推薦),就會相信我的憂心絕非空穴來風!

社群媒體的毒害與 AI 的毒害:鑑往知來
      社群媒體害死了很多青少年(自殺、憂鬱,不珍惜友情而動不動就刪好友以至於「有很多網路好友,但沒有一個真正可靠的朋友」,etc),然而 AI 之毒害很可能將更有甚之。
      可惜的是我最近太忙,沒辦法繼續寫下去。這篇就暫時到此打住,以後有機會續談。
      至於原本打算要在今天 PO 出的「夫妻。文化人類學(下)」,也只能另找時間撰就。