期末報告收齊,有一份的文筆跟這位學生平常差很多。你把它貼進網路上的 AI 偵測器,結果寫著「高度可能由 AI 產生」。接下來要約學生來談、直接給零分,還是送學校處理?
主管看同事交來的報告,也會碰到一樣的問題。
偵測器的分數為什麼不能直接用
2023 年 1 月 31 日,OpenAI 公開了自家做的 AI 文字分類器,用來判斷一段文字是人寫的還是 AI 寫的。同一頁就寫了它自己的測試結果:在一組英文測試文本裡,AI 寫的文字只有 26% 被正確標成「可能是 AI 寫的」;人寫的文字,有 9% 被錯標成 AI 寫的。
那一頁的限制清單還列了幾件事:少於 1,000 個字元的短文非常不可靠;建議只用在英文,其他語言的表現明顯比較差;AI 寫的文字稍微改過就可能躲過;有時會把人寫的文字錯判成 AI,而且判得很有把握。它也寫明,這個工具不應該當成主要的判斷依據。半年後,2023 年 7 月 20 日,OpenAI 在頁首加註:分類器因為準確度低,已經停止提供。
這是 OpenAI 對自家工具的測試,別家偵測器的數字不一定一樣。不過它列的限制,剛好是學校最常遇到的情況:中文、篇幅不長、可能改過幾句。人寫的英文有 9% 被它判成 AI 寫的,一個三十人的班如果都沒用 AI,照這個比例也可能有兩三份被標記。所以偵測器分數只夠當你開始查的理由,不能寫進處分的理由。
瑞典法院採信了哪些證據
瑞典的大學由校內的紀律委員會處分作弊的學生,最重是停學,學生不服可以上訴到行政法院。Johan Falk 寫的《AI och skolan》(AI 與學校)裡,有一章由法律系學生 Oskar Lundahl 整理了 2023 年瑞典行政法院審理的七件 AI 作弊停學案,章節標示的更新日是 2023 年 10 月 20 日。這一章也說明,停學是嚴重處分,瑞典最高行政法院的判例要求調查結果必須清楚顯示學生確實犯錯。下面轉述其中四件的事實。
斯德哥爾摩行政法院 2023 年 10 月 13 日的一件,是程式設計課的考試。老師在題目裡藏了指令:題目本身只要求讀取一個網頁檔案,藏起來的指令另外要求在主控台印出「檔案已讀取」。這位學生交出的程式照做了。他說那是自己為了除錯加的訊息,剛好一樣;老師說明這種指令不合常理,學生不會無意間寫出來。法院認為這種巧合不太可能,維持停學六週。
韋克舍行政法院 2023 年 6 月 20 日的一件,學生作業引用的文章找不到,他也拿不出正確連結或截圖。這份作業送進偵測器,顯示 83 到 95% 的機率是 AI 寫的。法院說,調查結果強烈指向某件事時,學生可能就得負起說明的責任;文章找不到這件事本身,也可能是 AI 編出出處的跡象。停學兩週。偵測器結果在這件有寫進理由,但它是跟查不到的文章一起被採用的。
馬爾默行政法院 2023 年 10 月 4 日的一件,學生引用了好幾篇據稱刊在知名期刊的文章,都查不到,他也證明不了出處,停學六週。紀律委員會在決定裡提到,期刊名稱、卷號都對、文章卻不存在,是某些 AI 工具已知的毛病。
哥德堡也有一件結果相反。學生用 ChatGPT 找引文,交出的報告裡有三段引文是編出來的。法院撤銷了停學,理由之一是學校沒有給學生清楚的指引,說明 ChatGPT 能不能用、怎麼用;法院認為,編造的引文是學系評量作業品質時該處理的問題。學校上訴,上訴法院也同意。
瑞典的法規和台灣不同,這些判決只能參考法院怎麼看證據,不能直接套用。
證據分級表
| 燈號 | 你手上有的 | 能說明什麼 | 下一步 |
|---|---|---|---|
| 黃:可以開始查 | 偵測器分數高;文筆跟平常差很多;滿篇 AI 常見句型 | 有理由多看一眼,證明不了是誰寫的 | 去查引用、請本人說明;不要寫進處分理由 |
| 紅:硬證據 | 引用的文獻、文章、引文查不到,本人也拿不出連結或截圖 | 內容沒有經過他自己查證 | 留下查詢紀錄,請本人說明 |
| 紅:硬證據 | 交出的東西照做了藏在題目裡、正常人不會去做的指令 | 題目被整段交給 AI 處理 | 保留題目原檔和作業,請本人說明 |
| 紅:硬證據 | 本人講不出自己交的內容,書面寫過的東西答不出來 | 這份作業證明不了他會 | 改用口試或當場重做來評分 |
| 先看前提 | 你或學校有沒有事先寫明 AI 能不能用、怎麼用 | 沒寫清楚,紅燈也可能只算品質問題 | 這次當作業品質問題評分,下次把規則寫進作業說明 |
作者整理,非官方。紅燈三種依瑞典 2023 年判決與 AI-Education 書中的建議歸納;要不要處分、怎麼處分,依你學校或公司的規定。
第三個紅燈的用法跟前兩個不同。它回答的問題是:這份作業能不能代表他的程度。約他來,請他講講某個論點從哪裡來、某個名詞是什麼意思。講得清楚,這份作業就照算;講不清楚,這部分能力就換個方式重新評。AI-Education 英文版談作弊的那一章,也主張把焦點放在學生會不會。
懷疑這份是 AI 代寫
|
v
有紅燈證據嗎? ---沒有---> 只有黃燈
| 有 |
v v
規則事先寫清楚了嗎? 請本人說明內容
| | | |
有 沒有 講得出 講不出
| | | |
v v v v
依校規處理 當品質問題 結案 改口試或
讓本人陳述 評分補規則 當場重做
讓代寫不划算的作業設計
下面三點的觀念取自 AI-Education 英文版談作弊那一章,做法是作者整理的:
- 分數放在哪裡,代寫的壓力就跟到哪裡。回家作業當練習、少算分,分數集中在課堂上完成的部分。
- 一定要算分的作品,改成課堂上當場寫,或抽幾位學生當面問答。
- 有些作業可以明說允許用 AI,例如最後評的是學生自己上台講的內容。但要先確認服務的年齡限制:那本書 2023 年寫的時候就提到,因為服務條款,很難鼓勵未滿 18 歲的學生用 ChatGPT。條款可能已經改過,用之前自己查一次。
另外兩件是從瑞典判決推出來的。一是引用的文獻一律附連結或封面截圖,查不到的那一筆,學生自己就得交代。二是規則寫進作業說明:能不能用 AI、能用在哪一步、要不要註明。哥德堡那件撤銷停學,原因之一就是學校沒講。
想學瑞典那件藏指令,藏的內容要無害、照做也不影響分數,又不可能無意間做到;用螢幕報讀軟體的學生可能會聽到藏起來的字,要事先想好怎麼處理。
約學生談之前,可以讓 AI 幫你準備問題。先刪掉姓名和學號再貼,也不要叫它判斷是不是 AI 寫的,那等於換一個偵測器。
我是老師,下面是一份學生作業(已刪掉姓名和學號)。我想約學生用五分鐘口頭說明他交的內容。 請不要判斷這份是不是 AI 寫的。請幫我: 一、列出作業裡引用的每一筆文獻、文章、資料來源,每筆標出我可以去哪裡查(圖書館目錄、期刊網站、搜尋引擎)。 二、挑出作業裡最重要的三個論點,每個設計一個追問,要問「你怎麼知道」或「換一個例子會怎樣」,不能靠背誦回答。 三、挑兩個作業裡用到的專有名詞,請學生用自己的話解釋。 四、每個問題附上「讀懂這份作業的學生大概會怎麼答」,讓我對照。 作業題目:(貼上) 作業內容:(貼上)
下次偵測器跳出高分,先把那份作業的參考文獻逐筆搜一次,再決定要不要約學生來談。
站內延伸
- 學生引的文獻要怎麼查 → AI 給的條號和出處,哪幾句一定要查?
- 讀起來像 AI 寫的,能說明什麼 → 一看就知道是 AI 寫的:繁中文件的六類痕跡
- 想讓 AI 幫忙批改作業 → 找方法AI 作業批改
- 學生作業貼給 AI 之前 → 客戶名單、學生作品,可以直接貼給 AI 嗎?
來源: OpenAI:New AI classifier for indicating AI-written text(2023-01-31 發布;英文測試集 26% 正確標出、9% 誤判人寫的文字、短於 1,000 字元非常不可靠、建議只用於英文、改寫可躲過、不應作為主要判斷依據;2023-07-20 加註因準確度低停止提供);Johan Falk《AI och skolan》第 232 章 Rättsfall för disciplinärenden om chattbottar(Oskar Lundahl 撰,2023-10-20 更新,CC BY-SA 4.0;瑞典 2023 年七件行政法院判決,本文轉述斯德哥爾摩 2023-10-13、韋克舍 2023-06-20、馬爾默 2023-10-04 與哥德堡撤銷停學案的事實,未翻譯原文段落);同書英文版 ChatGPT and Cheating(CC BY-NC-SA 4.0;請學生說明所交作品、在監督下完成評分作業、允許使用 AI 的作業設計與未滿 18 歲的服務條款限制、降低作弊誘因,本文只取觀念)。以上皆 2026-10-25 查閱。證據分級表與處理流程為作者整理。