Can I Run AI 教學:一鍵檢測你的電腦能不能跑本地 AI 大模型(含硬體需求對照與量化方案)

Can I Run AI 是一個免費網站,打開就會自動偵測你的電腦配備,告訴你哪些本地 AI 模型跑得動、哪些跑不動。本文用最簡單的方式教你怎麼用,還整理了常見模型的硬體需求對照表。

用 AI 摘要這篇文章:

你有沒有過這種經驗?看到網路上有人說「在自己電腦跑 AI 超簡單」,於是興沖沖下載了一個 20GB 的檔案,結果一打開就跳出「記憶體不足」的錯誤。或者更慘,AI 跑得起來但慢到離譜,回一句話要等半分鐘。這不是你做錯了什麼,而是你的電腦跟那個 AI 之間,根本就不搭。

CanIRun.ai 就是幫你避免這種慘劇的工具。它是一個免費網站,打開後會用瀏覽器端偵測你的「配備」,再判斷哪些 AI 模型比較有機會跑得動。不用安裝任何東西,也不用註冊,打開網頁就好。對於想試試看在自己電腦跑 AI(而不是用 ChatGPT 這種網路版)的人來說,這個工具可以幫你省掉很多白忙一場的時間。

打個比方好了。你想買一張大沙發,但你不知道客廳放不放得下。Can I Run AI 就是那個幫你拿尺去量客廳的人。量完之後它還會跟你說:「這張沙發原尺寸放不下,但如果你願意拆成幾塊,其實塞得進去喔。」那個「拆成幾塊」,在 AI 的世界裡就叫做「量化」,後面會詳細講。

為什麼需要先用這個工具?因為下載了跑不動真的很浪費時間

很多人以為在自己電腦跑 AI 最難的是安裝,但其實安裝超簡單,Ollama 打一行指令就裝好了,LM Studio 更是有圖形介面,跟裝一般軟體差不多。真正卡人的地方是:你在下載之前根本不知道自己的電腦夠不夠力。

我朋友之前就是這樣。他的顯示卡只有 8GB 記憶體,看到網路上說 Qwen 2.5 14B 這個 AI 很強,就直接下載了。結果那個模型完整版需要 28GB 的記憶體,他的 8GB 連啟動都做不到。花了半小時下載、又一個小時等解壓縮,到頭來只能刪掉。如果你平常習慣用 Claude 2 這類雲端服務,想轉到自己電腦跑的時候,這種落差會特別明顯。

Mac 使用者要更小心。Apple 的 M 系列晶片(M1、M2、M3、M4)設計很特別,CPU 和顯示晶片共用同一塊記憶體。聽起來好像很棒,16GB 的 Mac 應該能分 16GB 給 AI 用對吧?錯。macOS 本身就吃掉一大塊,瀏覽器再吃一些,你實際能拿來跑 AI 的可能只剩 10GB 出頭。如果你對 AI 有興趣,ChatGPT 指令大全整理了很多實用技巧,ChatPDFChat YouTube 這類雲端工具也可以先玩玩看,不用急著花錢升級硬體。

Can I Run AI 怎麼知道你電腦的配備?

你可能會好奇,一個網頁怎麼有辦法知道你電腦裝了什麼顯示卡?答案是它用了瀏覽器內建的功能。跟 mkcert 那類要額外安裝的工具不一樣,Can I Run AI 完全不需要你裝任何東西。

瀏覽器(像 Chrome)本身就有能力提供部分硬體資訊。依 CanIRun.ai 官方說明,它會用 WebGL、WebGPU 與 Navigator API 偵測 GPU、CPU 與記憶體,並在瀏覽器端完成評分;官方也提醒,瀏覽器 API 能取得的硬體資訊有限,實際效能仍會受散熱、背景程式、驅動版本與系統記憶體壓力影響。知道你的配備之後,它就把你的配備拿去跟資料庫裡面各種 AI 模型的需求做比對,然後告訴你:這個跑得動、那個跑不動。

CanIRun.ai 檢測本機硬體後顯示 AI 模型清單、RUNS GREAT 統計與模型分數的實際介面Pin
CanIRun.ai 首頁會顯示偵測到的硬體、可執行模型統計與模型分數。圖中結果來自編輯端測試機,讀者實際分數會依硬體不同而改變。

它給每個 AI 打分數:從 S 級到 F 級

Can I Run AI 偵測完你的電腦之後,每個 AI 模型旁邊都會出現一個等級。這個等級是根據「你的電腦記憶體夠不夠裝下這個 AI」來算的。很直覺:

  • S 級和 A 級:你的電腦跑這個 AI 綽綽有餘,速度快,用起來順。看到這個等級就可以放心下載。
  • B 級和 C 級:勉強跑得動,但可能會卡卡的。就像你手機開太多 App 會變慢一樣。不趕時間的話可以用。
  • D 級和 F 級:基本上跑不動。D 級是可能勉強開得起來但痛苦到不行,F 級是直接開不了。別浪費時間下載了。

有一點要提醒:這個分數只看「跑不跑得動」,沒有考慮到「跑多快」。而且它是用基本設定來算的。如果你讓 AI 同時記住很長的對話內容,那會吃掉更多記憶體,B 級的模型可能就變成跑不動了。

「量化」是什麼?為什麼它很重要

你在 Can I Run AI 上面會一直看到 Q4、Q5、Q8 這些神祕代號。它們其實不難懂。

想像你有一張超高清的大照片,檔案有 50MB。你要傳給朋友的時候,可能會把它壓縮一下,變成 5MB。照片看起來還是差不多,但仔細看會有一點點模糊。AI 模型也一樣。原始的 AI 模型很大(叫做 FP16),把它「壓縮」過後就變小了,佔的記憶體也變少了,但回答問題的品質會稍微差一點點。這個壓縮的過程就叫「量化」。

Q8 是壓縮最少但品質最好的,跟原始版本幾乎分不出來。Q5 壓縮多一點,品質有差但還行。Q4 壓最多,檔案最小,但品質也掉了比較多。如果你的電腦記憶體真的很少,Q4 可能是你唯一的選擇,聊勝於無嘛。

目前市面上最常用的壓縮格式叫 GGUF。依 CanIRun.ai Docs 說明,GGUF 是 llama.cpp 與 Ollama、LM Studio、GPT4All 這類工具常用的量化模型格式。Can I Run AI 在算記憶體需求的時候,也會把不同量化格式的 VRAM 與狀態分開列出來。

CanIRun.ai Llama 3.1 8B 模型頁列出 Q4、Q5、Q8、F16 量化格式的 VRAM 需求與相容結果Pin
單一模型頁會列出不同量化格式的 VRAM 需求、品質與狀態,適合用來判斷 Q4、Q5、Q8 或 F16 哪一種更適合自己的硬體。

你的電腦能跑多大的 AI?看這張表就知道了

我整理了一張對照表,把幾個熱門的 AI 模型在不同壓縮程度之下需要多少記憶體列出來。你可以對照自己電腦的配備來看。

AI 模型大小完整版Q8(壓一半)Q5(壓更多)Q4(壓最多)
Llama 3.18B~16 GB~8 GB~5.5 GB~4.5 GB
Qwen 2.57B~14 GB~7 GB~5 GB~4 GB
Qwen 2.514B~28 GB~14 GB~10 GB~8 GB
Gemma 29B~18 GB~9 GB~6.5 GB~5 GB
Mistral7B~14 GB~7 GB~5 GB~4 GB
Qwen 2.532B~64 GB~32 GB~22 GB~18 GB
Llama 3.170B~140 GB~70 GB~48 GB~38 GB
DeepSeek V3671B~1300 GB~350 GB

看出來了嗎?如果你的顯示卡只有 8GB 記憶體,那大概只能跑 Q4 壓縮版的 7B 模型。16GB 的話可以試 Q8 的 7B 或 Q4 的 14B。24GB(像 RTX 4090)就比較舒服了,Q4 壓縮的 32B 模型有機會跑得動。至於 70B 以上的,老實說一般人就不用想了,那是要用好幾張頂級顯卡才搞得定的東西。

怎麼用?超簡單,打開網頁就好

真的不用三分鐘:

  1. 打開網頁 — 用 Chrome 或 Edge 開 Can I Run AI 的官網(這兩個瀏覽器偵測最準)。
  2. 讓它偵測 — 網頁會自動讀取你電腦的硬體資訊。都在你電腦上完成,不會傳出去。瀏覽器如果問你要不要允許,按允許就好。
  3. 看結果 — 偵測完之後,頁面下方會自動出現一長串 AI 模型的清單,每個模型旁邊都有 S/A/B/C/D/F 的分數。看到 A 或 S 就安心下載,看到 D 或 F 就別碰。

你還可以按不同用途來篩選,像是「聊天對話」、「寫程式」、「推理思考」之類的。點模型名字還能展開,看同一個模型在不同壓縮程度下的分數差多少。

CanIRun.ai 篩選可執行的 Code 模型並依 VRAM 需求排序的實際操作畫面Pin
先篩選 Can run,再選 Code 用途並依 VRAM 排序,可以快速找出比較可能在自己電腦上跑得動的程式碼模型。

目前它收錄了 Llama、Qwen、DeepSeek、Gemma、Mistral、Phi 這些主流的開源 AI 模型,基本上叫得出名字的都有。新出的模型也會陸續加進來。

用 Mac 的人看這裡:你們的狀況比較特別

Mac 用 Apple 的 M 系列晶片(M1、M2、M3、M4),它的記憶體是 CPU 和顯示晶片共用的。這跟一般 Windows 電腦的獨立顯示卡不一樣,獨立顯示卡有自己專屬的記憶體。

這代表什麼?你的 Mac 寫著 16GB,不代表全部都能拿來跑 AI。系統、瀏覽器、其他 App 都會吃掉一部分。我實際測試過:

  • 8GB Mac — 只能跑 Q4 壓縮的 7B 小模型。速度不快,體驗真的很勉強,能跑但不好用。
  • 16GB Mac — Q8 的 7B 或 Q4 的 14B 比較合理。14B 的模型在 16GB Mac 上大概每秒吐 8 到 12 個字,可以用但不算順。
  • 24GB Mac(Pro 系列)— 可以試 Q5 的 14B 或 Q4 的 32B。32B 的回答品質比 7B 好很多,有 24GB 以上真的值得試試。
  • 36GB 或 48GB Mac(Max 系列)— 這個等級跑 32B 的模型就滿舒服的,對開發者來說是很好的本地 AI 環境。

Mac 上要跑 AI 的話,推薦用 OllamaLM Studio。Ollama 打一行指令就裝好了,LM Studio 有圖形介面比較親切。兩個都支援 GGUF 格式,沒什麼相容性問題。

這個工具不是萬能的:幾個要注意的地方

Can I Run AI 很好用,但有些事情它做不到,你還是得知道。

它偵測出來的數字不一定百分百準。特別是如果你的電腦是用內建顯示晶片(不是獨立顯卡的那種),瀏覽器可能只抓得到一個大概的數字。用 Chrome 偵測最準,Safari 比較不準。

就算它說你跑得動,實際跑起來可能還是會卡。為什麼?因為影響速度的不只是記憶體大小,還有記憶體的「速度」(頻寬)、散熱好不好、驅動程式是不是最新的、背景有沒有開了一堆東西。這個道理跟 網站開太快或太慢很像,紙上規格不等於實際體驗。AI 文字偵測工具也有類似的情況,理論上很強,但實際用起來效果可能打折。

如果你是在公司用,而且公司對資安很嚴格,那要考慮一下。雖然 Can I Run AI 說所有偵測都在你電腦上完成,但任何會讀取硬體資訊的網站,在嚴格的環境下還是要小心。

在自己的電腦跑 AI,還是用網路版的?

很多人看到這裡會想:「那我幹嘛不直接用 ChatGPT 或 Claude 就好?」好問題。答案取決於你在乎什麼。

在自己電腦跑的好處:你的資料不會離開你的電腦,不用擔心隱私問題。而且不用網路也能用,也不用每個月付訂閱費。如果你要處理的東西很機密(像是公司的程式碼、個人的醫療資料),自己跑是唯一安心的選項。

用網路版的好處:你可以用到最強的 AI,不用花錢買顯示卡,也不用自己設定。想入門的話,Claude Code 完整教學ChatDOC 分析 PDF 都可以試試。如果你對翻譯有興趣,GPT Translator 也很好用。圖片相關的 AI 工具更多,像是 AI Image Enhancer 增強圖片畫質AI Image Enlarger 放大圖片AI Image UpscalerVectorizer.AI 圖片轉向量,這些目前都是網路版比較成熟。

我自己是兩個都用。日常問問題、寫東西、翻譯,用網路版(快又好用)。碰到不想讓別人看到的資料,或者沒網路的時候,才開自己電腦的 AI。如果你想更了解網路服務怎麼選,可以看看 ChatGPT 跟 HIX Chat 的比較。順帶一提,如果你想把 AI 整合到自己的網站裡,先搞懂 什麼是 WordPress,再挑一個好的 WordPress 主機推薦,是不錯的起步。

還有哪些工具可以幫你判斷硬體夠不夠?

Can I Run AI 不是唯一的選擇。如果你想做更仔細的功課,這些資源也值得看:

  • VRAM Calculator for LLM — 在 GitHub 上可以找到,輸入你的顯示卡型號就能算出能跑多大的 AI。比 Can I Run AI 更精細,但要自己找資料填。
  • Hugging Face 的模型說明頁 — 每個 AI 模型都有自己的介紹頁,上面會寫需要多少記憶體。這是最權威的來源,不過你得自己一個一個去查。
  • Ollama 官方說明 — 列出了所有支援的模型和建議的配備。決定用 Ollama 的話直接看這個最快。建測試環境的概念跟 Sandbox for WordPress 有點像,一秒就能建好一個乾淨的環境來玩。
  • Reddit 的 r/LocalLLaMA 版 — 這裡面有超多人分享自己用不同配備跑不同 AI 的真實經驗。搜尋你的顯示卡型號,通常就能找到有用的資訊。

我自己推薦的做法是先用 Can I Run AI 粗略掃一遍,覺得可行的話再去 Reddit 上面看看別人的實際經驗。兩邊交叉確認會比只看一邊準。你也可以順便試試 LightPDF Chatdoc 處理 PDF 文件,或是用 TinyWow AI Write 寫東西、Graphy AI 畫圖表,這些都是免費的 AI 工具。如果對網站經營有興趣,保護 WordPress 網站的 8 個做法在 WordPress 用 WebP 圖片也是實用的基礎知識。圖片處理方面,AI Image Denoiser 拿來降低圖片雜訊效果不錯。

常見問題

Can I Run AI 要錢嗎?

不用,完全免費。不用註冊,不用安裝,打開就能用。想知道更多免費 AI 工具的話,可以看看 AI 檢查器推薦

用手機可以偵測嗎?

技術上可以開網頁,但手機的瀏覽器偵測硬體的能力很有限,結果不太準。建議用電腦開 Chrome 或 Edge 來偵測。

偵測出來的結果準嗎?

可以當參考,但不是百分之百準確。它只能告訴你「記憶體夠不夠」,沒辦法告訴你「跑起來順不順」。實際速度還會受散熱、驅動、背景程式這些因素影響。把它當成「下載前的快速檢查」就好,真正要確定還是得自己跑跑看。

Mac 可以用嗎?

可以,但建議用 Chrome 開,不要用 Safari。Mac 的記憶體架構比較特別,瀏覽器偵測出來的數字可能比實際可用的高。建議你看到 B 級就當作 C 級來看,保守一點比較不會失望。

支援哪些 AI 模型?

Llama、Qwen、DeepSeek、Gemma、Mistral、Phi 這些主流的開源 AI 都有收錄,而且會持續更新。想玩別種 AI 的話,Pollo.ai 把照片變影片Nero AI 讓照片人物動起來Mubert 用 AI 做音樂,都是很有趣的應用。

我的電腦被評 D 級,真的沒救了嗎?

你可以試著下載 Q4 壓縮版,有機會跑得起來,但速度會很慢、回答品質也差。如果真的很想在本地跑 AI,可能要考慮升級記憶體或買張更好的顯示卡。不然就像 Cleanvoice AI 那樣,本地跑不動就改用雲端版,效果更好也不需要好電腦。

可以幫我偵測別台電腦嗎(像是公司的伺服器)?

不行,它只能偵測你開瀏覽器的那台電腦。如果要查遠端伺服器的配備,得用 SSH 登進去打指令才行。如果你想找好一點的主機來跑東西,Bluehost 主機評價裡面有詳細的方案比較可以參考。

Sliven 褚崇名
Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

文章: 672

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


目錄
Share to...