我花了300臺組裝好的電腦，成功地跑過了當?shù)氐拇竽Ｐ汀?/h1> 2024-04-17 
假設2023年是大家公認的AI元年，那么2024年很可能是AI大模型普及的關鍵一年。
今年，大量的AI模型和大量的AI應用問世，Meta、谷歌等制造商也逐漸向公眾推出了自己的在線/本地模型，仿佛“AI人工智能”突然從一個遙不可及的概念走到了大家身邊。
現(xiàn)在每個人在生活中或多或少都接觸過AI，但是如果你仔細分辨，你會發(fā)現(xiàn)幾乎所有你能接觸到的AI應用都部署在“云”上。假如要建造一個本地運行大型設備，那么至少是全新的AIPC，價格在5000元以上，對一般消費者來說似乎并不友好。
但是把預算壓縮到完美，然后搭配一套?！改苡谩怪鳈C是每個DIY玩家的終極幸?！，F(xiàn)在的問題是，如果你真的想得到一臺可以在當?shù)剡\行大語音模型的電腦，要多少錢？
我的預算是——300元。
雖然最近嚴重的內存/存儲產品有價格上漲的趨勢，但這里的國外垃圾價格變化不大，甚至一批早期的國外垃圾CPU和礦卡GPU也有價格下跌的趨勢。在當今AI浪潮席卷的背景下，我甚至沒有準備好局限于辦公視聽的需求，決定挑戰(zhàn)300元的預算，努力打造性價比高的本地入門級大型主機。
關于具體應該怎么操作，最后的結果是否如意，跟我一起看下去自然就明白了。
古典老CPU，礦工級GPU
對于CPU的選擇，我直接在閑魚上撿了一個。Intel? Core?i3-4170T。
該Cpu為二核四線程，主頻3.2GHz，無睿頻能力，3MB智能緩存，采用Haswell結構，采用22nm制程工藝，其最大特點是HD4400核顯，這是我選擇它的關鍵。
俗話說，低價U配低價板嘛，主板我選的是一塊。H81M-V3華碩工包，DDR3內存插槽只有兩個，甚至沒有HDMI輸出接口，也沒有M2硬盤位置，USB 3.0、SATA III接口只有兩個，這個東西最大的優(yōu)點就是二手價格很低。
這種加起來不到80的板U套裝，性價比在今天也是出類拔萃的。
這類CPU，排熱就不用太擔心了。
20包閑魚郵寄的下壓風冷散熱，雖然造型有點丑，有點簡陋，但是用來壓我這套超低價設備一定綽綽有余。
對顯卡來說，最近閑魚上流出了大量的P106-090/P106-100礦卡，其中前者的價格一般在75元左右，后者的價格一般在120元左右，考慮到我這次的初衷并非為了游戲，最后我直接選了一張索泰P106-090礦卡，這張卡片因為帶寬問題不適合游戲，但是價格就在這里。
最后，簡單地給它配上兩個雜牌DDR3內存，構成內存雙通道，用350W長城電源供電，一個120GB。 SATA SSD是一個系統(tǒng)盤，上次安裝剩下的大水牛硅脂可以湊合著用，最后配上一個20元的電腦城小機箱，我們300元安裝的基礎硬件就到了。
拒絕接受跑分！性能表現(xiàn)還是合理的。
完成安裝，點亮機箱！
首先要做一個簡單的功能測試，做一個服役多年的老兵，Intel? Core?i3-4170T性能也是如此，即使使用TrottlesStop解鎖功耗，也幾乎相當于手機上酷睿六代和酷睿七代處理器的水平。
實測環(huán)節(jié)中，CPU-在CINEBENCH檢測標準下，Z檢測單核跑分為319.9分，多核跑分為881.0分，CINEBENCH R20多核732cb、單核301cb。這個結果當然不能說是亮眼的，但對于日常辦公、輕微娛樂來說卻足夠了。
再次看看GPU部分，我們手里的這個索泰P106-090采用16nm工藝制作，顯卡核心為GP106，核心頻率為1354MHz，可提升至1531MHz，上色模塊768個，支持DirectX12，顯存規(guī)格為3072MB/192Bit三星GDDR5內存，顯存頻率可達2002MHz。
值得注意的是，P106-090的界面是PCI。-E x4 P106-100的接口是PCI。-E x16 這就導致了兩者即使在相同的核心條件下，仍然存在較為明顯的性能差異，本人選擇P106-090這張顯卡，也只是因為它可以在極低的價格下提供CUDA計算能力的加持。
如圖所示，F(xiàn)ire正在評估DX11特性。 在Strike測試中，P106-90在Extreme測試中獲得了3287分的圖形成績；Time測試DX12特性 在Spy測試中，P106-90在基礎測試中獲得了2251分的圖形成績，與GTX1050相似，與R5-7640H的核顯性能相差甚遠。
在存儲方面，我們花了40元買的這個雜牌128GB Sata 順序讀寫速度為505.28MB/s和400.09MB/SSD硬盤s，132.35MB/s和244.29MB/s的隨機4K讀寫s，雖然和M2 SSD硬盤沒有可比性，但作為系統(tǒng)啟動盤必須綽綽有余。
使用AIDA64對雙通道DDR3內存進行內存緩存檢測，測得的讀取速度為208944。 MB/s，寫入速度為23629 MB/s，拷貝速度為20901 MB/s，延遲為67.5ns，把這臺電腦算得恰到好處。
大模型游戲，甚至可以跑
由于目的是在幾百塊錢的預算下，打造一套可用的本地大型游戲主機，所以實際體驗絕對是我們最關心的部分。
首先嘗試Koblodcpp，這是一個整合Koblodcpp。.AI頁面的llamacpp啟動程序可以運行當?shù)亓餍械腉GUF格式大型模型，甚至可以整合大型語音模型和大型繪圖模型，從而在對話的同時產生語音和對應場景的效果。
遺憾的是，目前在Huggingface上互通的GGUF格式模型，其容量一般都在3GB以上，即使選擇容量只有5GB左右的大小。causallm_7b模型，CPU的計算干預仍然會導致顯卡顯存溢出，最終導致整個大型模型的運行效率下降。
暫時測試一下，在這種模式下，Kobold.AI的回應最長可達599s(即10分鐘)，最短的回復也需要50s才能產生上下，與云大模型平均值10s可提供回復的效果相差甚遠，感覺真的很一般。
在這種情況下，我們不妨退而求其次，用英特爾AIGC助手體驗當?shù)氐拇笮湍Ｐ?。這是一個集各種當?shù)卮笳Z言模型于一體的演示Demo，致力于實現(xiàn)智能人機交換而不連接互聯(lián)網。
在關閉計算機網絡的情況下，除了第一次安排大模型需要一定的時間外，后續(xù)的問題基本上可以在5秒內得到回答，無論是回答問題、翻譯還是寫作都非?？?。雖然邏輯錯誤在面對一些腦筋急轉彎或算術問題時仍然會出現(xiàn)，但在這種情況下，整體體驗比以前強多了。
自然，角色卡、提示詞等較高級的功能肯定不能使用。
再次看看AI繪畫，我在這里使用的是bilibili。 集Stablediffsion于一體的UP主@繪世啟動器。 WebUI、各式各樣的SD插件下載和模型遠程使用，被認為是一個非常實用的集成啟動器。
考慮到P106-90只有3GB的存儲限制，我選擇了mistoonAnime，它的容量僅為2GB。 MIX實際測量P106-90生成4張128*160的照片大約需要三分鐘，生成4張240*320的照片大約需要七到八分鐘，而生成一張512*512的照片大約需要六分鐘。
從實際經驗來看，個人建議在減少提示詞和插件的同時，從128*160的照片開始生成，然后在遇到合適的圖片時升級重繪單張圖片的AI，這樣整體感覺還是挺好的。否則用512*512的規(guī)格生成圖片，廢圖的概率一般不高。
由于本地大模型可以使用，那么游戲體驗又如何呢？
考慮到實際的硬件配置，我們先后測試了《孤島驚魂6》《古墓麗影：暗影》《F1》 2020年和地平 線條：零之黎明四款游戲在FHD分辨率下的感覺，讓我們來看看各自的表現(xiàn)。
該計算機在1920*1080的最低畫質下，在《孤島驚魂6》的功能測試中，平均幀數(shù)為32fps，即使打開FSR性能檔，最終游戲幀數(shù)也只能在40fps上下波動。
再次看看賽車游戲，在F1。 在2020年，我們打開1920*1080中的畫質，對澳大利亞賽道進行晴天測試，最終平均幀率可達59fps，即使是這張多次服役的礦卡也能順利運行。
《古墓麗影：暗影》作為一款標準測試游戲，自然不會錯過這個測試。FSR還沒打開、默認情況下，在1920*1080的最低畫質下，該計算機運行游戲基準測試的平均幀數(shù)為50fps，這是這批3A游戲中最接近平穩(wěn)60幀的游戲體驗。
最后來了一個硬茬，“地平線:零黎明”，由于最低畫質也會爆發(fā)出存款的原因，這臺電腦在1280*720的最低畫質下，只能勉強達到30fps的及格線，只能說不適合玩。
總體而言，由于嚴格的帶寬限制，P106-090的具體性能并不像GTX1050那樣與GTX1050相似，最多比Iris更好。 Xe 96EU核顯得略強一些，應對近年來的3A游戲已有些捉襟見肘。
總結：的確可以跑大模型，但是穩(wěn)定性不好。
優(yōu)勢：
1、成本預算便宜；
2、的確可以運行當?shù)氐拇笮湍Ｐ汀?/p>
缺陷：
1、二手零件沒有保障；
2、礦卡驅動容易脫落，經常出現(xiàn)白屏問題。
這個預算300元的電腦主機可以使用嗎？
雖然CPU規(guī)格陳舊，礦卡性能不穩(wěn)定，但這款預算300元的電腦主機確實可以完成本地大模型的部署，在文字生成和AI繪圖的感覺上沒有問題。你甚至可以把它當成一個AI。 PC。
即使運行3A大作《孤島驚魂6》，這款機器也能保證60幀在FHD低畫質下的穩(wěn)定運行，所以應對英雄聯(lián)盟這樣的網絡游戲應該綽綽有余，也可以作為入門級的網絡游戲主機。
所以我對這臺電腦主機滿意嗎？
答案是否定的。在實際使用過程中，礦卡P106-90多次脫落，導致電腦白屏，需要用DDDU卸載驅動器重新安裝。如果放在測試里只是有點麻煩，那么在日常使用中一定很難接受。
值得注意的是，目前我組裝的閑魚上有很多類似外國垃圾的機器，價格基本在350-400元左右。目標群體顯然是剛上大學或者走出社會的年輕群體。個人建議大家不要買這些產品。一分錢一分貨不是開玩笑。
歸根結底，撿垃圾是有風險的，上車前要小心。對于厭倦高端電腦的玩家來說，偶爾玩撿垃圾主機很有意思，但只是為了好玩，并不是真的打算長期作為主機使用。畢竟撿垃圾主機配件年久失修，沒有保修。如果重要數(shù)據因為它的故障而丟失，得不償失。
然而，一定程度上表明，硬件性能可能不會限制AI，因為它可以通過使用300元預算來完成當?shù)卮笮蚉C的運行。 發(fā)展PC的主要因素。至少在普通消費者的應用場景中，PC廠商應該幫助用戶構建AI模型的框架和環(huán)境，在系統(tǒng)和軟件上給用戶帶來更好的體驗，而不是提高計算率。也就是說，AI PC應該是客戶可以使用的，而不是像我們自己組裝DIY一樣。 這樣折騰PC。
這篇文章來自“雷科技”，36氪經授權發(fā)布。
本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。
免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com
假設2023年是大家公認的AI元年，那么2024年很可能是AI大模型普及的關鍵一年。
今年，大量的AI模型和大量的AI應用問世，Meta、谷歌等制造商也逐漸向公眾推出了自己的在線/本地模型，仿佛“AI人工智能”突然從一個遙不可及的概念走到了大家身邊。
現(xiàn)在每個人在生活中或多或少都接觸過AI，但是如果你仔細分辨，你會發(fā)現(xiàn)幾乎所有你能接觸到的AI應用都部署在“云”上。假如要建造一個本地運行大型設備，那么至少是全新的AIPC，價格在5000元以上，對一般消費者來說似乎并不友好。
但是把預算壓縮到完美，然后搭配一套?！改苡谩怪鳈C是每個DIY玩家的終極幸?！，F(xiàn)在的問題是，如果你真的想得到一臺可以在當?shù)剡\行大語音模型的電腦，要多少錢？
我的預算是——300元。
雖然最近嚴重的內存/存儲產品有價格上漲的趨勢，但這里的國外垃圾價格變化不大，甚至一批早期的國外垃圾CPU和礦卡GPU也有價格下跌的趨勢。在當今AI浪潮席卷的背景下，我甚至沒有準備好局限于辦公視聽的需求，決定挑戰(zhàn)300元的預算，努力打造性價比高的本地入門級大型主機。
關于具體應該怎么操作，最后的結果是否如意，跟我一起看下去自然就明白了。
古典老CPU，礦工級GPU
對于CPU的選擇，我直接在閑魚上撿了一個。Intel? Core?i3-4170T。
該Cpu為二核四線程，主頻3.2GHz，無睿頻能力，3MB智能緩存，采用Haswell結構，采用22nm制程工藝，其最大特點是HD4400核顯，這是我選擇它的關鍵。
俗話說，低價U配低價板嘛，主板我選的是一塊。H81M-V3華碩工包，DDR3內存插槽只有兩個，甚至沒有HDMI輸出接口，也沒有M2硬盤位置，USB 3.0、SATA III接口只有兩個，這個東西最大的優(yōu)點就是二手價格很低。
這種加起來不到80的板U套裝，性價比在今天也是出類拔萃的。
這類CPU，排熱就不用太擔心了。
20包閑魚郵寄的下壓風冷散熱，雖然造型有點丑，有點簡陋，但是用來壓我這套超低價設備一定綽綽有余。
對顯卡來說，最近閑魚上流出了大量的P106-090/P106-100礦卡，其中前者的價格一般在75元左右，后者的價格一般在120元左右，考慮到我這次的初衷并非為了游戲，最后我直接選了一張索泰P106-090礦卡，這張卡片因為帶寬問題不適合游戲，但是價格就在這里。
最后，簡單地給它配上兩個雜牌DDR3內存，構成內存雙通道，用350W長城電源供電，一個120GB。 SATA SSD是一個系統(tǒng)盤，上次安裝剩下的大水牛硅脂可以湊合著用，最后配上一個20元的電腦城小機箱，我們300元安裝的基礎硬件就到了。
拒絕接受跑分！性能表現(xiàn)還是合理的。
完成安裝，點亮機箱！
首先要做一個簡單的功能測試，做一個服役多年的老兵，Intel? Core?i3-4170T性能也是如此，即使使用TrottlesStop解鎖功耗，也幾乎相當于手機上酷睿六代和酷睿七代處理器的水平。
實測環(huán)節(jié)中，CPU-在CINEBENCH檢測標準下，Z檢測單核跑分為319.9分，多核跑分為881.0分，CINEBENCH R20多核732cb、單核301cb。這個結果當然不能說是亮眼的，但對于日常辦公、輕微娛樂來說卻足夠了。
再次看看GPU部分，我們手里的這個索泰P106-090采用16nm工藝制作，顯卡核心為GP106，核心頻率為1354MHz，可提升至1531MHz，上色模塊768個，支持DirectX12，顯存規(guī)格為3072MB/192Bit三星GDDR5內存，顯存頻率可達2002MHz。
值得注意的是，P106-090的界面是PCI。-E x4 P106-100的接口是PCI。-E x16 這就導致了兩者即使在相同的核心條件下，仍然存在較為明顯的性能差異，本人選擇P106-090這張顯卡，也只是因為它可以在極低的價格下提供CUDA計算能力的加持。
如圖所示，F(xiàn)ire正在評估DX11特性。 在Strike測試中，P106-90在Extreme測試中獲得了3287分的圖形成績；Time測試DX12特性 在Spy測試中，P106-90在基礎測試中獲得了2251分的圖形成績，與GTX1050相似，與R5-7640H的核顯性能相差甚遠。
在存儲方面，我們花了40元買的這個雜牌128GB Sata 順序讀寫速度為505.28MB/s和400.09MB/SSD硬盤s，132.35MB/s和244.29MB/s的隨機4K讀寫s，雖然和M2 SSD硬盤沒有可比性，但作為系統(tǒng)啟動盤必須綽綽有余。
使用AIDA64對雙通道DDR3內存進行內存緩存檢測，測得的讀取速度為208944。 MB/s，寫入速度為23629 MB/s，拷貝速度為20901 MB/s，延遲為67.5ns，把這臺電腦算得恰到好處。
大模型游戲，甚至可以跑
由于目的是在幾百塊錢的預算下，打造一套可用的本地大型游戲主機，所以實際體驗絕對是我們最關心的部分。
首先嘗試Koblodcpp，這是一個整合Koblodcpp。.AI頁面的llamacpp啟動程序可以運行當?shù)亓餍械腉GUF格式大型模型，甚至可以整合大型語音模型和大型繪圖模型，從而在對話的同時產生語音和對應場景的效果。
遺憾的是，目前在Huggingface上互通的GGUF格式模型，其容量一般都在3GB以上，即使選擇容量只有5GB左右的大小。causallm_7b模型，CPU的計算干預仍然會導致顯卡顯存溢出，最終導致整個大型模型的運行效率下降。
暫時測試一下，在這種模式下，Kobold.AI的回應最長可達599s(即10分鐘)，最短的回復也需要50s才能產生上下，與云大模型平均值10s可提供回復的效果相差甚遠，感覺真的很一般。
在這種情況下，我們不妨退而求其次，用英特爾AIGC助手體驗當?shù)氐拇笮湍Ｐ?。這是一個集各種當?shù)卮笳Z言模型于一體的演示Demo，致力于實現(xiàn)智能人機交換而不連接互聯(lián)網。
在關閉計算機網絡的情況下，除了第一次安排大模型需要一定的時間外，后續(xù)的問題基本上可以在5秒內得到回答，無論是回答問題、翻譯還是寫作都非?？?。雖然邏輯錯誤在面對一些腦筋急轉彎或算術問題時仍然會出現(xiàn)，但在這種情況下，整體體驗比以前強多了。
自然，角色卡、提示詞等較高級的功能肯定不能使用。
再次看看AI繪畫，我在這里使用的是bilibili。 集Stablediffsion于一體的UP主@繪世啟動器。 WebUI、各式各樣的SD插件下載和模型遠程使用，被認為是一個非常實用的集成啟動器。
考慮到P106-90只有3GB的存儲限制，我選擇了mistoonAnime，它的容量僅為2GB。 MIX實際測量P106-90生成4張128*160的照片大約需要三分鐘，生成4張240*320的照片大約需要七到八分鐘，而生成一張512*512的照片大約需要六分鐘。
從實際經驗來看，個人建議在減少提示詞和插件的同時，從128*160的照片開始生成，然后在遇到合適的圖片時升級重繪單張圖片的AI，這樣整體感覺還是挺好的。否則用512*512的規(guī)格生成圖片，廢圖的概率一般不高。
由于本地大模型可以使用，那么游戲體驗又如何呢？
考慮到實際的硬件配置，我們先后測試了《孤島驚魂6》《古墓麗影：暗影》《F1》 2020年和地平 線條：零之黎明四款游戲在FHD分辨率下的感覺，讓我們來看看各自的表現(xiàn)。
該計算機在1920*1080的最低畫質下，在《孤島驚魂6》的功能測試中，平均幀數(shù)為32fps，即使打開FSR性能檔，最終游戲幀數(shù)也只能在40fps上下波動。
再次看看賽車游戲，在F1。 在2020年，我們打開1920*1080中的畫質，對澳大利亞賽道進行晴天測試，最終平均幀率可達59fps，即使是這張多次服役的礦卡也能順利運行。
《古墓麗影：暗影》作為一款標準測試游戲，自然不會錯過這個測試。FSR還沒打開、默認情況下，在1920*1080的最低畫質下，該計算機運行游戲基準測試的平均幀數(shù)為50fps，這是這批3A游戲中最接近平穩(wěn)60幀的游戲體驗。
最后來了一個硬茬，“地平線:零黎明”，由于最低畫質也會爆發(fā)出存款的原因，這臺電腦在1280*720的最低畫質下，只能勉強達到30fps的及格線，只能說不適合玩。
總體而言，由于嚴格的帶寬限制，P106-090的具體性能并不像GTX1050那樣與GTX1050相似，最多比Iris更好。 Xe 96EU核顯得略強一些，應對近年來的3A游戲已有些捉襟見肘。
總結：的確可以跑大模型，但是穩(wěn)定性不好。
優(yōu)勢：
1、成本預算便宜；
2、的確可以運行當?shù)氐拇笮湍Ｐ汀?/p>
缺陷：
1、二手零件沒有保障；
2、礦卡驅動容易脫落，經常出現(xiàn)白屏問題。
這個預算300元的電腦主機可以使用嗎？
雖然CPU規(guī)格陳舊，礦卡性能不穩(wěn)定，但這款預算300元的電腦主機確實可以完成本地大模型的部署，在文字生成和AI繪圖的感覺上沒有問題。你甚至可以把它當成一個AI。 PC。
即使運行3A大作《孤島驚魂6》，這款機器也能保證60幀在FHD低畫質下的穩(wěn)定運行，所以應對英雄聯(lián)盟這樣的網絡游戲應該綽綽有余，也可以作為入門級的網絡游戲主機。
所以我對這臺電腦主機滿意嗎？
答案是否定的。在實際使用過程中，礦卡P106-90多次脫落，導致電腦白屏，需要用DDDU卸載驅動器重新安裝。如果放在測試里只是有點麻煩，那么在日常使用中一定很難接受。
值得注意的是，目前我組裝的閑魚上有很多類似外國垃圾的機器，價格基本在350-400元左右。目標群體顯然是剛上大學或者走出社會的年輕群體。個人建議大家不要買這些產品。一分錢一分貨不是開玩笑。
歸根結底，撿垃圾是有風險的，上車前要小心。對于厭倦高端電腦的玩家來說，偶爾玩撿垃圾主機很有意思，但只是為了好玩，并不是真的打算長期作為主機使用。畢竟撿垃圾主機配件年久失修，沒有保修。如果重要數(shù)據因為它的故障而丟失，得不償失。
然而，一定程度上表明，硬件性能可能不會限制AI，因為它可以通過使用300元預算來完成當?shù)卮笮蚉C的運行。 發(fā)展PC的主要因素。至少在普通消費者的應用場景中，PC廠商應該幫助用戶構建AI模型的框架和環(huán)境，在系統(tǒng)和軟件上給用戶帶來更好的體驗，而不是提高計算率。也就是說，AI PC應該是客戶可以使用的，而不是像我們自己組裝DIY一樣。 這樣折騰PC。
這篇文章來自“雷科技”，36氪經授權發(fā)布。
本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。
免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com