顯示具有 超級機器 HPC 標籤的文章。 顯示所有文章
顯示具有 超級機器 HPC 標籤的文章。 顯示所有文章

2022年2月12日 星期六

Incompatibilities and Compatibilities

NOTE: This article will be updated in the future when more compatibilities / incompatibilities are discovered. 

Incompatibilities

 

12-Feb-2022

  • OPNSense (and potentially pfSense as well) CARP protocol is not compatible with Arista (7060CX-32S, and potentially other models) switches.
  • [13-Feb-2022] OPNSense (and potentially pfSense as well) CARP protocol is not compatible with Windows Server 2022 Virtual Switches with SR-IOV enabled. Workaround is to NOT select SR-IOV option when creating the virtual switch.
  • Windows Server 2022 (Host) with Windows 11 Guest VM: Nested Virtualization is not compatible with Discreet Device Assignment (DDA) and SR-IOV. Once both are enabled, all passed-through devices (including SR-IOV virtual functions) will fail to be started with the same reason "Insufficient System Resources".
  • RME PCI-E Sounds Cards such as HDSPe RayDAT and HDSPe AIO are not compatible with Windows Discreet Device Assignment (DDA) and potentially all other device pass-through technologies. The device drivers can be installed on guest OS but it will not yield any sound.
  • Datapath VisionAV PCI-E Capture Cards are not compatible with Windows Discreet Device Assignment (DDA) and potentially all other device pass-through technologies. The device drivers cannot be started properly in guest OS.

2020年9月21日 星期一

超微 Supermicro X11DPi-NT 主板的注意事項

Supermicro X11DPi-NT / X11DPi-N 這款主板堪稱接近完美。它基本上把從 Xeon CPU 中可用的 PCI Express 鏈路都用上了,并且 CPU 和 CPU 之間也是使用 3 條 QPI 連接上的(這個是要點,有的主板只有兩條 QPI 的)。

但是!

如果你打算使用 X11DPi-NT 用作 VROC 用途,那麽你就要注意了。這款主板支持 Intel VROC,不過有以下的限制:

1、除了主板自帶的兩個 OCuLink 端口,就只有 Slot 6 這根插槽具有 VROC 功能。

2、必須把 Slot 6 設置成爲 x4x4x4x4 的 Bifurcation 模式才能夠啓用該插槽的 VMD 功能。這就是說我沒辦法使用 PCI Express Switch (PLX / PEX) 以鏈路更多的 NVME SSD。

3、好像 Slot 6 和主板的兩個 OCuLink 端口并不是同一個 CPU 的……

基本上,X11DPi-NT 的 VROC 功能極其有限。如果閣下有使用大量 NVME 作 RAID 的打算,那麽就不要重蹈本人的覆徹。可以考慮 X11DPH-T / X11DPH-i ——這款主板所有 PCIe 插槽都支援 VMD,包含兩個 M.2 插槽。并且應該支持任意的 Bifurcation 模式,這對於打算使用 PLX / PEX PCI-E Switch 的用戶來説是一個不錯選擇。

2020年9月15日 星期二

Intel Xeon Platinum 8269CY 處理器使用及兼容性報告

Intel Xeon Platinum 8269CY 這款 CPU 是“阿里雲” (Alibaba Cloud) 的定制版。在超微 Supermicro X11DPi-NT 主板上 (BIOS 3.1a)測試成功。不過,該 CPU 僅支援 2666MHz 的内存(2933MHz 的也運行於這個速度),這也是一個要注意的地方。

該處理器支援 Intel Speed Select 技術(型號中帶 'Y' 的 SKU 都有的),有兩個 Profile (預設方案):標準的 26 核,運行於 2.5 GHz 的基礎速度,全核運行最高速度 3.2 GHz;以及高性能的 20 核,運行於 3.1 GHz 的基礎速度,全核運行最高速度 3.5 GHz。兩個方案的單核最高速度均爲 3.8 GHz,兩個方案的 TDP 都是 205W。方案可以在 BIOS 裏面設定。


 

按照耗電量來説,除非這個定制版還有什麽特殊的能力,否則其功耗  205W 有點過高。不過勝於這個是步進 7 的正式版 CPU,穩定性和兼容性和其他零售版的 Platinum Xeon 相若,價錢合適的話也是個不錯的入場選項。

2020年8月22日 星期六

Farewell: Hard Disk Drives

It has been so many years already - my first HDD was a CONNER CFS-420A with capacity 420 MB. It should be around 1994. That was the exciting moment I can still remember - what an upgrade to 1.44MB floppy disks!

More than 25 years later, now I have made the decision to phase out all HDD sin my system. I have even bought a few 12TB Seagate Exos for my next project, but now they will be sold before being put into real use.

My experiences with HDDs could be quite a bit different from most of the people out there: I was very cautious about reliability and durability, rather than focusing mainly on capacity. If you have ever noticed about the specifications of the most decent HDDs, you might start noticing one thing: the Unrecoverable Error Rate has remained 10^14 (consumer parts) and 10^15 (server parts for many years without improvement.

Yes, right, who would be really caring about these numbers? They are just indicators, and new technology should be always more reliable, right? Unfortunately, my personal believe is, if there is a number published in that way, it MUST has a meaning. Consider other common storage technologies, such as SSD (10^17 for enterprise parts) and Tapes (10^17 - 10^19), what I can say is HDDs have a frightening LOW reliability nowadays.

Imagine a 1 TB HDD and a 10 TB HDD, they both have URE of 10^15. During a RAID rebuild, 10TB one will have 10 times higher chance to encounter an URE. While 10^15 URE means you *might* encounter a Non-Recoverable Read Error every 125 TB of data, this is not a lot for today's large capacity drives. If I am using 10x 12TB Exos HDDs to build a RAID 6 array, it will be so likely to get a Read Error during re-build - which is exactly the reason putting me off from proceeding with my original plan. I just don't want to put my data at risk.

That's also the reason why in the past my 16 HDDs RAID 60 array served me well, because each member was only 1TB in size. With 10^15 URE, the array was still relatively secured and it has proved itself. However, with 12TB, 10^15 URE is DANGEROUS and it is not making sense for traditional RAID techonology.

Also, think about the rebuild time - with my 16 HDDs RAID 60, even with a 1TB drive size, the rebuild time was somewhere around 4 hours without anyone using it. How about a 12 TB HDD? Well, if you are luck, you can have the array rebuilt in 2 days (given that nobody will be using it). Otherwise, it could be "weeks" - and the longer the time, the more likely another unrecoverable read error can happen. (And another one!)

You may say RAID is now out of date. But unfortunately it is the opposite - HDDs are now out of date. I now have an array of 2TB SSDs in RAID 6, and I am feeling way more comfortable with their 10^17 URE. The maximum size of SSD I can accept to be put into the array would be 15.36TB - if higher then I will need 10^18 URE.

HDD has a good characteristic: offline durability. This is especially true when it comes to offline data storage - think about data retention of SSD when it has been completely powered off - after the Intel 320 array incident happened to me in the past (data gone after powering off for > 1 month), I think you might expect data could be held in server class SSDs for 1 year max offline without problem, but don't expect more than that. HDD can do far better than SSD in this case since the storage of data is not depending on electricity stored in NAND cells that could leak, but on platter with magnetic recording that can last.

HOWEVER, how often are you going to put your HDDs offline? Possibly never - they are in RAID, and they are serving as nearline storage. This has defeated the purpose of this great characteristic. For nearline storage, I can easily use SSDs because they are ONLINE, with continuous power supply so they have the same data retention reliability as HDDs. They can run cooler and they have far better access performance than HDDs. So that's why my 12TB Exos are out of the picture for my project - I will be getting some 15.36 TB SSDs instead.

For archiving, an "old school" technology has somehow came to my mind - TAPES! They are offline storage, portable, power efficient and has a really high URE. They use magnetic recording as well so data retention is surprisingly good. If I need archiving, a tape library is better suited in this case.

With Tapes and SSDs, I have to say "farewell" to HDDs - unless URE has been increased to 10^16 or even 10^17, they won't be considered by me just because I want to have better sleep at night without worrying about RAID rebuild...

FAREWELL, MY LOVELY HDDS!

2020年8月1日 星期六

Windows Network Direct: Your better bet is with Windows Server 2019

I have been always struggling to get RDMA working inside a Windows virtual machine. I had tried Mellanox ConnectX-3, Mellanox ConnectX-5 and Chelsio T62100-LP-CR network adapters, with Windows Server 2012 or 2016, and even with Direct Device Assignment in Windows Server 2016, I could not get RDMA working flawlessly in any virtual machine.

Recently, I retried RDMA in a Windows VM (2019) on a Windows Server 2019 host, with a Chelsio T62100-LP-CR - and finally have RDMA (iWarp) working correctly (even without a switch - you can connect port 1 to port 2 to form a 100GbE link). It enabled SMB Direct between the VM and the host (and between VMs as well), and performance was acceptable (needs tuning).

If you are after any RDMA application inside a Windows VM, or simple just want to use SMB Direct in a VM, Windows Server 2019 or later is your better bet in this case.

Do note that you need the following:
  • SR-IOV support from BIOS - this sometimes means enabling the ASPM option in BIOS.
  • A network card that supports RDMA - I like iWarp because it is simpler (virtually no configuration needed). If you like RoCE then you may need DCB configured properly, or even need a 40GbE/100GbE switch.
  • Windows Server 2019 or higher - both host and VM. You may use Windows 10 (latest) - I didn't try that out but theoretically it should work.
  • Workstation / Server grade hardware - I have seen many times people complaining about not being able to enable SR-IOV due to missing implementation like IOMMU or ACS etc. with consumer grade hardware. Your CPU supports all these features doesn't mean your motherboard / BIOS has support of all features.

2016年8月28日 星期日

Windows Server 2016 DDA 直接設備授予虛擬機的一些要點

算是微軟的一些“突破”吧,反正 VMWare 一早就有這個技術。不論如何,至少直接把 PCI Express 設備,例如顯卡,聲卡,網卡或者 USB 3.0 端口授予虛擬機單獨訪問已經變得可能。然而并非所有設備都都能夠使用此功能。掃描了一下自己伺服器的硬件大概折這樣的:

1、老式 PCI 設備——別想了,放棄吧。
2、PCI Express 1.0 設備或者鏈路到 PCI Express 1.0 橋接芯片上的設備——也別想了,洗洗睡吧。
3、連路到 Intel PCH (就是現在有點想南橋的那個東東) 的設備——看運氣,就算你是 PCI Express 2.0,沒有 ACS (Access Control Service) 那也是別想了……什麽意思呢?就是板載的網卡,USB 3.0 口之類的,衹有是從 PCH 延伸出來的,就別想了……
4、有 ACS,但是是複合設備,那也別想了,至少我的 NVIDIA Quadro K4200 是不行的!

所以最終發現能夠 DDA 的就衹有直接連在 CPU 的根部 PCI Express 3.0 端口的設備,或者鏈路到支持 ACS 的 PCI Express 2.0 擴展盒的設備:
- Dell PERC H730P (別開玩笑了……把 100 個磁盤弄到 VM 裏面幹啥?)
- Mellanox ConnectX-3 (好吧,算是靠譜一點……)
- HP ioDrive DUO SLC 320GB (算不算 NVMe 直接授予!?-_-)

看來我那些 PCI Express 1.0 的 Expansion Backplanes / Enclosures 都沒啥用處了~

NVIDIA Grid 授權模式:要買蘋果得把高壓鍋也買了!?

我并不反對 NVIDIA 對 GRID 的授權模式的更改。儘管每用戶的授權會增加花費,但是從價格上還是可以接受。但是!但是!最主要的是,就算你入手了一張 NVIDIA GRID M10,如果沒有從 NVIDIA 指定合作夥伴購買整機,你是沒有辦法獲得授權的!

什麽意思?就是你從 ebay 買了十張 NVIDIA GDID M10 卡那也衹是一堆廢件!除非你從 Dell 或者 Supermicro 什麽的整機購買了伺服器。這樣你才能夠從 NVIDIA 購買授權……

簡單點:想買蘋果?先把這個高壓鍋買了 。怎麽?你不用蘋果來燒湯?那我可不管,買高壓鍋可是先決條件呢……

2015年12月5日 星期六

如何使用 USB 驅在 UEFI 系統上面安裝 Windows 2016

好吧,我知道 Windows 2016 衹是一個 Technical Preview, 不過貌似微軟忽略了一些非常重要的因素。TP 4 很大,比以前的 Server 操作系統都大,所以 install.wim 達到了 4.22GB。總所周知 UEFI 系統用 USB 盤安裝需要一些先決條件:

- FAT32 格式的 USB 盤
- 設置爲 Active Partition
- 複製 Windows 2016 安裝數據到 USB 盤中

最後一項很不幸對於 Windows 2016 TP4 是無法辦到的——install.wim 超過了 FAT32 所能夠承受的 4GB 極限!
解決辦法很簡單,用下面的命令切割 install.wim 文件:

Dism /Split-Image /ImageFile:l:\sources\install.wim /SWMFile:f:\install.swm /FileSize:3072

(L: 是光盤,F: 是硬盤)

然後把切割好的 install.swm 和 install2.swm 複製到 USB 盤的 sources 目錄裏面,這樣就可以完成所有先決條件了!

2015年11月22日 星期日

Intel 320 160GB SSD: 小心 MLC 可怕的“空白門”事件!

其實這是一年多以前的事情了。那時候入手了 4 個 Intel 320 160GB SSD,然後組成了一個 RAID 5 陣列,用起來沒有問題,性能挺不錯的。

不過由於需要更新機器的硬件,所以我把機器關掉了大約一個月的時間,之後硬件更新完畢,開始后發現令人抓狂的一幕:4 個 Intel 320 160GB SSD 其中的兩個變成完全空白了!!

令人抓狂的兩個!而不是一個!RAID 5 更本救不了!數據完全丟失!!

後來調查了一下,發現這種事情還是在情理之中的。首先,SSD 是通過電壓來儲存數據的,也就是説,每一個 Cell 特定的電壓會代表不同位狀態。SLC SSD 會比較簡單,有電壓和歸零代表位的 0 和 1,然而 MLC SSD 就會比較複雜。而在這一個月時間中,我是沒有開機的,也就是説所有的 SSD 均沒有辦法補充電量。我所有的 Intel X25-E SSD 均沒有數據丟失的問題,也不知道是由於高端質量還是 SLC 對電壓的容錯性好。然而其兩個 Intel 320 160GB SSD 則很不幸是“漏電體”,在沒有加電的情況下,電壓流失。這個時候,MLC Cell 裏面的電壓就會把原來該標識的數據表示成爲另外的錯誤數據,以至於整盤數據混亂,完蛋了……

當然,那兩個 SSD 在重新分區格式化之後還是可以使用,衹不過一旦長時間不通電,數據還是會丟失。

最終的結局就是我把所有 MLC 類型的 SSD 都出手了。其實現在的情況還是有點令人堪憂。總所周知,晶體越大,儲電越多。例如 Intel X25-E 的 50nm 大晶體,儲電能力肯定比 Intel 320 160GB SSD 的 34nm 要好得多,更不用説 SLC 衹需要表示 2 種狀態,而 MLC 需要表示 4 種狀態,對電壓值得準確性要求高得多。而現在的 MLC 可能衹用 25nm 甚至更小的晶體,本身儲電量已經少,如果沒有很好的辦法防止漏電,長時間鍵關機就可能導致數據錯亂甚至消失了。

關於 Avago LSI CacheCade 的一些使用心得

曾用過 LSI 9361-8i 再加上 CacheCade 2.0,感覺有點不大盡人意。主要的原因是這種技術僅僅適用於非常特定的情況。

首先説説循序讀寫 (Sequential Read / Write)。我嘗試在一個大容量 HDD RAID Array 上面使用 CacheCade。我所期望的是在偶爾的 4K IO 時性能可以有所提升,而陣列的主要目的還是循序讀寫。然而比較不幸的是,無論 CacheCase 1.0 或者 2.0 均沒有辦法很好的檢測 Sequential Read / Write,導致 Sequential 性能大幅度下降。就算 4K 性能增加,也無補主要的循序性能缺失。感覺上應該是 CacheCade 無法很好的辨別循序讀寫以至於循序讀寫也要經過 SSD Cache,造成不必要的延遲(?)。

那有什麽應用會用到 Random Access 呢?儲存 VM 的 VHDX 文件的陣列應該會用到。然而轉而一想,在我具有足量的 SSD 儲存下,再加上 Microsoft 的 Deduplication 功能,儲存 VHDX 根本不用 HDD 陣列。并且由於 HDD 陣列的功耗較高,應該盡可能將其 Spin Down。因此也用不上 CacheCade (因爲 LSI 9361-8i 不支持 Dimmer Switch Max with Cache 設定!)

結果就是,CacheCade 可能祇能夠用於中型的 SQL 數據庫,因爲小型的完全可以使用 SSD,大型的也完全有足夠資金全部使用 SSD,衹有中型的 Production 數據庫可能需要用到這種 Hybrid 的方案。而像我這種以 Development 爲主的 SQL 數據庫,直接 SSD儲存就可以提供足量的空間。

綜上,CacheCade 至少在對於我來説,比較鷄肋了……

關於電腦均衡構建 (Balance Build) 的設想

儘管衹是一種設想,不過這幾年其實一直還是按照這個目標來更新我的電腦的。其實從一開始購買 Intel Xeon E5520 / W5580 的時候就有這種想法。一般來説,到目前爲止固定電腦可以歸類爲一下類別:

一般用型臺式機
近來這種類型都在從固定轉變成爲移動,例如平板電腦,手提電腦,手機等等。不過臺式機還是有一定的市場份額。這種電腦一般用於日常工作,對於高强度 3D 處理卻不盡人意。然而價錢便宜,部件容易獲取卻是一大優勢。一般比較安靜,功耗低。生命周期一般。

游戲用型臺式機
主要目的就是用來玩游戲。超頻通常與這種電腦挂鈎。該機器會產生大量熱能,并且由於超頻,硬件壽命可能會縮短。可靠性不是一個考慮因素,價錢以及超頻能力才是主要目的。注意功耗與性能在超頻狀態下基本上不成正比,還可能會需要用到液冷設備以處理高發熱。一般在高熱下噪音大,不過可能用戶不會太在意。生命周期短。

工作站
貴重物事。擁有較好的 3D 加速能力,玩游戲一般比游戲用型稍差,主要是因爲其主要用途是特定的專業程序,對游戲沒有特別優化。超頻一般不可能,或者衹能夠少量超頻。可靠性是重中之重,硬件質量比一般或者游戲用機器高,就算在少量超頻的情況下。熱量可控并且沒有游戲用型那麽誇張。全速下噪音可能會偏高。一般整機出售。生命周期較長。

伺服器
誇張的貴重物事。一般 Headless,直接在上面玩游戲什麽的不大現實(儘管有可能)。以穩定性爲重,所以散熱噪音超級大。不可超頻。擁有極高的平行運算能力,以及高速網絡,大容量儲存等等。一般整機出售。生命周期較長。

那麽均衡構建的電腦的設想又是怎樣呢?我的計劃有如下幾點:
- 以工作站爲切入點
- 不進行整機購買,減少花費,以沒有技術支持爲代價,使其價格與游戲用型靠近。不過必須使用工作站專用配件
- 盡量使用可以少量超頻的硬件以增加性能
- 盡量使用與伺服器相近的高核數 CPU,然後用少量超頻使其接近工作站的頻率
- 使用優化的散熱方案使其在進行一般使用時功耗以及噪音接近一般用型臺式機
- 盡量模擬伺服器的高速網絡,高速儲存以及大容量 RAM 和儲存等等

期望達到的目的是:
- 穩定性較高(僅少量超頻)
- 價錢中等偏高(比一般整機工作站低)
- 功耗性能成正比
- 性能足以支持高質量游戲(因爲超頻)
- 一般工作下功耗小,因此噪音可控
- 生命周期比較長,應該可以不用經常更換配件,維護耗費偏低

當然,如果需要達到以上的效果,還有環境相關的配置。例如如何減少機器内部的積塵,以確保可靠性以及溫度散熱,噪音阻隔處理等等。而工作站和伺服器一般都在噪音溫度隔離的環境中運行,因此如何在一般家庭環境中模擬這些環境也顯得極其重要。

2015年11月21日 星期六

LSI 9361-8i vs. Dell PERC H730P 之糾結拼

早期入手了 LSI (Avago) 9361-8i 控制器,1GB 的緩存,再加上 CacheVault 和 CacheCade 2.0,置換了 Dell H710P,原因在前面的 post 有述。感覺良好,并且有 LSI 的技術支持,直到……

突然發現 -> 沒有 Dimmer Swtich LV3 !!!!!!!!!!!

後果很嚴重,我一大堆 HDD 都沒辦法享受 Spin Down Configured,電費急漲!

開始懷念 Dell H710P 了……突然發現市面上有 Dell H730P,價錢還比 LSI 9361-8i 便宜,感覺這次判斷錯誤,再次果斷置換,終于 DS L3 回來了!

因此總結如下:

LSI 9361-8i


優點:
- LSI 技術支持,3年 warranty
- 頻繁的 driver / firmware 更新
- 有 CacheVault 選項,不用 Lithium Battery
缺點:
- 絕對沒有 Spin Down Configured - 我直接查詢 technical support 的
- 價錢貴
- 標配比 OEM 低
適用:
全天候 online 或者 SSD 爲主的配置,喜歡 CacheVault 的懶人,LSI 的 support 是的確不錯的哦。

Dell PERC H730P


優點:
- 價格便宜
- 2GB RAM / Flash
- 有 Spin Down Configured !!
缺點:
- 沒有 LSI 支持,technical support 絕對不鳥你……
- driver / firmware 更新緩慢
- 順便説句,Dell 也不會鳥你,除非你買他的伺服器……
- 僅 Lithium Battery,兩三年后記得更換,麻煩……
適用:
想要省錢,又能夠忍受沒有 support 的日子,并且有大量 HDD 想要 DS L3 的,就這款吧。

2014年12月30日 星期二

Dell PERC H710P:兼容性問題!!

這是舊事重提了,其實兩個 Dell PERC H710P 都已經出手。這款卡絕對是經典,性價比一流,比 LSI 自己原廠的要好得多,而且可以 Spin Down Configured Drives (忘記是否需要 MegaSCU 改了)。然而在一下的配置中存在致命問題:

配置:
- 非 UEFI 主板(可能無關聯……)
- 非 Dell 系統(可能有關聯……)
- Windows Server 2012 R2 (自帶最新的驅動程序)
- Dell PERC H710P

結局:Fatal Error - PERC Kernel Panic.........      >_<



解決辦法就是用非 Dell PERC H710P 的磁盤裝 Windows,然後降級到 Windows Server 2008 R2 的 PERC H710P 驅動程序……感覺糟透了……

2014年4月26日 星期六

神秘的 Intel Xeon E5-2696 v2:竟然比 E5-2697 v2 要厲害!?

如果你經常逛 Intel ARK,你會發現有些“神秘”的 CPU 型號並不在上面。例如在 2013 年 9 月就推出的 Intel Xeon E5-2696 v2,這款只是針對 OEM 客戶的 CPU 其細節非常稀少。

但從主頻方面來説,Intel Xeon E5-2696 v2 默認為 2.50 GHz,比 Intel Xeon E5-2697 v2 的 2.70 GHz 低 0.2 GHZ。不過,cpuworld 上面的數據卻有點不准確——兩款 CPU 的最高主頻是相同的,都是 3.50 GHz,而不是 cpuworld 所描述的 Intel Xeon E5-2696 v2 只有 3.30 GHz。

所以,在單核滿載情況下,兩款 CPU 的性能是一樣的。

那麽在 12 核同時滿載情況下呢?從我找到的 screenshots 來看,情況卻有點詭異:滿載 Intel Xeon E5-2696 v2 比 E5-2697 v2 要快!12 核滿載,E5-2696 v2 可以達到 3.10 GHz, 而 E5-2697 v2 卻只能夠達到 3.00 GHz……由此看來,其實這個 E5-2696 v2 應該叫做 E5-2698 v2 會更加貼切一點吧。

2012年2月13日 星期一

實現 Windows 2008 R2 與 MS-DOS 8.0 在 iSCSI 上雙重啓動:硬盤必須分配所有空間!

為什麽要用 DOS?其實理由還是很多的,例如:
- 運行 megaoem
- 更新主板 BIOS
- 更新/修改顯卡 BIOS
- 更新硬盤 BIOS
- 更新 RAID Controller BIOS
...

一直以來,我都是用一個額外的 USB 槃放置 DOS 的啓動文件然後進行以上的動作。不過有時候還是覺得不方便,主要是主板 BIOS 有點古怪,從 USB 啓動需要進去 BIOS 調整(把 USB 認作 HDD 了 -_-),所以如果可以 Dual Boot 直接在啓動的時候有一個選擇那就最好。

DOS 肯定不在第一個分區,因爲第一個分區肯定是 Windows 7/2008 的 Bootmgr + 安裝源(不需要 DVD 或者 USB 槃,安裝文件就在第一個分區裏面!)。而使用的 DOS 版本是 8.0,起碼支持 FAT32。我的基本想法就是:

- 創建一個 VHD,在 Hyper-V 裏面調試好,可以進行 Dual Boot
- 把 VHD 挂在 iSCSI 上面,然後使用一台物理電腦通過 gPXE 嘗試啓動
- 把 VHD 用 Ghost 鏡像到物理硬盤,然後本機啓動(未測試)

可以想象,其實第二步(iSCSI)是最挑剔的,如果通過的話,最後一步基本沒難度。

好吧,實際的情況就是,VHD 准備好了,C 槃(第一個分區)是 Windows 啓動+安裝源,D 槃(第二個分區)是 DOS,用 DOS 下面的 Debug 命令創建 BOOTSECT.DOS,然后用 BCDEDIT 指向該文件,在 VM 裏面,DOS 啓動成功。

然而,儅把 VHD 挂載在 iSCSI 上,卻出現了極端詭異的情況:


Starting MS-DOS...


Missing Command Interpreter
Type the name of the Command Interpreter (e.g., C:\WINDOWS\COMMAND.COM)
A>


絕對的詭異~~VM 沒問題,Command.com 存在,然而卻找不到。
一開始以爲是硬盤的格式大小之類,嘗試幾個不同的簇大小,分區大小,不過還是一樣。

最後一發狠,把硬盤剩下的空間全部分配給 DOS 的分區,卻奇跡般的成了!

經過幾番測試終于判定 DOS 只會在這種情況下 Dual Boot:
- 硬盤不是動態硬盤
- 硬盤使用 MBR 分區
- DOS 槃必須是 Primary 分區,不過可以不是第一個
- DOS 分區必須在硬盤的前 127GB 以内(FAT32的說)
- 硬盤必須被使用完全,沒有未分配的空間!

現在是,C 槃 5GB (NTFS, 有 Windows 2008 R2 Setup),D 槃 100MB (FAT32 DOS),E 槃 (NTFS) 22GB 不過是空的,用來預留給 Windows。如果不分配 E 槃,DOS 就啓動不了~!

終于可以實現 Self-contained 鏡像,加個 GRUB 甚至可以直接挂載 ISO,不需要再用光驅,軟驅和 USB 了!

2012年1月16日 星期一

Savvio 15K.3 146GB vs Intel 320 160GB: 一場沒有開始就已經結束的戰爭

按照我的構思,本來是想要入手數個 Savvio 15K.3 146GB 組 RAID 5 作爲 Tier 1 儲存。然而,突如其來的泰國洪水把 HDD 價格推到變態的位置。其實也是比較慶幸,因爲再次審查我的方案構思的時候,發現企業級的 HDD 已經沒有任何的競爭力。

Savvio 15K.3 先別説 4K IO 性能,單從發熱量,耗電量以及噪音上面來説就已經完全沒有優勢。而且,由於存在移動部件,其耐用度還是有待考究。而在價格上,同樣的價格已經完全可以買到一個 Intel 320 160GB!別小看這款面向民用的 SSD,儘管 Intel 在文檔裏面含含糊糊貌似支持 36TB 的 Host Write,實際上這款 SSD 比想象中要耐用的多。

根據 xtremesystems.org 裏面的一個神貼,Intel 320 40GB 版本要到 190TB 才會使 MWI (Media Wearout Indicator,介質損壞指數) 歸零。這可是 40GB 版本,如果是 160GB 應該會有更好的耐用度。而在這個指數歸零之後,其實 SSD 還是可以照樣使用,代價就是開始出現晶體毀壞。由於 SSD 有額外的晶體實現 over-provisioning,帖中的 Intel 320 40GB 竟然可以寫入到 437 TB 而不出現數據損壞或者無法寫入!可以想象,160GB 版本的很可能支持到 1PB 的寫入而完全不會丟失數據!

看來我的計劃需要修改一下了~

再次復活!

上個月突然閒要去日本出差,第一次聖誕節開OT >_<

然後禍不單行,在返程飛機上食物中毒鳥~

好罷,經過頑強奮鬥之後終于有力氣再次繼續寫blog。

嘿嘿,玩具們基本上已經全部到齊,不過我可憐的 Tyan S7025 準備反修——其實也沒有什麽大問題,就是想在保修完蛋之前,換換新的,有一個 onboard SAS port 只能認出三個 HDD,還是挺郁悶的事情,儘管咱現在不用 onboard 好久鳥……

準備下星期開始大動工!

2011年9月25日 星期日

PERC H700 與一些背板 (backplane)/擴展器 (expander) 的兼容性測試報告

幾天前 H700 就已經入手,趁著硬盤以及其他東西還沒有到齊的情況下,先做一些基本測試。主要的目的就是看看到底 H700 是否能夠達到我想象的那種程度,以及是否真的需要 cross-flash 其他用 LSI 2108 ROC 的 RAID 卡的固件。


1、PERC 700 無法檢測 Backplane

無論我怎麽連接,PERC 700 是無法檢測到 backplane 的。我有兩個 backplane,一個是 BPN-SAS-747TQ,一個是 CSE-M35TQ 裏面的 backplane,連接使用帶 sideband 的 Adaptec SSF-8087 fanout 綫,sideband 使用 SGPIO。但是在 MSM 裏面 backplane 總是顯示 0。

不知道 PERC H700 是否不支持 SES-2 協議?


2、Dell PREC H700 與 Intel RES2SV240 的兼容性

首先一個很重要的測試就是 H700 與 RES2SV240 的兼容性。儘管 RES2SV240 只有 24-port,但是支持 load balancing,可以連接兩個輸入 (8-port input)。

連接方式如下:
H700 --> RES2SV240 --> CSE-M35TQ


測試結果:H700 能夠成功辨認 RES2SV240 並且識別成爲 enclosure,硬盤能夠辨認,並且組成 VD。

由此看來,在 LSI MSM 裏面的 enclosure 的定義是 expander 芯片...
只是,不知道爲什麽,總是說 enclosure 的 port 有 sensor error。不過只是 warning,不影響使用。

結論:Dell PREC H700 與 Intel RES2SV240 兼容


3、Dell PREC H700 與 Chenbro CK13601 的兼容性

由於五湖兄的慘案,總是覺得 LSI 的 2108 芯片與上一代的擴展芯片 LSISASX?? (3Gbps) 不兼容。不過既然手頭上有一個 Chenbro CK13601,就不妨也測試一下。CK13601 是 LSISASX36 芯片。

連接方式如下:
H700 --> CK13601 --> CSE-M35TQ


測試結果:H700 能夠成功辨認 CK13601 並且識別成爲 enclosure,硬盤能夠辨認,並且組成 VD。

好吧,或者是 Chenbro 的固件寫得好 (發現原來 Expander 也有固件的~~),或者是 LSISASX12 太舊,或者是 Chenbro 經過幾次固件更新之後終于可以合乎 6Gbps Controller 的口味,反正,CK13601 工作如常~~

結論:Dell PREC H700 與 Chenbro CK13601 兼容


4、Dell PERC H700 與串聯 expander / load balancing 的兼容性

主要目的~~~我的預想就是希望:
1、H700 支持 load balancing,這樣就可以把所有 8-port 接到一個 RES2SV240 上。
2、H700 支持多 enclosure 串聯所以可以把另外一個 RES2SV240 接到第一個 RES2SV240 上 (同樣 8-port in/out)。
這樣理論上我就能夠得到可用的支持 load balancing 的 24-port,可以接 24 個設備,並且不用擔心會導致單通道擁擠(理論上 48Gbps 都可分配)。

由於另外一個 RES2SV240 還沒到,就先用 CK13601 代替:
H700 ==> RES2SV240 --> CK13601 --> CSE-M35TQ


就如同我的猜想一樣,H700 默認的 MaxChainedEnclosures=1 阻止了這種連接方式:

PowerEdge Expandable RAID Controller BIOS
Copyright(c) 2010 LSI Corporation
Press <Ctrl><R> to Run Configuration Utility
HA -0 (Bus 133 Dev 0) PERC H700 Integrated
FW Package: 12.10.1-0001

There are 2 enclosures connected to connector 01, but only maximum of 1 enclosures can be connected to a single SAS connector. Please remove the extra enclosures then restart your system.

這種情況下,必須使用 megaoem 去修改參數。在把 MaxChainedEnclosures 調整到 16 (LSI 9260-8i 的值)后,系統可以啓動,並且可以識別所有的 enclosures:


主界面也有顯示(backplane 還是 0):


儘管下面的那些 Sensor bad on enclosure... 的警告看著刺眼,不過 H700 的確可以識別兩個 enclosures 了...

結論:Dell PREC H700 支持 enclosure 串聯 (在 MaxChainedEnclosures=16 的情況下),load balancing 未知,不過第一個 RES2SV240 可以啓動,貌似沒問題。


感覺上,Dell H700 無需刷其他卡的固件,因爲刷了就會損失一些高級功能。使用 megaoem 開啓一些設定就可以變成與其他同類產品差不多的功能。只是以下功能是沒有辦法開啓的:
1、Dimmer Switch
2、Redundant Path
3、Alarm
4、Cluster

以下功能是能夠開啓的:
1、Hot spare, unused good spin down
2、Max LDs per VD set to 64 (H700 只有 16)
3、Max chained enclosures set to 16 (H700 只有 1)

還有一些 SSD/HDD 或者 SATA/SAS 混合的能力也是可以開啓的。

(不知道 H800 是否也可以通過 megaoem 實現 sata 硬盤的支持呢?嘿嘿)

在特定情況下,H700 就變成可以内部使用的同時,外接更多的 enclosure,達到 H800 的部分能力。

Dell 整天就在恐嚇用戶,網站上面就說沒有 enclosure 支持,不過貌似不是這麽一回事……









Dell PERC H700 終于到手了!

PERC H700 被稱之爲 10 年超值卡。由於一直使用的 Adaptec 5805Z 兼容性有問題,而且 IOP 348 處理器有 1.2GB/s 的瓶頸 (聽説主要是由於從 PCI-X 移植到 PCIe 的後遺症),所以決定入手一個 H700。從淘寶上購買,然後連運費一共費了我 600 NZD,不過縂比從美國買要好,而且是全新的。美國那邊就算是二手的也價格不菲。

真正超值的只有 H700 的 1GB NV 版本。這個版本帶有 CacheCade 和 FastPath 以及 Cut-through IO,想必同類型的 LSI 卡便宜了不少!

首先是包裝,基本的工業包裝,不過可能上去有點壓倉貨的樣子 -_-


内容很簡單——PERC H700 + 電池:


注意:電池是必須的!沒有電池,那個 1GB NV RAM 是不會工作的!反正可能是 Adaptec 已經註冊了 Super Cap 的專利,所以電池還是必需品。這也是我頭疼的地方——每一年要給 Dell 砍一次,換電池,唉,還得拖著尾巴,跟 Adaptec 5805Z 一樣。看來甩掉尾巴的日子遙遙無期。



由於這個 ROC 是 IBM 的 PowerPC 800MHz,儘管是單核,但也是 CPU。於是趁著是全新,裏面的導熱硅脂還沒有硬化的時候,趕緊先換了!嘿嘿。貌似有點 overkill...先把散熱片拿下來(只是很簡單的扣件),然後用 ArticClean 吧上面的硅脂都清理掉:


準備使用的是 IC Diamond——鑽石微粒做成的硅脂,導熱很好,我的CPU一般都用它:


用 Dot 方案,應用硅脂,然後裝上散熱片。注意:必須壓緊!那個扣件的壓力不足,必須用手加壓,注意用海綿墊防止壓坏元件。


然後,終于發現一個問題——沒有 PCI 槽的擋板!由於這個是 H700 Integrated 版本,沒有 Adapter 版本裏面附有的綫材以及 PCI 擋板,所以只好找找看看有沒有合用的,因爲這個卡是必須插在 PCIe 槽上面的 -_- 找了半天,發現只有 Chenbro CK13601 的擋板合用,嘿嘿:


結果,可憐的 CK13601 就貢獻了擋板,反正我也沒打算把 CK13601 插在 PCI 槽中(Expander 只要電源就能夠工作,我打算吊掛)。這樣 H700 Integrated 就變成 H700 Adapter 了,只不過樣子難看一點,以后有機會找一個更合適的擋板好了。看了一下淘寶,實際上也有的賣,只不過要 50 RMB,感覺有點搶錢——只是一個擋板而已...

其實以上換散熱硅脂的步驟只是額外的,可能本來使用的硅脂就可以很好的支持散熱。只不過,經過 Adaptec 5805Z 的高溫事件之後,也不太相信廠商自己使用的配置。Adaptec 5805Z 我還要用一個 Evercool FOX-1 去抽熱,要不然夏天得上 90 C。當然,要給一個雙核 1.2G 的 CPU 做小範圍被動散熱,貌似也是苛刻了一點……爲了 H700 的健康,還是用鑽石好,呵呵。


為 Adaptec 5805Z 配備一個 Chenbro CK13601

Chenbro CK13601 已經很難找,從美國那邊訂了,然後還要等 Drop Ship 才能夠運過來。至於爲什麽不買 CK23601 (6Gbps) 的版本,原因有二:首先是價錢比 CK13601 貴 50 USD 左右,運過來新西蘭要打稅(剛剛好超過限額了 -_-),第二是 Adaptec 5805Z 比較挑,以前跟 Intel RES2SV240 有過節,所以還是給它買個 3Gbps 的同代產品好,至少知道 Adaptec 5805Z 跟 CK13601 是兼容的說~

Chenbro 的東西其實還是不錯的,就是數量不多,而且客服也不鳥你。但就實用性來説還是可以的。首先是包裝:


白盒,嘿嘿,還是挺特別的。内面就是 CK13601 以及一條 35cm 的 host -> expander SFF-8087 綫,感覺不錯。35cm 這個長度不常見,而且比較適合距離較遠的佈局:


卡的佈局比較粗曠,面積很大,可能是爲了放置更多的接口,並且保留足夠的距離用以走綫。唯一覺得有點古怪的是,LSISASX36 芯片上面的散熱片是粘貼上去的!希望這個擴展芯片不會很熱,否則使用散熱膠水黏貼的散熱片可能導熱不良。


使用中的 CK13601 指示燈較多,可以說是色彩繽紛,嘿嘿,不過各自表達的意思也挺清晰。注意的是,CK13601 只有一個輸入端口 (input port)。裏面的輸入端口用了,外置的那個就不能用,反之亦然。主要是這個卡沒有設置 load balancing 的支持……配 Adaptec 5805Z 就是絕配了 -_-

Incompatibilities and Compatibilities

NOTE: This article will be updated in the future when more compatibilities / incompatibilities are discovered.  Incompatibilities   12-Feb-...