顯示具有 硬件 標籤的文章。 顯示所有文章
顯示具有 硬件 標籤的文章。 顯示所有文章

2022年2月12日 星期六

Incompatibilities and Compatibilities

NOTE: This article will be updated in the future when more compatibilities / incompatibilities are discovered. 

Incompatibilities

 

12-Feb-2022

  • OPNSense (and potentially pfSense as well) CARP protocol is not compatible with Arista (7060CX-32S, and potentially other models) switches.
  • [13-Feb-2022] OPNSense (and potentially pfSense as well) CARP protocol is not compatible with Windows Server 2022 Virtual Switches with SR-IOV enabled. Workaround is to NOT select SR-IOV option when creating the virtual switch.
  • Windows Server 2022 (Host) with Windows 11 Guest VM: Nested Virtualization is not compatible with Discreet Device Assignment (DDA) and SR-IOV. Once both are enabled, all passed-through devices (including SR-IOV virtual functions) will fail to be started with the same reason "Insufficient System Resources".
  • RME PCI-E Sounds Cards such as HDSPe RayDAT and HDSPe AIO are not compatible with Windows Discreet Device Assignment (DDA) and potentially all other device pass-through technologies. The device drivers can be installed on guest OS but it will not yield any sound.
  • Datapath VisionAV PCI-E Capture Cards are not compatible with Windows Discreet Device Assignment (DDA) and potentially all other device pass-through technologies. The device drivers cannot be started properly in guest OS.

2020年9月21日 星期一

超微 Supermicro X11DPi-NT 主板的注意事項

Supermicro X11DPi-NT / X11DPi-N 這款主板堪稱接近完美。它基本上把從 Xeon CPU 中可用的 PCI Express 鏈路都用上了,并且 CPU 和 CPU 之間也是使用 3 條 QPI 連接上的(這個是要點,有的主板只有兩條 QPI 的)。

但是!

如果你打算使用 X11DPi-NT 用作 VROC 用途,那麽你就要注意了。這款主板支持 Intel VROC,不過有以下的限制:

1、除了主板自帶的兩個 OCuLink 端口,就只有 Slot 6 這根插槽具有 VROC 功能。

2、必須把 Slot 6 設置成爲 x4x4x4x4 的 Bifurcation 模式才能夠啓用該插槽的 VMD 功能。這就是說我沒辦法使用 PCI Express Switch (PLX / PEX) 以鏈路更多的 NVME SSD。

3、好像 Slot 6 和主板的兩個 OCuLink 端口并不是同一個 CPU 的……

基本上,X11DPi-NT 的 VROC 功能極其有限。如果閣下有使用大量 NVME 作 RAID 的打算,那麽就不要重蹈本人的覆徹。可以考慮 X11DPH-T / X11DPH-i ——這款主板所有 PCIe 插槽都支援 VMD,包含兩個 M.2 插槽。并且應該支持任意的 Bifurcation 模式,這對於打算使用 PLX / PEX PCI-E Switch 的用戶來説是一個不錯選擇。

2020年9月15日 星期二

Intel Xeon Platinum 8269CY 處理器使用及兼容性報告

Intel Xeon Platinum 8269CY 這款 CPU 是“阿里雲” (Alibaba Cloud) 的定制版。在超微 Supermicro X11DPi-NT 主板上 (BIOS 3.1a)測試成功。不過,該 CPU 僅支援 2666MHz 的内存(2933MHz 的也運行於這個速度),這也是一個要注意的地方。

該處理器支援 Intel Speed Select 技術(型號中帶 'Y' 的 SKU 都有的),有兩個 Profile (預設方案):標準的 26 核,運行於 2.5 GHz 的基礎速度,全核運行最高速度 3.2 GHz;以及高性能的 20 核,運行於 3.1 GHz 的基礎速度,全核運行最高速度 3.5 GHz。兩個方案的單核最高速度均爲 3.8 GHz,兩個方案的 TDP 都是 205W。方案可以在 BIOS 裏面設定。


 

按照耗電量來説,除非這個定制版還有什麽特殊的能力,否則其功耗  205W 有點過高。不過勝於這個是步進 7 的正式版 CPU,穩定性和兼容性和其他零售版的 Platinum Xeon 相若,價錢合適的話也是個不錯的入場選項。

2020年8月22日 星期六

Farewell: Hard Disk Drives

It has been so many years already - my first HDD was a CONNER CFS-420A with capacity 420 MB. It should be around 1994. That was the exciting moment I can still remember - what an upgrade to 1.44MB floppy disks!

More than 25 years later, now I have made the decision to phase out all HDD sin my system. I have even bought a few 12TB Seagate Exos for my next project, but now they will be sold before being put into real use.

My experiences with HDDs could be quite a bit different from most of the people out there: I was very cautious about reliability and durability, rather than focusing mainly on capacity. If you have ever noticed about the specifications of the most decent HDDs, you might start noticing one thing: the Unrecoverable Error Rate has remained 10^14 (consumer parts) and 10^15 (server parts for many years without improvement.

Yes, right, who would be really caring about these numbers? They are just indicators, and new technology should be always more reliable, right? Unfortunately, my personal believe is, if there is a number published in that way, it MUST has a meaning. Consider other common storage technologies, such as SSD (10^17 for enterprise parts) and Tapes (10^17 - 10^19), what I can say is HDDs have a frightening LOW reliability nowadays.

Imagine a 1 TB HDD and a 10 TB HDD, they both have URE of 10^15. During a RAID rebuild, 10TB one will have 10 times higher chance to encounter an URE. While 10^15 URE means you *might* encounter a Non-Recoverable Read Error every 125 TB of data, this is not a lot for today's large capacity drives. If I am using 10x 12TB Exos HDDs to build a RAID 6 array, it will be so likely to get a Read Error during re-build - which is exactly the reason putting me off from proceeding with my original plan. I just don't want to put my data at risk.

That's also the reason why in the past my 16 HDDs RAID 60 array served me well, because each member was only 1TB in size. With 10^15 URE, the array was still relatively secured and it has proved itself. However, with 12TB, 10^15 URE is DANGEROUS and it is not making sense for traditional RAID techonology.

Also, think about the rebuild time - with my 16 HDDs RAID 60, even with a 1TB drive size, the rebuild time was somewhere around 4 hours without anyone using it. How about a 12 TB HDD? Well, if you are luck, you can have the array rebuilt in 2 days (given that nobody will be using it). Otherwise, it could be "weeks" - and the longer the time, the more likely another unrecoverable read error can happen. (And another one!)

You may say RAID is now out of date. But unfortunately it is the opposite - HDDs are now out of date. I now have an array of 2TB SSDs in RAID 6, and I am feeling way more comfortable with their 10^17 URE. The maximum size of SSD I can accept to be put into the array would be 15.36TB - if higher then I will need 10^18 URE.

HDD has a good characteristic: offline durability. This is especially true when it comes to offline data storage - think about data retention of SSD when it has been completely powered off - after the Intel 320 array incident happened to me in the past (data gone after powering off for > 1 month), I think you might expect data could be held in server class SSDs for 1 year max offline without problem, but don't expect more than that. HDD can do far better than SSD in this case since the storage of data is not depending on electricity stored in NAND cells that could leak, but on platter with magnetic recording that can last.

HOWEVER, how often are you going to put your HDDs offline? Possibly never - they are in RAID, and they are serving as nearline storage. This has defeated the purpose of this great characteristic. For nearline storage, I can easily use SSDs because they are ONLINE, with continuous power supply so they have the same data retention reliability as HDDs. They can run cooler and they have far better access performance than HDDs. So that's why my 12TB Exos are out of the picture for my project - I will be getting some 15.36 TB SSDs instead.

For archiving, an "old school" technology has somehow came to my mind - TAPES! They are offline storage, portable, power efficient and has a really high URE. They use magnetic recording as well so data retention is surprisingly good. If I need archiving, a tape library is better suited in this case.

With Tapes and SSDs, I have to say "farewell" to HDDs - unless URE has been increased to 10^16 or even 10^17, they won't be considered by me just because I want to have better sleep at night without worrying about RAID rebuild...

FAREWELL, MY LOVELY HDDS!

2020年8月1日 星期六

Windows Network Direct: Your better bet is with Windows Server 2019

I have been always struggling to get RDMA working inside a Windows virtual machine. I had tried Mellanox ConnectX-3, Mellanox ConnectX-5 and Chelsio T62100-LP-CR network adapters, with Windows Server 2012 or 2016, and even with Direct Device Assignment in Windows Server 2016, I could not get RDMA working flawlessly in any virtual machine.

Recently, I retried RDMA in a Windows VM (2019) on a Windows Server 2019 host, with a Chelsio T62100-LP-CR - and finally have RDMA (iWarp) working correctly (even without a switch - you can connect port 1 to port 2 to form a 100GbE link). It enabled SMB Direct between the VM and the host (and between VMs as well), and performance was acceptable (needs tuning).

If you are after any RDMA application inside a Windows VM, or simple just want to use SMB Direct in a VM, Windows Server 2019 or later is your better bet in this case.

Do note that you need the following:
  • SR-IOV support from BIOS - this sometimes means enabling the ASPM option in BIOS.
  • A network card that supports RDMA - I like iWarp because it is simpler (virtually no configuration needed). If you like RoCE then you may need DCB configured properly, or even need a 40GbE/100GbE switch.
  • Windows Server 2019 or higher - both host and VM. You may use Windows 10 (latest) - I didn't try that out but theoretically it should work.
  • Workstation / Server grade hardware - I have seen many times people complaining about not being able to enable SR-IOV due to missing implementation like IOMMU or ACS etc. with consumer grade hardware. Your CPU supports all these features doesn't mean your motherboard / BIOS has support of all features.

2016年8月28日 星期日

Windows Server 2016 DDA 直接設備授予虛擬機的一些要點

算是微軟的一些“突破”吧,反正 VMWare 一早就有這個技術。不論如何,至少直接把 PCI Express 設備,例如顯卡,聲卡,網卡或者 USB 3.0 端口授予虛擬機單獨訪問已經變得可能。然而并非所有設備都都能夠使用此功能。掃描了一下自己伺服器的硬件大概折這樣的:

1、老式 PCI 設備——別想了,放棄吧。
2、PCI Express 1.0 設備或者鏈路到 PCI Express 1.0 橋接芯片上的設備——也別想了,洗洗睡吧。
3、連路到 Intel PCH (就是現在有點想南橋的那個東東) 的設備——看運氣,就算你是 PCI Express 2.0,沒有 ACS (Access Control Service) 那也是別想了……什麽意思呢?就是板載的網卡,USB 3.0 口之類的,衹有是從 PCH 延伸出來的,就別想了……
4、有 ACS,但是是複合設備,那也別想了,至少我的 NVIDIA Quadro K4200 是不行的!

所以最終發現能夠 DDA 的就衹有直接連在 CPU 的根部 PCI Express 3.0 端口的設備,或者鏈路到支持 ACS 的 PCI Express 2.0 擴展盒的設備:
- Dell PERC H730P (別開玩笑了……把 100 個磁盤弄到 VM 裏面幹啥?)
- Mellanox ConnectX-3 (好吧,算是靠譜一點……)
- HP ioDrive DUO SLC 320GB (算不算 NVMe 直接授予!?-_-)

看來我那些 PCI Express 1.0 的 Expansion Backplanes / Enclosures 都沒啥用處了~

NVIDIA Grid 授權模式:要買蘋果得把高壓鍋也買了!?

我并不反對 NVIDIA 對 GRID 的授權模式的更改。儘管每用戶的授權會增加花費,但是從價格上還是可以接受。但是!但是!最主要的是,就算你入手了一張 NVIDIA GRID M10,如果沒有從 NVIDIA 指定合作夥伴購買整機,你是沒有辦法獲得授權的!

什麽意思?就是你從 ebay 買了十張 NVIDIA GDID M10 卡那也衹是一堆廢件!除非你從 Dell 或者 Supermicro 什麽的整機購買了伺服器。這樣你才能夠從 NVIDIA 購買授權……

簡單點:想買蘋果?先把這個高壓鍋買了 。怎麽?你不用蘋果來燒湯?那我可不管,買高壓鍋可是先決條件呢……

2015年11月22日 星期日

Intel 320 160GB SSD: 小心 MLC 可怕的“空白門”事件!

其實這是一年多以前的事情了。那時候入手了 4 個 Intel 320 160GB SSD,然後組成了一個 RAID 5 陣列,用起來沒有問題,性能挺不錯的。

不過由於需要更新機器的硬件,所以我把機器關掉了大約一個月的時間,之後硬件更新完畢,開始后發現令人抓狂的一幕:4 個 Intel 320 160GB SSD 其中的兩個變成完全空白了!!

令人抓狂的兩個!而不是一個!RAID 5 更本救不了!數據完全丟失!!

後來調查了一下,發現這種事情還是在情理之中的。首先,SSD 是通過電壓來儲存數據的,也就是説,每一個 Cell 特定的電壓會代表不同位狀態。SLC SSD 會比較簡單,有電壓和歸零代表位的 0 和 1,然而 MLC SSD 就會比較複雜。而在這一個月時間中,我是沒有開機的,也就是説所有的 SSD 均沒有辦法補充電量。我所有的 Intel X25-E SSD 均沒有數據丟失的問題,也不知道是由於高端質量還是 SLC 對電壓的容錯性好。然而其兩個 Intel 320 160GB SSD 則很不幸是“漏電體”,在沒有加電的情況下,電壓流失。這個時候,MLC Cell 裏面的電壓就會把原來該標識的數據表示成爲另外的錯誤數據,以至於整盤數據混亂,完蛋了……

當然,那兩個 SSD 在重新分區格式化之後還是可以使用,衹不過一旦長時間不通電,數據還是會丟失。

最終的結局就是我把所有 MLC 類型的 SSD 都出手了。其實現在的情況還是有點令人堪憂。總所周知,晶體越大,儲電越多。例如 Intel X25-E 的 50nm 大晶體,儲電能力肯定比 Intel 320 160GB SSD 的 34nm 要好得多,更不用説 SLC 衹需要表示 2 種狀態,而 MLC 需要表示 4 種狀態,對電壓值得準確性要求高得多。而現在的 MLC 可能衹用 25nm 甚至更小的晶體,本身儲電量已經少,如果沒有很好的辦法防止漏電,長時間鍵關機就可能導致數據錯亂甚至消失了。

關於電腦均衡構建 (Balance Build) 的設想

儘管衹是一種設想,不過這幾年其實一直還是按照這個目標來更新我的電腦的。其實從一開始購買 Intel Xeon E5520 / W5580 的時候就有這種想法。一般來説,到目前爲止固定電腦可以歸類爲一下類別:

一般用型臺式機
近來這種類型都在從固定轉變成爲移動,例如平板電腦,手提電腦,手機等等。不過臺式機還是有一定的市場份額。這種電腦一般用於日常工作,對於高强度 3D 處理卻不盡人意。然而價錢便宜,部件容易獲取卻是一大優勢。一般比較安靜,功耗低。生命周期一般。

游戲用型臺式機
主要目的就是用來玩游戲。超頻通常與這種電腦挂鈎。該機器會產生大量熱能,并且由於超頻,硬件壽命可能會縮短。可靠性不是一個考慮因素,價錢以及超頻能力才是主要目的。注意功耗與性能在超頻狀態下基本上不成正比,還可能會需要用到液冷設備以處理高發熱。一般在高熱下噪音大,不過可能用戶不會太在意。生命周期短。

工作站
貴重物事。擁有較好的 3D 加速能力,玩游戲一般比游戲用型稍差,主要是因爲其主要用途是特定的專業程序,對游戲沒有特別優化。超頻一般不可能,或者衹能夠少量超頻。可靠性是重中之重,硬件質量比一般或者游戲用機器高,就算在少量超頻的情況下。熱量可控并且沒有游戲用型那麽誇張。全速下噪音可能會偏高。一般整機出售。生命周期較長。

伺服器
誇張的貴重物事。一般 Headless,直接在上面玩游戲什麽的不大現實(儘管有可能)。以穩定性爲重,所以散熱噪音超級大。不可超頻。擁有極高的平行運算能力,以及高速網絡,大容量儲存等等。一般整機出售。生命周期較長。

那麽均衡構建的電腦的設想又是怎樣呢?我的計劃有如下幾點:
- 以工作站爲切入點
- 不進行整機購買,減少花費,以沒有技術支持爲代價,使其價格與游戲用型靠近。不過必須使用工作站專用配件
- 盡量使用可以少量超頻的硬件以增加性能
- 盡量使用與伺服器相近的高核數 CPU,然後用少量超頻使其接近工作站的頻率
- 使用優化的散熱方案使其在進行一般使用時功耗以及噪音接近一般用型臺式機
- 盡量模擬伺服器的高速網絡,高速儲存以及大容量 RAM 和儲存等等

期望達到的目的是:
- 穩定性較高(僅少量超頻)
- 價錢中等偏高(比一般整機工作站低)
- 功耗性能成正比
- 性能足以支持高質量游戲(因爲超頻)
- 一般工作下功耗小,因此噪音可控
- 生命周期比較長,應該可以不用經常更換配件,維護耗費偏低

當然,如果需要達到以上的效果,還有環境相關的配置。例如如何減少機器内部的積塵,以確保可靠性以及溫度散熱,噪音阻隔處理等等。而工作站和伺服器一般都在噪音溫度隔離的環境中運行,因此如何在一般家庭環境中模擬這些環境也顯得極其重要。

2015年11月21日 星期六

LSI 9361-8i vs. Dell PERC H730P 之糾結拼

早期入手了 LSI (Avago) 9361-8i 控制器,1GB 的緩存,再加上 CacheVault 和 CacheCade 2.0,置換了 Dell H710P,原因在前面的 post 有述。感覺良好,并且有 LSI 的技術支持,直到……

突然發現 -> 沒有 Dimmer Swtich LV3 !!!!!!!!!!!

後果很嚴重,我一大堆 HDD 都沒辦法享受 Spin Down Configured,電費急漲!

開始懷念 Dell H710P 了……突然發現市面上有 Dell H730P,價錢還比 LSI 9361-8i 便宜,感覺這次判斷錯誤,再次果斷置換,終于 DS L3 回來了!

因此總結如下:

LSI 9361-8i


優點:
- LSI 技術支持,3年 warranty
- 頻繁的 driver / firmware 更新
- 有 CacheVault 選項,不用 Lithium Battery
缺點:
- 絕對沒有 Spin Down Configured - 我直接查詢 technical support 的
- 價錢貴
- 標配比 OEM 低
適用:
全天候 online 或者 SSD 爲主的配置,喜歡 CacheVault 的懶人,LSI 的 support 是的確不錯的哦。

Dell PERC H730P


優點:
- 價格便宜
- 2GB RAM / Flash
- 有 Spin Down Configured !!
缺點:
- 沒有 LSI 支持,technical support 絕對不鳥你……
- driver / firmware 更新緩慢
- 順便説句,Dell 也不會鳥你,除非你買他的伺服器……
- 僅 Lithium Battery,兩三年后記得更換,麻煩……
適用:
想要省錢,又能夠忍受沒有 support 的日子,并且有大量 HDD 想要 DS L3 的,就這款吧。

2014年12月30日 星期二

Dell PERC H710P:兼容性問題!!

這是舊事重提了,其實兩個 Dell PERC H710P 都已經出手。這款卡絕對是經典,性價比一流,比 LSI 自己原廠的要好得多,而且可以 Spin Down Configured Drives (忘記是否需要 MegaSCU 改了)。然而在一下的配置中存在致命問題:

配置:
- 非 UEFI 主板(可能無關聯……)
- 非 Dell 系統(可能有關聯……)
- Windows Server 2012 R2 (自帶最新的驅動程序)
- Dell PERC H710P

結局:Fatal Error - PERC Kernel Panic.........      >_<



解決辦法就是用非 Dell PERC H710P 的磁盤裝 Windows,然後降級到 Windows Server 2008 R2 的 PERC H710P 驅動程序……感覺糟透了……

USB 綫材的迷思:真的會影響 DAC 音質嗎?

結論:單從數字音頻信號角度來説——不會!

從網絡上搜索了一下,發現一些朋友親自測試了一下,用“貴重、高質量”的 USB 綫材與便宜的 USB 綫材進行對比,發現 USB 綫材居然真的會“影響音質以及音色”,有的會使其“更明亮”,有的會使其“更暗晦”之類的評論。其實想知道這些是真是假,首先要瞭解什麽是數字音頻。

從數字角度來説,USB 綫材衹是用來傳輸數據,也就是 0 和 1。這些都是用電壓來表示。有的 USB 設備帶有奇偶校驗,以確保可以檢測到收到的數據是否正確。如果不正確,就會讓聲卡重新發送數據。而沒有校驗的,則可能會直接播放收到的數據,這樣就可能會產生爆音,或者停頓 (Jitter)。

注意,爆音或者停頓都與音質音色無關!也就是說,如果 USB 綫材不良,導致數據錯亂,也不會影響到音質音色,因爲數字化后的音頻數據就是一堆 0 和 1,用不同的綫材傳輸也都是一堆 0 和 1,排列順序,頻率等都不會受到環境因數的影響而改變,衹會丟失 (Jitter) 或者 0 和 1 互換(爆音,走音)。後者的產生衹會在沒有奇偶校驗的設備上出現——而我也很難相信到現在還有 USB 設備不帶奇偶校驗的!!

那麽説説那些朋友真的聽出有音質差別:這到底是怎麽一回事呢?

先説説 USB DAC 的供電模式:
- USB 主機供電
- 額外供電 + USB 主機供電
- 純額外供電

USB 主機供電

基本上這些都是便宜的 DAC,依靠 USB 綫從電腦獲取供電。這些設備的音質音色是的確會受到 USB 綫材的材質的影響的!什麽?你剛剛不是說 USB 綫材不會影響音質音色嗎?怎麽這回又説會呢?注意的是,我説的是不會影響 USB 數據,但沒有說不會影響 USB 供電啊!這些設備因爲依賴于 USB 供電,電腦中的設備所產生的干擾就會沿著 USB 綫傳入 DAC 中,而 DAC 的電源因爲沒有隔離,所以這些干擾就會進入經過 DAC 轉化后的模擬 (Analog) 信號裏面!也就是説,干擾不會進入 DAC 轉化前的數字 (Digital) 信號,但是會影響轉化后的結果,原因就是轉化后的結果所經過的處理,例如放大之類的,是使用 USB 供電進行運作的!結果就是把 PC 裏面的干擾放到輸出裏面了。這時候,USB 綫材的電阻,屏蔽之類的也就會開始影響結果的音質音色,導致有些朋友會因不同 USB 綫材聽出不一樣的聲音來!

額外供電 + USB 主機供電

有些 DAC 有額外供電,但是在設計上面有缺陷,把 USB 供電也帶進模擬數據處理的電路中,結果同上!!

純額外供電

這些 DAC 有適當的隔離措施,模擬處理部分使用純額外供電。這時候,電腦主機裏面的噪音干擾無法進入模擬 (Analog) 處理部分。也就是説,無論你選擇什麽 USB 綫,用在這種類型的 DAC 上面,音質音色都會是相同的!

所以,結果就是,無論我用什麽 USB 綫,我的 Sennheiser HDVD800 輸出的結果都是一致的,因爲供電部分與 USB 供電隔離。而如果閣下發現使用不同的 USB 綫材會產生不一樣的音色音效,那麽閣下可能要考慮購買 USB 供電過濾隔離的額外設備,例如》這個《(不知道是否有功效……),從而過濾掉 PC 所產生的噪音干擾,以及USB 綫所受到的 EMI 干擾等。

2014年4月26日 星期六

神秘的 Intel Xeon E5-2696 v2:竟然比 E5-2697 v2 要厲害!?

如果你經常逛 Intel ARK,你會發現有些“神秘”的 CPU 型號並不在上面。例如在 2013 年 9 月就推出的 Intel Xeon E5-2696 v2,這款只是針對 OEM 客戶的 CPU 其細節非常稀少。

但從主頻方面來説,Intel Xeon E5-2696 v2 默認為 2.50 GHz,比 Intel Xeon E5-2697 v2 的 2.70 GHz 低 0.2 GHZ。不過,cpuworld 上面的數據卻有點不准確——兩款 CPU 的最高主頻是相同的,都是 3.50 GHz,而不是 cpuworld 所描述的 Intel Xeon E5-2696 v2 只有 3.30 GHz。

所以,在單核滿載情況下,兩款 CPU 的性能是一樣的。

那麽在 12 核同時滿載情況下呢?從我找到的 screenshots 來看,情況卻有點詭異:滿載 Intel Xeon E5-2696 v2 比 E5-2697 v2 要快!12 核滿載,E5-2696 v2 可以達到 3.10 GHz, 而 E5-2697 v2 卻只能夠達到 3.00 GHz……由此看來,其實這個 E5-2696 v2 應該叫做 E5-2698 v2 會更加貼切一點吧。

2012年2月13日 星期一

實現 Windows 2008 R2 與 MS-DOS 8.0 在 iSCSI 上雙重啓動:硬盤必須分配所有空間!

為什麽要用 DOS?其實理由還是很多的,例如:
- 運行 megaoem
- 更新主板 BIOS
- 更新/修改顯卡 BIOS
- 更新硬盤 BIOS
- 更新 RAID Controller BIOS
...

一直以來,我都是用一個額外的 USB 槃放置 DOS 的啓動文件然後進行以上的動作。不過有時候還是覺得不方便,主要是主板 BIOS 有點古怪,從 USB 啓動需要進去 BIOS 調整(把 USB 認作 HDD 了 -_-),所以如果可以 Dual Boot 直接在啓動的時候有一個選擇那就最好。

DOS 肯定不在第一個分區,因爲第一個分區肯定是 Windows 7/2008 的 Bootmgr + 安裝源(不需要 DVD 或者 USB 槃,安裝文件就在第一個分區裏面!)。而使用的 DOS 版本是 8.0,起碼支持 FAT32。我的基本想法就是:

- 創建一個 VHD,在 Hyper-V 裏面調試好,可以進行 Dual Boot
- 把 VHD 挂在 iSCSI 上面,然後使用一台物理電腦通過 gPXE 嘗試啓動
- 把 VHD 用 Ghost 鏡像到物理硬盤,然後本機啓動(未測試)

可以想象,其實第二步(iSCSI)是最挑剔的,如果通過的話,最後一步基本沒難度。

好吧,實際的情況就是,VHD 准備好了,C 槃(第一個分區)是 Windows 啓動+安裝源,D 槃(第二個分區)是 DOS,用 DOS 下面的 Debug 命令創建 BOOTSECT.DOS,然后用 BCDEDIT 指向該文件,在 VM 裏面,DOS 啓動成功。

然而,儅把 VHD 挂載在 iSCSI 上,卻出現了極端詭異的情況:


Starting MS-DOS...


Missing Command Interpreter
Type the name of the Command Interpreter (e.g., C:\WINDOWS\COMMAND.COM)
A>


絕對的詭異~~VM 沒問題,Command.com 存在,然而卻找不到。
一開始以爲是硬盤的格式大小之類,嘗試幾個不同的簇大小,分區大小,不過還是一樣。

最後一發狠,把硬盤剩下的空間全部分配給 DOS 的分區,卻奇跡般的成了!

經過幾番測試終于判定 DOS 只會在這種情況下 Dual Boot:
- 硬盤不是動態硬盤
- 硬盤使用 MBR 分區
- DOS 槃必須是 Primary 分區,不過可以不是第一個
- DOS 分區必須在硬盤的前 127GB 以内(FAT32的說)
- 硬盤必須被使用完全,沒有未分配的空間!

現在是,C 槃 5GB (NTFS, 有 Windows 2008 R2 Setup),D 槃 100MB (FAT32 DOS),E 槃 (NTFS) 22GB 不過是空的,用來預留給 Windows。如果不分配 E 槃,DOS 就啓動不了~!

終于可以實現 Self-contained 鏡像,加個 GRUB 甚至可以直接挂載 ISO,不需要再用光驅,軟驅和 USB 了!

2012年1月27日 星期五

原來 Intel X25-E 竟然也有 8MB 門,而且給我遇到了!

終于有時間整理那些過去一年幾經艱辛收集到的 Intel X25-E 32GB 硬盤(我是挺有耐性的~),因爲都是是全新的,所以買來的時候沒有理會。結果,在今天集體開包的時候,其中一個 SSD 驚現 8MB 門事件。那時候在用 Crystal Disk 逐個確認 SSD 都是新的,然後:


心裏拔涼拔涼的,去看磁盤管理,果不其然:


而且研究了一下 Google,發現這种是連 Intel Toolbox 那個 Secure Erase 都沒有辦法修復的~~原因是 SSD 的序列號都沒有認出來,只是被識別成 Intel SSD Bootloaer。

也嘗試了用哪個 Firmware Update 1.92 更新固件,不過連 SSD 也認不出來,貌似沒啥用……

然後發了 email 給 Intel,Intel 卻極其爽快,發了個新的 Replacement 過來(還在運送中),還說把坏的放到一同寄到的那個預付郵包然後寄囘來就好~~反正我一分錢也不用花,感覺還是挺不錯的。至於其他 X25-E 都沒問題,非常生猛……

看來大公司就是大公司,保修沒的說~

UPDATE: 2012/02/12
其實有一點弄錯了,Intel 寄過來的只是一個袋子而已~~然後當天就聯係上 FedEx 來取件。反正是 Intel 付錢的,跟收件員說加急,嘿嘿~~兩天前就收到 Intel 寄囘來的 Replacement。儘管賣相一般,外殼有點磨損,不過好像也是全新的,Host Write 只有 36GB,0 小時使用,懷疑是 Intel 專門留下來做 RMA 用的存貨~~

不過無論如何,對此我是非常滿意的,起碼比 Tyan 那邊要好多了 >_<

2012年1月16日 星期一

Savvio 15K.3 146GB vs Intel 320 160GB: 一場沒有開始就已經結束的戰爭

按照我的構思,本來是想要入手數個 Savvio 15K.3 146GB 組 RAID 5 作爲 Tier 1 儲存。然而,突如其來的泰國洪水把 HDD 價格推到變態的位置。其實也是比較慶幸,因爲再次審查我的方案構思的時候,發現企業級的 HDD 已經沒有任何的競爭力。

Savvio 15K.3 先別説 4K IO 性能,單從發熱量,耗電量以及噪音上面來説就已經完全沒有優勢。而且,由於存在移動部件,其耐用度還是有待考究。而在價格上,同樣的價格已經完全可以買到一個 Intel 320 160GB!別小看這款面向民用的 SSD,儘管 Intel 在文檔裏面含含糊糊貌似支持 36TB 的 Host Write,實際上這款 SSD 比想象中要耐用的多。

根據 xtremesystems.org 裏面的一個神貼,Intel 320 40GB 版本要到 190TB 才會使 MWI (Media Wearout Indicator,介質損壞指數) 歸零。這可是 40GB 版本,如果是 160GB 應該會有更好的耐用度。而在這個指數歸零之後,其實 SSD 還是可以照樣使用,代價就是開始出現晶體毀壞。由於 SSD 有額外的晶體實現 over-provisioning,帖中的 Intel 320 40GB 竟然可以寫入到 437 TB 而不出現數據損壞或者無法寫入!可以想象,160GB 版本的很可能支持到 1PB 的寫入而完全不會丟失數據!

看來我的計劃需要修改一下了~

2011年9月25日 星期日

PERC H700 與一些背板 (backplane)/擴展器 (expander) 的兼容性測試報告

幾天前 H700 就已經入手,趁著硬盤以及其他東西還沒有到齊的情況下,先做一些基本測試。主要的目的就是看看到底 H700 是否能夠達到我想象的那種程度,以及是否真的需要 cross-flash 其他用 LSI 2108 ROC 的 RAID 卡的固件。


1、PERC 700 無法檢測 Backplane

無論我怎麽連接,PERC 700 是無法檢測到 backplane 的。我有兩個 backplane,一個是 BPN-SAS-747TQ,一個是 CSE-M35TQ 裏面的 backplane,連接使用帶 sideband 的 Adaptec SSF-8087 fanout 綫,sideband 使用 SGPIO。但是在 MSM 裏面 backplane 總是顯示 0。

不知道 PERC H700 是否不支持 SES-2 協議?


2、Dell PREC H700 與 Intel RES2SV240 的兼容性

首先一個很重要的測試就是 H700 與 RES2SV240 的兼容性。儘管 RES2SV240 只有 24-port,但是支持 load balancing,可以連接兩個輸入 (8-port input)。

連接方式如下:
H700 --> RES2SV240 --> CSE-M35TQ


測試結果:H700 能夠成功辨認 RES2SV240 並且識別成爲 enclosure,硬盤能夠辨認,並且組成 VD。

由此看來,在 LSI MSM 裏面的 enclosure 的定義是 expander 芯片...
只是,不知道爲什麽,總是說 enclosure 的 port 有 sensor error。不過只是 warning,不影響使用。

結論:Dell PREC H700 與 Intel RES2SV240 兼容


3、Dell PREC H700 與 Chenbro CK13601 的兼容性

由於五湖兄的慘案,總是覺得 LSI 的 2108 芯片與上一代的擴展芯片 LSISASX?? (3Gbps) 不兼容。不過既然手頭上有一個 Chenbro CK13601,就不妨也測試一下。CK13601 是 LSISASX36 芯片。

連接方式如下:
H700 --> CK13601 --> CSE-M35TQ


測試結果:H700 能夠成功辨認 CK13601 並且識別成爲 enclosure,硬盤能夠辨認,並且組成 VD。

好吧,或者是 Chenbro 的固件寫得好 (發現原來 Expander 也有固件的~~),或者是 LSISASX12 太舊,或者是 Chenbro 經過幾次固件更新之後終于可以合乎 6Gbps Controller 的口味,反正,CK13601 工作如常~~

結論:Dell PREC H700 與 Chenbro CK13601 兼容


4、Dell PERC H700 與串聯 expander / load balancing 的兼容性

主要目的~~~我的預想就是希望:
1、H700 支持 load balancing,這樣就可以把所有 8-port 接到一個 RES2SV240 上。
2、H700 支持多 enclosure 串聯所以可以把另外一個 RES2SV240 接到第一個 RES2SV240 上 (同樣 8-port in/out)。
這樣理論上我就能夠得到可用的支持 load balancing 的 24-port,可以接 24 個設備,並且不用擔心會導致單通道擁擠(理論上 48Gbps 都可分配)。

由於另外一個 RES2SV240 還沒到,就先用 CK13601 代替:
H700 ==> RES2SV240 --> CK13601 --> CSE-M35TQ


就如同我的猜想一樣,H700 默認的 MaxChainedEnclosures=1 阻止了這種連接方式:

PowerEdge Expandable RAID Controller BIOS
Copyright(c) 2010 LSI Corporation
Press <Ctrl><R> to Run Configuration Utility
HA -0 (Bus 133 Dev 0) PERC H700 Integrated
FW Package: 12.10.1-0001

There are 2 enclosures connected to connector 01, but only maximum of 1 enclosures can be connected to a single SAS connector. Please remove the extra enclosures then restart your system.

這種情況下,必須使用 megaoem 去修改參數。在把 MaxChainedEnclosures 調整到 16 (LSI 9260-8i 的值)后,系統可以啓動,並且可以識別所有的 enclosures:


主界面也有顯示(backplane 還是 0):


儘管下面的那些 Sensor bad on enclosure... 的警告看著刺眼,不過 H700 的確可以識別兩個 enclosures 了...

結論:Dell PREC H700 支持 enclosure 串聯 (在 MaxChainedEnclosures=16 的情況下),load balancing 未知,不過第一個 RES2SV240 可以啓動,貌似沒問題。


感覺上,Dell H700 無需刷其他卡的固件,因爲刷了就會損失一些高級功能。使用 megaoem 開啓一些設定就可以變成與其他同類產品差不多的功能。只是以下功能是沒有辦法開啓的:
1、Dimmer Switch
2、Redundant Path
3、Alarm
4、Cluster

以下功能是能夠開啓的:
1、Hot spare, unused good spin down
2、Max LDs per VD set to 64 (H700 只有 16)
3、Max chained enclosures set to 16 (H700 只有 1)

還有一些 SSD/HDD 或者 SATA/SAS 混合的能力也是可以開啓的。

(不知道 H800 是否也可以通過 megaoem 實現 sata 硬盤的支持呢?嘿嘿)

在特定情況下,H700 就變成可以内部使用的同時,外接更多的 enclosure,達到 H800 的部分能力。

Dell 整天就在恐嚇用戶,網站上面就說沒有 enclosure 支持,不過貌似不是這麽一回事……









Dell PERC H700 終于到手了!

PERC H700 被稱之爲 10 年超值卡。由於一直使用的 Adaptec 5805Z 兼容性有問題,而且 IOP 348 處理器有 1.2GB/s 的瓶頸 (聽説主要是由於從 PCI-X 移植到 PCIe 的後遺症),所以決定入手一個 H700。從淘寶上購買,然後連運費一共費了我 600 NZD,不過縂比從美國買要好,而且是全新的。美國那邊就算是二手的也價格不菲。

真正超值的只有 H700 的 1GB NV 版本。這個版本帶有 CacheCade 和 FastPath 以及 Cut-through IO,想必同類型的 LSI 卡便宜了不少!

首先是包裝,基本的工業包裝,不過可能上去有點壓倉貨的樣子 -_-


内容很簡單——PERC H700 + 電池:


注意:電池是必須的!沒有電池,那個 1GB NV RAM 是不會工作的!反正可能是 Adaptec 已經註冊了 Super Cap 的專利,所以電池還是必需品。這也是我頭疼的地方——每一年要給 Dell 砍一次,換電池,唉,還得拖著尾巴,跟 Adaptec 5805Z 一樣。看來甩掉尾巴的日子遙遙無期。



由於這個 ROC 是 IBM 的 PowerPC 800MHz,儘管是單核,但也是 CPU。於是趁著是全新,裏面的導熱硅脂還沒有硬化的時候,趕緊先換了!嘿嘿。貌似有點 overkill...先把散熱片拿下來(只是很簡單的扣件),然後用 ArticClean 吧上面的硅脂都清理掉:


準備使用的是 IC Diamond——鑽石微粒做成的硅脂,導熱很好,我的CPU一般都用它:


用 Dot 方案,應用硅脂,然後裝上散熱片。注意:必須壓緊!那個扣件的壓力不足,必須用手加壓,注意用海綿墊防止壓坏元件。


然後,終于發現一個問題——沒有 PCI 槽的擋板!由於這個是 H700 Integrated 版本,沒有 Adapter 版本裏面附有的綫材以及 PCI 擋板,所以只好找找看看有沒有合用的,因爲這個卡是必須插在 PCIe 槽上面的 -_- 找了半天,發現只有 Chenbro CK13601 的擋板合用,嘿嘿:


結果,可憐的 CK13601 就貢獻了擋板,反正我也沒打算把 CK13601 插在 PCI 槽中(Expander 只要電源就能夠工作,我打算吊掛)。這樣 H700 Integrated 就變成 H700 Adapter 了,只不過樣子難看一點,以后有機會找一個更合適的擋板好了。看了一下淘寶,實際上也有的賣,只不過要 50 RMB,感覺有點搶錢——只是一個擋板而已...

其實以上換散熱硅脂的步驟只是額外的,可能本來使用的硅脂就可以很好的支持散熱。只不過,經過 Adaptec 5805Z 的高溫事件之後,也不太相信廠商自己使用的配置。Adaptec 5805Z 我還要用一個 Evercool FOX-1 去抽熱,要不然夏天得上 90 C。當然,要給一個雙核 1.2G 的 CPU 做小範圍被動散熱,貌似也是苛刻了一點……爲了 H700 的健康,還是用鑽石好,呵呵。


為 Adaptec 5805Z 配備一個 Chenbro CK13601

Chenbro CK13601 已經很難找,從美國那邊訂了,然後還要等 Drop Ship 才能夠運過來。至於爲什麽不買 CK23601 (6Gbps) 的版本,原因有二:首先是價錢比 CK13601 貴 50 USD 左右,運過來新西蘭要打稅(剛剛好超過限額了 -_-),第二是 Adaptec 5805Z 比較挑,以前跟 Intel RES2SV240 有過節,所以還是給它買個 3Gbps 的同代產品好,至少知道 Adaptec 5805Z 跟 CK13601 是兼容的說~

Chenbro 的東西其實還是不錯的,就是數量不多,而且客服也不鳥你。但就實用性來説還是可以的。首先是包裝:


白盒,嘿嘿,還是挺特別的。内面就是 CK13601 以及一條 35cm 的 host -> expander SFF-8087 綫,感覺不錯。35cm 這個長度不常見,而且比較適合距離較遠的佈局:


卡的佈局比較粗曠,面積很大,可能是爲了放置更多的接口,並且保留足夠的距離用以走綫。唯一覺得有點古怪的是,LSISASX36 芯片上面的散熱片是粘貼上去的!希望這個擴展芯片不會很熱,否則使用散熱膠水黏貼的散熱片可能導熱不良。


使用中的 CK13601 指示燈較多,可以說是色彩繽紛,嘿嘿,不過各自表達的意思也挺清晰。注意的是,CK13601 只有一個輸入端口 (input port)。裏面的輸入端口用了,外置的那個就不能用,反之亦然。主要是這個卡沒有設置 load balancing 的支持……配 Adaptec 5805Z 就是絕配了 -_-

2011年9月23日 星期五

HPC 主機儲存解決方案構思基本完成!

主機是現成的,不過現有的儲存卻不太行。經過研究構思,就以下面的圖示為目標:


有一些事項必須注意:
1、PERC H700 有 MaxChainedEnclosure=1 的限制,上面的串聯(Serial)連接方案可能會受阻。主要還是取決於 MegaOem 能否把 MaxChainedEnclosure 變成 LSI 同類型產品的默認值(16),這樣就沒有問題了。如果不能夠修改,則必須採用並聯並且 Interleave 的連接方式來達到最高性能。
2、Dell 官方網站上稱 PERC H700 只支持 16 個硬碟。不過好像只是虛假數字(Dell 的機箱只有 16 個槃位)。
3、Dell 的説明書中說 PERC H700 的 Multipathing 跟 Load Balancing 都關閉了,然而好像 Load Balancing 還是開啓的。這個需要進一步證實,否則上面的方案沒辦法實現,或者性能下降。

這樣的連接方法,最多可以有 24 個硬碟。上圖中只接了 20 個,剩下的那個 x4 口,準備用於 CacheCade 陣列的使用。我手頭上有一個可以放到 3.5" 位的 2x 2.5" SATA 籠子,接兩個 SSD 用於 CacheCade 應該沒問題。考慮 Intel 311 SSD 中。

Incompatibilities and Compatibilities

NOTE: This article will be updated in the future when more compatibilities / incompatibilities are discovered.  Incompatibilities   12-Feb-...