... <看更多>
「o_sync fopen」的推薦目錄:
- 關於o_sync fopen 在 Linux 上面讀取檔案發生超奇怪問題- 看板C_and_CPP - 批踢踢 ... 的評價
- 關於o_sync fopen 在 How are the O_SYNC and O_DIRECT flags in open(2 ... 的評價
- 關於o_sync fopen 在 File handling in c - Code Snippets 的評價
- 關於o_sync fopen 在 PTT、FACEBOOK、GITHUB和紀老師程式教學網這樣回答 的評價
- 關於o_sync fopen 在 PTT、FACEBOOK、GITHUB和紀老師程式教學網這樣回答 的評價
- 關於o_sync fopen 在 pydgin/fcntl-test.c at master - GitHub 的評價
- 關於o_sync fopen 在 How to sync between 2 file descriptors to the same file, one for ... 的評價
o_sync fopen 在 File handling in c - Code Snippets 的推薦與評價
O_SYNC : Open file with SYNC mode . 0666 : File permission is 666(rw-rw-rw-) ... FILE *fp; fp = fopen(fname, "w+"); ~ close(fd); fclose(fp);. ... <看更多>
o_sync fopen 在 pydgin/fcntl-test.c at master - GitHub 的推薦與評價
open( filename, O_SYNC );. open( filename, O_NONBLOCK );. open( filename, O_NOCTTY );. //open( filename, O_DIRECT );. // we also check what fopen turns into. ... <看更多>
o_sync fopen 在 How to sync between 2 file descriptors to the same file, one for ... 的推薦與評價
The fopen() , fread() , fwrite() , etc. functions are higher level ... The solution is not to call fsync() or open with O_SYNC (you can ... ... <看更多>
o_sync fopen 在 Linux 上面讀取檔案發生超奇怪問題- 看板C_and_CPP - 批踢踢 ... 的推薦與評價
我遭遇到一個很奇怪的問題,希望有經驗的人可以給我一點建議。
敝人服務的單位現在有個程式,讓我們叫他 master 好了。
這個 master 會透過 lsf/grid 在內部網路上的其他機器建立 slave 程式執行。
有點像 client/server 架構(根本就是嘛)。
這中間,master 跟 slave 需要交換資料,
交換的資料,我們都是透過 data 檔案的讀寫來完成。
而 master 跟 slave 的同步化,也是透過檔案來完成。
當 master 要告訴 slave 可以開始的時候,就會寫一個特殊的 flag 檔案,
這段時間 slave 就是不斷的 polling 去看那個檔案能不能讀了。
當然 slave 中間每一次會 sleep(1) 以避免 CPU 一直在工作。
當需要接受資料的那一方,發現一個特殊檔案已經存在了,
那表示他需要讀取的檔案已經備妥了,他就會去開啟那個檔案來讀取需要的資料。
以時間軸來畫圖的話大概就是這樣
Master Slave(s) 可能有好幾個
---------------------------------------------------------
寫資料檔 (polling檢查flag檔案)
寫 flag ↓
(polling) 發現 flag 檔案
↓ 開啟 data 檔案讀取資料
↓ (進行計算...)
↓ 寫 data 檔案
↓ 寫 flag 檔通知 master
發現 flag 檔案 (polling)
開檔,讀取 ↓
(計算) ↓
sync 的時候我們可以說平均每次會浪費掉 0.5 秒在等待,
因為中間的 sync 次數不少,所以累積起來就是一段時間,
為了改善這個部份,所以 sync 的部份就想改成用 socket 來做。
這部分我已經完成了。
果然省掉 pooling 的等待時間,效率就上升了,
Master Slave(s) 可能有好幾個
---------------------------------------------------------
寫資料檔 (block read() 接封包)
送封包 ↓
(polling) 收到封包
(block read() 接封包) 開啟 data 檔案讀取資料
↓ (進行計算...)
↓ 寫 data 檔案[1]
↓ 送封包
收到封包 (block read() 接封包)
開檔,讀取[2] ↓
(計算) ↓
(只有把用檔案做同步化的地方改成用 socket)
問題是現在遇到一個超奇怪的問題。
當 [1] 的地方,已經把檔案寫好了,而且也 fclose() 關閉檔案了。
在 [2] 的地方,fopen 有拿到東西,不是 NULL,但是當我要讀取的時候,卻什麼也讀不到。
我呼叫 perror(),系統給的錯誤訊息是「No such file or directory.」
問題是我開檔的時候明明開到了!
事情真的很奇怪,
這個現象不是永遠都發生,只有「有時候」發生。
如果我在 [2] 之前 sleep() 一段時間,
那我就可以順利讀取到檔案。
又,
我發現這個現象只有在我的 slave 是透過 system() 啟動的時候才會發生,
(因為我要派到那台機器上的 slave 可能有好幾個,
所以會有一個主要的 slave 去用 system("... %") 把其他的叫起來)
我曾經想過是不是沒有 flush() 的關係,
但是 flush() 的也沒用。
我也懷疑過是不是 fork() 導致導致兩個人搶同一個封包,
導致同步失敗,後來想一想根本不會,因為本來的程式碼用的是 system("... %")。
回頭再看看,問題真的很奇怪,
fp = fopen(...) ;
if (fp) {
fread() // 這邊竟然就死了
}
而且竟然只要等久一點,這邊就會過,
是不是我哪邊觀念有不對,或是忽略了什麼東西?
我想了兩天已經想破頭了,但是還是想不到原因。
有沒有人有類似的經驗,或是有任何建議,
任何建議都是受到歡迎的,因為我真的想不到啦 O_Q
如果我有哪邊描述的不夠清楚,也請告訴我。
謝謝。
我的 OS:
2.6.9-67.ELsmp
#1 SMP Wed Nov 7 13:56:44 EST 2007
x86_64 x86_64 x86_64 GNU/Linux
Compiler:
gcc version 3.4.6 20060404 (Red Hat 3.4.6-9)
PS.
大概有的人會問:你為什麼不把傳資料的部份改成用 socket?
1. 因為已經有很多既有的程式碼,傳送資料的部份太多了,
同步化的程式碼被封裝起來,只需要改很少地方。
2. 交換的資料量大約是 100~200 MB,
實際存取需要的時間大概是 1~2 秒,
但是整個程式的執行時間超過十分鐘,
所以修改這邊不符合效益。
--
To iterate is human, to recurse, divine.
遞迴只應天上有, 凡人該當用迴圈. L. Peter Deutsch
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 203.160.254.105
※ yoco315:轉錄至看板 LinuxDev 04/13 14:27
※ yoco315:轉錄至看板 Programming 04/13 14:27
... <看更多>