數(shù)據(jù)采集設計會議紀要

時間：2022-07-06 03:37:53 會議紀要我要投稿

相關推薦

數(shù)據(jù)采集設計會議紀要

　　主要思路

數(shù)據(jù)采集設計會議紀要

　　1. 數(shù)據(jù)的分析整理主要放在客戶端實現(xiàn)，以減少服務端的壓力;

　　2. 服務端主要以組裝和轉存實現(xiàn)為主。

　　服務端：

　　1. 處理步驟

　　(1)Socket監(jiān)聽端口

　　(2)接收數(shù)據(jù)

　　(3)處理數(shù)據(jù)

　　2. 主要問題

　　(1)多線程

　　每個數(shù)據(jù)傳輸啟動一個線程，做好線程管理;

　　要考慮穩(wěn)定性，避免內存泄露。

　　(2)大數(shù)據(jù)量數(shù)據(jù)庫更新

　　通過塊提交提高數(shù)據(jù)庫轉存性能，縮短轉存時間;

　　考慮如何避免庫鎖。

　　客戶端：

　　1. 設備數(shù)據(jù)傳輸

　　(1)設備數(shù)據(jù)文件內容變化判斷

　　設備數(shù)據(jù)的分析處理很費時間，每次傳輸數(shù)據(jù)時都要對設備數(shù)據(jù)文件進行分析壓力很大。考慮到設備數(shù)據(jù)變化的概率很小，但有的廠家不管設備數(shù)據(jù)變沒變，都要生成新的設備數(shù)據(jù)文件，所以要開發(fā)一個文件變化快速比較功能;

　　方法有：一是特征碼比較;二是轉換成ASCII比較;三是轉換成二進制或十六進制比較;四是轉換成MD5碼比較。

　　2. 實時數(shù)據(jù)傳輸

　　(1)字典表

　　客戶端取得字典表，進行數(shù)據(jù)分析。

　　(2)數(shù)據(jù)比較

　　通過數(shù)據(jù)庫臨時表，比較得出新增和修改的數(shù)據(jù)。

　　3. 數(shù)據(jù)傳輸過程中，數(shù)據(jù)丟失驗證

　　下一步計劃：

　　1. 數(shù)采開發(fā)周期一個半月;

　　2. 進行設計評審;

　　3. 數(shù)采客戶端DotNet實現(xiàn)，xxx負責;

　　4. 數(shù)采服務端Java實現(xiàn)，xxx負責。