/[LeafOK_CVS]/lbbs/src/file_loader.c
ViewVC logotype

Diff of /lbbs/src/file_loader.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

Revision 1.1 by sysadm, Fri May 16 12:22:35 2025 UTC Revision 1.3 by sysadm, Sat May 17 05:54:42 2025 UTC
# Line 22  Line 22 
22  #include <errno.h>  #include <errno.h>
23  #include <unistd.h>  #include <unistd.h>
24  #include <stdlib.h>  #include <stdlib.h>
25    #include <string.h>
26    #include <time.h>
27  #include <sys/mman.h>  #include <sys/mman.h>
28  #include <sys/stat.h>  #include <sys/stat.h>
29    #include <sys/shm.h>
30    #include <sys/ipc.h>
31    
32  #define FILE_MMAP_COUNT_LIMIT 256  #define MAX_SPLIT_FILE_LINES 65536
33    
 static FILE_MMAP *p_file_mmap_pool = NULL;  
 static int file_mmap_count = 0;  
 static int file_mmap_free_index = -1;  
34  static TRIE_NODE *p_trie_file_dict = NULL;  static TRIE_NODE *p_trie_file_dict = NULL;
35    
36  int file_loader_init(int max_file_mmap_count)  int file_loader_init()
37  {  {
38          if (max_file_mmap_count > FILE_MMAP_COUNT_LIMIT)          if (p_trie_file_dict != NULL)
         {  
                 log_error("file_loader_init(%d) argument error\n", max_file_mmap_count);  
                 return -1;  
         }  
   
         if (p_file_mmap_pool != NULL || p_trie_file_dict != NULL)  
39          {          {
40                  log_error("File loader already initialized\n");                  log_error("File loader already initialized\n");
41                  return -1;                  return -1;
42          }          }
43    
         p_file_mmap_pool = (FILE_MMAP *)calloc((size_t)max_file_mmap_count, sizeof(FILE_MMAP));  
         if (p_file_mmap_pool == NULL)  
         {  
                 log_error("calloc(%d p_file_mmap_pool) error\n", max_file_mmap_count);  
                 return -2;  
         }  
   
         file_mmap_count = max_file_mmap_count;  
         file_mmap_free_index = 0;  
   
44          p_trie_file_dict = trie_dict_create();          p_trie_file_dict = trie_dict_create();
45          if (p_trie_file_dict == NULL)          if (p_trie_file_dict == NULL)
46          {          {
# Line 66  int file_loader_init(int max_file_mmap_c Line 51  int file_loader_init(int max_file_mmap_c
51          return 0;          return 0;
52  }  }
53    
54  void file_loader_cleanup(void)  static void trie_file_dict_cleanup_cb(const char *filename, int64_t shmid)
55  {  {
56          if (p_trie_file_dict != NULL)          log_std("Cleanup: %s %ld\n", filename, shmid);
57            if (shmctl((int)shmid, IPC_RMID, NULL) == -1)
58          {          {
59                  trie_dict_destroy(p_trie_file_dict);                  log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", (int)shmid, errno);
                 p_trie_file_dict = NULL;  
60          }          }
61    }
62    
63          if (p_file_mmap_pool != NULL)  void file_loader_cleanup(void)
64    {
65            if (p_trie_file_dict == NULL)
66          {          {
67                  for (int i = 0; i < file_mmap_count; i++)                  return;
                 {  
                         if (p_file_mmap_pool[i].p_data == NULL)  
                         {  
                                 continue;  
                         }  
   
                         if (munmap(p_file_mmap_pool[i].p_data, p_file_mmap_pool[i].size) < 0)  
                         {  
                                 log_error("munmap() error (%d)\n", errno);  
                         }  
                 }  
                 free(p_file_mmap_pool);  
                 p_file_mmap_pool = NULL;  
68          }          }
69    
70          file_mmap_count = 0;          trie_dict_traverse(p_trie_file_dict, trie_file_dict_cleanup_cb);
71          file_mmap_free_index = -1;          trie_dict_destroy(p_trie_file_dict);
72            p_trie_file_dict = NULL;
73  }  }
74    
75  int load_file_mmap(const char *filename)  int load_file_shm(const char *filename)
76  {  {
77          int fd;          int fd;
78          struct stat sb;          struct stat sb;
79          void *p_data;          void *p_data;
80            size_t data_len;
81            int proj_id;
82            key_t key;
83          size_t size;          size_t size;
84          int file_mmap_index = 0;          int shmid;
85            int64_t shmid_old;
86            void *p_shm;
87            long line_total;
88            long line_offsets[MAX_SPLIT_FILE_LINES];
89            long *p_line_offsets;
90    
91          if ((fd = open(filename, O_RDONLY)) < 0)          if ((fd = open(filename, O_RDONLY)) < 0)
92          {          {
# Line 116  int load_file_mmap(const char *filename) Line 100  int load_file_mmap(const char *filename)
100                  return -1;                  return -1;
101          }          }
102    
103          size = (size_t)sb.st_size;          data_len = (size_t)sb.st_size;
104            p_data = mmap(NULL, data_len, PROT_READ, MAP_SHARED, fd, 0L);
         p_data = mmap(NULL, size, PROT_READ, MAP_PRIVATE, fd, 0L);  
105          if (p_data == MAP_FAILED)          if (p_data == MAP_FAILED)
106          {          {
107                  log_error("mmap() error (%d)\n", errno);                  log_error("mmap() error (%d)\n", errno);
# Line 131  int load_file_mmap(const char *filename) Line 114  int load_file_mmap(const char *filename)
114                  return -1;                  return -1;
115          }          }
116    
117          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&file_mmap_index) == 0) // Not exist          line_total = split_data_lines(p_data, SCREEN_COLS, line_offsets, MAX_SPLIT_FILE_LINES);
118            if (line_total >= MAX_SPLIT_FILE_LINES)
119          {          {
120                  if (file_mmap_free_index == -1)                  log_error("split_data_lines() truncated over limit lines\n");
121                  {          }
                         log_error("file_mmap_pool is depleted\n");  
                         return -3;  
                 }  
122    
123                  file_mmap_index = file_mmap_free_index;          // Allocate shared memory
124            proj_id = (int)(time(NULL) % getpid());
125            key = ftok(filename, proj_id);
126            if (key == -1)
127            {
128                    log_error("ftok(%s %d) error (%d)\n", filename, proj_id, errno);
129                    return -2;
130            }
131    
132                  if (trie_dict_set(p_trie_file_dict, filename, (int64_t)file_mmap_index) != 1)          size = sizeof(data_len) + sizeof(line_total) + data_len + 1 + sizeof(long) * (size_t)(line_total + 1);
133                  {          shmid = shmget(key, size, IPC_CREAT | IPC_EXCL | 0600);
134                          log_error("trie_dict_set(%s) error\n", filename);          if (shmid == -1)
135            {
136                    log_error("shmget(size = %d) error (%d)\n", size, errno);
137                    return -3;
138            }
139            p_shm = shmat(shmid, NULL, 0);
140            if (p_shm == (void *)-1)
141            {
142                    log_error("shmat() error (%d)\n", errno);
143                    return -3;
144            }
145    
146                          if (munmap(p_data, size) < 0)          *((size_t *)p_shm) = data_len;
147                          {          *((long *)(p_shm + sizeof(data_len))) = line_total;
148                                  log_error("munmap() error (%d)\n", errno);          memcpy(p_shm + sizeof(data_len) + sizeof(line_total), p_data, data_len);
                         }  
149    
150                          return -2;          if (munmap(p_data, data_len) < 0)
151                  }          {
152                    log_error("munmap() error (%d)\n", errno);
153                    return -2;
154            }
155    
156                  do          p_data = p_shm + sizeof(data_len) + sizeof(line_total);
157                  {          p_line_offsets = p_data + data_len + 1;
158                          file_mmap_free_index++;          memcpy(p_line_offsets, line_offsets, sizeof(long) * (size_t)(line_total + 1));
159                          if (file_mmap_free_index >= file_mmap_count)  
160                          {          if (shmdt(p_shm) == -1)
161                                  file_mmap_free_index = 0;          {
162                          }                  log_error("shmdt() error (%d)\n", errno);
163                          if (file_mmap_free_index == file_mmap_index) // loop                  return -3;
                         {  
                                 file_mmap_free_index = -1;  
                                 break;  
                         }  
                 } while (p_file_mmap_pool[file_mmap_free_index].p_data != NULL);  
164          }          }
165          else  
166            if (trie_dict_get(p_trie_file_dict, filename, &shmid_old) == 1)
167          {          {
168                  // Unload existing data                  if (shmctl((int)shmid_old, IPC_RMID, NULL) == -1)
                 if (munmap(p_file_mmap_pool[file_mmap_index].p_data, p_file_mmap_pool[file_mmap_index].size) < 0)  
169                  {                  {
170                          log_error("munmap() error (%d)\n", errno);                          log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", (int)shmid_old, errno);
171                            return -2;
172                  }                  }
173          }          }
174    
175          p_file_mmap_pool[file_mmap_index].p_data = p_data;          if (trie_dict_set(p_trie_file_dict, filename, (int64_t)shmid) != 1)
176          p_file_mmap_pool[file_mmap_index].size = size;          {
177                    log_error("trie_dict_set(%s) error\n", filename);
178    
179                    if (shmctl(shmid, IPC_RMID, NULL) == -1)
180                    {
181                            log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", shmid, errno);
182                    }
183    
184          p_file_mmap_pool[file_mmap_index].line_total =                  return -4;
185                  split_data_lines(p_data, SCREEN_COLS, p_file_mmap_pool[file_mmap_index].line_offsets, MAX_FILE_LINES);          }
186    
187          return 0;          return 0;
188  }  }
189    
190  int unload_file_mmap(const char *filename)  int unload_file_shm(const char *filename)
191  {  {
192          int file_mmap_index = 0;          int64_t shmid = 0;
193    
194          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&file_mmap_index) != 1)          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&shmid) != 1)
195          {          {
196                  log_error("trie_dict_get(%s) not found\n", filename);                  log_error("trie_dict_get(%s) not found\n", filename);
197                  return -1;                  return -1;
198          }          }
199    
200          if (munmap(p_file_mmap_pool[file_mmap_index].p_data, p_file_mmap_pool[file_mmap_index].size) < 0)          if (shmctl((int)shmid, IPC_RMID, NULL) == -1)
         {  
                 log_error("munmap() error (%d)\n", errno);  
         }  
   
         p_file_mmap_pool[file_mmap_index].p_data = NULL;  
         p_file_mmap_pool[file_mmap_index].size = 0L;  
   
         if (file_mmap_free_index == -1)  
201          {          {
202                  file_mmap_free_index = file_mmap_index;                  log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", (int)shmid, errno);
203          }          }
204    
205          if (trie_dict_del(p_trie_file_dict, filename) != 1)          if (trie_dict_del(p_trie_file_dict, filename) != 1)
# Line 217  int unload_file_mmap(const char *filenam Line 211  int unload_file_mmap(const char *filenam
211          return 0;          return 0;
212  }  }
213    
214  const FILE_MMAP *get_file_mmap(const char *filename)  const void *get_file_shm(const char *filename)
215  {  {
216          int file_mmap_index = file_mmap_free_index;          int64_t shmid;
217            const void *p_shm;
218    
219          if (p_file_mmap_pool == NULL || p_trie_file_dict == NULL)          if (p_trie_file_dict == NULL)
220          {          {
221                  log_error("File loader not initialized\n");                  log_error("File loader not initialized\n");
222                  return NULL;                  return NULL;
223          }          }
224    
225          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&file_mmap_index) != 1) // Not exist          if (trie_dict_get(p_trie_file_dict, filename, &shmid) != 1) // Not exist
226          {          {
227                  log_error("trie_dict_get(%s) not found\n", filename);                  log_error("trie_dict_get(%s) not found\n", filename);
228                  return NULL;                  return NULL;
229          }          }
230    
231          return (&(p_file_mmap_pool[file_mmap_index]));          p_shm = shmat((int)shmid, NULL, SHM_RDONLY);
232            if (p_shm == (void *)-1)
233            {
234                    log_error("shmat() error (%d)\n", errno);
235                    return NULL;
236            }
237    
238            return p_shm;
239  }  }

Legend:
Removed lines/characters  
Changed lines/characters
  Added lines/characters
webmaster@leafok.com
 ViewVC Help
Powered by ViewVC 1.3.0-beta1