/[LeafOK_CVS]/lbbs/src/file_loader.c
ViewVC logotype

Diff of /lbbs/src/file_loader.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

Revision 1.10 by sysadm, Fri May 23 14:11:38 2025 UTC Revision 1.26 by sysadm, Fri Dec 19 06:16:27 2025 UTC
# Line 1  Line 1 
1  /***************************************************************************  /* SPDX-License-Identifier: GPL-3.0-or-later */
2                                                  file_loader.c  -  description  /*
3                                                           -------------------   * file_loader
4          Copyright            : (C) 2004-2025 by Leaflet   *   - shared memory based file loader
5          Email                : leaflet@leafok.com   *
6   ***************************************************************************/   * Copyright (C) 2004-2025  Leaflet <leaflet@leafok.com>
7     */
8  /***************************************************************************  
9   *                                                                         *  #ifdef HAVE_CONFIG_H
10   *   This program is free software; you can redistribute it and/or modify  *  #include "config.h"
11   *   it under the terms of the GNU General Public License as published by  *  #endif
  *   the Free Software Foundation; either version 3 of the License, or     *  
  *   (at your option) any later version.                                   *  
  *                                                                         *  
  ***************************************************************************/  
12    
13  #include "file_loader.h"  #include "file_loader.h"
 #include "trie_dict.h"  
 #include "str_process.h"  
14  #include "log.h"  #include "log.h"
15  #include <fcntl.h>  #include "str_process.h"
16  #include <errno.h>  #include <errno.h>
17  #include <unistd.h>  #include <fcntl.h>
18  #include <stdlib.h>  #include <stdlib.h>
19  #include <string.h>  #include <string.h>
20  #include <time.h>  #include <time.h>
21    #include <unistd.h>
22  #include <sys/mman.h>  #include <sys/mman.h>
23  #include <sys/stat.h>  #include <sys/stat.h>
 #include <sys/shm.h>  
 #include <sys/ipc.h>  
   
 #define MAX_SPLIT_FILE_LINES 65536  
24    
25  struct shm_header_t  struct shm_header_t
26  {  {
27          int shmid;          size_t shm_size;
28          size_t data_len;          size_t data_len;
29          long line_total;          long line_total;
30  };  };
31    
32  static TRIE_NODE *p_trie_file_dict = NULL;  int load_file(const char *filename)
   
 int file_loader_init()  
 {  
         if (p_trie_file_dict != NULL)  
         {  
                 log_error("File loader already initialized\n");  
                 return -1;  
         }  
   
         p_trie_file_dict = trie_dict_create();  
         if (p_trie_file_dict == NULL)  
         {  
                 log_error("trie_dict_create() error\n");  
                 return -2;  
         }  
   
         return 0;  
 }  
   
 static void trie_file_dict_cleanup_cb(const char *filename, int64_t value)  
 {  
         const void *p_shm = (const void *)value;  
         int shmid = *((int *)p_shm);  
   
         if (shmdt(p_shm) == -1)  
         {  
                 log_error("shmdt(shmid=%d) error (%d)\n", shmid, errno);  
         }  
   
         if (shmctl(shmid, IPC_RMID, NULL) == -1)  
         {  
                 log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", shmid, errno);  
         }  
 }  
   
 void file_loader_cleanup(void)  
 {  
         if (p_trie_file_dict == NULL)  
         {  
                 return;  
         }  
   
         trie_dict_traverse(p_trie_file_dict, trie_file_dict_cleanup_cb);  
   
         trie_dict_destroy(p_trie_file_dict);  
         p_trie_file_dict = NULL;  
 }  
   
 int load_file_shm(const char *filename)  
33  {  {
34            char filepath[FILE_PATH_LEN];
35            char shm_name[FILE_NAME_LEN];
36          int fd;          int fd;
37          struct stat sb;          struct stat sb;
38          void *p_data;          void *p_data;
39          size_t data_len;          size_t data_len;
         int proj_id;  
         key_t key;  
40          size_t size;          size_t size;
         int shmid;  
41          void *p_shm;          void *p_shm;
42          long line_total;          long line_total;
43          long line_offsets[MAX_SPLIT_FILE_LINES];          long line_offsets[MAX_SPLIT_FILE_LINES];
44          long *p_line_offsets;          long *p_line_offsets;
45          int64_t shmid_old;  
46          void *p_shm_old;          if (filename == NULL)
47            {
48                    log_error("NULL pointer error");
49                    return -1;
50            }
51    
52          if ((fd = open(filename, O_RDONLY)) < 0)          if ((fd = open(filename, O_RDONLY)) < 0)
53          {          {
54                  log_error("open(%s) error (%d)\n", filename, errno);                  log_error("open(%s) error (%d)", filename, errno);
55                  return -1;                  return -1;
56          }          }
57    
58          if (fstat(fd, &sb) < 0)          if (fstat(fd, &sb) < 0)
59          {          {
60                  log_error("fstat(fd) error (%d)\n", errno);                  log_error("fstat(fd) error (%d)", errno);
61                    close(fd);
62                  return -1;                  return -1;
63          }          }
64    
# Line 120  int load_file_shm(const char *filename) Line 66  int load_file_shm(const char *filename)
66          p_data = mmap(NULL, data_len, PROT_READ, MAP_SHARED, fd, 0L);          p_data = mmap(NULL, data_len, PROT_READ, MAP_SHARED, fd, 0L);
67          if (p_data == MAP_FAILED)          if (p_data == MAP_FAILED)
68          {          {
69                  log_error("mmap() error (%d)\n", errno);                  log_error("mmap() error (%d)", errno);
70                    close(fd);
71                  return -2;                  return -2;
72          }          }
73    
74          if (close(fd) < 0)          if (close(fd) < 0)
75          {          {
76                  log_error("close(fd) error (%d)\n", errno);                  log_error("close(fd) error (%d)", errno);
77                  return -1;                  return -1;
78          }          }
79    
80          line_total = split_data_lines(p_data, SCREEN_COLS, line_offsets, MAX_SPLIT_FILE_LINES);          line_total = split_data_lines(p_data, SCREEN_COLS, line_offsets, MAX_SPLIT_FILE_LINES, 1, NULL);
81          if (line_total >= MAX_SPLIT_FILE_LINES)  
82            // Allocate shared memory
83            size = sizeof(struct shm_header_t) + data_len + 1 + sizeof(long) * (size_t)(line_total + 1);
84    
85            strncpy(filepath, filename, sizeof(filepath) - 1);
86            filepath[sizeof(filepath) - 1] = '\0';
87            snprintf(shm_name, sizeof(shm_name), "/FILE_SHM_%s", basename(filepath));
88    
89            if (shm_unlink(shm_name) == -1 && errno != ENOENT)
90          {          {
91                  log_error("split_data_lines() truncated over limit lines\n");                  log_error("shm_unlink(%s) error (%d)", shm_name, errno);
92                    return -2;
93          }          }
94    
95          // Allocate shared memory          if ((fd = shm_open(shm_name, O_CREAT | O_EXCL | O_RDWR, 0600)) == -1)
96          proj_id = (int)(time(NULL) % getpid());          {
97          key = ftok(filename, proj_id);                  log_error("shm_open(%s) error (%d)", shm_name, errno);
98          if (key == -1)                  return -2;
99            }
100            if (ftruncate(fd, (off_t)size) == -1)
101          {          {
102                  log_error("ftok(%s %d) error (%d)\n", filename, proj_id, errno);                  log_error("ftruncate(size=%d) error (%d)", size, errno);
103                    close(fd);
104                  return -2;                  return -2;
105          }          }
106    
107          size = sizeof(struct shm_header_t) + data_len + 1 + sizeof(long) * (size_t)(line_total + 1);          p_shm = mmap(NULL, size, PROT_READ | PROT_WRITE, MAP_SHARED, fd, 0L);
108          shmid = shmget(key, size, IPC_CREAT | IPC_EXCL | 0600);          if (p_shm == MAP_FAILED)
         if (shmid == -1)  
109          {          {
110                  log_error("shmget(size = %d) error (%d)\n", size, errno);                  log_error("mmap() error (%d)", errno);
111                  return -3;                  close(fd);
112                    return -2;
113          }          }
114          p_shm = shmat(shmid, NULL, 0);  
115          if (p_shm == (void *)-1)          if (close(fd) < 0)
116          {          {
117                  log_error("shmat(shmid=%d) error (%d)\n", shmid, errno);                  log_error("close(fd) error (%d)", errno);
118                  return -3;                  return -1;
119          }          }
120    
121          ((struct shm_header_t *)p_shm)->shmid = shmid;          ((struct shm_header_t *)p_shm)->shm_size = size;
122          ((struct shm_header_t *)p_shm)->data_len = data_len;          ((struct shm_header_t *)p_shm)->data_len = data_len;
123          ((struct shm_header_t *)p_shm)->line_total = line_total;          ((struct shm_header_t *)p_shm)->line_total = line_total;
124          memcpy(p_shm + sizeof(struct shm_header_t), p_data, data_len);          memcpy((char *)p_shm + sizeof(struct shm_header_t), p_data, data_len);
125    
126          if (munmap(p_data, data_len) < 0)          if (munmap(p_data, data_len) < 0)
127          {          {
128                  log_error("munmap() error (%d)\n", errno);                  log_error("munmap() error (%d)", errno);
129                    munmap(p_shm, size);
130                  return -2;                  return -2;
131          }          }
132    
133          p_data = p_shm + sizeof(struct shm_header_t);          p_data = (char *)p_shm + sizeof(struct shm_header_t);
134          p_line_offsets = p_data + data_len + 1;          p_line_offsets = (long *)((char *)p_data + data_len + 1);
135          memcpy(p_line_offsets, line_offsets, sizeof(long) * (size_t)(line_total + 1));          memcpy(p_line_offsets, line_offsets, sizeof(long) * (size_t)(line_total + 1));
136    
137          // Remap shared memory in read-only mode          if (munmap(p_shm, size) < 0)
         p_shm = shmat(shmid, p_shm, SHM_RDONLY | SHM_REMAP);  
         if (p_shm == (void *)-1)  
138          {          {
139                  log_error("shmat(shmid=%d) error (%d)\n", shmid, errno);                  log_error("munmap() error (%d)", errno);
140                  return -3;                  return -2;
141          }          }
142    
143          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&p_shm_old) == 1)          return 0;
144          {  }
                 shmid_old = *((int *)p_shm_old);  
   
                 if (shmdt(p_shm_old) == -1)  
                 {  
                         log_error("shmdt(shmid=%d) error (%d)\n", shmid_old, errno);  
                         return -3;  
                 }  
145    
146                  if (shmctl((int)shmid_old, IPC_RMID, NULL) == -1)  int unload_file(const char *filename)
147                  {  {
148                          log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", (int)shmid_old, errno);          char filepath[FILE_PATH_LEN];
149                          return -2;          char shm_name[FILE_NAME_LEN];
                 }  
         }  
150    
151          if (trie_dict_set(p_trie_file_dict, filename, (int64_t)p_shm) != 1)          if (filename == NULL)
152          {          {
153                  log_error("trie_dict_set(%s) error\n", filename);                  log_error("NULL pointer error");
154                    return -1;
155            }
156    
157                  if (shmctl(shmid, IPC_RMID, NULL) == -1)          strncpy(filepath, filename, sizeof(filepath) - 1);
158                  {          filepath[sizeof(filepath) - 1] = '\0';
159                          log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", shmid, errno);          snprintf(shm_name, sizeof(shm_name), "/FILE_SHM_%s", basename(filepath));
                 }  
160    
161                  return -4;          if (shm_unlink(shm_name) == -1 && errno != ENOENT)
162            {
163                    log_error("shm_unlink(%s) error (%d)", shm_name, errno);
164                    return -2;
165          }          }
166    
167          return 0;          return 0;
168  }  }
169    
170  int unload_file_shm(const char *filename)  void *get_file_shm_readonly(const char *filename, size_t *p_data_len, long *p_line_total, const void **pp_data, const long **pp_line_offsets)
171  {  {
172          const void *p_shm;          char filepath[FILE_PATH_LEN];
173          int shmid;          char shm_name[FILE_NAME_LEN];
174            int fd;
175            void *p_shm = NULL;
176            struct stat sb;
177            size_t size;
178    
179          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&p_shm) != 1)          if (filename == NULL || p_data_len == NULL || p_line_total == NULL || pp_data == NULL || pp_line_offsets == NULL)
180          {          {
181                  log_error("trie_dict_get(%s) not found\n", filename);                  log_error("NULL pointer error");
182                  return -1;                  return NULL;
183          }          }
184    
185          shmid = *((int *)p_shm);          strncpy(filepath, filename, sizeof(filepath) - 1);
186            filepath[sizeof(filepath) - 1] = '\0';
187            snprintf(shm_name, sizeof(shm_name), "/FILE_SHM_%s", basename(filepath));
188    
189          if (shmdt(p_shm) == -1)          if ((fd = shm_open(shm_name, O_RDONLY, 0600)) == -1)
190          {          {
191                  log_error("shmdt(shmid=%d) error (%d)\n", shmid, errno);                  log_error("shm_open(%s) error (%d)", shm_name, errno);
192                    return NULL;
193          }          }
194    
195          if (shmctl((int)shmid, IPC_RMID, NULL) == -1)          if (fstat(fd, &sb) < 0)
196          {          {
197                  log_error("shmctl(shmid=%d, IPC_RMID) error (%d)\n", (int)shmid, errno);                  log_error("fstat(fd) error (%d)", errno);
198                    close(fd);
199                    return NULL;
200          }          }
201    
202          if (trie_dict_del(p_trie_file_dict, filename) != 1)          size = (size_t)sb.st_size;
203    
204            p_shm = mmap(NULL, size, PROT_READ, MAP_SHARED, fd, 0L);
205            if (p_shm == MAP_FAILED)
206          {          {
207                  log_error("trie_dict_del(%s) error\n", filename);                  log_error("mmap() error (%d)", errno);
208                  return -2;                  close(fd);
209                    return NULL;
210          }          }
211    
212          return 0;          if (close(fd) < 0)
 }  
   
 const void *get_file_shm(const char *filename, size_t *p_data_len, long *p_line_total, const void **pp_data, const long **pp_line_offsets)  
 {  
         const void *p_shm;  
   
         if (p_trie_file_dict == NULL)  
213          {          {
214                  log_error("File loader not initialized\n");                  log_error("close(fd) error (%d)", errno);
215                  return NULL;                  return NULL;
216          }          }
217    
218          if (trie_dict_get(p_trie_file_dict, filename, (int64_t *)&p_shm) != 1) // Not exist          if (((struct shm_header_t *)p_shm)->shm_size != size)
219          {          {
220                  log_error("trie_dict_get(%s) not found\n", filename);                  log_error("Shared memory size mismatch (%ld != %ld)", ((struct shm_header_t *)p_shm)->shm_size, size);
221                    munmap(p_shm, size);
222                  return NULL;                  return NULL;
223          }          }
224    
225          *p_data_len = ((struct shm_header_t *)p_shm)->data_len;          *p_data_len = ((struct shm_header_t *)p_shm)->data_len;
226          *p_line_total = ((struct shm_header_t *)p_shm)->line_total;          *p_line_total = ((struct shm_header_t *)p_shm)->line_total;
227          *pp_data = p_shm + sizeof(struct shm_header_t);          *pp_data = (char *)p_shm + sizeof(struct shm_header_t);
228          *pp_line_offsets = *pp_data + *p_data_len + 1;          *pp_line_offsets = (const long *)((const char *)(*pp_data) + *p_data_len + 1);
229    
230          return p_shm;          return p_shm;
231  }  }
232    
233    int detach_file_shm(void *p_shm)
234    {
235            size_t size;
236    
237            if (p_shm == NULL)
238            {
239                    return -1;
240            }
241    
242            size = ((struct shm_header_t *)p_shm)->shm_size;
243    
244            if (munmap(p_shm, size) < 0)
245            {
246                    log_error("munmap() error (%d)", errno);
247                    return -2;
248            }
249    
250            return 0;
251    }

Legend:
Removed lines/characters  
Changed lines/characters
  Added lines/characters
webmaster@leafok.com
 ViewVC Help
Powered by ViewVC 1.3.0-beta1