More fixes
[SXSI/XMLTree.git] / XMLTree.cpp
index 62ca3fd..057a117 100644 (file)
@@ -67,6 +67,16 @@ inline void * umalloc(size_t size){
   return dest;\r
 }\r
 \r
+void XMLTree::print_stats() {\r
+       uint total_space = Tags->size()+sizeof(static_sequence*);\r
+       total_space += sizeof(uint*)+sizeof(uint)*(2+uint_len(tags_blen,tags_len));\r
+       cout << "Space usage for XMLTree:" << endl\r
+               << " - tags static_sequence: " << Tags->size()+sizeof(static_sequence*) << endl\r
+               << " - tags access array:    " << sizeof(uint*)+sizeof(uint)*(2+uint_len(tags_blen,tags_len)) << endl\r
+               << " ... add Diego structures ... " << endl\r
+               << " *total* " << total_space << endl;\r
+}\r
+\r
 // Save: saves XML tree data structure to file. \r
 void XMLTree::Save(unsigned char *filename) \r
  {\r
@@ -101,6 +111,9 @@ void XMLTree::Save(unsigned char *filename)
     \r
     // stores the tags\r
     Tags->save(fp);\r
+               ufwrite(&tags_blen,sizeof(uint),1,fp);\r
+               ufwrite(&tags_len,sizeof(uint),1,fp);\r
+               ufwrite(tags_fix,sizeof(uint),uint_len(tags_blen,tags_len),fp);\r
 \r
     // stores the texts   \r
     if (!disable_tc) {\r
@@ -191,6 +204,11 @@ XMLTree *XMLTree::Load(unsigned char *filename, int sample_rate_text)
     \r
     // loads the tags\r
     XML_Tree->Tags = static_sequence::load(fp);\r
+               ufread(&XML_Tree->tags_blen,sizeof(uint),1,fp);\r
+               ufread(&XML_Tree->tags_len,sizeof(uint),1,fp);\r
+               XML_Tree->tags_fix = new uint[uint_len(XML_Tree->tags_blen,XML_Tree->tags_len)];\r
+               ufread(XML_Tree->tags_fix,sizeof(uint),uint_len(XML_Tree->tags_blen,XML_Tree->tags_len),fp);\r
+               s_tree+=2*sizeof(uint)+sizeof(uint)*uint_len(XML_Tree->tags_blen,XML_Tree->tags_len);\r
     s_tree+= XML_Tree->Tags->size();\r
 \r
     s_text = ftell(fp);\r
@@ -222,13 +240,14 @@ XMLTree *XMLTree::Load(unsigned char *filename, int sample_rate_text)
 \r
     fclose(fp);\r
 \r
-    std::cerr << "Tree part is " << s_tree/1024 << " Kbytes,\n"\r
-             << "with node->tagid part " << XML_Tree->Tags->size()/1024 << "Kbytes \n"\r
+    /*std::cerr << "Tree part is " << s_tree/1024 << " Kbytes,\n"\r
+             << "with node->tagid part " << XML_Tree->Tags->size()/1024+(uint_len(XML_Tree->tags_blen,XML_Tree->tags_len)*sizeof(uint))/1024  << "Kbytes \n"\r
              << "size of Tag part : " << XML_Tree->Tags->length () << " elements\n"\r
              << "sizof(unsigned int)* " <<  XML_Tree->Tags->length () << " = " << \r
       sizeof(unsigned int) * XML_Tree->Tags->length () / 1024 << " Kbytes\n"\r
              << "Tag part is " << s_tags/1024 << " Kbytes,\n"\r
-             << "Text collection is " << s_text/1024 << " Kbytes \n";\r
+             << "Text collection is " << s_text/1024 << " Kbytes \n";*/\r
+               XML_Tree->print_stats();\r
     return XML_Tree;\r
  }\r
 \r
@@ -395,7 +414,7 @@ TagType XMLTree::Tag(treeNode x)
        exit(1);\r
     }\r
     \r
-    return Tags->access(node2tagpos(x));\r
+    return get_field(tags_fix,tags_blen,node2tagpos(x)); //Tags->access(node2tagpos(x));\r
  }\r
 \r
 // DocIds(x): returns the range of text identifiers that descend from node x.\r
@@ -502,7 +521,7 @@ treeNode XMLTree::TaggedChild(treeNode x, int i, TagType tag)
     child = first_child(Par, x); // starts at first child of node x\r
     if (child==(treeNode)-1) return NULLT; // node x is a leaf, there is no such child\r
     while (child!=(treeNode)-1) {\r
-       if (Tags->access(node2tagpos(child)) == tag) { // current child is labeled with tag of interest\r
+       if (get_field(tags_fix,tags_blen,node2tagpos(child)) /*Tags->access(node2tagpos(child))*/ == tag) { // current child is labeled with tag of interest\r
           i--;\r
           if (i==0) return child; // we have seen i children of x tagged tag, this is the one we are looking for\r
        }\r
@@ -637,7 +656,7 @@ treeNode XMLTree::TaggedAncestor(treeNode x, TagType tag)
     \r
     treeNode s = parent(Par, x), r = Root();\r
     while (s != r) {\r
-       if (Tags->access(node2tagpos(s)) == tag) return s;\r
+       if (get_field(tags_fix,tags_blen,node2tagpos(s)) /*Tags->access(node2tagpos(s))*/ == tag) return s;\r
        s = parent(Par, s);\r
     }\r
     return NULLT;\r
@@ -836,20 +855,35 @@ int XMLTree::CloseDocument()
     Par = (bp *)umalloc(sizeof(bp));\r
     bp_construct(Par, npar, par_aux, OPT_DEGREE|0);    \r
     // creates structure for tags\r
-    static_bitsequence_builder * bmb = new static_bitsequence_builder_brw32(20);\r
-    static_permutation_builder * pmb = new static_permutation_builder_mrrr(PERM_SAMPLE, bmb);\r
-    static_sequence_builder * ssb = new static_sequence_builder_gmr_chunk(bmb, pmb);\r
+    //static_bitsequence_builder * bmb = new static_bitsequence_builder_brw32(20);\r
+    //static_permutation_builder * pmb = new static_permutation_builder_mrrr(PERM_SAMPLE, bmb);\r
+    //static_sequence_builder * ssb = new static_sequence_builder_gmr_chunk(bmb, pmb);\r
 \r
 \r
     // If we found an attribute then "<@>" is present in the tree\r
     // if we didn't then it is not. "<$>" is never present in the tree\r
+               uint max_tag = 0;\r
+               for(uint i=0;i<(uint)npar-1;i++)\r
+                       max_tag = max(max_tag,tags_aux[i]);\r
+               max_tag++;\r
     int ntagsize = found_attributes ? 2*ntagnames-1 : 2*ntagnames - 2;\r
-\r
-    Tags = new static_sequence_gmr((uint *) tags_aux, (uint) npar-1,ntagsize, bmb, ssb);\r
+               tags_aux = (TagType *) urealloc(tags_aux, sizeof(TagType)*(npar + 1));\r
+               tags_aux[npar++] = max_tag;\r
+\r
+               static_bitsequence_builder * bmb = new static_bitsequence_builder_brw32(20);\r
+               alphabet_mapper *am = new alphabet_mapper_none();\r
+               wt_coder * wc = new wt_coder_huff((uint*)tags_aux,npar,am);\r
+               Tags = new static_sequence_wvtree((uint*)tags_aux,npar,wc ,bmb, am);\r
+    //Tags = new static_sequence_gmr((uint *) tags_aux, (uint) npar-1,ntagsize, bmb, ssb);\r
+               tags_blen = bits(max_tag);\r
+               tags_len = (uint)npar;\r
+               tags_fix = new uint[uint_len(tags_blen,tags_len)];\r
+               for(uint i=0;i<(uint)npar-1;i++)\r
+                       set_field(tags_fix,tags_blen,i,tags_aux[i]);\r
     \r
     delete bmb;\r
-    delete pmb;\r
-    delete ssb;\r
+    //delete pmb;\r
+    //delete ssb;\r
     // makes the text collection static\r
     if (!disable_tc)\r
       Text->MakeStatic();\r
@@ -867,6 +901,7 @@ int XMLTree::CloseDocument()
     tags_aux = NULL;\r
 \r
     finished = true;\r
+               print_stats();\r
 \r
     return 1; // indicates success in the inicialization\r
  }\r
@@ -1029,7 +1064,7 @@ TagType XMLTree::GetTagId(unsigned char *tagname)
     // this should be changed for more efficient processing\r
     for (i=0; i<ntagnames; i++)\r
        if (strcmp((const char *)tagname,(const char *)TagName[i])==0) break; \r
-    if (i==ntagnames) return (TagType)NULLT; // tagname does not exists in the table\r
+    if (i==ntagnames) return ntagnames; //(TagType)NULLT; // tagname does not exists in the table\r
     else return i;\r
  }\r
 \r