safety commit
[SXSI/xpathcomp.git] / ata.ml
diff --git a/ata.ml b/ata.ml
index 1ba9c40..eed81bc 100644 (file)
--- a/ata.ml
+++ b/ata.ml
-(* Todo refactor and remove this alias *)
 INCLUDE "debug.ml"
-let gen_id =
-  let id = ref (-1) in
-    fun () -> incr id;!id
-
-  module TS = 
-  struct
-    type t = Nil | Cons of Tree.t * t | Concat of t*t
-    let empty = Nil
-      
-    let cons e t = Cons(e,t)
-    let concat t1 t2 =  Concat (t1,t2)
-    let append e t = Concat(t,Cons(e,Nil))
+INCLUDE "utils.ml"
+open Camlp4.Struct
+type jump_kind = [ `TAG of Tag.t | `CONTAINS of string | `NOTHING ]
+
+(* Todo : move elsewhere *)
+external vb : bool -> int = "%identity"
+
+module State : 
+sig 
+  include Sigs.T with type t = int 
+  val make : unit -> t 
+end =
+struct
+  type t = int
+  let make = 
+    let id = ref (-1) in
+      fun () -> incr id;!id
+  let compare = (-)
+  let equal = (==)
+  external hash : t -> int =  "%identity"
+  let print fmt x = Format.fprintf fmt "%i" x
+  let dump fmt x = print fmt x
+  let check x = 
+    if x < 0 then failwith (Printf.sprintf "State: Assertion %i < 0 failed" x)
+end
+
+module StateSet = Ptset.Int
+  
+module Formula =
+struct
+    type 'hcons expr = 
+      | False | True
+      | Or of 'hcons * 'hcons
+      | And of 'hcons * 'hcons
+      | Atom of ([ `Left | `Right  | `LLeft | `RRight  ]*bool*State.t)
+
+    type 'hcons node = {
+      pos : 'hcons expr;
+      mutable neg : 'hcons;
+      st : (StateSet.t*StateSet.t*StateSet.t)*(StateSet.t*StateSet.t*StateSet.t);
+      size: int; (* Todo check if this is needed *)
+    }
+       
+    external hash_const_variant : [> ] -> int = "%identity" 
+    module rec Node : Hcons.S with type data = Data.t = Hcons.Make (Data)
+    and Data : Hashtbl.HashedType  with type t = Node.t node =
+    struct 
+    type t =  Node.t node
+    let equal x y = x.size == y.size &&
+      match x.pos,y.pos with
+       | a,b when a == b -> true
+       | Or(xf1,xf2),Or(yf1,yf2) 
+       | And(xf1,xf2),And(yf1,yf2)  -> (xf1 == yf1) && (xf2 == yf2)
+       | Atom(d1,p1,s1), Atom(d2,p2,s2) -> d1 == d2 && (p1==p2) && s1 == s2
+       | _ -> false
+    let hash f = 
+      match f.pos with
+       | False -> 0
+       | True -> 1
+       | Or (f1,f2) -> HASHINT3(PRIME2,f1.Node.id, f2.Node.id)
+       | And (f1,f2) -> HASHINT3(PRIME3,f1.Node.id,f2.Node.id)
+       | Atom(d,p,s) -> HASHINT4(PRIME4,hash_const_variant d,vb p,s)       
+    end
+
+    type t = Node.t
+    let hash x = x.Node.key
+    let uid x = x.Node.id
+    let equal = Node.equal 
+    let expr f = f.Node.node.pos 
+    let st f = f.Node.node.st
+    let size f = f.Node.node.size
       
-    let fold f l acc = 
-      let rec loop acc = function
-       | Nil -> acc
-       | Cons(e,t) -> loop (f e acc) t
-       | Concat(t1,t2) -> loop (loop acc t1) t2
+    let prio f = 
+      match expr f with
+       | True | False -> 10
+       | Atom _ -> 8
+       | And _ -> 6
+       | Or _ -> 1
+
+    let rec print ?(parent=false) ppf f =
+      if parent then Format.fprintf ppf "(";
+      let _ = match expr f with
+       | True -> Format.fprintf ppf "T"
+       | False -> Format.fprintf ppf "F"
+       | And(f1,f2) -> 
+           print ~parent:(prio f > prio f1) ppf f1;
+           Format.fprintf ppf " ∧ ";
+           print ~parent:(prio f > prio f2) ppf f2;
+       | Or(f1,f2) -> 
+           (print ppf f1);
+           Format.fprintf ppf " ∨ ";
+           (print ppf f2);
+       | Atom(dir,b,s) -> Format.fprintf ppf "%s%s[%i]"
+           (if b then "" else "¬")
+             (match  dir with 
+                | `Left ->  "↓₁" 
+                | `Right -> "↓₂"
+                | `LLeft ->  "⇓₁" 
+                | `RRight -> "⇓₂") s
       in
-       loop acc l
-
-    let length l = fold (fun _ x -> x+1) l 0
+       if parent then Format.fprintf ppf ")"
+         
+    let print ppf f =  print ~parent:false ppf f
       
+    let is_true f = (expr f) == True
+    let is_false f = (expr f) == False
+
+
+    let cons pos neg s1 s2 size1 size2 =
+      let nnode = Node.make { pos = neg; neg = (Obj.magic 0); st = s2; size = size2 } in
+      let pnode = Node.make { pos = pos; neg = nnode ; st = s1; size = size1 }
+      in 
+       (Node.node nnode).neg <- pnode; (* works because the neg field isn't taken into
+                                           account for hashing ! *)
+       pnode,nnode
+
+    let empty_triple = StateSet.empty,StateSet.empty,StateSet.empty
+    let empty_hex = empty_triple,empty_triple
+    let true_,false_ = cons True False empty_hex empty_hex 0 0
+    let atom_ d p s = 
+      let si = StateSet.singleton s in
+      let ss = match d with
+       | `Left -> (si,StateSet.empty,si),empty_triple
+       | `Right -> empty_triple,(si,StateSet.empty,si)
+       | `LLeft -> (StateSet.empty,si,si),empty_triple
+       | `RRight -> empty_triple,(StateSet.empty,si,si)
+      in fst (cons (Atom(d,p,s)) (Atom(d,not p,s)) ss ss 1 1)
+
+    let not_ f = f.Node.node.neg
+    let union_hex  ((l1,ll1,lll1),(r1,rr1,rrr1))  ((l2,ll2,lll2),(r2,rr2,rrr2)) =
+      (StateSet.mem_union l1 l2 ,StateSet.mem_union ll1 ll2,StateSet.mem_union lll1 lll2),
+      (StateSet.mem_union r1 r2 ,StateSet.mem_union rr1 rr2,StateSet.mem_union rrr1 rrr2)
+      
+    let merge_states f1 f2 =
+      let sp = 
+       union_hex (st f1) (st f2)
+      and sn = 
+       union_hex (st (not_ f1)) (st (not_ f2))
+      in
+       sp,sn
 
-    let iter f l =
-      let rec loop = function
-       | Nil -> ()
-       | Cons(e,t) -> let _ = f e in loop t
-       | Concat(t1,t2) -> let _ = loop t1 in loop t2
-      in loop l
-
-  end
+    let order f1 f2 = if uid f1  < uid f2 then f2,f1 else f1,f2 
 
+    let or_ f1 f2 = 
+      (* Tautologies: x|x, x|not(x) *)
 
+      if equal f1 f2 then f1 else        
+      if equal f1 (not_ f2) then true_ else
 
-let h_union = Hashtbl.create 4097
+      (* simplification *)
+      if is_true f1 || is_true f2 then true_ else
+      if is_false f1 && is_false f2 then false_ else
+      if is_false f1 then f2 else
+      if is_false f2 then f1 else
 
-let pt_cup s1 s2 = 
-  let h = (Ptset.hash s1)*(Ptset.hash s2) - ((Ptset.hash s2)+(Ptset.hash s1)) in
-    try
-      Hashtbl.find h_union h
-    with
-       | Not_found -> let s = Ptset.union s1 s2
-         in
-           Hashtbl.add h_union h s;s
+      (* commutativity of | *)
+      
+      let f1,f2 = order f1 f2 in
+      let psize = (size f1) + (size f2) in
+      let nsize = (size (not_ f1)) + (size (not_ f2)) in
+      let sp,sn = merge_states f1 f2 in
+      fst (cons (Or(f1,f2)) (And(not_ f1,not_ f2)) sp sn psize nsize)
+             
+                     
+    let and_ f1 f2 = 
 
+      (* Tautologies: x&x, x&not(x) *)
 
-module State = struct
+      if equal f1 f2 then f1 else 
+      if equal f1 (not_ f2) then false_ else
 
-  type t = int
-  let mk = gen_id
+       (* simplifications *)
 
+      if is_true f1 && is_true f2 then true_ else
+      if is_false f1 || is_false f2 then false_ else
+      if is_true f1 then f2 else
+      if is_true f2 then f1 else
+      
+      (* commutativity of & *)
+
+      let f1,f2 = order f1 f2 in       
+      let psize = (size f1) + (size f2) in
+      let nsize = (size (not_ f1)) + (size (not_ f2)) in
+      let sp,sn = merge_states f1 f2 in
+       fst (cons (And(f1,f2)) (Or(not_ f1,not_ f2)) sp sn psize nsize)               
+    module Infix = struct
+    let ( +| ) f1 f2 = or_ f1 f2
+    let ( *& ) f1 f2 = and_ f1 f2
+    let ( *+ ) d s = atom_ d true s
+    let ( *- ) d s = atom_ d false s
+    end
 end
-let mk_state = State.mk
-
-type state = State.t
-
-
-       
-type formula_expr = 
-  | False | True
-  | Or of formula * formula 
-  | And of formula * formula 
-  | Atom of ([ `Left | `Right  | `LLeft | `RRight  ]*bool*state)
-and formula = { fid: int;
-               fkey : int;
-               pos : formula_expr;
-               neg : formula;
-               st : (Ptset.t*Ptset.t*Ptset.t)*(Ptset.t*Ptset.t*Ptset.t);
-               size: int;
-             }
+  
+module Transition = struct
+  
+  type node = State.t*TagSet.t*bool*Formula.t*bool
+  include Hcons.Make(struct
+                      type t = node
+                      let hash (s,ts,m,f,b) = HASHINT5(s,TagSet.uid ts,Formula.uid f,vb m,vb b)
+                      let equal (s,ts,b,f,m) (s',ts',b',f',m') = 
+                        s == s' && ts == ts' && b==b' && m==m' && f == f'
+                    end)
     
-external hash_const_variant : [> ] -> int = "%identity" 
-external int_bool : bool -> int = "%identity"
-
-let hash_node_form t = match t with 
-  | False -> 0
-  | True -> 1
-  | And(f1,f2) -> (2+17*f1.fkey + 37*f2.fkey) (*land max_int *)
-  | Or(f1,f2) -> (3+101*f1.fkey + 253*f2.fkey) (*land max_int *)
-  | Atom(v,b,s) -> ((hash_const_variant v) + (3846*(int_bool b) +257) + (s lsl 13 - s)) (*land max_int *)
-       
-
-module FormNode = 
-struct
-  type t = formula
-      
-  let hash t = t.fkey
-  let equal f1 f2 = 
-    if f1.fid == f2.fid || f1.fkey == f2.fkey || f1.pos == f2.pos then true
-    else
-    match f1.pos,f2.pos with
-      | False,False | True,True -> true
-      | Atom(d1,b1,s1), Atom(d2,b2,s2) when (b1==b2) &&  (s1==s2) && (d1 = d2) -> true
-      | Or(g1,g2),Or(h1,h2) 
-      | And(g1,g2),And(h1,h2)  -> g1.fid == h1.fid && g2.fid == h2.fid
-      | _ -> false
+  let print ppf f = let (st,ts,mark,form,b) = node f in
+    Format.fprintf ppf "(%i, " st;
+    TagSet.print ppf ts;
+    Format.fprintf ppf ") %s" (if mark then "⇒" else "→");
+    Formula.print ppf form;
+    Format.fprintf ppf "%s%!" (if b then " (b)" else "")
+
+
+  module Infix = struct
+  let ( ?< ) x = x
+  let ( >< ) state (l,mark) = state,(l,mark,false)
+  let ( ><@ ) state (l,mark) = state,(l,mark,true)
+  let ( >=> ) (state,(label,mark,bur)) form = (state,label,(make (state,label,mark,form,bur)))
+  end
 
 end
-module WH = Weak.Make(FormNode)
-
-let f_pool = WH.create 107
 
-let empty_triple = Ptset.empty,Ptset.empty,Ptset.empty
-let empty_hex = empty_triple,empty_triple
-
-let true_,false_ = 
-  let rec t = { fid = 1; pos = True; fkey=1; neg = f ; st = empty_hex; size =1; }
-  and f = { fid = 0; pos = False; fkey=0; neg = t; st = empty_hex; size = 1; }
-  in 
-    WH.add f_pool f;
-    WH.add f_pool t;
-    t,f
-
-let is_true f = f.fid == 1
-let is_false f = f.fid == 0
-
-
-let cons pos neg s1 s2 size1 size2 = 
-  let rec pnode = 
-    { fid = gen_id ();
-      fkey = hash_node_form pos;
-      pos = pos;
-      neg = nnode;
-      st = s1; 
-      size = size1;}
-  and nnode = { 
-    fid = gen_id ();
-    pos = neg;
-    fkey = hash_node_form neg;
-    neg = pnode;
-    st = s2;
-    size = size2;
-  }
-  in
-    (WH.merge f_pool pnode),(WH.merge f_pool nnode)
-
-let atom_  d p s = 
-  let si = Ptset.singleton s in
-  let ss = match d with
-    | `Left -> (si,Ptset.empty,si),empty_triple
-    | `Right -> empty_triple,(si,Ptset.empty,si)
-    | `LLeft -> (Ptset.empty,si,si),empty_triple
-    | `RRight -> empty_triple,(Ptset.empty,si,si)
-  in fst (cons (Atom(d,p,s)) (Atom(d,not p,s)) ss ss 1 1)
-       
-let union_hex  ((l1,ll1,lll1),(r1,rr1,rrr1))  ((l2,ll2,lll2),(r2,rr2,rrr2)) =
-  (pt_cup l1 l2 ,pt_cup ll1 ll2,pt_cup lll1 lll2),
-  (pt_cup r1 r2 ,pt_cup rr1 rr2,pt_cup rrr1 rrr2)
-
-let merge_states f1 f2 =
-  let sp = 
-    union_hex f1.st f2.st
-  and sn = 
-    union_hex f1.neg.st f2.neg.st
-  in
-    sp,sn
-      
-let full_or_ f1 f2 = 
-  let f1,f2 = if f1.fid < f2.fid then f2,f1 else f1,f2 in
-  let sp,sn = merge_states f1 f2 in
-  let psize = f1.size + f2.size in
-  let nsize = f1.neg.size + f2.neg.size in
-    fst (cons (Or(f1,f2)) (And(f1.neg,f2.neg)) sp sn psize nsize )
-
-let or_ f1 f2 = 
-  let f1,f2 = if f1.fid < f2.fid then f2,f1 else f1,f2 in
-  if is_true f1 || is_true f2 then true_
-  else if is_false f1 && is_false f2 then false_
-  else if is_false f1 then f2
-  else if is_false f2 then f1
-  else 
-    let psize = f1.size + f2.size in
-    let nsize = f1.neg.size + f2.neg.size in
-    let sp,sn = merge_states f1 f2 in
-      fst (cons (Or(f1,f2)) (And(f1.neg,f2.neg)) sp sn psize nsize)
-
-
-
-let and_ f1 f2 = 
-  let f1,f2 = if f1.fid < f2.fid then f2,f1 else f1,f2 in
-  if is_true f1 && is_true f2 then true_
-  else if is_false f1 || is_false f2 then false_
-  else if is_true f1 then f2 
-  else if is_true f2 then f1
-  else
-    let psize = f1.size + f2.size in
-    let nsize = f1.neg.size + f2.neg.size in
-    let sp,sn = merge_states f1 f2 in
-      fst (cons (And(f1,f2)) (Or(f1.neg,f2.neg)) sp sn psize nsize)
-       
-
-let not_ f = f.neg
-
-let k_hash (s,t) = ((Ptset.hash s)) lsl 31  lxor (Tag.hash t) 
-
-module HTagSetKey = 
-struct 
-  type t = Ptset.t*Tag.t 
-  let equal (s1,s2) (t1,t2) =  (s2 == t2) &&  Ptset.equal s1 t1
-  let hash = k_hash
+module TransTable = Hashtbl
+module Formlist = struct 
+  include Hlist.Make(Transition)
+  let print ppf fl = 
+    iter (fun t -> Transition.print ppf t; Format.pp_print_newline ppf ()) fl
 end
 
-module HTagSet =
+module Formlistlist = 
 struct
-  type key = Ptset.t*Tag.t
-  let equal (s1,s2) (t1,t2) =  (s2 == t2) &&  Ptset.equal s1 t1
-  let hash (s,t) = ((Ptset.hash s)) lsl 31  lxor (Tag.hash t) 
-
-type 'a t =
-  { mutable size: int;                        (* number of elements *)
-    mutable data: (key,'a) bucketlist array } (* the buckets *)
-
-and ('a, 'b) bucketlist =
-    Empty
-  | Cons of 'a * 'b * ('a, 'b) bucketlist
-
-let create initial_size =
-  let s = min (max 1 initial_size) Sys.max_array_length in
-  { size = 0; data = Array.make s Empty }
-
-let clear h =
-  for i = 0 to Array.length h.data - 1 do
-    h.data.(i) <- Empty
-  done;
-  h.size <- 0
-
-let copy h =
-  { size = h.size;
-    data = Array.copy h.data }
-
-let length h = h.size
-
-let resize tbl =
-  let odata = tbl.data in
-  let osize = Array.length odata in
-  let nsize = min (2 * osize + 1) Sys.max_array_length in
-  if nsize <> osize then begin
-    let ndata = Array.create nsize Empty in
-    let rec insert_bucket = function
-        Empty -> ()
-      | Cons(key, data, rest) ->
-          insert_bucket rest; (* preserve original order of elements *)
-          let nidx = (hash key) mod nsize in
-          ndata.(nidx) <- Cons(key, data, ndata.(nidx)) in
-    for i = 0 to osize - 1 do
-      insert_bucket odata.(i)
-    done;
-    tbl.data <- ndata;
-  end
-
-let add h key info =
-  let i = (hash key) mod (Array.length h.data) in
-  let bucket = Cons(key, info, h.data.(i)) in
-  h.data.(i) <- bucket;
-  h.size <- succ h.size;
-  if h.size > Array.length h.data lsl 1 then resize h
-
-let remove h key =
-  let rec remove_bucket = function
-      Empty ->
-        Empty
-    | Cons(k, i, next) ->
-        if equal k key 
-        then begin h.size <- pred h.size; next end
-        else Cons(k, i, remove_bucket next) in
-  let i = (hash key) mod (Array.length h.data) in
-  h.data.(i) <- remove_bucket h.data.(i)
-
-let rec find_rec key = function
-    Empty ->
-      raise Not_found
-  | Cons(k, d, rest) ->
-      if equal key k  then d else find_rec key rest
-
-let find h key =
-  match h.data.((hash key) mod (Array.length h.data)) with
-    Empty -> raise Not_found
-  | Cons(k1, d1, rest1) ->
-      if equal key k1  then d1 else
-      match rest1 with
-        Empty -> raise Not_found
-      | Cons(k2, d2, rest2) ->
-          if equal key k2  then d2 else
-          match rest2 with
-            Empty -> raise Not_found
-          | Cons(k3, d3, rest3) ->
-              if equal key k3 then d3 else find_rec key rest3
-
-let find_all h key =
-  let rec find_in_bucket = function
-    Empty ->
-      []
-  | Cons(k, d, rest) ->
-      if equal k key
-      then d :: find_in_bucket rest
-      else find_in_bucket rest in
-  find_in_bucket h.data.((hash key) mod (Array.length h.data))
-
-let replace h key info =
-  let rec replace_bucket = function
-      Empty ->
-        raise Not_found
-    | Cons(k, i, next) ->
-        if equal k key
-        then Cons(k, info, next)
-        else Cons(k, i, replace_bucket next) in
-  let i = (hash key) mod (Array.length h.data) in
-  let l = h.data.(i) in
-  try
-    h.data.(i) <- replace_bucket l
-  with Not_found ->
-    h.data.(i) <- Cons(key, info, l);
-    h.size <- succ h.size;
-    if h.size > Array.length h.data lsl 1 then resize h
-
-let mem h key =
-  let rec mem_in_bucket = function
-  | Empty ->
-      false
-  | Cons(k, d, rest) ->
-      equal k key || mem_in_bucket rest in
-  mem_in_bucket h.data.((hash key) mod (Array.length h.data))
-
-let iter f h =
-  let rec do_bucket = function
-      Empty ->
-        ()
-    | Cons(k, d, rest) ->
-        f k d; do_bucket rest in
-  let d = h.data in
-  for i = 0 to Array.length d - 1 do
-    do_bucket d.(i)
-  done
-
-let fold f h init =
-  let rec do_bucket b accu =
-    match b with
-      Empty ->
-        accu
-    | Cons(k, d, rest) ->
-        do_bucket rest (f k d accu) in
-  let d = h.data in
-  let accu = ref init in
-  for i = 0 to Array.length d - 1 do
-    accu := do_bucket d.(i) !accu
-  done;
-  !accu
-
-
+  include Hlist.Make(Formlist)
+  let print ppf fll =
+    iter (fun fl -> Formlist.print ppf fl; Format.pp_print_newline ppf ())fll
 end
+  
+type 'a t = { 
+    id : int;
+    mutable states : Ptset.Int.t;
+    init : Ptset.Int.t;
+    starstate : Ptset.Int.t option;
+    (* Transitions of the Alternating automaton *)
+    trans : (State.t,(TagSet.t*Transition.t) list) Hashtbl.t;
+    query_string: string;
+ }
 
+       
+let dump ppf a = 
+  Format.fprintf ppf "Automaton (%i) :\n" a.id;
+  Format.fprintf ppf "States : "; StateSet.print ppf a.states;
+  Format.fprintf ppf "\nInitial states : "; StateSet.print ppf a.init;
+  Format.fprintf ppf "\nAlternating transitions :\n";
+  let l = Hashtbl.fold (fun k t acc -> 
+                         (List.map (fun (ts,tr) -> (ts,k),Transition.node tr) t) @ acc) a.trans [] in
+  let l = List.sort (fun ((tsx,x),_) ((tsy,y),_) -> 
+                      if y-x == 0 then TagSet.compare tsy tsx else y-x) l in
+  let maxh,maxt,l_print = 
+    List.fold_left (
+      fun (maxh,maxt,l) ((ts,q),(_,_,b,f,_)) ->                          
+       let s = 
+         if TagSet.is_finite ts 
+         then "{" ^ (TagSet.fold (fun t a -> a ^ " '" ^ (Tag.to_string t)^"'") ts "") ^" }"
+         else let cts = TagSet.neg ts in
+         if TagSet.is_empty cts then "*" else
+         (TagSet.fold (fun t a -> a ^ " " ^ (Tag.to_string t)) cts "*\\{"
+         )^ "}"
+       in
+       let s = Printf.sprintf "(%s,%i)" s q in
+       let s_frm =
+         Formula.print Format.str_formatter f;
+         Format.flush_str_formatter()     
+       in
+         (max (String.length s) maxh, max (String.length s_frm) maxt,
+          (s,(if b then "⇒" else "→"),s_frm)::l)) (0,0,[]) l
+  in
+    Format.fprintf ppf "%s\n%!" (String.make (maxt+maxh+3) '_');
+    List.iter (fun (s,m,f) -> let s = s ^ (String.make (maxh-(String.length s)) ' ') in
+                Format.fprintf ppf "%s %s %s\n" s m f) l_print;
+    Format.fprintf ppf "%s\n%!" (String.make (maxt+maxh+3) '_')
+    
 
+module FormTable = Hashtbl.Make(struct
+                                 type t = Formula.t*StateSet.t*StateSet.t
+                                 let equal (f1,s1,t1) (f2,s2,t2) =
+                                   f1 == f2 && s1 == s2 && t1 == t2
+                                 let hash (f,s,t) = 
+                                   HASHINT3(Formula.uid f ,StateSet.uid s,StateSet.uid t)
+                               end)
+module F = Formula
+
+let eval_form_bool = 
+  let h_f = FormTable.create BIG_H_SIZE in
+    fun f s1 s2 ->
+      let rec loop f =
+       match F.expr f with
+         | F.True -> true,true,true
+         | F.False -> false,false,false
+         | F.Atom((`Left|`LLeft),b,q) ->
+             if b == (StateSet.mem q s1) 
+             then (true,true,false) 
+             else false,false,false
+         | F.Atom(_,b,q) -> 
+             if b == (StateSet.mem q s2) 
+             then (true,false,true)
+             else false,false,false    
+         | f' -> 
+             try FormTable.find h_f (f,s1,s2)
+             with Not_found -> let r =
+               match f' with
+                 | F.Or(f1,f2) ->          
+                     let b1,rl1,rr1 = loop f1
+                     in
+                       if b1 && rl1 && rr1 then (true,true,true)  else
+                         let b2,rl2,rr2 = loop f2  in
+                         let rl1,rr1 = if b1 then rl1,rr1 else false,false
+                         and rl2,rr2 = if b2 then rl2,rr2 else false,false
+                         in (b1 || b2, rl1||rl2,rr1||rr2)
+                              
+                 | F.And(f1,f2) -> 
+                     let b1,rl1,rr1 = loop f1 in
+                       if b1 && rl1 && rr1 then (true,true,true) else
+                         if b1 then 
+                           let b2,rl2,rr2 = loop f2 in
+                             if b2 then (true,rl1||rl2,rr1||rr2) else (false,false,false)
+                         else (false,false,false)
+                 | _ -> assert false
+             in FormTable.add h_f (f,s1,s2) r;r
+      in loop f
 
-
-
-
-
-
-
-
-
-
-
-type dispatch = { first : Tree.t -> Tree.t;
-                 flabel : string;
-                 next : Tree.t -> Tree.t -> Tree.t;
-                 nlabel : string;
-               }
-type t = { 
-    id : int;
-    mutable states : Ptset.t;
-    init : Ptset.t;
-    mutable final : Ptset.t;
-    universal : Ptset.t;
-    (* Transitions of the Alternating automaton *)
-    phi : (state,(TagSet.t*(bool*formula*bool)) list) Hashtbl.t;
-    sigma : (dispatch*bool*formula) HTagSet.t;
-}
           
-  module Pair (X : Set.OrderedType) (Y : Set.OrderedType) =
-  struct
-    type t = X.t*Y.t
-    let compare (x1,y1) (x2,y2) =
-      let r = X.compare x1 x2 in
-       if r == 0 then Y.compare y1 y2
-       else r
-  end
-
-  module PL = Set.Make (Pair (Ptset) (Ptset))
-
-
-  let pr_st ppf l = Format.fprintf ppf "{";
-    begin
-      match l with
-       |       [] -> ()
-       | [s] -> Format.fprintf ppf " %i" s
-       | p::r -> Format.fprintf ppf " %i" p;
-           List.iter (fun i -> Format.fprintf ppf "; %i" i) r
-    end;
-    Format.fprintf ppf " }"
-  let rec pr_frm ppf f = match f.pos with
-    | True -> Format.fprintf ppf "⊤"
-    | False -> Format.fprintf ppf "⊥"
-    | And(f1,f2) -> 
-       Format.fprintf ppf "(";
-       (pr_frm ppf f1);
-       Format.fprintf ppf ") ∧ (";
-       (pr_frm ppf f2);
-       Format.fprintf ppf ")"
-    | Or(f1,f2) -> 
-       (pr_frm ppf f1);
-       Format.fprintf ppf " ∨ ";
-       (pr_frm ppf f2);
-    | Atom(dir,b,s) -> Format.fprintf ppf "%s%s[%i]"
-       (if b then "" else "¬")
-       (match  dir with 
-          | `Left ->  "↓₁" 
-          | `Right -> "↓₂"
-          | `LLeft ->  "⇓₁" 
-          | `RRight -> "⇓₂") s       
-
-  let dnf_hash = Hashtbl.create 17
-
-  let rec dnf_aux f = match f.pos with
-    | False -> PL.empty
-    | True -> PL.singleton (Ptset.empty,Ptset.empty)
-    | Atom((`Left|`LLeft),_,s) -> PL.singleton (Ptset.singleton s,Ptset.empty)
-    | Atom((`Right|`RRight),_,s) -> PL.singleton (Ptset.empty,Ptset.singleton s)
-    | Or(f1,f2) -> PL.union (dnf f1) (dnf f2)
-    | And(f1,f2) ->
-         let pl1 = dnf f1
-         and pl2 = dnf f2
-         in
-           PL.fold (fun (s1,s2) acc ->
-                      PL.fold ( fun (s1', s2') acc' ->
-                                  (PL.add
-                                     ((Ptset.union s1 s1'),
-                                      (Ptset.union s2 s2')) acc') )
-                         pl2 acc )
-             pl1 PL.empty
-
-
-  and dnf f =
-    try
-      Hashtbl.find dnf_hash f.fid
-    with
-       Not_found ->
-         let d = dnf_aux f in
-           Hashtbl.add dnf_hash f.fid d;d
-
-
-  let can_top_down f =
-    let nf = dnf f in
-      if (PL.cardinal nf > 3)then None
-      else match PL.elements nf with
-       | [(s1,s2); (t1,t2); (u1,u2)] when
-           Ptset.is_empty s1 && Ptset.is_empty s2 && Ptset.is_empty t1 && Ptset.is_empty u2
-             -> Some(true,t2,u1)
-       | [(t1,t2); (u1,u2)] when Ptset.is_empty t1 && Ptset.is_empty u2
-           -> Some(false,t2,u1)
-       | _ -> None
-
-     
-  let equal_form f1 f2 = 
-    (f1.fid == f2.fid) || (FormNode.equal f1 f2) || (PL.equal (dnf f1) (dnf f2))
+module FTable = Hashtbl.Make(struct
+                              type t = Tag.t*Formlist.t*StateSet.t*StateSet.t
+                              let equal (tg1,f1,s1,t1) (tg2,f2,s2,t2) =
+                                tg1 == tg2 && f1 == f2 &&  s1 == s2 && t1 == t2;;
+                              let hash (tg,f,s,t) =  HASHINT4(tg,Formlist.uid f ,StateSet.uid s,StateSet.uid t);;
+                            end)
+
+
+let h_f = FTable.create BIG_H_SIZE 
+type merge_conf = NO | MARK | ONLY1 | ONLY2 | ONLY12 | MARK1 | MARK2 | MARK12
+
+let eval_formlist tag s1 s2 fl =
+  let rec loop fl =
+          try 
+           FTable.find h_f (tag,fl,s1,s2)
+         with 
+           | Not_found  -> 
+               match Formlist.node fl with
+                 | Formlist.Cons(f,fll) ->
+                     let q,ts,mark,f,_ = Transition.node f in
+                     let b,b1,b2 = 
+                       if TagSet.mem tag ts then eval_form_bool f s1 s2 else (false,false,false)
+                     in
+                     let (s,(b',b1',b2',amark)) as res = loop fll in
+                     let r = if b then (StateSet.add q s, (b, b1'||b1,b2'||b2,mark||amark))
+                     else res
+                     in FTable.add h_f (tag,fl,s1,s2) r;r
+                 | Formlist.Nil -> StateSet.empty,(false,false,false,false)
+  in 
+  let r,conf = loop fl
+  in
+  r,(match  conf with
+    | (false,_,_,_) -> NO
+    | (_,false,false,false) -> NO
+    | (_,true,false,false) -> ONLY1
+    | (_,false,true,false) -> ONLY2
+    | (_,true,true,false) -> ONLY12
+    | (_,false,false,true) -> MARK
+    | (_,true,false,true) -> MARK1
+    | (_,false,true,true) -> MARK2
+    | _ -> MARK12)
+
+let bool_of_merge conf =
+  match  conf with
+    | NO -> false,false,false,false
+    | ONLY1 -> true,true,false,false
+    | ONLY2 -> true,false,true,false 
+    | ONLY12 -> true,true,true,false 
+    | MARK -> true,false,false,true
+    | MARK1 -> true,true,false,true
+    | MARK2 -> true,false,true,true
+    | MARK12 -> true,true,true,true
+
+
+let tags_of_state a q = 
+  Hashtbl.fold  
+    (fun p l acc -> 
+       if p == q then List.fold_left 
+        (fun acc (ts,t) -> 
+           let _,_,_,_,aux = Transition.node t in
+             if aux then acc else
+               TagSet.cup ts acc) acc l
+        
+       else acc) a.trans TagSet.empty
+      
       
-  let dump ppf a = 
-    Format.fprintf ppf "Automaton (%i) :\n" a.id;
-    Format.fprintf ppf "States : "; pr_st ppf (Ptset.elements a.states);
-    Format.fprintf ppf "\nInitial states : "; pr_st ppf (Ptset.elements a.init);
-    Format.fprintf ppf "\nFinal states : "; pr_st ppf (Ptset.elements a.final);
-    Format.fprintf ppf "\nUniversal states : "; pr_st ppf (Ptset.elements a.universal);
-    Format.fprintf ppf "\nAlternating transitions :\n------------------------------\n";
-    let l = Hashtbl.fold (fun k t acc -> 
-                           (List.map (fun (t,(m,f,p)) -> (t,k),(m,f,p)) t)@ acc) a.phi [] in
-    let l = List.sort (fun ((tsx,x),_) ((tsy,y),_) -> if x-y == 0 then TagSet.compare tsx tsy else x-y) l in
-    List.iter (fun ((ts,q),(b,f,_)) ->
-                   
-                   let s = 
-                     if TagSet.is_finite ts 
-                     then "{" ^ (TagSet.fold (fun t a -> a ^ " '" ^ (Tag.to_string t)^"'") ts "") ^" }"
-                     else let cts = TagSet.neg ts in
-                       if TagSet.is_empty cts then "*" else
-                         (TagSet.fold (fun t a -> a ^ " " ^ (Tag.to_string t)) cts "*\\{"
-                         )^ "}"
-                   in
-                     Format.fprintf ppf "(%s,%i) %s " s q (if b then "=>" else "->");
-                     pr_frm ppf f;
-                     Format.fprintf ppf "\n")l;
-    
-    Format.fprintf ppf "NFA transitions :\n------------------------------\n";
-    HTagSet.iter (fun (qs,t) (disp,b,f) ->
-                   pr_st ppf (Ptset.elements qs);
-                   Format.fprintf ppf ",%s  %s " (Tag.to_string t) (if b then "=>" else "->");
-                   pr_frm ppf f;
-                   Format.fprintf ppf "(fid=%i) left=" f.fid;
-                   let (l,ll,_),(r,rr,_) = f.st in 
-                     pr_st ppf (Ptset.elements l);
-                     Format.fprintf ppf ", ";
-                     pr_st ppf (Ptset.elements ll);
-                     Format.fprintf ppf ", right=";
-                     pr_st ppf (Ptset.elements r);
-                     Format.fprintf ppf ", ";
-                     pr_st ppf (Ptset.elements rr);
-                     Format.fprintf ppf ", first=%s, next=%s\n" disp.flabel disp.nlabel;
-                ) a.sigma;    
-    Format.fprintf ppf "=======================================\n%!"
-    
-  module Transitions = struct
-    type t = state*TagSet.t*bool*formula*bool
-    let ( ?< ) x = x
-    let ( >< ) state (l,b) = state,(l,b,false)
-    let ( ><@ ) state (l,b) = state,(l,b,true)
-    let ( >=> ) (state,(label,mark,pred)) form = (state,label,mark,form,pred)
-    let ( +| ) f1 f2 = or_ f1 f2
-    let ( *& ) f1 f2 = and_ f1 f2
-    let ( ** ) d s = atom_ d true s
 
+    let tags a qs = 
+      let ts = Ptset.Int.fold (fun q acc -> TagSet.cup acc (tags_of_state a q)) qs TagSet.empty
+      in
+       if TagSet.is_finite ts 
+       then `Positive(TagSet.positive ts)
+       else `Negative(TagSet.negative ts)
+       
+    let inter_text a b =
+      match b with
+       | `Positive s -> let r = Ptset.Int.inter a s in (r,Ptset.Int.mem Tag.pcdata r, true)
+       | `Negative s -> let r = Ptset.Int.diff a s in (r, Ptset.Int.mem Tag.pcdata r, false)
+      
 
-  end
-  type transition = Transitions.t
+    module type ResultSet = 
+    sig
+      type t
+      type elt = [` Tree ] Tree.node
+      val empty : t
+      val cons : elt -> t -> t
+      val concat : t -> t -> t
+      val iter : ( elt -> unit) -> t -> unit
+      val fold : ( elt -> 'a -> 'a) -> t -> 'a -> 'a
+      val map : ( elt -> elt) -> t -> t
+      val length : t -> int
+      val merge : merge_conf -> elt -> t -> t -> t 
+      val mk_quick_tag_loop : (elt -> elt -> 'a*t array) -> 'a -> int -> Tree.t -> Tag.t -> (elt -> elt -> 'a*t array)
+      val mk_quick_star_loop : (elt -> elt -> 'a*t array) -> 'a -> int -> Tree.t -> (elt -> elt -> 'a*t array)
+    end
+
+    module Integer : ResultSet =
+    struct
+      type t = int
+      type elt = [`Tree] Tree.node
+
+      let empty = 0
+      let cons _ x = x+1
+      let concat x y = x + y
+      let iter _ _ = failwith "iter not implemented"
+      let fold _ _ _ = failwith "fold not implemented"
+      let map _ _ = failwith "map not implemented"
+      let length x = x
+      let merge2 conf t res1 res2 = 
+       let rb,rb1,rb2,mark = conf in
+       if rb then
+         let res1 = if rb1 then res1 else 0
+         and res2 = if rb2 then res2 else 0
+         in
+           if mark then 1+res1+res2
+           else res1+res2
+       else 0
+      let merge conf t res1 res2 = 
+       match conf with
+           NO -> 0
+         | MARK -> 1
+         | ONLY12 -> res1+res2
+         | ONLY1 -> res1
+         | ONLY2 -> res2
+         | MARK12 -> res1+res2+1
+         | MARK1 -> res1+1
+         | MARK2 -> res2+1
+
+      let mk_quick_tag_loop _ sl ss tree tag = ();
+       fun t ctx ->
+         (sl, Array.make ss (Tree.subtree_tags tree tag t))
+      let mk_quick_star_loop _ sl ss tree = ();
+       fun t ctx -> 
+         (sl, Array.make ss (Tree.subtree_elements tree t))
+         
+    end
 
-  let equal_trans (q1,t1,m1,f1,_) (q2,t2,m2,f2,_) =
-    (q1 == q2) && (TagSet.equal t1 t2) && (m1 == m2) && (equal_form f1 f2)
+    module IdSet : ResultSet= 
+    struct
+      type elt = [`Tree] Tree.node
+      type node = Nil 
+                 | Cons of elt * node 
+                 | Concat of node*node
+   
+      and t = { node : node;
+               length :  int }
+
+      let empty = { node = Nil; length = 0 }
+       
+      let cons e t = { node = Cons(e,t.node); length = t.length+1 }
+      let concat t1 t2 = { node = Concat(t1.node,t2.node); length = t1.length+t2.length }
+      let append e t = { node = Concat(t.node,Cons(e,Nil)); length = t.length+1 } 
+       
+      let fold f l acc = 
+       let rec loop acc t = match t with
+         | Nil -> acc
+         | Cons (e,t) -> loop (f e acc) t
+         | Concat (t1,t2) -> loop (loop acc t1) t2
+       in
+         loop acc l.node
+           
+      let length l = l.length
+       
+       
+      let iter f l =
+       let rec loop = function
+         | Nil -> ()
+         | Cons (e,t) -> f e; loop t
+         | Concat(t1,t2) -> loop t1;loop t2
+       in loop l.node
+
+      let map f l =
+       let rec loop = function 
+         | Nil -> Nil
+         | Cons(e,t) -> Cons(f e, loop t)
+         | Concat(t1,t2) -> Concat(loop t1,loop t2)
+       in
+         { l with node = loop l.node }
+           
+      let merge conf t res1 res2 = 
+       match conf with
+          NO -> empty
+         | MARK -> cons t empty
+         | ONLY1 -> res1
+         | ONLY2 -> res2
+         | ONLY12 -> { node = (Concat(res1.node,res2.node));
+                       length = res1.length + res2.length ;}
+         | MARK12 -> { node = Cons(t,(Concat(res1.node,res2.node)));
+                       length = res1.length + res2.length + 1;}
+         | MARK1 -> { node = Cons(t,res1.node);
+                       length = res1.length + 1;}
+         | MARK2 -> { node = Cons(t,res2.node);
+                      length = res2.length + 1;}
+
+      let mk_quick_tag_loop f _ _ _ _ = f
+      let mk_quick_star_loop f _ _ _ = f
+    end
+    module GResult(Doc : sig val doc : Tree.t end) = struct
+      type bits
+      type elt = [` Tree] Tree.node
+      external create_empty : int -> bits = "caml_result_set_create"
+      external set : bits -> int -> unit = "caml_result_set_set"
+      external next : bits -> int -> int = "caml_result_set_next"
+      external clear : bits -> elt -> elt -> unit = "caml_result_set_clear"
+      external set_tag_bits : bits -> Tag.t -> Tree.t -> elt -> elt = "caml_set_tag_bits"
+      type t = 
+        { segments : elt list;
+          bits : bits;
+        }
+
+      let ebits = 
+       let size = (Tree.subtree_size Doc.doc Tree.root) in
+       create_empty (size*2+1)
+
+      let empty = { segments = [];
+                   bits = ebits }
+       
+      let cons e t = 
+       let rec loop l = match l with
+         | [] -> { bits = (set t.bits (Obj.magic e);t.bits);
+                   segments = [ e ] }
+         | p::r -> 
+             if Tree.is_binary_ancestor Doc.doc e p then
+             loop r
+             else
+             { bits = (set t.bits (Obj.magic e);t.bits);
+               segments = e::l }
+       in
+       loop t.segments
+                   
+      let concat t1 t2 =
+       if t2.segments == [] then t1
+       else
+       if t1.segments == [] then t2
+       else
+       let h2 = List.hd t2.segments in
+       let rec loop l = match l with
+         | [] -> t2.segments
+         | p::r -> 
+             if Tree.is_binary_ancestor Doc.doc p h2 then
+             l
+             else
+             p::(loop r)
+       in
+       { bits = t1.bits;
+         segments = loop t1.segments 
+       }
+
+      let iter f t =
+       let rec loop i = 
+         if i == -1 then ()
+         else (f ((Obj.magic i):elt);loop (next t.bits i))
+       in loop (next t.bits 0)
+         
+      let fold f t acc = 
+       let rec loop i acc = 
+         if i == -1 then acc
+         else loop (next t.bits i) (f ((Obj.magic i):elt) acc)
+       in loop (next t.bits 0) acc
+
+      let map _ _ = failwith "noop"
+      let length t = let cpt = ref 0 in
+      iter (fun _ -> incr cpt) t; !cpt
       
+      let clear_bits t = 
+       let rec loop l = match l with
+          [] -> ()
+         | idx::ll ->
+             clear t.bits idx (Tree.closing Doc.doc idx); loop ll
+       in
+       loop t.segments;empty
+
+      let merge (rb,rb1,rb2,mark) elt t1 t2 =
+       if rb then
+(*     let _ = Printf.eprintf "Lenght before merging is %i %i\n"
+         (List.length t1.segments) (List.length t2.segments)
+       in *)
+       match t1.segments,t2.segments with
+          [],[] -> if mark then cons elt empty else empty
+         | [_],[] when rb1 -> if mark then cons elt t1 else t1
+         | [], [_] when rb2 -> if mark then cons elt t2 else t2
+         | [_],[_] when rb1 && rb2 -> if mark then cons elt empty else
+           concat t1 t2
+         | _ -> 
+       let t1 = if rb1 then t1 else clear_bits t1
+       and t2 = if rb2 then t2 else clear_bits t2
+       in
+       (if mark then cons elt (concat t1 t2)
+        else concat t1 t2)
+       else
+       let _ = clear_bits t1 in
+       clear_bits t2
+
+      let merge conf t t1 t2 = 
+       match t1.segments,t2.segments,conf with
+         | _,_,NO -> let _ = clear_bits t1 in clear_bits t2
+         | [],[],(MARK1|MARK2|MARK12|MARK) -> cons t empty
+         | [],[],_ -> empty
+         | [_],[],(ONLY1|ONLY12) -> t1
+         | [_],[],(MARK1|MARK12) -> cons t t1
+         | [],[_],(ONLY2|ONLY12) -> t2
+         | [],[_],(MARK2|MARK12) -> cons t t2
+         | [_],[_],ONLY12 -> concat t1 t2
+         | [_],[_],MARK12 -> cons t empty
+         | _,_,MARK -> let _ = clear_bits t2 in cons t (clear_bits t1)     
+         | _,_,ONLY1 -> let _ = clear_bits t2 in t1
+         | _,_,ONLY2 -> let _ = clear_bits t1 in t2
+         | _,_,ONLY12 -> concat t1 t2
+         | _,_,MARK1 -> let _ = clear_bits t2 in cons t t1
+         | _,_,MARK2 -> let _ = clear_bits t1 in cons t t2
+         | _,_,MARK12 ->  cons t (concat t1 t2)
+
+      let mk_quick_tag_loop _ sl ss tree tag = ();
+       fun t _ ->        
+         let res = empty in
+         let first = set_tag_bits empty.bits tag tree t in
+         let res = 
+           if first == Tree.nil then res else 
+           cons first res 
+         in
+         (sl, Array.make ss res)
 
-  module HFEval = Hashtbl.Make(
+      let mk_quick_star_loop f _ _ _ = f
+    end
+    module Run (RS : ResultSet) =
     struct
-      type t = int*Ptset.t*Ptset.t
-      let equal (a,b,c) (d,e,f) =
-       a==d && (Ptset.equal b e) && (Ptset.equal c f)
-      let hash (a,b,c) = 
-       a+17*(Ptset.hash b) + 31*(Ptset.hash c)
-    end)
-    
-  let hfeval = HFEval.create 4097
-    
 
-    let eval_form_bool f s1 s2 =      
-      let rec eval f = match f.pos with
-         (* test some inlining *)
-       | True -> true,true,true
-       | False -> false,false,false
-       | Atom((`Left|`LLeft),b,q) -> if b == (Ptset.mem q s1) then (true,true,false) else false,false,false
-       | Atom(_,b,q) -> if b == (Ptset.mem q s2) then (true,false,true) else false,false,false
-       | _ ->
-           try   
-              HFEval.find hfeval (f.fid,s1,s2) 
-           with
-             | Not_found -> let r = 
-                 match f.pos with
-                   | Or(f1,f2) ->          
-                       let b1,rl1,rr1 = eval f1 
-                       in
-                         if b1 && rl1 && rr1 then (true,true,true)
-                         else
-                           let b2,rl2,rr2 = eval f2
-                           in
-                           let rl1,rr1 = if b1 then rl1,rr1 else false,false
-                           and rl2,rr2 = if b2 then rl2,rr2 else false,false
-                           in (b1 || b2, rl1||rl2,rr1||rr2)                             
-                   | And(f1,f2) -> 
-                       let b1,rl1,rr1 = eval f1 in
-                         if b1 && rl1 && rr1 then (true,true,true)
-                         else if b1 
-                         then let b2,rl2,rr2 = eval f2 in
-                           if b2 then (true,rl1||rl2,rr1||rr2)
-                           else (false,false,false)
-                         else (false,false,false) 
-                   | _ -> assert false
-               in
-                 HFEval.add hfeval (f.fid,s1,s2) r;
-                 r
-      in eval f
-
-
-    let fstate_pool = Hashtbl.create 11
-
-    let merge_pred a b = match a,b with
-      | Some(f1), Some(f2) -> Some(fun x -> f1 x || f2 x)
-      | None,None -> None
-      | None,Some(_) -> b
-      | Some(_),None -> a
-
-    let acc_pred p l1 l2 = match p with
-      | `Left _ -> p::l1,l2
-      | `Right _ -> l1,p::l2
-      | _ -> l1,l2
+      module SList = Hlist.Make (StateSet)
 
+
+
+IFDEF DEBUG
+THEN
+      module IntSet = Set.Make(struct type t = int let compare = (-) end)
+INCLUDE "html_trace.ml"
              
+END            
+      let mk_fun f s = D_IGNORE_(register_funname f s,f)
+      let mk_app_fun f arg s = let g = f arg in 
+       D_IGNORE_(register_funname g ((get_funname f) ^ " " ^ s), g) 
+      let mk_app_fun2 f arg1 arg2 s = let g = f arg1 arg2 in 
+       D_IGNORE_(register_funname g ((get_funname f) ^ " " ^ s), g) 
+
+      let string_of_ts tags = (Ptset.Int.fold (fun t a -> a ^ " " ^ (Tag.to_string t) ) tags "{")^ " }"
+
+
+      module Algebra =
+       struct
+         type jump = [ `NIL | `ANY |`ANYNOTEXT | `JUMP ]
+         type t = jump*Ptset.Int.t*Ptset.Int.t
+         let jts = function 
+         | `JUMP -> "JUMP"
+         | `NIL -> "NIL"
+         | `ANY -> "ANY"
+         | `ANYNOTEXT -> "ANYNOTEXT"
+         let merge_jump (j1,c1,l1) (j2,c2,l2) = 
+           match j1,j2 with
+             | _,`NIL -> (j1,c1,l1)
+             | `NIL,_ -> (j2,c2,l2)
+             | `ANY,_ -> (`ANY,Ptset.Int.empty,Ptset.Int.empty)
+             | _,`ANY -> (`ANY,Ptset.Int.empty,Ptset.Int.empty)
+             | `ANYNOTEXT,_ -> 
+                 if Ptset.Int.mem Tag.pcdata (Ptset.Int.union c2 l2) then
+                 (`ANY,Ptset.Int.empty,Ptset.Int.empty)
+                 else
+                 (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
+             | _,`ANYNOTEXT -> 
+                 if Ptset.Int.mem Tag.pcdata (Ptset.Int.union c1 l1) then
+                 (`ANY,Ptset.Int.empty,Ptset.Int.empty)
+                 else
+                 (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
+             | `JUMP,`JUMP -> (`JUMP, Ptset.Int.union c1 c2,Ptset.Int.union l1 l2)
+
+         let merge_jump_list = function 
+           | [] -> `NIL,Ptset.Int.empty,Ptset.Int.empty
+           | p::r -> 
+               List.fold_left (merge_jump) p r
              
+         let labels a s = 
+           Hashtbl.fold 
+           (
+             fun q l acc -> 
+               if (q == s)
+               then 
+
+                 (List.fold_left 
+                     (fun acc (ts,f) ->
+                       let _,_,_,_,bur = Transition.node f in
+                       if bur then acc else TagSet.cup acc ts) 
+                   acc l)
+               else acc ) a.trans TagSet.empty
+         exception Found
+           
+         let is_rec a s access = 
+           List.exists
+             (fun (_,t) -> let _,_,_,f,_ = Transition.node t in
+             StateSet.mem s ((fun (_,_,x) -> x) (access (Formula.st f)))) (Hashtbl.find a.trans s) 
+                    
+         let is_final_marking a s =
+           List.exists (fun (_,t) -> let _,_,m,f,_ = Transition.node t in m&& (Formula.is_true f))
+             (Hashtbl.find a.trans s)
              
-    let tags_of_state a q = Hashtbl.fold 
-      (fun p l acc -> 
-        if p == q then
-          List.fold_left 
-            (fun acc (ts,(_,_,aux)) -> 
-               if aux then acc else
-                 TagSet.cup ts acc) acc l
-        else acc) a.phi TagSet.empty
-    
-      
+             
+         let decide a c_label l_label dir_states dir =
+                       
+           let l = StateSet.fold 
+             (fun s l -> 
+                let s_rec = is_rec a s (if dir then fst else snd) in
+                let s_rec = if dir then s_rec else
+                (* right move *)
+                is_rec a s fst
+                in
+                let s_lab = labels a s in
+                let jmp,cc,ll = 
+                  if (not (TagSet.is_finite s_lab)) then
+                  if TagSet.mem Tag.pcdata s_lab then  (`ANY,Ptset.Int.empty,Ptset.Int.empty)
+                  else (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
+                  else 
+                  if s_rec 
+                  then (`JUMP,Ptset.Int.empty, TagSet.positive 
+                          (TagSet.cap (TagSet.inj_positive l_label) s_lab))
+                  else (`JUMP,TagSet.positive 
+                          (TagSet.cap (TagSet.inj_positive c_label) s_lab),
+                        Ptset.Int.empty )
+                in
+                  (if jmp != `ANY 
+                   && jmp != `ANYNOTEXT 
+                   && Ptset.Int.is_empty cc 
+                   && Ptset.Int.is_empty ll
+                   then (`NIL,Ptset.Int.empty,Ptset.Int.empty)
+                   else  (jmp,cc,ll))::l) dir_states []
+           in merge_jump_list l                            
+           
+             
+       end 
+
+
+
+      let choose_jump (d,cl,ll) f_nil f_t1 f_s1 f_tn f_sn f_s1n f_notext f_maytext =
+       match d with
+         | `NIL -> (`NIL,f_nil)
+         | `ANYNOTEXT -> `ANY,f_notext
+         | `ANY -> `ANY,f_maytext
+         | `JUMP -> 
+             if Ptset.Int.is_empty cl then
+             if Ptset.Int.is_singleton ll then
+             let tag = Ptset.Int.choose ll in 
+             (`TAG(tag),mk_app_fun f_tn tag (Tag.to_string tag))
+             else
+             (`MANY(ll),mk_app_fun f_sn ll (string_of_ts ll))
+             else if Ptset.Int.is_empty ll then
+             if Ptset.Int.is_singleton cl then
+             let tag = Ptset.Int.choose cl in 
+             (`TAG(tag),mk_app_fun f_t1 tag (Tag.to_string tag))
+             else
+             (`MANY(cl),mk_app_fun f_s1 cl (string_of_ts cl))
+             else
+             (`ANY,mk_app_fun2 f_s1n cl ll ((string_of_ts cl) ^ " " ^ (string_of_ts ll)))
+
+         | _ -> assert false
+         
+      let choose_jump_down tree d =
+       choose_jump d
+         (mk_fun (fun _ -> Tree.nil) "Tree.mk_nil")
+         (mk_fun (Tree.tagged_child tree) "Tree.tagged_child") 
+         (mk_fun (Tree.select_child tree) "Tree.select_child")
+         (mk_fun (Tree.tagged_desc tree) "Tree.tagged_desc")
+         (mk_fun (Tree.select_desc tree) "Tree.select_desc") 
+         (mk_fun (fun _ _ -> Tree.first_child tree) "[FIRSTCHILD]Tree.select_child_desc")
+         (mk_fun (Tree.first_element tree) "Tree.first_element")
+         (mk_fun (Tree.first_child tree) "Tree.first_child") 
+
+      let choose_jump_next tree d = 
+       choose_jump d
+         (mk_fun (fun _ _ -> Tree.nil) "Tree.mk_nil2")
+         (mk_fun (Tree.tagged_sibling_ctx tree) "Tree.tagged_sibling_ctx")
+         (mk_fun (Tree.select_sibling_ctx tree) "Tree.select_sibling_ctx")
+         (mk_fun (Tree.tagged_foll_ctx tree) "Tree.tagged_foll_ctx")
+         (mk_fun (Tree.select_foll_ctx tree) "Tree.select_foll_ctx")
+         (mk_fun (fun _ _ -> Tree.next_sibling_ctx tree) "[NEXTSIBLING]Tree.select_sibling_foll_ctx")
+         (mk_fun (Tree.next_element_ctx tree) "Tree.next_element_ctx")   
+         (mk_fun (Tree.next_sibling_ctx tree) "Tree.node_sibling_ctx")   
+                         
+         
+      module SListTable = Hashtbl.Make(struct type t = SList.t
+                                             let equal = (==)
+                                             let hash t = t.SList.Node.id 
+                                      end)
+
+
+      module TransCacheOld = 
+      struct
+       type 'a t = Obj.t array SListTable.t
+       let create n = SListTable.create n
+       let dummy = Obj.repr (fun _ -> assert false)
+       let find (h :'a t) tag slist : 'a =
+         let tab = 
+           try
+             SListTable.find h slist
+           with
+              Not_found -> 
+                SListTable.add h slist (Array.create 10000 dummy);
+                raise Not_found
+         in
+         let res = tab.(tag) in
+         if res == dummy then raise Not_found else (Obj.magic res)
 
-    let tags a qs = 
-      let ts = Ptset.fold (fun q acc -> TagSet.cup acc (tags_of_state a q)) qs TagSet.empty
-      in
-       if TagSet.is_finite ts 
-       then `Positive(TagSet.positive ts)
-       else `Negative(TagSet.negative ts)
-      
+       let add (h : 'a t) tag slist (data : 'a) =
+         let tab = 
+           try
+             SListTable.find h slist
+           with
+              Not_found -> 
+                let arr = Array.create 10000 dummy in
+                SListTable.add h slist arr;
+                arr
+         in
+         tab.(tag) <- (Obj.repr data)
+         
 
+      end
+
+      module TransCache = 
+      struct 
+       external get : 'a array -> int ->'a = "%array_unsafe_get"
+       external set : 'a array -> int -> 'a -> unit = "%array_unsafe_set"
+       type fun_tree = [`Tree] Tree.node -> [`Tree] Tree.node -> SList.t*RS.t array
+       type t = fun_tree array array
+       let dummy_cell = [||] 
+       let create n = Array.create n dummy_cell
+       let dummy = fun _ _-> assert false
+       let find h tag slist =
+         let tab = get h slist.SList.Node.id in
+         if tab == dummy_cell then raise Not_found
+         else
+         let res = get tab tag in
+         if res == dummy then raise Not_found else res
+
+       let add (h : t) tag slist (data : fun_tree) =
+         let tab = get h slist.SList.Node.id in
+         let tab = if tab == dummy_cell then
+           let x = Array.create 10000 dummy in
+           (set h slist.SList.Node.id  x;x)
+         else tab
+         in
+         set tab tag data        
+      end
+
+      let td_trans = TransCache.create 10000 (* should be number of tags *number of states^2
+                                               in the document *)
+
+      let empty_size n =
+       let rec loop acc = function 0 -> acc
+         | n -> loop (SList.cons StateSet.empty acc) (n-1)
+       in loop SList.nil n
+            
+      module FllTable = Hashtbl.Make (struct type t = Formlistlist.t
+                                            let equal = (==)
+                                            let hash t = t.Formlistlist.Node.id
+                                     end)
        
+      module Fold2ResOld =
+      struct
+       type 'a t = 'a SListTable.t SListTable.t FllTable.t
+       let create n = Array.init 10000 (fun _ -> FllTable.create n)
+
+       let find h tag fl s1 s2 =
+         let hf = h.(tag) in
+         let hs1 = FllTable.find hf fl in
+         let hs2 = SListTable.find hs1 s1 in
+         SListTable.find hs2 s2
+         
+       let add h tag fl s1 s2 data = 
+         let hf = h.(tag) in
+         let hs1 =
+           try FllTable.find hf fl with
+             | Not_found -> 
+                 let hs1 = SListTable.create SMALL_H_SIZE
+                 in FllTable.add hf fl hs1;hs1
+         in
+         let hs2 =
+           try SListTable.find hs1 s1
+           with
+             | Not_found ->
+                 let hs2 = SListTable.create SMALL_H_SIZE
+                 in SListTable.add hs1 s1 hs2;hs2
+         in
+         SListTable.add hs2 s2 data
+      end
+
+      module Fold2Res = struct
+       external get : 'a array -> int ->'a = "%array_unsafe_get"
+       external set : 'a array -> int -> 'a -> unit = "%array_unsafe_set"
+       external field1 : 'a -> 'b = "%field1"
+       type 'a t = 'a array array array array
+       let dummy = [||]
+       let dummy_val : 'a =
+         let v = Obj.repr ((),2,()) in
+         Obj.magic v
+
+       let create n = Array.create n dummy
+
+       let find h tag fl s1 s2 = 
+         let af = get h tag in
+         if af == dummy then raise Not_found
+         else 
+         let as1 = get af fl.Formlistlist.Node.id in
+         if as1 == dummy then raise Not_found
+         else 
+         let as2 = get as1 s1.SList.Node.id in
+         if as2 == dummy then raise Not_found 
+         else let v = get as2 s2.SList.Node.id in
+         if field1 v == 2 then raise Not_found 
+         else v
        
-    let merge_trans t a tag q acc = 
-      List.fold_left (fun (accf,accm,acchtrue) (ts,(m,f,pred)) ->
-                       if TagSet.mem tag ts 
-                       then
-                         let tmpf,hastrue = 
-                           if is_true f then
-                             let newfinal =
-                               try Hashtbl.find fstate_pool f.fid with
-                                 | Not_found -> let s = mk_state() in 
-                                     a.states <- Ptset.add s a.states;
-                                     a.final <- Ptset.add s a.final;
-                                     Hashtbl.add fstate_pool f.fid s;s
-                             in
-                               (atom_ `Left true newfinal),true
-                           else f,false in
-                           (or_ tmpf accf,accm||m,acchtrue||hastrue)
-                       else (accf,accm,acchtrue)
-                    ) acc (try Hashtbl.find a.phi q with Not_found -> [])
-       
-    let inter_text a b =
-      match b with
-       | `Positive s -> let r = Ptset.inter a s in (r,Ptset.mem Tag.pcdata r, true)
-       | `Negative s -> (Ptset.empty, not (Ptset.mem Tag.pcdata s), false)
+       let add h tag fl s1 s2 data = 
+         let af =
+           let x = get h tag in
+           if x == dummy then 
+           begin
+             let y = Array.make 10000 dummy in
+             set h tag y;y
+           end
+           else x
+         in
+         let as1 = 
+           let x = get af fl.Formlistlist.Node.id in 
+           if x == dummy then
+           begin
+             let y = Array.make 10000 dummy in
+             set af fl.Formlistlist.Node.id y;y
+           end
+           else x
+         in
+         let as2 = 
+           let x = get as1 s1.SList.Node.id in 
+           if x == dummy then 
+           begin
+             let y = Array.make 10000 dummy_val in
+             set as1 s1.SList.Node.id y;y
+           end
+           else x
+         in
+         set as2 s2.SList.Node.id data    
+      end
 
-    let mk_nil_ctx x _ = Tree.mk_nil x
-    let next_sibling_ctx x _ = Tree.next_sibling x 
-    let r_ignore _ x = x
 
+      let h_fold2 = Fold2Res.create 10000
+      
+      let top_down ?(noright=false) a tree t slist ctx slot_size =     
+       let pempty = empty_size slot_size in    
+       let rempty = Array.make slot_size RS.empty in
+       (* evaluation starts from the right so we put sl1,res1 at the end *)
+       let eval_fold2_slist fll t tag (sl2,res2) (sl1,res1) =
+         let res = Array.copy rempty in
+         try
+           let r,b,btab = Fold2Res.find h_fold2 tag fll sl1 sl2  in
+           if b then for i=0 to slot_size - 1 do
+             res.(i) <- RS.merge btab.(i) t res1.(i) res2.(i);
+           done;
+           r,res
+         with
+            Not_found ->
+              let btab = Array.make slot_size NO in        
+              let rec fold l1 l2 fll i aq ab = 
+                match fll.Formlistlist.Node.node,
+                  l1.SList.Node.node,
+                  l2.SList.Node.node
+                with        
+                  | Formlistlist.Cons(fl,fll),
+                   SList.Cons(s1,ll1),
+                   SList.Cons(s2,ll2) ->
+                      let r',conf = eval_formlist tag s1 s2 fl in
+                      let _ = btab.(i) <- conf
+                      in
+                      fold ll1 ll2 fll (i+1) (SList.cons r' aq) ((conf!=NO)||ab)
+                  | _ -> aq,ab
+              in
+              let r,b = fold sl1 sl2 fll 0 SList.nil false in
+              Fold2Res.add h_fold2 tag fll sl1 sl2 (r,b,btab);
+              if b then for i=0 to slot_size - 1 do
+                res.(i) <- RS.merge btab.(i) t res1.(i) res2.(i);
+              done;
+              r,res
+       in
+
+       let null_result = (pempty,Array.copy rempty) in
+       let rec loop t slist ctx =
+         if t == Tree.nil then null_result else get_trans t slist (Tree.tag tree t) ctx
+       and loop_tag tag t slist ctx =
+         if t == Tree.nil then null_result else get_trans t slist tag ctx
+       and loop_no_right t slist ctx = 
+         if t == Tree.nil then null_result else get_trans ~noright:true t slist (Tree.tag tree t) ctx
+       and get_trans ?(noright=false) t slist tag ctx = 
+         let cont = 
+           try
+             TransCache.find td_trans tag slist
+           with        
+             | Not_found ->
+                 let fl_list,llist,rlist,ca,da,sa,fa = 
+                   SList.fold 
+                     (fun set (fll_acc,lllacc,rllacc,ca,da,sa,fa) -> (* For each set *)
+                        let fl,ll,rr,ca,da,sa,fa = 
+                          StateSet.fold
+                            (fun q acc ->                          
+                               List.fold_left 
+                                 (fun ((fl_acc,ll_acc,rl_acc,c_acc,d_acc,s_acc,f_acc) as acc) 
+                                    (ts,t)  ->
+                                      if (TagSet.mem tag ts)
+                                      then 
+                                        let _,_,_,f,_ = Transition.node t in
+                                        let (child,desc,below),(sibl,foll,after) = Formula.st f in
+                                          (Formlist.cons t fl_acc,
+                                           StateSet.union ll_acc below,
+                                           StateSet.union rl_acc after,
+                                           StateSet.union child c_acc,
+                                           StateSet.union desc d_acc,
+                                           StateSet.union sibl s_acc,
+                                           StateSet.union foll f_acc)           
+                                      else acc ) acc (
+                                   try Hashtbl.find a.trans q 
+                                   with
+                                       Not_found -> Printf.eprintf "Looking for state %i, doesn't exist!!!\n%!"
+                                         q;[]
+                                 )
+                                 
+                            ) set (Formlist.nil,StateSet.empty,StateSet.empty,ca,da,sa,fa)
+                        in (Formlistlist.cons fl fll_acc), (SList.cons ll lllacc), (SList.cons rr rllacc),ca,da,sa,fa)
+                     slist (Formlistlist.nil,SList.nil,SList.nil,StateSet.empty,StateSet.empty,StateSet.empty,StateSet.empty)
+                 in                    
+                   (* Logic to chose the first and next function *)
+                 let tags_child,tags_below,tags_siblings,tags_after = Tree.tags tree tag in
+                 let d_f = Algebra.decide a tags_child tags_below (StateSet.union ca da) true in
+                 let d_n = Algebra.decide a tags_siblings tags_after (StateSet.union sa fa) false in
+                 let f_kind,first = choose_jump_down tree d_f
+                 and n_kind,next = if noright then (`NIL, fun _ _ -> Tree.nil )
+                 else choose_jump_next tree d_n in
+                 let empty_res = null_result in
+                  let cont =
+                    match f_kind,n_kind with
+                      | `NIL,`NIL ->
+                         Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__);
+                         (fun t _ -> eval_fold2_slist fl_list t (Tree.tag tree t) empty_res empty_res)
+                     |  _,`NIL -> (
+                           match f_kind with
+                             |`TAG(tag') ->                            
+                               let default = fun t _ -> eval_fold2_slist fl_list t (Tree.tag tree t) empty_res
+                                  (loop_tag tag' (first t) llist t )
+                               in
+                               let cf = SList.hd llist in
+                               if (slot_size == 1) && StateSet.is_singleton cf
+                               then
+                               let s = StateSet.choose cf in
+                               if (Algebra.is_rec a s fst) && (Algebra.is_rec a s snd)
+                               && (Algebra.is_final_marking a s)
+                               then 
+                               let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                               RS.mk_quick_tag_loop default llist 1 tree tag' 
+                               else 
+                               let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                               default
+                               else
+                               let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                               default
+                            | _ ->
+                                let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in  
+                                (fun t _ -> eval_fold2_slist fl_list t (Tree.tag tree t) empty_res
+                                  (loop (first t) llist t ))
+                        )
+                      | `NIL,_ -> (
+                          match n_kind with
+                            |`TAG(tag') ->
+                              if SList.equal rlist slist && tag == tag' then
+                              let rec loop t ctx = 
+                                if t == Tree.nil then empty_res else 
+                                let res2 = loop (next t ctx) ctx in                               
+                                eval_fold2_slist fl_list t tag res2 empty_res            
+                              in Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__);loop
+                              else
+                              let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                               (fun t ctx -> eval_fold2_slist fl_list t (Tree.tag tree t)
+                                 (loop_tag tag' (next t ctx) rlist ctx ) empty_res)
+                                                                                            
+                            | _ ->
+                               let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                                (fun t ctx -> eval_fold2_slist fl_list t (Tree.tag tree t)
+                                   (loop (next t ctx) rlist ctx ) empty_res)
+                       )
+                         
+                      | `TAG(tag1),`TAG(tag2) ->
+                         let _ = Printf.eprintf "Using %i %s %s\n" (Loc.start_line  __LOCATION__)
+                           (Tag.to_string tag1)
+                         (Tag.to_string tag2) 
+                         in
+                          (fun t ctx ->
+                            eval_fold2_slist fl_list t (Tree.tag tree t)
+                               (loop_tag tag2 (next t ctx) rlist ctx )
+                               (loop_tag tag1 (first t) llist t ))
  
-
-    let get_trans t a tag r = 
-      try      
-       let dispatch,mark,f = 
-         HTagSet.find a.sigma (r,tag)
-       in  f.st,dispatch,f,mark,r
-      with
-         Not_found ->  
-           let f,mark,_,accq = 
-             Ptset.fold (fun q (accf,accm,acchtrue,accq) ->
-                           let naccf,naccm,nacctrue =
-                             merge_trans t a tag q (accf,accm,acchtrue )
+                      | `TAG(tag'),`ANY ->
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                         (fun t ctx ->
+                           eval_fold2_slist fl_list t (Tree.tag tree t)
+                              (loop (next t ctx) rlist ctx )
+                              (loop_tag tag' (first t) llist t ))
+                                                                          
+                      | `ANY,`TAG(tag') ->
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                          (fun t ctx ->
+                            eval_fold2_slist fl_list t (Tree.tag tree t)
+                              (loop_tag tag' (next t ctx) rlist ctx )
+                              (loop (first t) llist t ))
+                                                                  
+                      | `ANY,`ANY ->
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                         if SList.equal slist rlist && SList.equal slist llist
+                         then
+                         let rec loop t ctx = 
+                           if t == Tree.nil then empty_res else
+                           let r1 = loop (first t) t
+                           and r2 = loop (next t ctx) ctx
                            in
-                             if is_false naccf then (naccf,naccm,nacctrue,accq)
-                             else (naccf,naccm,nacctrue,Ptset.add q accq)
-                        )
-               r (false_,false,false,Ptset.empty)
-           in 
-           let (ls,lls,_),(rs,rrs,_) = f.st    in
-           let tb,ta = 
-             Tree.tags t tag 
-           in 
-           let tl,htlt,lfin = inter_text tb (tags a ls)
-           and tll,htllt,llfin = inter_text tb (tags a lls)
-           and tr,htrt,rfin = inter_text ta (tags a rs)
-           and trr,htrrt,rrfin = inter_text ta  (tags a rrs)
-           in
-           let first,flabel =
-             if (llfin && lfin) then (* no stars *)
-               (if htlt || htllt then (Tree.text_below, "#text_below")
-                else
-                  let etl = Ptset.is_empty tl
-                  and etll = Ptset.is_empty tll
-                  in
-                    if (etl && etll)
-                        then (Tree.mk_nil, "#mk_nil")
-                        else
-                          if etl then 
-                            if Ptset.is_singleton tll 
-                            then (Tree.tagged_desc (Ptset.choose tll), "#tagged_desc")
-                            else (Tree.select_desc_only tll, "#select_desc_only")
-                          else if etll then (Tree.node_child,"#node_child")
-                          else (Tree.select_below tl tll,"#select_below"))
-                 else (* stars or node() *)
-                   if htlt||htllt then (Tree.first_child,"#first_child")
-                   else (Tree.node_child,"#node_child")
-           and next,nlabel =
-             if (rrfin && rfin) then (* no stars *)
-               ( if htrt || htrrt
-                 then (Tree.text_next, "#text_next")
-                   else
-                     let etr = Ptset.is_empty tr
-                     and etrr = Ptset.is_empty trr
-                     in
-                       if etr && etrr 
-                       then (mk_nil_ctx, "#mk_nil_ctx")
-                       else
-                         if etr then
-                           if Ptset.is_singleton trr 
-                           then (Tree.tagged_foll_below (Ptset.choose trr),"#tagged_foll_below")
-                           else (Tree.select_foll_only trr,"#select_foll_only")
-                         else if etrr then (Tree.node_sibling_ctx,"#node_sibling_ctx")
-                         else  
-                           (Tree.select_next tr trr,"#select_next") )
-
-                 else if htrt || htrrt then (Tree.next_sibling_ctx,"#next_sibling_ctx")
-                 else (Tree.node_sibling_ctx,"#node_sibling_ctx")
-           in
-           let dispatch = { first = first; flabel = flabel; next = next; nlabel = nlabel}            
-           in 
-             HTagSet.add a.sigma (accq,tag) (dispatch,mark,f);
-             f.st,dispatch,f,mark,accq
-               
-    let rec accepting_among a t orig ctx =     
-      let rest = Ptset.inter orig a.universal in
-      let r = Ptset.diff orig rest in
-       if Ptset.is_empty r then rest,0,TS.empty else 
-         if Tree.is_nil t
-         then orig,0,TS.empty
-         else 
-           let ((_,_,llls),(_,_,rrrs)),dispatch,formula,mark,r' =
-             get_trans t a (Tree.tag t) r
-           in
-           let s1,n1,res1 = accepting_among a (dispatch.first t) llls t in
-           let s2,n2,res2 = accepting_among a (dispatch.next t ctx) rrrs ctx in
-           let rb,rb1,rb2 = eval_form_bool formula s1 s2 in
-             if rb
-             then 
-               let n1,res1 = if rb1 then n1,res1 else 0,TS.empty
-               and n2,res2 = if rb2 then n2,res2 else 0,TS.empty
-               in 
-                 if mark 
-                 then r',1+n1+n2,TS.Cons(t,(TS.Concat(res1,res2)))
-                 else r',n1+n2,TS.Concat(res1,res2)
-             else Ptset.empty,0,TS.empty       
+                           eval_fold2_slist fl_list t (Tree.tag tree t) r2 r1
+                         in 
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                         loop
+                         else
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                          (fun t ctx ->
+                             eval_fold2_slist fl_list t (Tree.tag tree t)
+                               (loop (next t ctx) rlist ctx )
+                               (loop (first t) llist t ))
+                     | _,_ -> 
+                         let _ = Printf.eprintf "Using %i\n" (Loc.start_line  __LOCATION__) in
+                         (fun t ctx ->
+                             eval_fold2_slist fl_list t (Tree.tag tree t)
+                               (loop (next t ctx) rlist ctx )
+                               (loop (first t) llist t ))
+                 in
+                 let cont = D_IF_( (fun t ctx ->
+                                       let a,b = cont t ctx in
+                                       register_trace tree t (slist,a,fl_list,first,next,ctx);
+                                       (a,b)
+                                    ) ,cont)
+                  in
+                  (TransCache.add td_trans tag slist cont ;cont)
+         in cont t ctx
+              
+       in 
+         (if noright then loop_no_right else loop) t slist ctx
+
+       let run_top_down a tree =
+         let init = SList.cons a.init SList.nil in
+         let _,res = top_down a tree Tree.root init Tree.root 1 
+         in 
+           D_IGNORE_(
+             output_trace a tree "trace.html"
+               (RS.fold (fun t a -> IntSet.add (Tree.id tree t) a) res.(0) IntSet.empty),
+             res.(0))
+       ;;
+
+       module Configuration =
+       struct
+         module Ptss = Set.Make(StateSet)
+         module IMap = Map.Make(StateSet)
+         type t = { hash : int;
+                       sets : Ptss.t;
+                       results : RS.t IMap.t }
+         let empty = { hash = 0;
+                       sets = Ptss.empty;
+                       results = IMap.empty;
+                     }
+         let is_empty c = Ptss.is_empty c.sets
+         let add c s r =
+           if Ptss.mem s c.sets then
+             { c with results = IMap.add s (RS.concat r (IMap.find s c.results)) c.results}
+           else
+             { hash = HASHINT2(c.hash,Ptset.Int.uid s);
+               sets = Ptss.add s c.sets;
+               results = IMap.add s r c.results
+             }
 
-       
-    let rec accepting_among_count a t orig ctx =     
-      let rest = Ptset.inter orig a.universal in
-      let r = Ptset.diff orig rest in
-       if Ptset.is_empty r then rest,0 else 
-         if Tree.is_node t
-         then 
-           let ((_,_,llls),(_,_,rrrs)),dispatch,formula,mark,r' =
-             get_trans t a (Tree.tag t) r
+         let pr fmt c = Format.fprintf fmt "{";
+           Ptss.iter (fun s -> StateSet.print fmt s;
+                       Format.fprintf fmt "  ") c.sets;
+           Format.fprintf fmt "}\n%!";
+           IMap.iter (fun k d -> 
+                        StateSet.print fmt k;
+                        Format.fprintf fmt "-> %i\n" (RS.length d)) c.results;                  
+           Format.fprintf fmt "\n%!"
+             
+         let merge c1 c2  =
+           let acc1 =
+             IMap.fold 
+               ( fun s r acc ->
+                   IMap.add s
+                     (try 
+                        RS.concat r (IMap.find s acc)
+                      with
+                        | Not_found -> r) acc) c1.results IMap.empty 
+           in
+           let imap =
+               IMap.fold (fun s r acc -> 
+                            IMap.add s
+                              (try 
+                                 RS.concat r (IMap.find s acc)
+                               with
+                                 | Not_found -> r) acc)  c2.results acc1
            in
-           let s1,res1 = accepting_among_count a (dispatch.first t) llls t
-           and s2,res2 = accepting_among_count a (dispatch.next t ctx) rrrs ctx
+           let h,s =
+             Ptss.fold 
+               (fun s (ah,ass) -> (HASHINT2(ah,Ptset.Int.uid s),
+                                   Ptss.add s ass))
+               (Ptss.union c1.sets c2.sets) (0,Ptss.empty)
            in
-           let rb,rb1,rb2 = eval_form_bool formula s1 s2 in
-             if rb
-             then 
-               let res1 = if rb1 then res1 else 0
-               and res2 = if rb2 then res2 else 0
-               in r', if mark then 1+res1+res2 else res1+res2 
-             else Ptset.empty,0        
-         else orig,0
+             { hash = h;
+               sets =s;
+               results = imap }
+
+       end
+
+       let h_fold = Hashtbl.create 511 
+
+       let fold_f_conf  tree t slist fl_list conf dir= 
+         let tag = Tree.tag tree t in
+         let rec loop sl fl acc =
+           match SList.node sl,fl with
+             |SList.Nil,[] -> acc
+             |SList.Cons(s,sll), formlist::fll ->
+                let r',mcnf = 
+                  let key = SList.hash sl,Formlist.hash formlist,dir in
+                  try 
+                    Hashtbl.find h_fold key
+                  with
+                     Not_found -> let res = 
+                       if dir then eval_formlist tag s Ptset.Int.empty formlist
+                       else eval_formlist tag Ptset.Int.empty s formlist 
+                     in (Hashtbl.add h_fold key res;res)
+                in
+                let (rb,rb1,rb2,mark) = bool_of_merge mcnf in
+                if rb && ((dir&&rb1)|| ((not dir) && rb2))
+                then 
+                let acc = 
+                  let old_r = 
+                    try Configuration.IMap.find s conf.Configuration.results
+                    with Not_found -> RS.empty
+                  in
+                  Configuration.add acc r' (if mark then RS.cons t old_r else old_r)                   
+                in
+                loop sll fll acc
+                else loop sll fll acc
+             | _ -> assert false
+         in
+           loop slist fl_list Configuration.empty
+
+       let h_trans = Hashtbl.create 4096
+
+       let get_up_trans slist ptag a tree =      
+         let key = (HASHINT2(SList.uid slist,ptag)) in
+           try
+         Hashtbl.find h_trans key              
+         with
+         | Not_found ->  
+             let f_list =
+               Hashtbl.fold (fun q l acc ->
+                               List.fold_left (fun fl_acc (ts,t)  ->
+                                                 if TagSet.mem ptag ts then Formlist.cons t fl_acc
+                                                 else fl_acc)
+                                 
+                                 acc l)
+                 a.trans Formlist.nil
+             in
+             let res = SList.fold (fun _ acc -> f_list::acc) slist [] 
+             in
+               (Hashtbl.add h_trans key res;res) 
+                 
 
-    let run a t = 
-      let st,n,res = accepting_among a t a.init t in
-        if Ptset.is_empty (st) then TS.empty,0 else res,n
+             
+       let h_tdconf = Hashtbl.create 511 
+       let rec bottom_up a tree t conf next jump_fun root dotd init accu = 
+         if (not dotd) && (Configuration.is_empty conf ) then
+         accu,conf,next 
+         else
 
+         let below_right = Tree.is_below_right tree t next in 
          
+         let accu,rightconf,next_of_next =         
+           if below_right then (* jump to the next *)
+           bottom_up a tree next conf (jump_fun next) jump_fun (Tree.next_sibling tree t) true init accu
+           else accu,Configuration.empty,next
+         in 
+         let sub =
+           if dotd then
+           if below_right then prepare_topdown a tree t true
+           else prepare_topdown a tree t false
+           else conf
+         in
+         let conf,next =
+           (Configuration.merge rightconf sub, next_of_next)
+         in
+         if t == root then  accu,conf,next else
+         let parent = Tree.binary_parent tree t in
+         let ptag = Tree.tag tree parent in
+         let dir = Tree.is_left tree t in
+         let slist = Configuration.Ptss.fold (fun e a -> SList.cons e a) conf.Configuration.sets SList.nil in
+         let fl_list = get_up_trans slist ptag a parent in
+         let slist = SList.rev (slist) in 
+         let newconf = fold_f_conf tree parent slist fl_list conf dir in
+         let accu,newconf = Configuration.IMap.fold (fun s res (ar,nc) ->
+                                                       if Ptset.Int.intersect s init then
+                                                         ( RS.concat res ar ,nc)
+                                                       else (ar,Configuration.add nc s res))
+           (newconf.Configuration.results) (accu,Configuration.empty) 
+         in
 
-    let run_count a t = 
-      let st,res = accepting_among_count a t a.init t in
-        if Ptset.is_empty (st) then 0 else  res
+           bottom_up a tree parent newconf next jump_fun root false init accu
+             
+       and prepare_topdown a tree t noright =
+         let tag = Tree.tag tree t in
+         let r = 
+           try
+             Hashtbl.find h_tdconf tag
+           with
+             | Not_found -> 
+                 let res = Hashtbl.fold (fun q l acc -> 
+                                           if List.exists (fun (ts,_) -> TagSet.mem tag ts) l
+                                           then Ptset.Int.add q acc
+                                           else acc) a.trans Ptset.Int.empty
+                 in Hashtbl.add h_tdconf tag res;res
+         in 
+(*       let _ = pr ", among ";
+           StateSet.print fmt (Ptset.Int.elements r);
+           pr "\n%!";
+         in *)
+         let r = SList.cons r SList.nil in
+         let set,res = top_down (~noright:noright) a tree t r t 1 in
+         let set = match SList.node set with
+           | SList.Cons(x,_) ->x
+           | _ -> assert false 
+         in
+         Configuration.add Configuration.empty set res.(0) 
 
-         
-    let run_time _ _ = failwith "blah"
 
 
+       let run_bottom_up a tree k =
+         let t = Tree.root in
+         let trlist = Hashtbl.find a.trans (StateSet.choose a.init)
+         in
+         let init = List.fold_left 
+           (fun acc (_,t) ->
+              let _,_,_,f,_ = Transition.node t in 
+              let _,_,l = fst ( Formula.st f ) in
+                StateSet.union acc l)
+           StateSet.empty trlist
+         in
+         let tree1,jump_fun =
+           match k with
+             | `TAG (tag) -> 
+                 (*Tree.tagged_lowest t tag, fun tree -> Tree.tagged_next tree tag*)
+                 (Tree.tagged_desc tree tag t, let jump = Tree.tagged_foll_ctx tree tag
+                 in fun n -> jump n t )
+             | `CONTAINS(_) -> (Tree.text_below tree t,let jump = Tree.text_next tree 
+                                in fun n -> jump n t)
+             | _ -> assert false
+         in
+         let tree2 = jump_fun tree1 in
+         let rec loop t next acc = 
+           let acc,conf,next_of_next = bottom_up a tree t
+             Configuration.empty next jump_fun (Tree.root) true init acc
+           in 
+           let acc = Configuration.IMap.fold 
+             ( fun s res acc -> if StateSet.intersect init s
+               then RS.concat res acc else acc) conf.Configuration.results acc
+           in
+             if Tree.is_nil next_of_next  (*|| Tree.equal next next_of_next *)then
+               acc
+             else loop next_of_next (jump_fun next_of_next) acc
+         in
+         loop tree1 tree2 RS.empty
 
 
-(*
-  end
-*)
+    end
+          
+    let top_down_count a t = let module RI = Run(Integer) in Integer.length (RI.run_top_down a t)
+    let top_down a t = let module RI = Run(IdSet) in (RI.run_top_down a t)
+    let bottom_up_count a t k = let module RI = Run(Integer) in Integer.length (RI.run_bottom_up a t k)
+
+
+    module Test (Doc : sig val doc : Tree.t end) =
+      struct
+       module Results = GResult(Doc)
+       let top_down a t = let module R = Run(Results) in (R.run_top_down a t)
+      end
+