ata.ml

   1 INCLUDE "debug.ml"
   2 INCLUDE "utils.ml"
   3 open Camlp4.Struct
   4 type jump_kind = [ `TAG of Tag.t | `CONTAINS of string | `NOTHING ]
   5
   6 (* Todo : move elsewhere *)
   7 external vb : bool -> int = "%identity"
   8
   9 module State :
  10 sig
  11   include Sigs.T with type t = int
  12   val make : unit -> t
  13 end =
  14 struct
  15   type t = int
  16   let make =
  17     let id = ref ~-1 in
  18     fun () -> incr id; !id
  19
  20   let compare = (-)
  21   let equal = (==)
  22   external hash : t -> int =  "%identity"
  23   let print fmt x = Format.fprintf fmt "%i" x
  24   let dump fmt x = print fmt x
  25   let check x =
  26     if x < 0 then failwith (Printf.sprintf "State: Assertion %i < 0 failed" x)
  27 end
  28
  29 module StateSet =
  30 struct
  31   include Ptset.Make ( struct type t = int
  32                               type data = t
  33                               external hash : t -> int = "%identity"
  34                               external uid : t -> Uid.t = "%identity"
  35                               external equal : t -> t -> bool = "%eq"
  36                               external make : t -> int = "%identity"
  37                               external node : t -> int = "%identity"
  38                               external with_id : Uid.t -> t = "%identity"
  39                        end
  40                      )
  41   let print ppf s =
  42     Format.pp_print_string ppf "{ ";
  43     iter (fun i -> Format.fprintf ppf "%i " i) s;
  44     Format.pp_print_string ppf "}";
  45     Format.pp_print_flush ppf ()
  46 end
  47
  48 module Formula =
  49 struct
  50     type 'hcons expr =
  51       | False | True
  52       | Or of 'hcons * 'hcons
  53       | And of 'hcons * 'hcons
  54       | Atom of ([ `Left | `Right  | `LLeft | `RRight  ]*bool*State.t)
  55
  56     type 'hcons node = {
  57       pos : 'hcons expr;
  58       mutable neg : 'hcons;
  59       st : (StateSet.t*StateSet.t*StateSet.t)*(StateSet.t*StateSet.t*StateSet.t);
  60       size: int; (* Todo check if this is needed *)
  61     }
  62
  63     external hash_const_variant : [> ] -> int = "%identity"
  64     module rec Node : Hcons.S with type data = Data.t = Hcons.Make (Data)
  65     and Data : Hashtbl.HashedType  with type t = Node.t node =
  66     struct
  67     type t =  Node.t node
  68     let equal x y = x.size == y.size &&
  69       match x.pos,y.pos with
  70         | a,b when a == b -> true
  71         | Or(xf1,xf2),Or(yf1,yf2)
  72         | And(xf1,xf2),And(yf1,yf2)  -> (xf1 == yf1) && (xf2 == yf2)
  73         | Atom(d1,p1,s1), Atom(d2,p2,s2) -> d1 == d2 && (p1==p2) && s1 == s2
  74         | _ -> false
  75     let hash f =
  76       match f.pos with
  77         | False -> 0
  78         | True -> 1
  79         | Or (f1,f2) -> HASHINT3(PRIME2,Uid.to_int f1.Node.id, Uid.to_int f2.Node.id)
  80         | And (f1,f2) -> HASHINT3(PRIME3,Uid.to_int f1.Node.id, Uid.to_int f2.Node.id)
  81         | Atom(d,p,s) -> HASHINT4(PRIME4,hash_const_variant d,vb p,s)
  82     end
  83
  84     type t = Node.t
  85     let hash x = x.Node.key
  86     let uid x = x.Node.id
  87     let equal = Node.equal
  88     let expr f = f.Node.node.pos
  89     let st f = f.Node.node.st
  90     let size f = f.Node.node.size
  91
  92     let prio f =
  93       match expr f with
  94         | True | False -> 10
  95         | Atom _ -> 8
  96         | And _ -> 6
  97         | Or _ -> 1
  98
  99     let rec print ?(parent=false) ppf f =
 100       if parent then Format.fprintf ppf "(";
 101       let _ = match expr f with
 102         | True -> Format.fprintf ppf "T"
 103         | False -> Format.fprintf ppf "F"
 104         | And(f1,f2) ->
 105             print ~parent:(prio f > prio f1) ppf f1;
 106             Format.fprintf ppf " ∧ ";
 107             print ~parent:(prio f > prio f2) ppf f2;
 108         | Or(f1,f2) ->
 109             (print ppf f1);
 110             Format.fprintf ppf " ∨ ";
 111             (print ppf f2);
 112         | Atom(dir,b,s) -> Format.fprintf ppf "%s%s[%i]"
 113             (if b then "" else "¬")
 114               (match  dir with
 115                  | `Left ->  "↓₁"
 116                  | `Right -> "↓₂"
 117                  | `LLeft ->  "⇓₁"
 118                  | `RRight -> "⇓₂") s
 119       in
 120         if parent then Format.fprintf ppf ")"
 121
 122     let print ppf f =  print ~parent:false ppf f
 123
 124     let is_true f = (expr f) == True
 125     let is_false f = (expr f) == False
 126
 127
 128     let cons pos neg s1 s2 size1 size2 =
 129       let nnode = Node.make { pos = neg; neg = (Obj.magic 0); st = s2; size = size2 } in
 130       let pnode = Node.make { pos = pos; neg = nnode ; st = s1; size = size1 }
 131       in
 132         (Node.node nnode).neg <- pnode; (* works because the neg field isn't taken into
 133                                             account for hashing ! *)
 134         pnode,nnode
 135
 136     let empty_triple = StateSet.empty,StateSet.empty,StateSet.empty
 137     let empty_hex = empty_triple,empty_triple
 138     let true_,false_ = cons True False empty_hex empty_hex 0 0
 139     let atom_ d p s =
 140       let si = StateSet.singleton s in
 141       let ss = match d with
 142         | `Left -> (si,StateSet.empty,si),empty_triple
 143         | `Right -> empty_triple,(si,StateSet.empty,si)
 144         | `LLeft -> (StateSet.empty,si,si),empty_triple
 145         | `RRight -> empty_triple,(StateSet.empty,si,si)
 146       in fst (cons (Atom(d,p,s)) (Atom(d,not p,s)) ss ss 1 1)
 147
 148     let not_ f = f.Node.node.neg
 149     let union_hex  ((l1,ll1,lll1),(r1,rr1,rrr1))  ((l2,ll2,lll2),(r2,rr2,rrr2)) =
 150       (StateSet.mem_union l1 l2 ,StateSet.mem_union ll1 ll2,StateSet.mem_union lll1 lll2),
 151       (StateSet.mem_union r1 r2 ,StateSet.mem_union rr1 rr2,StateSet.mem_union rrr1 rrr2)
 152
 153     let merge_states f1 f2 =
 154       let sp =
 155         union_hex (st f1) (st f2)
 156       and sn =
 157         union_hex (st (not_ f1)) (st (not_ f2))
 158       in
 159         sp,sn
 160
 161     let order f1 f2 = if uid f1  < uid f2 then f2,f1 else f1,f2
 162
 163     let or_ f1 f2 =
 164       (* Tautologies: x|x, x|not(x) *)
 165
 166       if equal f1 f2 then f1 else
 167       if equal f1 (not_ f2) then true_ else
 168
 169       (* simplification *)
 170       if is_true f1 || is_true f2 then true_ else
 171       if is_false f1 && is_false f2 then false_ else
 172       if is_false f1 then f2 else
 173       if is_false f2 then f1 else
 174
 175       (* commutativity of | *)
 176
 177       let f1,f2 = order f1 f2 in
 178       let psize = (size f1) + (size f2) in
 179       let nsize = (size (not_ f1)) + (size (not_ f2)) in
 180       let sp,sn = merge_states f1 f2 in
 181       fst (cons (Or(f1,f2)) (And(not_ f1,not_ f2)) sp sn psize nsize)
 182
 183
 184     let and_ f1 f2 =
 185
 186       (* Tautologies: x&x, x&not(x) *)
 187
 188       if equal f1 f2 then f1 else
 189       if equal f1 (not_ f2) then false_ else
 190
 191         (* simplifications *)
 192
 193       if is_true f1 && is_true f2 then true_ else
 194       if is_false f1 || is_false f2 then false_ else
 195       if is_true f1 then f2 else
 196       if is_true f2 then f1 else
 197
 198       (* commutativity of & *)
 199
 200       let f1,f2 = order f1 f2 in
 201       let psize = (size f1) + (size f2) in
 202       let nsize = (size (not_ f1)) + (size (not_ f2)) in
 203       let sp,sn = merge_states f1 f2 in
 204         fst (cons (And(f1,f2)) (Or(not_ f1,not_ f2)) sp sn psize nsize)
 205     module Infix = struct
 206     let ( +| ) f1 f2 = or_ f1 f2
 207     let ( *& ) f1 f2 = and_ f1 f2
 208     let ( *+ ) d s = atom_ d true s
 209     let ( *- ) d s = atom_ d false s
 210     end
 211 end
 212
 213 module Transition = struct
 214
 215   type node = State.t*TagSet.t*bool*Formula.t*bool
 216   include Hcons.Make(struct
 217                        type t = node
 218                        let hash (s,ts,m,f,b) = HASHINT5(s,Uid.to_int (TagSet.uid ts),
 219                                                         Uid.to_int (Formula.uid f),
 220                                                         vb m,vb b)
 221                        let equal (s,ts,b,f,m) (s',ts',b',f',m') =
 222                          s == s' && ts == ts' && b==b' && m==m' && f == f'
 223                      end)
 224
 225   let print ppf f = let (st,ts,mark,form,b) = node f in
 226     Format.fprintf ppf "(%i, " st;
 227     TagSet.print ppf ts;
 228     Format.fprintf ppf ") %s" (if mark then "⇒" else "→");
 229     Formula.print ppf form;
 230     Format.fprintf ppf "%s%!" (if b then " (b)" else "")
 231
 232
 233   module Infix = struct
 234   let ( ?< ) x = x
 235   let ( >< ) state (l,mark) = state,(l,mark,false)
 236   let ( ><@ ) state (l,mark) = state,(l,mark,true)
 237   let ( >=> ) (state,(label,mark,bur)) form = (state,label,(make (state,label,mark,form,bur)))
 238   end
 239
 240 end
 241
 242 module Formlist = struct
 243   include Hlist.Make(Transition)
 244   let print ppf fl =
 245     iter (fun t -> Transition.print ppf t; Format.pp_print_newline ppf ()) fl
 246 end
 247
 248 module Formlistlist =
 249 struct
 250   include Hlist.Make(Formlist)
 251   let print ppf fll =
 252     iter (fun fl -> Formlist.print ppf fl; Format.pp_print_newline ppf ())fll
 253 end
 254
 255 type 'a t = {
 256     id : int;
 257     mutable states : StateSet.t;
 258     init : StateSet.t;
 259     starstate : StateSet.t option;
 260     (* Transitions of the Alternating automaton *)
 261     trans : (State.t,(TagSet.t*Transition.t) list) Hashtbl.t;
 262     query_string: string;
 263  }
 264
 265
 266 let dump ppf a =
 267   Format.fprintf ppf "Automaton (%i) :\n" a.id;
 268   Format.fprintf ppf "States : "; StateSet.print ppf a.states;
 269   Format.fprintf ppf "\nInitial states : "; StateSet.print ppf a.init;
 270   Format.fprintf ppf "\nAlternating transitions :\n";
 271   let l = Hashtbl.fold (fun k t acc ->
 272                           (List.map (fun (ts,tr) -> (ts,k),Transition.node tr) t) @ acc) a.trans [] in
 273   let l = List.sort (fun ((tsx,x),_) ((tsy,y),_) ->
 274                        if y-x == 0 then TagSet.compare tsy tsx else y-x) l in
 275   let maxh,maxt,l_print =
 276     List.fold_left (
 277       fun (maxh,maxt,l) ((ts,q),(_,_,b,f,_)) ->
 278         let s =
 279           if TagSet.is_finite ts
 280           then "{" ^ (TagSet.fold (fun t a -> a ^ " '" ^ (Tag.to_string t)^"'") ts "") ^" }"
 281           else let cts = TagSet.neg ts in
 282           if TagSet.is_empty cts then "*" else
 283           (TagSet.fold (fun t a -> a ^ " " ^ (Tag.to_string t)) cts "*\\{"
 284           )^ "}"
 285         in
 286         let s = Printf.sprintf "(%s,%i)" s q in
 287         let s_frm =
 288           Formula.print Format.str_formatter f;
 289           Format.flush_str_formatter()
 290         in
 291           (max (String.length s) maxh, max (String.length s_frm) maxt,
 292            (s,(if b then "⇒" else "→"),s_frm)::l)) (0,0,[]) l
 293   in
 294     Format.fprintf ppf "%s\n%!" (String.make (maxt+maxh+3) '_');
 295     List.iter (fun (s,m,f) -> let s = s ^ (String.make (maxh-(String.length s)) ' ') in
 296                  Format.fprintf ppf "%s %s %s\n" s m f) l_print;
 297     Format.fprintf ppf "%s\n%!" (String.make (maxt+maxh+3) '_')
 298
 299
 300 module FormTable = Hashtbl.Make(struct
 301                                   type t = Formula.t*StateSet.t*StateSet.t
 302                                   let equal (f1,s1,t1) (f2,s2,t2) =
 303                                     f1 == f2 && s1 == s2 && t1 == t2
 304                                   let hash (f,s,t) =
 305                                     HASHINT3(Uid.to_int (Formula.uid f),
 306                                              Uid.to_int (StateSet.uid s),
 307                                              Uid.to_int (StateSet.uid t))
 308                                 end)
 309 module F = Formula
 310
 311 let eval_form_bool =
 312   let h_f = FormTable.create BIG_H_SIZE in
 313     fun f s1 s2 ->
 314       let rec loop f =
 315         match F.expr f with
 316           | F.True -> true,true,true
 317           | F.False -> false,false,false
 318           | F.Atom((`Left|`LLeft),b,q) ->
 319               if b == (StateSet.mem q s1)
 320               then (true,true,false)
 321               else false,false,false
 322           | F.Atom(_,b,q) ->
 323               if b == (StateSet.mem q s2)
 324               then (true,false,true)
 325               else false,false,false
 326           | f' ->
 327               try FormTable.find h_f (f,s1,s2)
 328               with Not_found -> let r =
 329                 match f' with
 330                   | F.Or(f1,f2) ->
 331                       let b1,rl1,rr1 = loop f1
 332                       in
 333                         if b1 && rl1 && rr1 then (true,true,true)  else
 334                           let b2,rl2,rr2 = loop f2  in
 335                           let rl1,rr1 = if b1 then rl1,rr1 else false,false
 336                           and rl2,rr2 = if b2 then rl2,rr2 else false,false
 337                           in (b1 || b2, rl1||rl2,rr1||rr2)
 338
 339                   | F.And(f1,f2) ->
 340                       let b1,rl1,rr1 = loop f1 in
 341                         if b1 && rl1 && rr1 then (true,true,true) else
 342                           if b1 then
 343                             let b2,rl2,rr2 = loop f2 in
 344                               if b2 then (true,rl1||rl2,rr1||rr2) else (false,false,false)
 345                           else (false,false,false)
 346                   | _ -> assert false
 347               in FormTable.add h_f (f,s1,s2) r;r
 348       in loop f
 349
 350
 351 module FTable = Hashtbl.Make(struct
 352                                type t = Tag.t*Formlist.t*StateSet.t*StateSet.t
 353                                let equal (tg1,f1,s1,t1) (tg2,f2,s2,t2) =
 354                                  tg1 == tg2 && f1 == f2 &&  s1 == s2 && t1 == t2;;
 355                                let hash (tg,f,s,t) =
 356                                  HASHINT4(tg, Uid.to_int (Formlist.uid f),
 357                                           Uid.to_int (StateSet.uid s),
 358                                           Uid.to_int (StateSet.uid t))
 359                              end)
 360
 361
 362 let h_f = FTable.create BIG_H_SIZE
 363 type merge_conf = NO | ONLY1 | ONLY2 | ONLY12 | MARK | MARK1 | MARK2 | MARK12
 364 (* 000 001 010 011 100 101 110 111 *)
 365 let eval_formlist tag s1 s2 fl =
 366   let rec loop fl =
 367           try
 368             FTable.find h_f (tag,fl,s1,s2)
 369           with
 370             | Not_found  ->
 371                 match Formlist.node fl with
 372                   | Formlist.Cons(f,fll) ->
 373                       let q,ts,mark,f,_ = Transition.node f in
 374                       let b,b1,b2 =
 375                         if TagSet.mem tag ts then eval_form_bool f s1 s2 else (false,false,false)
 376                       in
 377                       let (s,(b',b1',b2',amark)) as res = loop fll in
 378                       let r = if b then (StateSet.add q s, (b, b1'||b1,b2'||b2,mark||amark))
 379                       else res
 380                       in FTable.add h_f (tag,fl,s1,s2) r;r
 381                   | Formlist.Nil -> StateSet.empty,(false,false,false,false)
 382   in
 383   let r,conf = loop fl
 384   in
 385   r,(match  conf with
 386     | (false,_,_,_) -> NO
 387     | (_,false,false,false) -> NO
 388     | (_,true,false,false) -> ONLY1
 389     | (_,false,true,false) -> ONLY2
 390     | (_,true,true,false) -> ONLY12
 391     | (_,false,false,true) -> MARK
 392     | (_,true,false,true) -> MARK1
 393     | (_,false,true,true) -> MARK2
 394     | _ -> MARK12)
 395
 396 let bool_of_merge conf =
 397   match  conf with
 398     | NO -> false,false,false,false
 399     | ONLY1 -> true,true,false,false
 400     | ONLY2 -> true,false,true,false
 401     | ONLY12 -> true,true,true,false
 402     | MARK -> true,false,false,true
 403     | MARK1 -> true,true,false,true
 404     | MARK2 -> true,false,true,true
 405     | MARK12 -> true,true,true,true
 406
 407
 408 let tags_of_state a q =
 409   Hashtbl.fold
 410     (fun p l acc ->
 411        if p == q then List.fold_left
 412          (fun acc (ts,t) ->
 413             let _,_,_,_,aux = Transition.node t in
 414               if aux then acc else
 415                 TagSet.cup ts acc) acc l
 416
 417        else acc) a.trans TagSet.empty
 418
 419
 420
 421     let tags a qs =
 422       let ts = Ptset.Int.fold (fun q acc -> TagSet.cup acc (tags_of_state a q)) qs TagSet.empty
 423       in
 424         if TagSet.is_finite ts
 425         then `Positive(TagSet.positive ts)
 426         else `Negative(TagSet.negative ts)
 427
 428     let inter_text a b =
 429       match b with
 430         | `Positive s -> let r = Ptset.Int.inter a s in (r,Ptset.Int.mem Tag.pcdata r, true)
 431         | `Negative s -> let r = Ptset.Int.diff a s in (r, Ptset.Int.mem Tag.pcdata r, false)
 432
 433
 434     module type ResultSet =
 435     sig
 436       type t
 437       type elt = [` Tree ] Tree.node
 438       val empty : t
 439       val cons : elt -> t -> t
 440       val concat : t -> t -> t
 441       val iter : ( elt -> unit) -> t -> unit
 442       val fold : ( elt -> 'a -> 'a) -> t -> 'a -> 'a
 443       val map : ( elt -> elt) -> t -> t
 444       val length : t -> int
 445       val merge : merge_conf -> elt -> t -> t -> t
 446       val mk_quick_tag_loop : (elt -> elt -> 'a*t array) -> 'a -> int -> Tree.t -> Tag.t -> (elt -> elt -> 'a*t array)
 447       val mk_quick_star_loop : (elt -> elt -> 'a*t array) -> 'a -> int -> Tree.t -> (elt -> elt -> 'a*t array)
 448     end
 449
 450     module Integer : ResultSet =
 451     struct
 452       type t = int
 453       type elt = [`Tree] Tree.node
 454
 455       let empty = 0
 456       let cons _ x = x+1
 457       let concat x y = x + y
 458       let iter _ _ = failwith "iter not implemented"
 459       let fold _ _ _ = failwith "fold not implemented"
 460       let map _ _ = failwith "map not implemented"
 461       let length x = x
 462       let merge2 conf t res1 res2 =
 463         let rb,rb1,rb2,mark = conf in
 464         if rb then
 465           let res1 = if rb1 then res1 else 0
 466           and res2 = if rb2 then res2 else 0
 467           in
 468             if mark then 1+res1+res2
 469             else res1+res2
 470         else 0
 471       let merge conf t res1 res2 =
 472         match conf with
 473           | NO -> 0
 474           | ONLY1 -> res1
 475           | ONLY2 -> res2
 476           | ONLY12 -> res1+res2
 477           | MARK -> 1
 478           | MARK1 -> res1+1
 479           | MARK2 -> res2+1
 480           | MARK12 -> res1+res2+1
 481       let merge conf _ res1 res2 =
 482         let conf = Obj.magic conf in
 483         (conf lsr 2) + ((conf land 0b10) lsr 1)*res2 + (conf land 0b1)*res1
 484
 485
 486       let mk_quick_tag_loop _ sl ss tree tag = ();
 487         fun t ctx ->
 488           (sl, Array.make ss (Tree.subtree_tags tree tag t))
 489       let mk_quick_star_loop _ sl ss tree = ();
 490         fun t ctx ->
 491           (sl, Array.make ss (Tree.subtree_elements tree t))
 492
 493     end
 494
 495     module IdSet : ResultSet=
 496     struct
 497       type elt = [`Tree] Tree.node
 498       type node = Nil
 499                   | Cons of elt * node
 500                   | Concat of node*node
 501
 502       and t = { node : node;
 503                 length :  int }
 504
 505       let empty = { node = Nil; length = 0 }
 506
 507       let cons e t = { node = Cons(e,t.node); length = t.length+1 }
 508       let concat t1 t2 = { node = Concat(t1.node,t2.node); length = t1.length+t2.length }
 509       let append e t = { node = Concat(t.node,Cons(e,Nil)); length = t.length+1 }
 510
 511       let fold f l acc =
 512         let rec loop acc t = match t with
 513           | Nil -> acc
 514           | Cons (e,t) -> loop (f e acc) t
 515           | Concat (t1,t2) -> loop (loop acc t1) t2
 516         in
 517           loop acc l.node
 518
 519       let length l = l.length
 520
 521
 522       let iter f l =
 523         let rec loop = function
 524           | Nil -> ()
 525           | Cons (e,t) -> f e; loop t
 526           | Concat(t1,t2) -> loop t1;loop t2
 527         in loop l.node
 528
 529       let map f l =
 530         let rec loop = function
 531           | Nil -> Nil
 532           | Cons(e,t) -> Cons(f e, loop t)
 533           | Concat(t1,t2) -> Concat(loop t1,loop t2)
 534         in
 535           { l with node = loop l.node }
 536
 537       let merge conf t res1 res2 =
 538         match conf with
 539            NO -> empty
 540           | MARK -> cons t empty
 541           | ONLY1 -> res1
 542           | ONLY2 -> res2
 543           | ONLY12 -> { node = (Concat(res1.node,res2.node));
 544                         length = res1.length + res2.length ;}
 545           | MARK12 -> { node = Cons(t,(Concat(res1.node,res2.node)));
 546                         length = res1.length + res2.length + 1;}
 547           | MARK1 -> { node = Cons(t,res1.node);
 548                         length = res1.length + 1;}
 549           | MARK2 -> { node = Cons(t,res2.node);
 550                        length = res2.length + 1;}
 551
 552       let mk_quick_tag_loop f _ _ _ _ = f
 553       let mk_quick_star_loop f _ _ _ = f
 554     end
 555     module GResult(Doc : sig val doc : Tree.t end) = struct
 556       type bits
 557       type elt = [` Tree] Tree.node
 558       external create_empty : int -> bits = "caml_result_set_create" "noalloc"
 559       external set : bits -> int -> unit = "caml_result_set_set" "noalloc"
 560       external next : bits -> int -> int = "caml_result_set_next" "noalloc"
 561       external count : bits -> int  = "caml_result_set_count" "noalloc"
 562       external clear : bits -> elt -> elt -> unit = "caml_result_set_clear" "noalloc"
 563
 564       external set_tag_bits : bits -> Tag.t -> Tree.t -> elt -> elt = "caml_set_tag_bits" "noalloc"
 565       type t =
 566          { segments : elt list;
 567            bits : bits;
 568          }
 569
 570       let ebits =
 571         let size = (Tree.subtree_size Doc.doc Tree.root) in
 572         create_empty (size*2+1)
 573
 574       let empty = { segments = [];
 575                     bits = ebits }
 576
 577       let cons e t =
 578         let rec loop l = match l with
 579           | [] -> { bits = (set t.bits (Obj.magic e);t.bits);
 580                     segments = [ e ] }
 581           | p::r ->
 582               if Tree.is_binary_ancestor Doc.doc e p then
 583               loop r
 584               else
 585               { bits = (set t.bits (Obj.magic e);t.bits);
 586                 segments = e::l }
 587         in
 588         loop t.segments
 589
 590       let concat t1 t2 =
 591         if t2.segments == [] then t1
 592         else
 593         if t1.segments == [] then t2
 594         else
 595         let h2 = List.hd t2.segments in
 596         let rec loop l = match l with
 597           | [] -> t2.segments
 598           | p::r ->
 599               if Tree.is_binary_ancestor Doc.doc p h2 then
 600               l
 601               else
 602               p::(loop r)
 603         in
 604         { bits = t1.bits;
 605           segments = loop t1.segments
 606         }
 607
 608       let iter f t =
 609         let rec loop i =
 610           if i == -1 then ()
 611           else (f ((Obj.magic i):elt);loop (next t.bits i))
 612         in loop (next t.bits 0)
 613
 614       let fold f t acc =
 615         let rec loop i acc =
 616           if i == -1 then acc
 617           else loop (next t.bits i) (f ((Obj.magic i):elt) acc)
 618         in loop (next t.bits 0) acc
 619
 620       let map _ _ = failwith "noop"
 621       (*let length t = let cpt = ref 0 in
 622       iter (fun _ -> incr cpt) t; !cpt *)
 623       let length t = count t.bits
 624
 625       let clear_bits t =
 626         let rec loop l = match l with
 627            [] -> ()
 628           | idx::ll ->
 629               clear t.bits idx (Tree.closing Doc.doc idx); loop ll
 630         in
 631         loop t.segments;empty
 632
 633       let merge (rb,rb1,rb2,mark) elt t1 t2 =
 634         if rb then
 635 (*      let _ = Printf.eprintf "Lenght before merging is %i %i\n"
 636           (List.length t1.segments) (List.length t2.segments)
 637         in *)
 638         match t1.segments,t2.segments with
 639            [],[] -> if mark then cons elt empty else empty
 640           | [_],[] when rb1 -> if mark then cons elt t1 else t1
 641           | [], [_] when rb2 -> if mark then cons elt t2 else t2
 642           | [_],[_] when rb1 && rb2 -> if mark then cons elt empty else
 643             concat t1 t2
 644           | _ ->
 645         let t1 = if rb1 then t1 else clear_bits t1
 646         and t2 = if rb2 then t2 else clear_bits t2
 647         in
 648         (if mark then cons elt (concat t1 t2)
 649          else concat t1 t2)
 650         else
 651         let _ = clear_bits t1 in
 652         clear_bits t2
 653
 654       let merge conf t t1 t2 =
 655         match t1.segments,t2.segments,conf with
 656           | _,_,NO -> let _ = clear_bits t1 in clear_bits t2
 657           | [],[],(MARK1|MARK2|MARK12|MARK) -> cons t empty
 658           | [],[],_ -> empty
 659           | [_],[],(ONLY1|ONLY12) -> t1
 660           | [_],[],(MARK1|MARK12) -> cons t t1
 661           | [],[_],(ONLY2|ONLY12) -> t2
 662           | [],[_],(MARK2|MARK12) -> cons t t2
 663           | [_],[_],ONLY12 -> concat t1 t2
 664           | [_],[_],MARK12 -> cons t empty
 665           | _,_,MARK -> let _ = clear_bits t2 in cons t (clear_bits t1)
 666           | _,_,ONLY1 -> let _ = clear_bits t2 in t1
 667           | _,_,ONLY2 -> let _ = clear_bits t1 in t2
 668           | _,_,ONLY12 -> concat t1 t2
 669           | _,_,MARK1 -> let _ = clear_bits t2 in cons t t1
 670           | _,_,MARK2 -> let _ = clear_bits t1 in cons t t2
 671           | _,_,MARK12 ->  cons t (concat t1 t2)
 672
 673       let mk_quick_tag_loop _ sl ss tree tag = ();
 674         fun t _ ->
 675           let res = empty in
 676           let first = set_tag_bits empty.bits tag tree t in
 677           let res =
 678             if first == Tree.nil then res else
 679             cons first res
 680           in
 681           (sl, Array.make ss res)
 682
 683       let mk_quick_star_loop f _ _ _ = f
 684     end
 685     module Run (RS : ResultSet) =
 686     struct
 687
 688       module SList = struct
 689         include Hlist.Make (StateSet)
 690         let print ppf l =
 691           Format.fprintf ppf "[ ";
 692           begin
 693             match l.Node.node with
 694               | Nil -> ()
 695               | Cons(s,ll) ->
 696                   StateSet.print ppf s;
 697                   iter (fun s -> Format.fprintf ppf "; ";
 698                         StateSet.print ppf s) ll
 699           end;
 700           Format.fprintf ppf "]%!"
 701
 702
 703       end
 704
 705
 706 IFDEF DEBUG
 707 THEN
 708       module IntSet = Set.Make(struct type t = int let compare = (-) end)
 709 INCLUDE "html_trace.ml"
 710
 711 END
 712       module Trace =
 713       struct
 714         module HFname = Hashtbl.Make (struct
 715                                         type t = Obj.t
 716                                         let hash = Hashtbl.hash
 717                                         let equal = (==)
 718                                       end)
 719
 720         let h_fname = HFname.create 401
 721
 722         let register_funname f s =
 723           HFname.add h_fname (Obj.repr  f) s
 724         let get_funname f = try HFname.find h_fname  (Obj.repr f) with _ -> "[anon_fun]"
 725
 726
 727
 728         let mk_fun f s = register_funname f s;f
 729         let mk_app_fun f arg s =
 730           let g = f arg in
 731           register_funname g ((get_funname f) ^ " " ^ s); g
 732         let mk_app_fun2 f arg1 arg2 s =
 733           let g = f arg1 arg2 in
 734           register_funname g ((get_funname f) ^ " " ^ s); g
 735
 736       end
 737
 738       let string_of_ts tags = (Ptset.Int.fold (fun t a -> a ^ " " ^ (Tag.to_string t) ) tags "{")^ " }"
 739
 740
 741       module Algebra =
 742         struct
 743           type jump = [ `NIL | `ANY |`ANYNOTEXT | `JUMP ]
 744           type t = jump*Ptset.Int.t*Ptset.Int.t
 745           let jts = function
 746           | `JUMP -> "JUMP"
 747           | `NIL -> "NIL"
 748           | `ANY -> "ANY"
 749           | `ANYNOTEXT -> "ANYNOTEXT"
 750           let merge_jump (j1,c1,l1) (j2,c2,l2) =
 751             match j1,j2 with
 752               | _,`NIL -> (j1,c1,l1)
 753               | `NIL,_ -> (j2,c2,l2)
 754               | `ANY,_ -> (`ANY,Ptset.Int.empty,Ptset.Int.empty)
 755               | _,`ANY -> (`ANY,Ptset.Int.empty,Ptset.Int.empty)
 756               | `ANYNOTEXT,_ ->
 757                   if Ptset.Int.mem Tag.pcdata (Ptset.Int.union c2 l2) then
 758                   (`ANY,Ptset.Int.empty,Ptset.Int.empty)
 759                   else
 760                   (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
 761               | _,`ANYNOTEXT ->
 762                   if Ptset.Int.mem Tag.pcdata (Ptset.Int.union c1 l1) then
 763                   (`ANY,Ptset.Int.empty,Ptset.Int.empty)
 764                   else
 765                   (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
 766               | `JUMP,`JUMP -> (`JUMP, Ptset.Int.union c1 c2,Ptset.Int.union l1 l2)
 767
 768           let merge_jump_list = function
 769             | [] -> `NIL,Ptset.Int.empty,Ptset.Int.empty
 770             | p::r ->
 771                 List.fold_left (merge_jump) p r
 772
 773           let labels a s =
 774             Hashtbl.fold
 775             (
 776               fun q l acc ->
 777                 if (q == s)
 778                 then
 779
 780                   (List.fold_left
 781                       (fun acc (ts,f) ->
 782                         let _,_,_,_,bur = Transition.node f in
 783                         if bur then acc else TagSet.cup acc ts)
 784                     acc l)
 785                 else acc ) a.trans TagSet.empty
 786           exception Found
 787
 788           let is_rec a s access =
 789             List.exists
 790               (fun (_,t) -> let _,_,_,f,_ = Transition.node t in
 791               StateSet.mem s ((fun (_,_,x) -> x) (access (Formula.st f)))) (Hashtbl.find a.trans s)
 792
 793           let is_final_marking a s =
 794             List.exists (fun (_,t) -> let _,_,m,f,_ = Transition.node t in m&& (Formula.is_true f))
 795               (Hashtbl.find a.trans s)
 796
 797
 798           let decide a c_label l_label dir_states dir =
 799
 800             let l = StateSet.fold
 801               (fun s l ->
 802                  let s_rec = is_rec a s (if dir then fst else snd) in
 803                  let s_rec = if dir then s_rec else
 804                  (* right move *)
 805                  is_rec a s fst
 806                  in
 807                  let s_lab = labels a s in
 808                  let jmp,cc,ll =
 809                    if (not (TagSet.is_finite s_lab)) then
 810                    if TagSet.mem Tag.pcdata s_lab then  (`ANY,Ptset.Int.empty,Ptset.Int.empty)
 811                    else (`ANYNOTEXT,Ptset.Int.empty,Ptset.Int.empty)
 812                    else
 813                    if s_rec
 814                    then (`JUMP,Ptset.Int.empty, TagSet.positive
 815                            (TagSet.cap (TagSet.inj_positive l_label) s_lab))
 816                    else (`JUMP,TagSet.positive
 817                            (TagSet.cap (TagSet.inj_positive c_label) s_lab),
 818                          Ptset.Int.empty )
 819                  in
 820                    (if jmp != `ANY
 821                     && jmp != `ANYNOTEXT
 822                     && Ptset.Int.is_empty cc
 823                     && Ptset.Int.is_empty ll
 824                     then (`NIL,Ptset.Int.empty,Ptset.Int.empty)
 825                     else  (jmp,cc,ll))::l) dir_states []
 826             in merge_jump_list l
 827
 828
 829         end
 830
 831
 832
 833       let choose_jump (d,cl,ll) f_nil f_t1 f_s1 f_tn f_sn f_s1n f_notext f_maytext =
 834         match d with
 835           | `NIL -> (`NIL,f_nil)
 836           | `ANYNOTEXT -> `ANY,f_notext
 837           | `ANY -> `ANY,f_maytext
 838           | `JUMP ->
 839               if Ptset.Int.is_empty cl then
 840               if Ptset.Int.is_singleton ll then
 841               let tag = Ptset.Int.choose ll in
 842               (`TAG(tag),Trace.mk_app_fun f_tn tag (Tag.to_string tag))
 843               else
 844               (`MANY(ll),Trace.mk_app_fun f_sn ll (string_of_ts ll))
 845               else if Ptset.Int.is_empty ll then
 846               if Ptset.Int.is_singleton cl then
 847               let tag = Ptset.Int.choose cl in
 848               (`TAG(tag),Trace.mk_app_fun f_t1 tag (Tag.to_string tag))
 849               else
 850               (`MANY(cl),Trace.mk_app_fun f_s1 cl (string_of_ts cl))
 851               else
 852               (`ANY,Trace.mk_app_fun2 f_s1n cl ll ((string_of_ts cl) ^ " " ^ (string_of_ts ll)))
 853
 854           | _ -> assert false
 855
 856       let choose_jump_down tree d =
 857         choose_jump d
 858           (Trace.mk_fun (fun _ -> Tree.nil) "Tree.mk_nil")
 859           (Trace.mk_fun (Tree.tagged_child tree) "Tree.tagged_child")
 860           (Trace.mk_fun (Tree.select_child tree) "Tree.select_child")
 861           (Trace.mk_fun (Tree.tagged_descendant tree) "Tree.tagged_desc")
 862           (Trace.mk_fun (Tree.select_descendant tree) "Tree.select_desc")
 863           (Trace.mk_fun (fun _ _ -> Tree.first_child tree) "[FIRSTCHILD]Tree.select_child_desc")
 864           (Trace.mk_fun (Tree.first_element tree) "Tree.first_element")
 865           (Trace.mk_fun (Tree.first_child tree) "Tree.first_child")
 866
 867       let choose_jump_next tree d =
 868         choose_jump d
 869           (Trace.mk_fun (fun _ _ -> Tree.nil) "Tree.mk_nil2")
 870           (Trace.mk_fun (Tree.tagged_following_sibling_below tree) "Tree.tagged_sibling_ctx")
 871           (Trace.mk_fun (Tree.select_following_sibling_below tree) "Tree.select_sibling_ctx")
 872           (Trace.mk_fun (Tree.tagged_following_below tree) "Tree.tagged_foll_ctx")
 873           (Trace.mk_fun (Tree.select_following_below tree) "Tree.select_foll_ctx")
 874           (Trace.mk_fun (fun _ _ -> Tree.next_sibling_below tree) "[NEXTSIBLING]Tree.select_sibling_foll_ctx")
 875           (Trace.mk_fun (Tree.next_element_below tree) "Tree.next_element_ctx")
 876           (Trace.mk_fun (Tree.next_sibling_below tree) "Tree.node_sibling_ctx")
 877
 878
 879
 880
 881       module CodeCache =
 882       struct
 883         let get = Array.unsafe_get
 884         let set = Array.set
 885
 886         type fun_tree = [`Tree] Tree.node -> [`Tree] Tree.node -> SList.t ->  Tag.t -> bool -> SList.t*RS.t array
 887         type t = fun_tree array array
 888
 889         let dummy = fun _ _ _ _ _ -> failwith "Uninitializd CodeCache"
 890         let default_line = Array.create 1024 dummy (* 1024 = max_tag *)
 891         let create n = Array.create n default_line
 892         let init f =
 893           for i = 0 to (Array.length default_line) - 1
 894           do
 895             default_line.(i) <- f
 896           done
 897
 898         let get_fun h slist tag =
 899           get (get h (Uid.to_int slist.SList.Node.id)) tag
 900
 901         let set_fun (h : t) slist tag (data : fun_tree) =
 902           let tab = get h (Uid.to_int slist.SList.Node.id) in
 903           let line = if tab == default_line then
 904             let x = Array.copy tab in
 905             (set h (Uid.to_int slist.SList.Node.id) x;x)
 906           else tab
 907           in
 908           set line tag data
 909
 910       end
 911
 912       let empty_size n =
 913         let rec loop acc = function 0 -> acc
 914           | n -> loop (SList.cons StateSet.empty acc) (n-1)
 915         in loop SList.nil n
 916
 917
 918       module Fold2Res = struct
 919         let get = Array.unsafe_get
 920         let set = Array.set
 921         external field1 : Obj.t -> int = "%field1"
 922         type t = Obj.t array array array array
 923         let dummy_val = Obj.repr ((),2,())
 924
 925         let default_line3 = Array.create BIG_A_SIZE dummy_val
 926         let default_line2 = Array.create BIG_A_SIZE default_line3
 927         let default_line1 = Array.create BIG_A_SIZE default_line2
 928
 929         let create n = Array.create n default_line1
 930
 931         let find h tag fl s1 s2 : SList.t*bool*(merge_conf array) =
 932           let l1 = get h tag in
 933           let l2 = get l1 (Uid.to_int fl.Formlistlist.Node.id) in
 934           let l3 = get l2 (Uid.to_int s1.SList.Node.id) in
 935           Obj.magic (get l3 (Uid.to_int s2.SList.Node.id))
 936
 937         let is_valid b = (Obj.magic b) != 2
 938         let get_replace tab idx default =
 939           let e = get tab idx in
 940           if e == default then
 941           let ne = Array.copy e in (set tab idx ne;ne)
 942           else e
 943
 944         let add h tag fl s1 s2 (data: SList.t*bool*(merge_conf array)) =
 945           let l1 = get_replace h tag default_line1 in
 946           let l2 = get_replace l1 (Uid.to_int fl.Formlistlist.Node.id) default_line2 in
 947           let l3 = get_replace l2 (Uid.to_int s1.SList.Node.id) default_line3  in
 948           set l3 (Uid.to_int s2.SList.Node.id) (Obj.repr data)
 949       end
 950
 951
 952
 953
 954       let top_down ?(noright=false) a tree t slist ctx slot_size td_trans h_fold2=
 955         let pempty = empty_size slot_size in
 956         let rempty = Array.make slot_size RS.empty in
 957         (* evaluation starts from the right so we put sl1,res1 at the end *)
 958         let eval_fold2_slist fll t tag (sl2,res2) (sl1,res1) =
 959           let res = Array.copy rempty in
 960           let r,b,btab = Fold2Res.find h_fold2 tag fll sl1 sl2  in
 961           if Fold2Res.is_valid b then
 962           begin
 963             if b then for i=0 to slot_size - 1 do
 964               res.(0) <- RS.merge btab.(0) t res1.(0) res2.(0);
 965             done;
 966             r,res
 967           end
 968           else
 969           begin
 970             let btab = Array.make slot_size NO in
 971             let rec fold l1 l2 fll i aq ab =
 972               match fll.Formlistlist.Node.node,
 973                 l1.SList.Node.node,
 974                 l2.SList.Node.node
 975               with
 976                 | Formlistlist.Cons(fl,fll),
 977                  SList.Cons(s1,ll1),
 978                  SList.Cons(s2,ll2) ->
 979                     let r',conf = eval_formlist tag s1 s2 fl in
 980                     let _ = btab.(i) <- conf
 981                     in
 982                     fold ll1 ll2 fll (i+1) (SList.cons r' aq) ((conf!=NO)||ab)
 983                 | _ -> aq,ab
 984             in
 985             let r,b = fold sl1 sl2 fll 0 SList.nil false in
 986             Fold2Res.add h_fold2 tag fll sl1 sl2 (r,b,btab);
 987             if b then for i=0 to slot_size - 1 do
 988               res.(i) <- RS.merge btab.(i) t res1.(i) res2.(i);
 989             done;
 990             r,res;
 991           end
 992         in
 993
 994         let null_result = (pempty,Array.copy rempty) in
 995         let empty_res = null_result in
 996
 997         let rec loop t ctx slist _  =
 998           if t == Tree.nil then null_result else
 999           let tag = Tree.tag tree t in
1000           (CodeCache.get_fun td_trans slist tag) t ctx slist tag false
1001             (* get_trans t ctx slist tag false
1002             (CodeCache.get_opcode td_trans slist tag)
1003             *)
1004         and loop_tag t ctx slist tag  =
1005           if t == Tree.nil then null_result else
1006           (CodeCache.get_fun td_trans slist tag) t ctx slist tag false
1007             (* get_trans t ctx slist tag false
1008             (CodeCache.get_opcode td_trans slist tag) *)
1009
1010         and loop_no_right t ctx slist _  =
1011           if t == Tree.nil then null_result else
1012           let tag = Tree.tag tree t in
1013           (CodeCache.get_fun td_trans slist tag) t ctx slist tag true
1014             (* get_trans t ctx slist tag true
1015                (CodeCache.get_opcode td_trans slist tag) *)
1016             (*
1017         and get_trans t ctx slist tag noright opcode =
1018           match opcode with
1019             | OpCode.K0 fll ->
1020                 eval_fold2_slist fll t tag empty_res empty_res
1021
1022             | OpCode.K1 (fll,first,llist,tag1) ->
1023                 eval_fold2_slist fll t tag empty_res
1024                   (loop_tag (first t) t llist tag1)
1025
1026             | OpCode.K2 (fll,first,llist) ->
1027                 eval_fold2_slist fll t tag empty_res
1028                   (loop (first t) t llist)
1029
1030             | OpCode.K3 (fll,next,rlist,tag2) ->
1031                 eval_fold2_slist fll t tag
1032                   (loop_tag (next t ctx) ctx rlist tag2)
1033                   empty_res
1034             | OpCode.K4 (fll,next,rlist) ->
1035                 eval_fold2_slist fll t tag
1036                   (loop (next t ctx) ctx rlist)
1037                   empty_res
1038
1039             | OpCode.K5 (fll,next,rlist,tag2,first,llist,tag1) ->
1040                 eval_fold2_slist fll t tag
1041                   (loop_tag (next t ctx) ctx rlist tag2)
1042                   (loop_tag (first t) t llist tag1)
1043
1044             | OpCode.K6 (fll,next,rlist,first,llist,tag1) ->
1045                 eval_fold2_slist fll t tag
1046                   (loop (next t ctx) ctx rlist)
1047                   (loop_tag (first t) t llist tag1)
1048
1049             | OpCode.K7 (fll,next,rlist,tag2,first,llist) ->
1050                 eval_fold2_slist fll t tag
1051                   (loop_tag (next t ctx) ctx rlist tag2)
1052                   (loop (first t) t llist)
1053
1054             | OpCode.K8 (fll,next,rlist,first,llist) ->
1055                 eval_fold2_slist fll t tag
1056                   (loop (next t ctx) ctx rlist)
1057                   (loop (first t) t llist)
1058
1059             | OpCode.KDefault _ ->
1060                 mk_trans t ctx tag slist noright
1061             *)
1062         and mk_trans t ctx slist tag noright =
1063           let fl_list,llist,rlist,ca,da,sa,fa =
1064             SList.fold
1065               (fun set (fll_acc,lllacc,rllacc,ca,da,sa,fa) -> (* For each set *)
1066                  let fl,ll,rr,ca,da,sa,fa =
1067                    StateSet.fold
1068                      (fun q acc ->
1069                         List.fold_left
1070                           (fun ((fl_acc,ll_acc,rl_acc,c_acc,d_acc,s_acc,f_acc) as acc)
1071                            (ts,t)  ->
1072                              if (TagSet.mem tag ts)
1073                              then
1074                              let _,_,_,f,_ = t.Transition.node in
1075                              let (child,desc,below),(sibl,foll,after) = Formula.st f in
1076                              (Formlist.cons t fl_acc,
1077                               StateSet.union ll_acc below,
1078                               StateSet.union rl_acc after,
1079                               StateSet.union child c_acc,
1080                               StateSet.union desc d_acc,
1081                               StateSet.union sibl s_acc,
1082                               StateSet.union foll f_acc)
1083                              else acc ) acc (
1084                             try Hashtbl.find a.trans q
1085                             with
1086                                Not_found -> Printf.eprintf "Looking for state %i, doesn't exist!!!\n%!"
1087                                  q;[]
1088                           )
1089
1090                      ) set (Formlist.nil,StateSet.empty,StateSet.empty,ca,da,sa,fa)
1091                  in (Formlistlist.cons fl fll_acc), (SList.cons ll lllacc), (SList.cons rr rllacc),ca,da,sa,fa)
1092               slist (Formlistlist.nil,SList.nil,SList.nil,StateSet.empty,StateSet.empty,StateSet.empty,StateSet.empty)
1093           in
1094           (* Logic to chose the first and next function *)
1095           let tags_child,tags_below,tags_siblings,tags_after = Tree.tags tree tag in
1096           let d_f = Algebra.decide a tags_child tags_below (StateSet.union ca da) true in
1097           let d_n = Algebra.decide a tags_siblings tags_after (StateSet.union sa fa) false in
1098           let f_kind,first = choose_jump_down tree d_f
1099           and n_kind,next = if noright then (`NIL, fun _ _ -> Tree.nil )
1100           else choose_jump_next tree d_n in
1101           let empty_res = null_result in
1102           let fll = fl_list in
1103           let cont =
1104             match f_kind,n_kind with
1105               | `NIL,`NIL -> (*OpCode.K0(fl_list) *)
1106                   fun t _ _ tag _ -> eval_fold2_slist fll t tag empty_res empty_res
1107
1108               |  _,`NIL -> (
1109                    match f_kind with
1110                      |`TAG(tag1) -> (*OpCode.K1(fl_list,first,llist,tag1) *)
1111                         fun t _ _ tag _ -> eval_fold2_slist fll t tag empty_res
1112                           (loop_tag (first t) t llist tag1)
1113                      | _ -> (* OpCode.K2(fl_list,first,llist) *)
1114                          fun t _ _ tag _  -> eval_fold2_slist fll t tag empty_res
1115                            (loop (first t) t llist tag)
1116                  )
1117               | `NIL,_ -> (
1118                   match n_kind with
1119                     |`TAG(tag2) -> (*OpCode.K3(fl_list,next,rlist,tag2) *)
1120                        fun t ctx _ tag _ ->
1121                          eval_fold2_slist fll t tag
1122                            (loop_tag (next t ctx) ctx rlist tag2)
1123                            empty_res
1124
1125                     | _ -> (*OpCode.K4(fl_list,next,rlist) *)
1126                         fun t ctx _ tag _ ->
1127                           eval_fold2_slist fll t tag
1128                             (loop (next t ctx) ctx rlist tag)
1129                             empty_res
1130
1131                 )
1132
1133               | `TAG(tag1),`TAG(tag2) -> (*OpCode.K5(fl_list,next,rlist,tag2,first,llist,tag1) *)
1134                   fun t ctx _ tag _ ->
1135                     eval_fold2_slist fll t tag
1136                       (loop_tag (next t ctx) ctx rlist tag2)
1137                       (loop_tag (first t) t llist tag1)
1138
1139               | `TAG(tag1),`ANY -> (* OpCode.K6(fl_list,next,rlist,first,llist,tag1) *)
1140                   fun t ctx _ tag _ ->
1141                     eval_fold2_slist fll t tag
1142                       (loop (next t ctx) ctx rlist tag)
1143                       (loop_tag (first t) t llist tag1)
1144
1145               | `ANY,`TAG(tag2) -> (* OpCode.K7(fl_list,next,rlist,tag2,first,llist) *)
1146                   fun t ctx _ tag _ ->
1147                     eval_fold2_slist fll t tag
1148                       (loop_tag (next t ctx) ctx rlist tag2)
1149                       (loop (first t) t llist tag)
1150
1151
1152               | _,_ -> (*OpCode.K8(fl_list,next,rlist,first,llist) *)
1153                   (*if SList.equal slist rlist && SList.equal slist llist
1154                     then
1155                     let rec loop t ctx =
1156                     if t == Tree.nil then empty_res else
1157                     let r1 = loop (first t) t
1158                     and r2 = loop (next t ctx) ctx
1159                     in
1160                     eval_fold2_slist fl_list t (Tree.tag tree t) r2 r1
1161                     in loop
1162                     else *)
1163                   fun t ctx _ tag _ ->
1164                     eval_fold2_slist fll t tag
1165                       (loop (next t ctx) ctx rlist tag)
1166                       (loop (first t) t llist tag)
1167
1168
1169
1170           in
1171           CodeCache.set_fun td_trans slist tag cont;
1172           cont t ctx slist tag noright
1173         in
1174         let _ = CodeCache.init mk_trans in
1175         (if noright then loop_no_right else loop) t ctx slist Tag.dummy
1176
1177
1178       let run_top_down a tree =
1179         let init = SList.cons a.init SList.nil in
1180         let _,res = top_down a tree Tree.root init Tree.root 1 (CodeCache.create BIG_A_SIZE) (Fold2Res.create 1024)
1181         in
1182         D_IGNORE_(
1183           output_trace a tree "trace.html"
1184             (RS.fold (fun t a -> IntSet.add (Tree.id tree t) a) res.(0) IntSet.empty),
1185               res.(0))
1186       ;;
1187
1188
1189
1190
1191
1192       module Code3Cache =
1193       struct
1194         let get = Array.get
1195         let set = Array.set
1196         let realloc a new_size default =
1197           let old_size = Array.length a in
1198           if old_size == new_size then a
1199           else if new_size == 0 then [||]
1200           else let na = Array.create new_size default in
1201           Array.blit a 0 na 0 old_size;na
1202
1203         type fun_tree = [`Tree] Tree.node -> [`Tree] Tree.node -> StateSet.t ->  Tag.t -> StateSet.t*RS.t
1204         and t = { mutable table : fun_tree array array;
1205                   mutable default_elm : fun_tree;
1206                   mutable default_line : fun_tree array;
1207                    (* statistics *)
1208                   mutable access : int;
1209                   mutable miss : int;
1210                  }
1211
1212
1213         let create () =
1214           { table = [||];
1215             default_elm = (fun _ _ _ _ -> failwith "Uninitialized Code3Cache.t structure\n");
1216             default_line = [||];
1217             access = 0;
1218             miss = 0 }
1219
1220         let init h f =
1221           let default_line = Array.create SMALL_A_SIZE f in
1222           begin
1223             h.table <- Array.create SMALL_A_SIZE default_line;
1224             h.default_elm <- f;
1225             h.default_line <- default_line;
1226             h.access <- 0;
1227             h.miss <- 0
1228           end
1229
1230         let next_power_of_2 n =
1231           let rec loop i acc =
1232             if acc == 0 then i
1233             else loop (i+1) (acc lsr 1)
1234           in
1235           1 lsl (loop 0 n)
1236
1237         let get_fun h slist tag =
1238           let _ = h.access <- h.access + 1 in
1239           let idx = Uid.to_int slist.StateSet.Node.id in
1240           let line =
1241             if idx >= Array.length h.table then
1242             let new_tab = realloc h.table (next_power_of_2 idx) h.default_line in
1243             let _ =  h.miss <- h.miss + 1; h.table <- new_tab in h.default_line
1244             else Array.unsafe_get h.table idx
1245           in
1246           if tag >= Array.length line then
1247           let new_line = realloc line (next_power_of_2 tag) h.default_elm in
1248           let _ = h.miss <- h.miss + 1; Array.unsafe_set h.table idx new_line in h.default_elm
1249           else Array.unsafe_get line tag
1250
1251         let set_fun (h : t) slist tag (data : fun_tree) =
1252           let idx = Uid.to_int slist.StateSet.Node.id in
1253           let line =
1254             if idx >= Array.length h.table then
1255             let new_tab = realloc h.table (next_power_of_2 idx) h.default_line in
1256             let _ =  h.table <- new_tab in h.default_line
1257             else Array.unsafe_get h.table idx
1258           in
1259           let line = if line == h.default_line then
1260           let l = Array.copy line in Array.unsafe_set h.table idx l;l
1261           else line in
1262           let line = if tag >= Array.length line then
1263           let new_line = realloc line (next_power_of_2 tag) h.default_elm in
1264           let _ = Array.unsafe_set h.table idx new_line in new_line
1265           else line
1266           in
1267           Array.unsafe_set line tag data
1268
1269
1270         let dump h = Array.iteri
1271           (fun id line -> if line != h.default_line then
1272            begin
1273              StateSet.print Format.err_formatter (StateSet.with_id (Uid.of_int id));
1274              Format.fprintf Format.err_formatter " -> ";
1275              Array.iteri (fun tag clos ->
1276                             if clos != h.default_elm then
1277                             Format.fprintf Format.err_formatter " (%s,%s) "
1278                               (Tag.to_string tag) (Trace.get_funname clos)) line;
1279              Format.fprintf Format.err_formatter "\n%!"
1280            end
1281           ) h.table;
1282           Format.fprintf Format.err_formatter "Cache hits: %i, Cache misses: %i, ratio = %f\n%!"
1283             h.access h.miss ((float_of_int h.miss)/. (float_of_int h.access));
1284           Format.fprintf Format.err_formatter "Size: %i kb\n%!"
1285             (((2+(Array.length h.default_line)+
1286                  (Array.fold_left (fun acc l ->acc + (if l == h.default_line then 0 else Array.length l))
1287                  (Array.length h.table) h.table)) * Sys.word_size) / 1024)
1288
1289       end
1290
1291       module StaticEnv =
1292       struct
1293
1294         type t = { stack : Obj.t array;
1295                    mutable top : int; }
1296
1297         let create () = { stack = Array.create BIG_A_SIZE (Obj.repr 0); top = 0 }
1298         let add t e =
1299           let _ = if t.top >= Array.length t.stack then failwith "Static Env overflow" in
1300           let i = t.top in Array.unsafe_set t.stack i e; t.top <- i + 1; i
1301
1302         let get t i :'a = Obj.magic (Array.unsafe_get t.stack i)
1303       end
1304
1305       module Fold3Res = struct
1306         let get = Array.unsafe_get
1307         let set = Array.set
1308         external field1 : Obj.t -> int = "%field1"
1309         type t = Obj.t array array array array
1310         let dummy_val = Obj.repr ((),2,())
1311
1312         let default_line3 = Array.create 1024 dummy_val
1313         let default_line2 = Array.create BIG_A_SIZE default_line3
1314         let default_line1 = Array.create BIG_A_SIZE default_line2
1315
1316         let create n = Array.create n default_line1
1317
1318         let find h tag fl s1 s2 : StateSet.t*bool*merge_conf =
1319           let l1 = get h (Uid.to_int fl.Formlist.Node.id) in
1320           let l2 = get l1 (Uid.to_int s1.StateSet.Node.id) in
1321           let l3 = get l2 (Uid.to_int s2.StateSet.Node.id) in
1322           Obj.magic (get l3 tag)
1323
1324         let is_valid b = b != (Obj.magic dummy_val)
1325         let get_replace tab idx default =
1326           let e = get tab idx in
1327           if e == default then
1328           let ne = Array.copy e in (set tab idx ne;ne)
1329           else e
1330
1331         let add h tag fl s1 s2 (data: StateSet.t*bool*merge_conf) =
1332           let l1 = get_replace h (Uid.to_int fl.Formlist.Node.id) default_line1 in
1333           let l2 = get_replace l1 (Uid.to_int s1.StateSet.Node.id) default_line2 in
1334           let l3 = get_replace l2 (Uid.to_int s2.StateSet.Node.id) default_line3 in
1335           set l3 tag (Obj.repr data)
1336       end
1337
1338
1339       let empty_res = StateSet.empty,RS.empty
1340
1341       let top_down1 a tree t slist ctx td_trans h_fold2  =
1342         (* evaluation starts from the right so we put sl1,res1 at the end *)
1343         let env = StaticEnv.create () in
1344         let slist_reg = ref StateSet.empty in
1345         let eval_fold2_slist fll t tag (sl2,res2) (sl1,res1) =
1346           let data = Fold3Res.find h_fold2 tag fll sl1 sl2  in
1347           if Fold3Res.is_valid data then
1348           let r,b,conf = data in
1349           (r,if b then RS.merge conf t res1 res2 else RS.empty)
1350           else
1351           let r,conf = eval_formlist tag sl1 sl2 fll in
1352           let b = conf <> NO in
1353           (Fold3Res.add h_fold2 tag fll sl1 sl2 (r,b,conf);
1354            (r, if b then RS.merge conf t res1 res2 else RS.empty))
1355
1356         in
1357         let loop t ctx slist _ =
1358           if t == Tree.nil then empty_res else
1359           let tag = Tree.tag tree t in
1360           (Code3Cache.get_fun td_trans slist tag) t ctx slist tag
1361
1362         in
1363         let loop_tag t ctx slist tag =
1364           if t == Tree.nil then empty_res else
1365           (Code3Cache.get_fun td_trans slist tag) t ctx slist tag
1366
1367         in
1368         let mk_trans t ctx slist tag =
1369           let fl_list,llist,rlist,ca,da,sa,fa =
1370             StateSet.fold
1371               (fun q acc ->
1372                  List.fold_left
1373                    (fun ((fl_acc,ll_acc,rl_acc,c_acc,d_acc,s_acc,f_acc) as acc)
1374                     (ts,t)  ->
1375                       if (TagSet.mem tag ts)
1376                       then
1377                       let _,_,_,f,_ = t.Transition.node in
1378                       let (child,desc,below),(sibl,foll,after) = Formula.st f in
1379                       (Formlist.cons t fl_acc,
1380                        StateSet.union ll_acc below,
1381                        StateSet.union rl_acc after,
1382                        StateSet.union child c_acc,
1383                        StateSet.union desc d_acc,
1384                        StateSet.union sibl s_acc,
1385                        StateSet.union foll f_acc)
1386                       else acc ) acc (
1387                      try Hashtbl.find a.trans q
1388                      with
1389                         Not_found -> Printf.eprintf "Looking for state %i, doesn't exist!!!\n%!"
1390                           q;[]
1391                    )
1392
1393               ) slist (Formlist.nil,StateSet.empty,StateSet.empty,
1394                        StateSet.empty,StateSet.empty,StateSet.empty,StateSet.empty)
1395
1396           in
1397           (* Logic to chose the first and next function *)
1398           let tags_child,tags_below,tags_siblings,tags_after = Tree.tags tree tag in
1399           let d_f = Algebra.decide a tags_child tags_below (StateSet.union ca da) true in
1400           let d_n = Algebra.decide a tags_siblings tags_after (StateSet.union sa fa) false in
1401           let f_kind,first = choose_jump_down tree d_f
1402           and n_kind,next = choose_jump_next tree d_n in
1403
1404           let cont =
1405             match f_kind,n_kind with
1406               | `NIL,`NIL ->
1407                   fun t _ _ tag -> eval_fold2_slist fl_list t tag empty_res empty_res
1408
1409               |  _,`NIL -> (
1410                    match f_kind with
1411                      |`TAG(tag1) ->
1412                         (fun t _ _ tag -> eval_fold2_slist fl_list t tag empty_res
1413                           (loop_tag (first t) t llist tag1))
1414                      | _ ->
1415                          fun t _ _ tag -> eval_fold2_slist fl_list t tag empty_res
1416                            (loop (first t) t llist tag)
1417                  )
1418               | `NIL,_ -> (
1419                   match n_kind with
1420                     |`TAG(tag2) ->
1421                        fun t ctx _ tag  ->
1422                          eval_fold2_slist fl_list t tag
1423                            (loop_tag (next t ctx) ctx rlist tag2)
1424                            empty_res
1425
1426                     | _ ->
1427                         fun t ctx _ tag ->
1428                           eval_fold2_slist fl_list t tag
1429                             (loop (next t ctx) ctx rlist tag)
1430                             empty_res
1431
1432                 )
1433
1434               | `TAG(tag1),`TAG(tag2) ->
1435                   fun t ctx _ tag ->
1436                     eval_fold2_slist fl_list t tag
1437                       (loop_tag (next t ctx) ctx rlist tag2)
1438                       (loop_tag (first t) t llist tag1)
1439
1440               | `TAG(tag1),`ANY ->
1441                   fun t ctx _ tag ->
1442                     eval_fold2_slist fl_list t tag
1443                       (loop (next t ctx) ctx rlist tag)
1444                       (loop_tag (first t) t llist tag1)
1445
1446               | `ANY,`TAG(tag2) ->
1447                   fun t ctx _ tag ->
1448                     eval_fold2_slist fl_list t tag
1449                       (loop_tag (next t ctx) ctx rlist tag2)
1450                       (loop (first t) t llist tag)
1451
1452
1453               | _,_ ->
1454                   fun t ctx _ tag ->
1455                     eval_fold2_slist fl_list t tag
1456                       (loop (next t ctx) ctx rlist tag)
1457                       (loop (first t) t llist tag)
1458
1459
1460
1461           in
1462           let _ = Trace.register_funname cont
1463             (Printf.sprintf "{first=%s, next=%s}" (Trace.get_funname first)  (Trace.get_funname next))
1464           in
1465           Code3Cache.set_fun td_trans slist tag cont;
1466           cont
1467         in
1468         let cache_take_trans t ctx slist tag =
1469           let cont = mk_trans t ctx slist tag in
1470           cont t ctx slist tag
1471         in
1472         Code3Cache.init td_trans (cache_take_trans);
1473         loop t ctx slist Tag.dummy
1474
1475
1476       let run_top_down1 a tree =
1477         let code_cache = Code3Cache.create ()  in
1478         let fold_cache = Fold3Res.create BIG_A_SIZE in
1479         let _,res = top_down1 a tree Tree.root a.init Tree.root code_cache fold_cache
1480         in
1481         (*Code3Cache.dump code_cache; *)
1482         res
1483
1484
1485         module Configuration =
1486         struct
1487           module Ptss = Set.Make(StateSet)
1488           module IMap = Map.Make(StateSet)
1489           type t = { hash : int;
1490                         sets : Ptss.t;
1491                         results : RS.t IMap.t }
1492           let empty = { hash = 0;
1493                         sets = Ptss.empty;
1494                         results = IMap.empty;
1495                       }
1496           let is_empty c = Ptss.is_empty c.sets
1497           let add c s r =
1498             if Ptss.mem s c.sets then
1499               { c with results = IMap.add s (RS.concat r (IMap.find s c.results)) c.results}
1500             else
1501               { hash = HASHINT2(c.hash,Uid.to_int s.StateSet.Node.id);
1502                 sets = Ptss.add s c.sets;
1503                 results = IMap.add s r c.results
1504               }
1505
1506           let pr fmt c = Format.fprintf fmt "{";
1507             Ptss.iter (fun s -> StateSet.print fmt s;
1508                         Format.fprintf fmt "  ") c.sets;
1509             Format.fprintf fmt "}\n%!";
1510             IMap.iter (fun k d ->
1511                          StateSet.print fmt k;
1512                          Format.fprintf fmt "-> %i\n" (RS.length d)) c.results;
1513             Format.fprintf fmt "\n%!"
1514
1515           let merge c1 c2  =
1516             let acc1 =
1517               IMap.fold
1518                 ( fun s r acc ->
1519                     IMap.add s
1520                       (try
1521                          RS.concat r (IMap.find s acc)
1522                        with
1523                          | Not_found -> r) acc) c1.results IMap.empty
1524             in
1525             let imap =
1526                 IMap.fold (fun s r acc ->
1527                              IMap.add s
1528                                (try
1529                                   RS.concat r (IMap.find s acc)
1530                                 with
1531                                   | Not_found -> r) acc)  c2.results acc1
1532             in
1533             let h,s =
1534               Ptss.fold
1535                 (fun s (ah,ass) -> (HASHINT2(ah, Uid.to_int s.StateSet.Node.id ),
1536                                     Ptss.add s ass))
1537                 (Ptss.union c1.sets c2.sets) (0,Ptss.empty)
1538             in
1539               { hash = h;
1540                 sets =s;
1541                 results = imap }
1542
1543         end
1544
1545         let h_fold = Hashtbl.create 511
1546
1547         let fold_f_conf  tree t slist fl_list conf dir=
1548           let tag = Tree.tag tree t in
1549           let rec loop sl fl acc =
1550             match SList.node sl,fl with
1551               |SList.Nil,[] -> acc
1552               |SList.Cons(s,sll), formlist::fll ->
1553                  let r',mcnf =
1554                    let key = SList.hash sl,Formlist.hash formlist,dir in
1555                    try
1556                      Hashtbl.find h_fold key
1557                    with
1558                       Not_found -> let res =
1559                         if dir then eval_formlist tag s StateSet.empty formlist
1560                         else eval_formlist tag StateSet.empty s formlist
1561                       in (Hashtbl.add h_fold key res;res)
1562                  in
1563                  let (rb,rb1,rb2,mark) = bool_of_merge mcnf in
1564                  if rb && ((dir&&rb1)|| ((not dir) && rb2))
1565                  then
1566                  let acc =
1567                    let old_r =
1568                      try Configuration.IMap.find s conf.Configuration.results
1569                      with Not_found -> RS.empty
1570                    in
1571                    Configuration.add acc r' (if mark then RS.cons t old_r else old_r)
1572                  in
1573                  loop sll fll acc
1574                  else loop sll fll acc
1575               | _ -> assert false
1576           in
1577             loop slist fl_list Configuration.empty
1578
1579         let h_trans = Hashtbl.create 4096
1580
1581         let get_up_trans slist ptag a tree =
1582           let key = (HASHINT2(Uid.to_int slist.SList.Node.id ,ptag)) in
1583             try
1584           Hashtbl.find h_trans key
1585           with
1586           | Not_found ->
1587               let f_list =
1588                 Hashtbl.fold (fun q l acc ->
1589                                 List.fold_left (fun fl_acc (ts,t)  ->
1590                                                   if TagSet.mem ptag ts then Formlist.cons t fl_acc
1591                                                   else fl_acc)
1592
1593                                   acc l)
1594                   a.trans Formlist.nil
1595               in
1596               let res = SList.fold (fun _ acc -> f_list::acc) slist []
1597               in
1598                 (Hashtbl.add h_trans key res;res)
1599
1600
1601
1602         let h_tdconf = Hashtbl.create 511
1603         let rec bottom_up a tree t conf next jump_fun root dotd init accu =
1604           if (not dotd) && (Configuration.is_empty conf ) then
1605           accu,conf,next
1606           else
1607
1608           let below_right = Tree.is_below_right tree t next in
1609
1610           let accu,rightconf,next_of_next =
1611             if below_right then (* jump to the next *)
1612             bottom_up a tree next conf (jump_fun next) jump_fun (Tree.next_sibling tree t) true init accu
1613             else accu,Configuration.empty,next
1614           in
1615           let sub =
1616             if dotd then
1617             if below_right then prepare_topdown a tree t true
1618             else prepare_topdown a tree t false
1619             else conf
1620           in
1621           let conf,next =
1622             (Configuration.merge rightconf sub, next_of_next)
1623           in
1624           if t == root then  accu,conf,next else
1625           let parent = Tree.binary_parent tree t in
1626           let ptag = Tree.tag tree parent in
1627           let dir = Tree.is_left tree t in
1628           let slist = Configuration.Ptss.fold (fun e a -> SList.cons e a) conf.Configuration.sets SList.nil in
1629           let fl_list = get_up_trans slist ptag a parent in
1630           let slist = SList.rev (slist) in
1631           let newconf = fold_f_conf tree parent slist fl_list conf dir in
1632           let accu,newconf = Configuration.IMap.fold (fun s res (ar,nc) ->
1633                                                         if StateSet.intersect s init then
1634                                                           ( RS.concat res ar ,nc)
1635                                                         else (ar,Configuration.add nc s res))
1636             (newconf.Configuration.results) (accu,Configuration.empty)
1637           in
1638
1639             bottom_up a tree parent newconf next jump_fun root false init accu
1640
1641         and prepare_topdown a tree t noright =
1642           let tag = Tree.tag tree t in
1643           let r =
1644             try
1645               Hashtbl.find h_tdconf tag
1646             with
1647               | Not_found ->
1648                   let res = Hashtbl.fold (fun q l acc ->
1649                                             if List.exists (fun (ts,_) -> TagSet.mem tag ts) l
1650                                             then StateSet.add q acc
1651                                             else acc) a.trans StateSet.empty
1652                   in Hashtbl.add h_tdconf tag res;res
1653           in
1654 (*        let _ = pr ", among ";
1655             StateSet.print fmt (Ptset.Int.elements r);
1656             pr "\n%!";
1657           in *)
1658           let r = SList.cons r SList.nil in
1659           let set,res = top_down (~noright:noright) a tree t r t 1 (CodeCache.create BIG_A_SIZE) (Fold2Res.create 1024) in
1660           let set = match SList.node set with
1661             | SList.Cons(x,_) ->x
1662             | _ -> assert false
1663           in
1664           Configuration.add Configuration.empty set res.(0)
1665
1666
1667
1668         let run_bottom_up a tree k =
1669           let t = Tree.root in
1670           let trlist = Hashtbl.find a.trans (StateSet.choose a.init)
1671           in
1672           let init = List.fold_left
1673             (fun acc (_,t) ->
1674                let _,_,_,f,_ = Transition.node t in
1675                let _,_,l = fst ( Formula.st f ) in
1676                  StateSet.union acc l)
1677             StateSet.empty trlist
1678           in
1679           let tree1,jump_fun =
1680             match k with
1681               | `TAG (tag) ->
1682                   (*Tree.tagged_lowest t tag, fun tree -> Tree.tagged_next tree tag*)
1683                   (Tree.tagged_descendant tree tag t, let jump = Tree.tagged_following_below tree tag
1684                   in fun n -> jump n t )
1685               | `CONTAINS(_) -> (Tree.text_below tree t,let jump = Tree.text_next tree
1686                                  in fun n -> jump n t)
1687               | _ -> assert false
1688           in
1689           let tree2 = jump_fun tree1 in
1690           let rec loop t next acc =
1691             let acc,conf,next_of_next = bottom_up a tree t
1692               Configuration.empty next jump_fun (Tree.root) true init acc
1693             in
1694             let acc = Configuration.IMap.fold
1695               ( fun s res acc -> if StateSet.intersect init s
1696                 then RS.concat res acc else acc) conf.Configuration.results acc
1697             in
1698               if Tree.is_nil next_of_next  (*|| Tree.equal next next_of_next *)then
1699                 acc
1700               else loop next_of_next (jump_fun next_of_next) acc
1701           in
1702           loop tree1 tree2 RS.empty
1703
1704
1705     end
1706
1707     let top_down_count a t = let module RI = Run(Integer) in Integer.length (RI.run_top_down a t)
1708     let top_down_count1 a t = let module RI = Run(Integer) in Integer.length (RI.run_top_down1 a t)
1709     let top_down a t = let module RI = Run(IdSet) in (RI.run_top_down a t)
1710     let top_down1 a t = let module RI = Run(IdSet) in (RI.run_top_down1 a t)
1711     let bottom_up_count a t k = let module RI = Run(Integer) in Integer.length (RI.run_bottom_up a t k)
1712     let bottom_up a t k = let module RI = Run(IdSet) in (RI.run_bottom_up a t k)
1713
1714     module Test (Doc : sig val doc : Tree.t end) =
1715       struct
1716         module Results = GResult(Doc)
1717         let top_down a t = let module R = Run(Results) in (R.run_top_down a t)
1718         let top_down1 a t = let module R = Run(Results) in (R.run_top_down1 a t)
1719       end
1720